chatGPT火了，火的很突然。
生活是个圈（太阳底下无新事）
计算机科学从出现到现在，经历了多次起起伏伏。在这个发展中，软硬件的发展互相制约、互相促进。幸好有摩尔定律的支持，我们经历了互联网的大爆炸。
从专家系统，符号计算，到统计模型，大数据，再到现在的深度模型。模型效果翻天覆地，底层理论兜兜转转。
犹记得当年读书期间，吴恩达的猫识别模型横空出世，刺激了大家的神经。作为当年的一个NLPer，满心羡慕当年的各类CV大模型。
后来一些，GPU走来了，1080一卡难求，Titan就是身份的象征。
千呼万唤之中，我们的大模型来了，Word2Vec、ELMo、BERT，三天一个小更新，五天一个大更新，沉迷其中，不可自拔。
在日渐迷失之中，我们已经忘记了为什么出发，理论全无，剩下的只有各种魔法数字。学术trick和工程trick混杂其中，迷乱了双眼。
又一次的狂欢
数月之前的2022，我们还在讨论AIGC、文生图等等。转眼到了2023之后，ChatGPT成为了热搜的宠儿。让我想起了前段时间的元宇宙。
观察了挺长时间，网上也是众说风云。不讨论具体的技术，下面说一下我的理解。
我理解中的ChatGPT
仅当前看到的讨论，ChatGPT说到底还是一个大模型，内在到底建模了什么东西其实也是各有各的道理。我更愿意相信一个简单的思路。
通用模型 = 常识建模 + 健全的人机交互
对于常识建模：BERT、GPT等大模型在无意中建模了互联网环境中的一些常识。学术圈也有人将大模型当做知识库，通过引导来达到模型预测效果的优化。
健全的人机交互：之前的模型更多的是在一个固定的范式里面，让模型输出一个机器理解的概率，而ChatGPT则实现了长距离对话，以及输出信息的连贯性。
在人机交互上，我更愿意相信ChatGPT达到了一种“一本正经胡说八道”的能力，而这个能力，可以当广泛的大众参与进来。所以他火了。
而由于常识建模上的问题，所以他在一些具体的问题上，他有可能会说一些胡话。（在常识建模上，如果也能出现突破性的进展的话，那对元宇宙、web3、知识图谱等领域，都可能产生比较大的变革）
畅想未来
短期内有什么用
- 新奇：新奇的东西，故事就比较好讲出来，投资人的钱就容易进来。前几天已经看到有一个银行要用ChatGPT来替换程序员了。（果然是成本中心）
- 一个新的信息来源：搜索引擎做了很多年的精准问答，可以说是被精准狙击了。（当然，信息是否真是就需要自己负责了）
- 通用域的个人助理：有问必答，24小时在线，训练好了应该还是挺有意思的。（已经见到有人在模拟自己的理想型了，虽然它经常说胡话，但是谁说女朋友不是呢）
- 一场新的需求创造：技术已经革新了，接下来就看怎么创造需求了。
可能会遇到的问题
PS：纯口嗨，各位大佬可能早就已经解决了。
- 成本：速度和成本怎么均衡。大模型后台依赖的是大规模集群，以及大规模的电力、人力、物力。
- 责任：责任在谁。从网上众多的回复里面，可以看到，其中可能存在一些不太容易发现的问题。（以及，部分内容抄袭后，用他生成出来的首发，还是首发吗）
- 差异：主要在于信息差。当前互联网已经出现过足够多的宣传物料了，到底能不能革命，其实现在还处于不确定的状态。万一老板先信了，那就麻烦了。
最后
chatGPT的训练，依赖大规模的预料，以及足够合理的标准过程。
- 作为信息孤岛的典范，国内是否有能力组织足够的数据。
- 虽然有chatGPT的成功经验，但是这个合理的标准在中英文上差异有多大。
- 商业价值如何，在商业化的过程中，遇到的道德法律风险怎么解决。
刚看到了文心一言的宣传，百度迎来了又一次的挑战。当前的ChatGPT在生产力上还达不到太大的影响。但是bing的原因，在搜索引擎上将出现新的一轮激战。百度成则无事发生，败的丢城丢地。（即使成了，一部分的检索问答需求，也可能转移到ChatGPT上）
