万维钢 日课246丨我们对人工智能可能有点想多了

我们专栏经常说些人工智能的事儿，今天我想说个反方的意见。这几年人工智能的话题越来越热，媒体似乎得了一种病，叫“人工智能恐惧症”。可能有的人真的害怕人工智能，也可能有的人只是觉得这么说比较好玩，总之人们很喜欢夸大人工智能的威胁。

人工智能恐惧症的一个最新例证，是这几天 Facebook 关闭了一个聊天机器人项目。

最早的说法是这样的。 Facebook 开发了两个聊天机器人，让他俩互相聊，想看看能聊出什么。结果两个机器人聊着聊着就不用人类语言了，他们似乎发明了一种自己的语言！Facebook 工程师已经看不懂他们聊天的内容了，担心这么下去可能会失控 —— 也许两个机器人演化一个什么危险的技术毁灭人类 —— 于是赶紧把插头拔了，终止了这个项目。

这个说法不仅仅是危言耸听，而且是胡说八道。事实是 Facebook 想用两个聊天程序模拟人类谈判的过程，事先的设定没有搞好，导致机器人说着说着说出来的话就不符合标准英文语法了 —— 但并不是发明了什么新的“高效”语言 —— 工程师完全理解他们的“语言”，都是一些低效率的、语法错误的话。

Facebook 关闭这个项目，并不是因为人工智能太强了超出了工程师预期。正好相反，是因为这两个程序的表现太弱了，没有达到预期，项目不值得继续进行。整个事件的报道乌龙并不是中文媒体的错，最早是几个英文媒体起的头，中国记者只是跟进。Quartz 网站有篇文章（https://qz.com/1043365/facebook-didnt-kill-its-language-building-ai-because-it-was-too-smart-it-was-actually-too-dumb/）详细考证了事情的来龙去脉，中文的“品玩”网也有个很好的分析（http://www.pingwest.com/facebook-ai-didnt-lose-control-and-create-new-language/）。

所以不用担心，Facebook 并没有发明差一点毁灭人类的人工智能。虽然现在人工智能的水平已经在围棋上超过人类，已经能做出更好的医疗诊断、能在一定程度上实现机器翻译，能开车，但是距离对人类产生威胁还有本质的差距。

新东西往往是这样，刚开始出来的时候人们不怎么重视，一旦重视了就会过分重视。学术界 —— 大概除了霍金之外 —— 没有几个人相信人工智能对人类有迫在眉睫的安全威胁，但是学术界的确有很多人担心人工智能会导致人类的大规模失业。

这个观点，现在也慢慢有点冷静下来了。

我想根据我这几年所了解的情况，给你梳理一下学者们 —— 特别是经济学家 —— 对人工智能取代人类工作这个问题的认识演变。

关于机器取代人类工作的担心，从工业革命以来一直都有，历史上都有过教训，那就是人类总会发明新的工作，无非是蓝领工作被机器取代，大量的人转进到白领工作。这个道理非常简单，本来严肃学者并不在乎什么人工智能对工作的威胁。

但是大约从2010年开始，问题变得严肃了。

1.失业率

2012年，麻省理工学院的两个管理学教授，埃里克·布林约尔松（Erik Brynjolfsson）和安德鲁·麦卡菲（Andrew McAfee）出了一本书，叫《与机器竞赛》（ Race against the machine ），从经济学的角度，把人工智能取代人类工作这个问题严肃地摆在世人面前。他们2016年又出了第二本书，叫《第二个机器时代》（ The second machine age ），说了类似的意思，这本书还被认为是近年以来最重要的一本商业管理类书籍。

让这两个人变得这么严肃的，主要有两个原因。首先是以前机器取代人，都是取代简单的劳动 —— 比如说自动化生产线取代蓝领工人，或者自动提款机取代银行职员之类 —— 而这一次人工智能要取代的是放射科医生、翻译、甚至是律师这种高端工作。

第二点，也是最重要的一个证据，是当时美国居高不下的失业率。两人发现，2008年金融危机导致的经济衰退，其实到2010年的时候就已经结束了，公司的利润率几乎已经是历史最高水平 —— 只有失业率没有好转。所以两人判断，这是因为自动化！资本家拿着机器就把活儿干了，不再需要那么多工人了。

这就是一个有点可怕的局面：自动化的确在帮助经济增长，但是大多数人享受不到，因为你的工作被人工智能抢走了，不带你玩了。

但是今天看来，以我之见，这两人的话说得有点太早了。下面这张图是金融危机以后美国失业率的变化情况 —— 

如果你站在2012年看，失业率的确仍然很高，可是谁能想到，此后失业率是一路下降，今天已经降到了4%？现在可以说是美国历史上就业状况最好的时期！

但是经济学家担心并没有停止。

2.有工作，但不是好工作

到了2016年，经济学家都承认现在失业率已经很低了。不过罗格斯大学（Rutgers University）的经济历史学家詹姆斯·利维斯通（James Livingston），有一个说法。他说现在虽然失业率低，一般人都能找到工作，但是找到的都不是什么好工作。普通人的工资水平太低了。

造成这个局面不一定是因为自动化，更可能是因为全球化，美国工人面临发展中国家低工资工人的竞争。但是这个局面跟人工智能威胁论的逻辑是一致的，因为人工智能的确是取代某些办公室工作比较容易，但是取代园丁、餐馆服务员这样的体力工作反而比较难。

所以从长期看来，人们有理由继续担心人工智能。比如赫拉利在《未来简史》书中就提到一项研究，列举了一系列高端工作，终将被机器取代。我们日课在《未来简史解读 6 - 二十一世纪的三种人》这期专门讲过。

与此同时，我们专栏的老朋友泰勒·科文，贡献了另一种担心。

3.有工作，但不是直接创造财富的工作

我们讲过泰勒·科文的《自满阶级》这本书，科文的一个重大观察，是过去这几十年以来，美国的技术进步都是一些小打小闹、让生活更方便一点的东西，而不是真正能带来重大改变的突破。科文对人工智能的观察也是这个视角。

就在几天之前，7月26日，科文在彭博网站发表一篇专栏评论，“在一个机器人主导的经济里，人类都成了市场营销者”（ In a Robot Economy, All Humans Will Be Marketers ）。这篇文章说现在人工智能的确没有大规模取代人的工作，但是人工智能改变了人的工作结构。人类工人正在从生产领域，向市场营销领域转移。

比如说自动提款机刚出来的时候，人们担心银行是不是要裁掉很多服务员？结果发现根本没有。现在满大街都是自动提款机，可是你走进银行，还是有很多笑容可掬的服务员等着为你服务。但是他们的角色变了 —— 现在更多的是提供一种更人性化的服务，其中最重要的一项，可能是给你介绍理财产品。

科文担心的，也正是这一点。机器更适合生硬的操作，市场营销需要理解人，所以人类在这方面似乎不用担心很快被机器取代。可是科文注意到， 现在一个企业用于市场营销的成本越来越高，等于说生产东西不重要，能卖出去最重要。

那这么一来，真正的技术进步、真正的经济增长又在哪里？难道人类从此只能干“软”活了吗？

总之不管怎么说，经济学家都在担心人工智能。但是最近有篇新论文，说也许不用担心。

4.别担心了，你的工作还在

7月15日，几个德国经济学家在 Economics Letters 发表一篇新论文，“重新评估自动化危险”（ Revisiting the risk of automation ），说人工智能取代工作的能力其实没那么可怕。

这篇论文说，以前的经济学家估计人工智能会占领多少个人类工作，用的方法太粗糙了。前人动不动就算出来说各个领域会有一半的工作被自动化取代，但是这些计算方法没有考虑到，每个工作中都有一些任务是自动化不好取代的。

比如说财务人员、会计这些工作，他们干的大部分事情似乎是计算机算法很容易取代的。但是如果你仔细观察一个财务人员的日常，你会发现她也要灵活解决一些突发性的、出乎意料的小麻烦；她还可以发挥个人的影响力，帮你做些决策 —— 这些事情都是机器所不擅长的。

再比如说我们日课前面有一期叫《知道是什么，知道该怎么，和知道为什么》讲过，放射科医生完全没有被人工智能取代，别忘了他们除了阅读 X-光片之外，还有一个研究和创新的功能。

考虑到这一点，德国人计算，真正会被人工智能取代的工作种类比例，从原来的 38% ，下降到了 9%。

***

我并不是专业经济学家，以上这个总结可能并不全面。但是我们可以看出来，学者们对人工智能的认识已经发生了变化，或者说至少是有争议的。我自己也经历了思想的转变，我以前经常鼓吹人工智能很厉害，现在也比较冷静了。

所以人工智能到底会在多大程度上取代人的工作？到底是历史重演，我们不过是杞人忧天，还是这一次真的有所不同？我想在这个问题上，光说“你认为……”或者“你相信……”没什么意义。你得像经济学家这样，寻找各种证据，观察各种趋势 —— 当然这些证据和趋势也不见得靠谱。

所以今天的“得到”不是人工智能到底会如何，而是我们想要认识世界，到底有多么不容易。