第07章：忧虑
“我们到底在创造什么?”
在会议室众多目光的翘首企盼下，我问出了我认为重要百倍的那个问题。然后我沉默了两分钟，但并不是在等待答案，这两分钟是属于沉思的。
“我们知道对人工智能的研究是从上世纪50年代开始的，数十年来，无数的研究者试图以逻辑公理为根基，使用程序化的规则来模拟人类思考。他们以为，只要创建足够多的规则就能成功。为此他们建立了一个庞大的数据库，然后告诉它狗吃肉猫吃鱼老鼠爱大米。当我们想了解狗吃什么的时候，人工智能会从程序员提供的固定规则数据库中进行检索，然后告诉你狗吃肉。这个答案当然是准确的，但不足够灵活。况且世界那么大，也无法将每个问题的答案都进行编程。”
环视了一圈后，我接着说道：“无数次的尝试之后，最后他们终于放弃了预编程的规则，转而投向了深度学习的怀抱。目前大部分成功的深度学习系统，依据的都是贝叶斯统计，这种数学框架能让我们测算可能性。根据给定情境以及先前在类似情境中观察到的关联数据，贝叶斯统计能够给出出现某个结果的可能性数值。当我们再想了解狗吃什么的时候，已经不需要事先去建立对应的数据库，只需要不加选择地输入数据——互联网搜索、社交网络、食谱书籍等等。通过计算特定词汇出现的频率，以及概念之间如何彼此关联，系统便建立了一个统计模型，能够估计狗喜欢某些食物的可能性，就像若希的回答那样。毫无疑问，这个回答更加机智，而且有近乎无限的扩展性，只要它能访问足够多的数据。”
“唯一的问题在于，这真的是人工智能吗?”
问完这个问题，我再次停顿了一分钟。会议室里很安静，我接着说道：“深度学习已经取得了长足的发展，机器翻译、网站索引、排名算法、广告推送等等不一而足，可以说我们的周围已经无处不在。但它的成功应当归功于大数据和统计学，机器翻译对语言可谓一无所知，它无非是一个词接一个词地计算接下来出现什么词的可能性。广告推送也并不真正了解你，它无非是统计你搜索和点击的关键词的频率。深度学习技术利用海量信息执行复杂计算，但总而言之，这些东西，对它来说不过是个概率问题，仅此而已。”
“然而，让人忧虑的是，和规则化的数据库不同，这个时候我们无法追溯结论是怎么来的。在人工智能发展早期，可解释性被赋予了很高的价值。当机器做出选择时，人类能够追查到原因，例如狗吃肉是缘于数据库的规则设定。然而，如今，那些由数据驱动的人工智能所做的推理，是对巨量数据点进行高度复杂的统计分析，我们已经不太可能知道狗吃肉是缘于搜索引擎是缘于社交网络还是缘于食谱书籍了。换句话说，为了得到‘是什么’，我们放弃了‘为什么’。我们或许已经创造出了意识，只不过它们与我们的意识相去甚远。它们的推理过程，对人类来说深不可测。”
“只要它足够好用，或许我们不需要去解释它。”Astro Teller眉头紧锁，不假思索地说道。
“事实证明，它非常好用。亚马逊推荐商品购买转化率是相当惊人的；荷兰国家法证科学研究所已经在用Bonaparte（波拿巴）系统分析和比对海量DNA样本来锁定犯罪嫌疑人；保险和信用行业也在拥抱深度学习，部署这种算法为个人建立风险评估；医学界也在利用统计人工智能，筛选大得令人类无法分析的基因数据库，IBM的Watson甚至能够诊断疾病。”
我微微地笑了笑，接着说道：“这些人工智能算法正开始影响生活的每一个方面，并且还在不断延伸覆盖更多更广。现在亚马逊告诉你，和你差不多的人购买了它所展示的书，它所说的‘和你差不多的人’以及‘与此差不多的书’究竟是什么意思，你觉得知不知道无所谓。然后某一天，你去银行申请贷款，被拒绝了，因为银行系统后台的人工智能认为你信用额度不够。某一天，你去看医生，医生建议你切除乳腺，因为医院系统后台的人工智能认为你未来几年很可能患上乳腺癌。某一天，你在街上溜达，两个警察突然出现把你请到局子里去喝茶，因为警局系统后台的人工智能认为你有可能要进行犯罪。而这一切的缘由可能仅仅是因为你某一次忘记还信用卡、某一些不良的生活方式、某个烦透了瞬间发表的‘我要杀人’的签名，但也很可能不是，毕竟这个结果是巨量数据的统计概率结论。也许，在某种程度上，我们终将不得不信任人工智能，即便我们无法完全理解它。”
“所以Dr.Ran此行的意思是，说服我们放弃人工智能的研究工作?”Astro Teller颇为淡定地说道。
“我还不至于如此妄自尊大，研究人工智能的公司少说也有数十家，每一家都在努力地尝试，这其中当然也包括我。打个不恰当的比喻，我们就像是一群啃柱子的老鼠，只知道柱子在变细，但往往会忽略柱子在下一刻随时可能倒下来。我想做的事情就是尽量保持柱子不倒下来。”
回答完Astro Teller的问题，我将目光转向Larry Page。“为此，我希望从谷歌融资20亿美元。用于两个方面，第一个方面是用来探究深度学习技术可解释性的可能性，第二个方面是用于逆向工程人脑以便打造基于人脑思维模式的人工智能。作为回报，我将对谷歌共享所有的人工智能技术资料，只有一个前提，暂时不要发布商业版的若希。Mr.Page，不知您意下如何?”
出乎我意料的是，Larry Page并没有考虑很久，也没有顾忌这个人多的场合，很快便以他的果敢决绝做出了回答：“Deal。”
<未完待续>
