人类会被机器人支配吗？
早在 AlphaGo 赢围棋前，霍金就在认真地担心，人工智能将会超过并取代人类。
「我们已经拥有原始形式的人工智能，而且已经证明非常有用。但我认为人工智能的完全发展会导致人类的终结」，霍金教授在英国广播公司的采访中说。
「一旦经过人类的开发，人工智能将会自行发展，以加速度重新设计自己。」
同样担心的还有特斯拉创始人 Elon Musk（跳戏：这是撰稿人唯一视为偶像的男人），他认为人工智能是人类生存的最大威胁，可能比核武器更危险。
事实上，Musk 还投资了一家人工智能公司 Vicarious，为了「监测」人工智能的发展。
比尔盖茨也曾公开发表他对人工智能的意见：
「我正在关注超级智能。首先，在开始的时候机器会为我们做很多工作，这些机器并不是超级智能。如果我们处理得很好的话，这应该是具有积极意义的。
之后的几十年，人工智能会强大到足以引起人们的关注。我同意 Elon Musk 和其他一些人的说法，不明白为什么有些人并不关心。」
这些天才们对人工智能的担忧，主要集中在可控性上。
所幸，目前技术能达到的人工智能水平还处在「有多少人工就有多少智能」的阶段。
对此有一个非常著名的实验「中文房间」：
「中文房间」最早由美国哲学家 John Searle 于 20 世纪 80 年代初提出。
这个实验要求你想象一位只说英语的人身处一个房间之中，这间房间除了门上有一个小窗口以外，全部都是封闭的。他随身带着一本写有中文翻译程序的书。房间里还有足够的稿纸、铅笔和橱柜。
写着中文的纸片通过小窗口被送入房间中。房间中的人可以使用他的书来翻译这些文字并用中文回复。
虽然这个人完全不会中文，但哲学家 Searle 认为通过这个过程，房间里的人可以让任何房间外的人以为他会说流利的中文。
中文房间是对强人工智能假说的第一次强力打击，结果间接证明目前的机器并不具有思想，以及能够独立决策的能力。
Searle 指出现今设想的绝大多数人工智能实现方案都不是强人工智能，而是弱人工智能，即程序设计者预测会出现的情况，然后做出反馈方案，由机器判断是否符合条件，且是否执行方案。
通过一套完整的流程：翻字典里找出对应的词句，翻译成英文，回答，再用字典翻译回中文，发回去。
一个不懂中文的人也可以用中文回答问题，让屋子外的人相信他会中文。
但这个人会中文吗？不会。这其实就是目前「人工智能」在做的事情，比如 Siri。
「机器人」一词第一次出现，是在捷克作家 Karel Čapek 1921 年的作品中，被创造来用来形容虚构的机械人形角色。
而第一个机器人「Televox」则诞生在 1927 年，由美国西屋电器公司的工程师温兹利创造。它是一个电动机器人，可以回答一些问题、发电报，但是不能移动。
到了 1942 年，美国著名科幻小说家艾萨克·阿西莫夫在短篇小说《Runaround》（《环舞》）中提出了著名的「机器人三定律」，该理论被称为「现代机器人学的基石」。阿西莫夫提出：
一 机器人不得伤害人类，或坐视人类受到伤害；
二 除非违背第一条定律，否则机器人必须服从人类的命令；
三 除非违背第一及第二条定律，否则机器人必须保护自己。
后来，阿西莫夫又加入了一条新定律：第零定律。
零 机器人不得伤害人类整体，或坐视人类整体受到伤害。
70 年前，阿西莫夫提出这个著名的定律，来保证机器人会友善待人。在他的科幻设定里，机器人三定律是植入到所有机器人软件底层里的不可修改的规定。
虽然最早提出时这只是个文学手法，但至今仍有人认为此定律是现成的方案，能挽救我们免于机器末日。
但是 70 年过去了，我们对现代科学更了解了，阿西莫夫的三定律真的有效吗？科学家的答案是：没有。
在《环舞》里，负责水星开矿任务的机器人在第二和第三定律的冲突下陷入焦虑慌张的状态，开始不停地绕圈子
比方说，这三条定律连「机器人」的含义都没有准确定义，你无法阻止一个智商超群的机器人找到后门并因此打破定律。
在现实中的人工智能理论研究者，机器智能研究所代理主任路易·海尔姆看来，机器人根本无关紧要，重要的则是超级智能的伦理道德规范设定。
「我认为对人类来说最主要的问题，不是一大群半智能人形机器人所需的道德规范；而是高阶人工智能一定会出现（不管有没有躯体），并且其功能一定远远超过人类水平这个事实。
人类早晚必须要跨过超级智能这个坎。这也是为何开发安保措施如此重要。在我看来，机器人、仿生人、模拟大脑什么的都无关紧要，我们最多和它们相处一二十年，之后就要面对真正的大问题——为超级智能开发伦理道德。」
如果机器人没有「爱」，不具备类人的情感，它将只会是一个可以不断学习不断模仿地冷血机器。而这样的机器，无疑是对人类的生命存在威胁的。
日前，英国剑桥大学新建了一个研究中心，致力于研究人工智能在发展的过程中带给人类的机遇与挑战，并旨在影响其道德伦理发展，从而防止人工智能在 21 世纪会控制世界。一家名为 Leverhulme 的信托公司将为其提供十年约 1000 万英镑的资助。
虽然人工智能目前还只处在人类 3、4 岁的智力水平，但有研究认为，在 2099 年之前，人工智能将能达到人类智力的水平，甚至是超越。重要的是，人工智能是不断地学习提高的。
因此剑桥大学聚齐了一些科学家、哲学家、社会科学家，从技术上、实用性上以及道德观念上出发，一起来为人工智能做风险评估。
于此同时，Google 今年收购了由剑桥大学毕业生 Demis Hassabis 所创办的 AI 公司 DeepMind，希望大力发展人工智能。
今年十月份，苹果公司同样收购了来自剑桥的 VocalIQ，也是一个 AI 创业公司，其旨在研究提升计算机理解人们言语能力的方法，以此使机器更加自然地「说话」。
人工智能研究的目的是创造智能机器，可以有效地解决问题，甚至有时候比人类做得更好。
在科幻小说或电影中，人工智能经常让人类陷入噩梦中。比如《2001》、《终结者》、《银翼杀手》等电影中，智能电脑或智能机器最终将武器对准它们的人类创造者。
Elon Musk 说：「在所有故事里，似乎总有拿着十字架和圣水的家伙，就像他确保自己能控制恶魔一样。但这并非总是管用。」
无论如何，已经有越来越多的聪明人，已经提前准备好十字架和圣水，谨慎提防可能出现的不可控的恶魔了。
