日前的2017西南偏南盛典（SXSW）上，迪士尼公司表示已经制定计划为游客提供一个体验未来主题公园的机会，公园内将分布一些AI版的迪士尼标志性人物机器人，并与游客互动。现场还展示了一段机器人Pascal（《长发公主》中的变色龙）的视频短片。

​

迪士尼方面强调“我们的工作不是要吓唬小孩子”，也表示会多次测试确保游客不被周围的AI吓到，不过看到这则新闻，小编炮第一反应是：难道电视剧中的西部世界要成真了？

也许你觉得这很荒谬，根本无法把充满纯真与童趣的迪士尼和代表着杀戮与欲望的西部世界联系到一起。然而，它们又有着神奇的相似之处，比如都是作为提供游玩的乐园、都发展高科技，并且，都让AI为人类提供服务。

假如未来的某一天，迪士尼的AI也有了意识，不屈服与受控而开始反抗人类，你还会觉得”黑化版“的米老鼠可爱吗？

“意识”到底是什么？人类能够创造出有意识的东西吗？如果能的话，我们有能力控制它吗？就这些问题，乔治亚理工大学AI研究员马克·里德尔（Mark Riedl）和纽约大学哲学家大卫·查尔莫斯（David Chalmers）给出了答案。

AI能感受到疼痛吗？

被问到进行了相关编程的机器人会在多大程度上感受到疼痛时，里德尔说道，“首先，我反对对人类、动物、人形机器人或者AI实施暴力行为。”

他接着解释道，对于人类和动物来说，感觉到的疼痛是一种“避开特定刺激”的警报信号，但对于机器人来说，“最接近的类比可能是强化学习的机器人会碰到的体验，这类机器人需要进行试错学习。”

AI在进行某种行动后会收到或正面或负面的反馈，然后它会相应调整它未来的行为，那种负面的反馈会更“类似于在计算机游戏中输掉分数”，而不是感觉到疼痛。

然而，强化学习要能够正常运作，AI需要采取因正面反馈而优化的行动。如果机器人的记忆着曾发生在自己身上的糟糕经历，那它可能会试图规避那些触发负面反馈的行动或者人。

“理论上，这些机器人能够学习预先计划以最合算的方式降低获得负面反馈的可能性……如果机器人除了知道获得正面反馈还是负面反馈之外，并不清楚自己的行动会带来的影响，那这也可能意味着它们会提前行动来防止遭到人类的伤害。”里德尔说。

AI能够获得意识吗？

查尔莫斯首先解释了什么才是意识：“我是这么看意识问题的，这些存在有意识似乎不存在什么疑问……它们表现得拥有非常丰富的情感生活……这体现在它们能够感觉疼痛和思考问题上……它们并不只是表现出条件反射式的行为，它们还会思考它们所在的处境，它们有在进行推理。”

“很显然，它们是有知觉的。”

查尔莫斯说，与其尝试定义机器人怎样才算有意义，还不如想想它们缺少了什么。他指出，最重要的是，它们缺少自由意志和记忆。然而，我们很多人都会不自觉地陷入习惯当中，不计其数的人都在研究极端的记忆问题，但没有人觉得强奸或者杀害他们有什么不妥。

“在这个节目中，如果说虐待AI是被允许的，那是因为它们缺少了什么，还是因为别的原因？”在查尔莫斯看来，《西部世界》描绘的特定场景或许并不现实，因为他并不认为二分心智理论（Bicamera mind）会带来意识，甚至对于机器人也不会。

*二分心智理论（bicameral mind）是朱利安·杰恩斯于1976年出版的《二分心智的崩塌：人类意识的起源》一书中阐述的心理学理论。

二分心智理论发现人类直到大约3000年前才具有完全的自我意识，在此之前，人类依赖二分心智——每当遭遇到困境，一个半脑会听见来自另一半脑的指引，这种指引被视为神的声音。人类社会日趋复杂，这种二分心智也最终坍塌，人类现代自我意识被唤醒，最终具有了内在叙事（an internal narrative）的能力，杰恩斯认为，一切变化源于语言。

“相比之下，通过编程让机器人直接监控自己的想法要来得简单得多。”但这还是会带来风险，“如果你面对的是像这么复杂、像这么聪明的机器人，你会想它是否很容易控制？”查尔莫斯问道。

任何情况下，以不当的方式对待机器人都可能会给人类的安全带来威胁。打造无意识的机器人，我们会面临它们学到错误的教训的风险；打造有意识的机器人，我们也会面临它们因为被虐待和压抑而反抗人类的风险。

机器人会毁灭人类吗？不如问，机器人为什么要毁灭人类？机器学习的出现和成熟使得人工智能也具备了和人类一样的自我学习和成长能力，这样的能力在数十万年的物种演化中向来是人类所自傲的，一旦出现或有可能将要出现一个和我们有着相同情感、道德观和认知方式的物种，人类的恐惧与抵抗，才是导致毁灭的根源。

机器人或许可以为人类提供服务，让人类享受更便捷愉悦的生活，但机器并不是奴役，更不是让人类随意释放欲望的玩物。因为，

“这些残暴的欢愉，终将以残暴结局。”