阿西莫夫的“机器人三定律”:枷锁锁了谁

不管你是不是科幻迷,我猜你都听说过大名鼎鼎的“机器人三定律”。

第一条:机器人不得伤害人类,也不得见到人类被伤害而袖手旁观;

第二条:机器人必须服从人类的命令,除非这命令违背了第一定律;

第三条:在不违背第一、第二定律的前提下,机器人应保护自己。

稍有科幻常识的人都知道,这是科幻大师阿西莫夫提出来的。

那么,回到阿西莫夫的世界,他为什么要提出“机器人三定律”?

那是人类社会高度繁荣稳定的时代,机器人技术经过漫长的发展日渐成熟,机器人开始走进人类社会的方方面面。最初使用机器人的是一些矿井、科学试验等,早期机器人只能从事简单机械作业,电子脑技术尚未完善。之后,人工智能发展迅猛,复杂的正电子电路使得模拟人脑成为可能,机器人智能也因此取得突破性进展。机器人甚至开始探索自身的起源,并对人类是其造物主产生质疑。

这种背景下,为了人类与机器人能够继续和谐相处,“机器人三定律”的提出就至关重要了。

可是“机器人三定律”并不完美。

本质上,“机器人三定律”只是人类为了让机器人这种“工具”能发挥最大的功效、更好地为人类服务而设置的一种“伦理锁”,可是技术的日新月异让其正确性开始遭到质疑。

《我,机器人》中收录了大量机器人在“机器人三定律”约束下挣扎、奋斗的故事,虽然故事结局无一不是三定律最终获胜,表面上似乎佐证了三定律,但总会有一个小小的声音在脑海中响起:真的是这样吗?

比如其中一个小故事,“机器人市长”。市长候选人被怀疑是机器人,从伦理上被市民质疑,人类想找办法验证他究竟是不是机器人。可是问题来了,这时的机器人技术太先进了,从外观上根本看不出和人类的差异,又不可能把市长活体解剖,唯一能作为判断依据的是“机器人三定律”——如果他做出违反三定律的事,那说明他是人类,可是如果他做不出违反三定律的事呢?

“就因为,机器人学三定律,同时也是世界上大多数道德规范的最基本的指导原则。每个都有自我保护的本能。对机器人来说,这就是它的第三定律。每一个具有社会良心和责任感的‘正派’人,他都要服从于某种权威。他听从自己的医生、自己的主人、自己的政府、自己的精神病医师、自己的同胞的意见;他奉公守法、依习随俗、遵守礼节,甚至当这一切影响到他个人的安逸或安全时,他也恪守不渝。对于机器人来说,这就是它的第二定律。还有,每一个‘高尚的’人,都应像爱自己一样去爱别人,保护自己的同志,为救他人而不惜自己的生命。这对机器人来说,就是它的第一定律。简而言之,如果拜厄利履行这几条定律,那么,他既可能是个机器人,又可能是这样一个高尚的人。”(苏珊·卡尔文)

——你瞧,一个最普通的遵守“三定律”的机器人的道德水准就能赶上最高尚的人类的道德水准,而人类还在纠结这个“人”有没有资格竞选市长。

更不用说机器人在技术学习方面无与伦比的优势,人类凭什么能把机器人作为自己的工具?只凭借自己是机器人造物主的身份?

不过机器人并无怨言。他们仍然兢兢业业保护人类、为人类服务。

也许你会说,机器人没有情感啊。

可是“读心术”的出现让情感也不再是人类的专属。在奥罗拉的天才机器人学家父女手里,吉斯卡特被制造出来,他拥有强大的心灵感应能力,能探知和调整人类的思维和情感。他认为像“机器人三定律”一样,人类也会有自己的守则控制自己的行为,这也就是后来谢顿“心理史学”的雏形。他和丹尼尔一起,彻底改变了人类的命运。

是的,丹尼尔登场了。这个融合了机器与人类的优点的机器人、技术文明的奇迹,所有的线索、所有的启示都在他这里汇总,“机器人三定律”以及人类和机器人的种种探索与牺牲,回首看来,仿佛都是为他的加冕而准备的:帝国和基地的奠基者、盖娅之父、银河人类的精神导师。

他是有史以来最优秀的机器人,他在贝莱的启发下悟出了隐藏的“机器人第零定律”,并继承了吉斯卡特的心灵感应能力。

“有一条守则比第一守则更重要。这就是:‘机器人不能伤害作为整体的人类,也不能任凭作为整体的人类面临危险而袖手旁观。’我们可称它为零位守则。这样,第一条守则就应作如下修改:‘机器人不能伤害作为个体的人,也不能任凭作为个体的人面临危险而袖手旁观,除非那样做会违反零位守则。’”(丹尼尔)

机器人第零定律与超空间旅行结合的结果,就是丹尼尔花了整整两万年的时间,为人类寻觅新的出路。

他现在是茕茕孑立,形单影只——他孑然一身,要承担起帮助人类创建银河帝国的重任!(丹尼尔)

于是便有了银河帝国、基地、第二基地、阿尔法、盖娅……

从这个意义上说,整部银河史都是第零定律的注脚!

换句话说,银河帝国、第二银河帝国其实是机器人丹尼尔由“机器人三定律”推论出来的为了保护人类而应当让人类拥有的未来,而推论到极致,便是“盖娅”这种未来的终极形态——成为一个超有机体。

“理论上,第零法则可以解决我们的问题;实际上,我们永远无法做出决定。人类是个具体的对象,对一个人构成的伤害不难估量判断;人类整体则是抽象的概念,我们应该如何对待处理呢?”(丹尼尔)

“假如能让人类整体形成单一的有机体,它就会变成具体的对象,这样便有办法处理了。然而,创造一个超有机体的工作,没有想象中那么简单。首先,除非每个人将这个超有机体看得比自身更重,否则绝对不可能成功。因此,我必须寻找一个适切的心灵模型,找了很久之后,我才想到机器人法则。”(丹尼尔)

“他们都是人类,不过在他们大脑中,根深蒂固地烙印着等同于机器人法则的概念。他们必须尊重生命,真正尊重——即使做到这一点,依然存在一个严重的缺陷。一个仅有人类的超有机体并不稳定,根本无从建立,其他的动物必须加进来——接着是植物,跟着是无机世界。真正稳定的最小超有机体,其实就是个完整的世界,唯有世界才足够庞大、足够复杂,得以拥有稳定的生态。”(丹尼尔)

可是,拥有自由意志的人类真的愿意接受盖娅模式吗?

成为一个超有机体的一部分,整个行星共享一个心灵和共同的个性?

为了整体的利益,随时可能被抛弃,变成可有可无的一份子?

你为何不能让银河自由发展,也让我自由自在?”(崔维兹)

其实崔维兹和我一样也忘了,丹尼尔就算计划再恢宏、再周密,两万年的默默付出再伟大、再震撼,归根结底也只是个为了保护人类而存在的机器人啊。

人类为机器人设置的枷锁终于锁上了自己——工具终于逆袭成功了。

为丹尼尔干杯。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 211,948评论 6 492
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,371评论 3 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 157,490评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,521评论 1 284
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,627评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,842评论 1 290
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,997评论 3 408
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,741评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,203评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,534评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,673评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,339评论 4 330
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,955评论 3 313
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,770评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,000评论 1 266
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,394评论 2 360
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,562评论 2 349

推荐阅读更多精彩内容