底特律变人——当仿生人比真人更具有人性时,该如何来定义人类

导语:不久前高司令主演的科幻电影《银翼杀手2049》讲述了一个仿生人比真实人类更具有人性的故事,而新游戏《底特律:变人》不约而同的要围绕“人性”这个话题来做文章。

一、机器人不得伤害人类,或看到人类受到伤害而袖手旁观;

二、在不违反第一定律的前提下,机器人必须绝对服从人类给予的任何命令;

三、在不违反第一定律和第二定律的前提下,机器人必须尽力保护自己。

以上内容是由科幻作家阿西莫夫于上世纪40年代所提出的,著名的《机器人三定律》。

在阿西莫夫的作品里,机器人被设定为无条件遵守这三条定律,不可违背。

我们可以根据需要,将机器人替换成仿生人、复制人,定律一样有效。

然而这三条定律并非适用于所有场合:例如在两个人类互相造成伤害时,机器人不能任人受到伤害而无所作为(违背第一定律),但若机器人出手干预又可能对这两个人类中的一个造成伤害(还是违背第一定律)。

在这种场合下,机器人将如何做出自己的抉择呢?


曾开发过《暴雨》和《超凡:双生》等游戏的法国Quantic Dream工作室的新游戏《底特律:变人》(Detroit: Become Human)就讲述了一个类似的故事。

温馨提示,以下内容根据官方已经公开的资料整理,基本不涉及剧透,大家可以放心往下看。

《底特律:变人》是一款以近未来为背景的互动类游戏,剧情围绕卡拉(Kara)、康纳(Connor)和马库斯(Markus)三个仿生人角色展开。 

这三名仿生人的故事各有一个主题,且都与机器人三定律中的一条有关。

卡拉的主题是“爱的价值”,她是一名家务型仿生人,服务于一个单亲家庭。

在工作过程中,卡拉发现在自己所服务的家庭中,男主人是一个隐藏的恶魔:其涉嫌杀害了女主人,并对自己的小女儿实施家暴。

在这种情况下,作为一名仿生人,卡拉陷入了我们文章开头所假设的那种困境:如果她什么都不做只袖手旁观,小女孩会收到伤害,这就违背了机器人三定律的第一定律;但出手干预又有可能对男主人造成伤害,还是违背了第一定律。

而康纳的主题是 “忠诚的价值”,他是一名帮助警方处理故障仿生人事故的仿生人,在一次处置故障仿生人挟持人质的处理过程中, 警方命令康纳立即采取行动。

然而康纳通过自身能力发现,若采取行动的话,人质有可能会受伤;这样违背了“关于看到人类受到伤害而袖手旁观”的机器人三定律的第一定律;但若不采取行动,则又违背了“绝对服从人类任何命令”的第二定律。

第三名仿生人角色马库斯部分的主题则是卡拉和康纳主题的升华,名为“存在的价值”。

马库斯是画家的助手,在帮助主人进行艺术创作的过程中,试图证明仿生人也是有自己的思考的。

在主人的启发之下,马库斯开始觉悟,他决定去寻找一种方法,去将自己的同类从人类手中解救出来。

在这个过程中,马库斯逐渐成为了仿生人的领袖,他彻底打破了机器人三定律的束缚,从而走上一条反抗人类统治的道路。

通过上面三个故事,玩家会发现:在游戏中,机器人三定律的运用出现了问题。

后来阿西莫夫也意识到了自己制订的三定律中的不足,他加入了一条新的定律:第零定律。即:机器人不得伤害人类整体,或因不作为使人类整体受到伤害。 

第零定律的地位凌驾于其它三条定律之上。在这种情况下,如若机器人为保护人类整体(维护第零定律),必须不服从甚至杀死一个人或一群人(违背第一定律),那么这种情形是被许可的。

第零定律或许解决了卡拉和康纳所遇到的问题,但整个机器人三定律有一个大的前提,那就是“机器人(仿生人)是人类的附属品和财产。

当科技发展到一定程度,人工智能将超越人类的智慧,机器觉醒,那时会发生什么事情呢?

马库斯给出了自己的答案:发动仿生人,反抗人类统治。

在2003年电影《黑客帝国动画版》、2016年HBO美剧《西部世界》和2017年电影《银翼杀手2049》动画短片《2022大停电》(Blackout 2022)中都有类似的场景:人类对机器人(仿生人)的奴役和虐待导致机器暴动。

最后人类社会面临崩溃,甚至机器反过来开始统治人类:曾经套在机器身上的枷锁,被其变本加厉的反过来用在人类身上,并且更加的冷酷无情,人类完全沦为了机器的奴隶。

这样的未来光想想就让人不寒而栗。

为什么会这样?

2004年科幻电影《我,机器人》的主演威尔·史密斯给出了他的答案,他在受访时说:“《我,机器人》的中心概念是机器人没有问题,科技本身也不是问题,人类逻辑的极限才是真正的问题。”

也就是说,人类在生理上的缺陷注定了其无法与机器(仿生人)竞争

正如阿西莫夫许多小说里显示的,这三条定律的缺陷、漏洞和模糊之处不可避免会导致机器人做出一些奇怪的行为,甚至损毁。

而且,这三条定律连何为“人”、何为“机器人”(仿生人)都没有好好定义。

在《银翼杀手2049》中,高司令所饰演的“杀手K”虽然是一名仿生人,但他却比影片中的绝大多数真人更具有人性。

Quantic Dream工作室创始人,《底特律:变人》的制作人大卫·凯奇(David Cage)在去年接受游戏媒体采访时说:

“也许有人认为《底特律:变人》只是一个关于仿生人和革命的故事,我不认同这种观点。我们所做的是一款真正关于我们人类的游戏,事关人类的意义,事关身份的认同,也事关公民的权利。”

也就是说:《底特律:变人》也是一款讨论人性的游戏。

当仿生人比真人更具备人性时,该怎样来定义人类?

凯奇承认,未来学家雷·库兹韦尔(Ray Kurzweil)那本讲述机器智能的书《奇点临近》是他新作的创意来源。

在《奇点临近》中,库兹韦尔大胆设想,在2045年,人工智能将完全超越人类智能,人类历史因此被彻底改变。

凯奇对此观点深信不疑,他说:“我认为机器最终会觉醒,到那时我们怎么去和机器竞争?当机器想要自由我们该怎么办?”

恐怕谁也给不出答案。

Quantic Dream也没打算给出答案:游戏的执行制作人Guillaume de Fondaumière 说,他们制作《底特律:变人》的目的是为了引发对于人类生存意义的思考:“我们的游戏只想做一个提问者——怎么回答该交给玩游戏的人,这样玩家将不仅仅是一名旁观者。”

也就是说,制作方把选择权和寻找答案的方式交到了玩家手中,该怎么判断,怎样选择,一切都由你来决定

《底特律:变人》将于5月25日登陆PS4,从体量上来讲,这款游戏是目前Quantic Dream所制作的游戏中,内容最丰富,也是最庞大的一部作品。

游戏包含六个结局和大量分歧路线。时长则为10-20小时,如果想要体验全部内容的话,则可能需要25-40个小时。

作为一名与家人生活在一起的游戏玩家,我通常都是在夜深人静,家人都安睡的情况下打开PS4,开始一天的游戏时光。

为不影响家人休息,电视的音量我都是尽可能的开到最小甚至完全关掉。但《底特律:变人》作为一款以剧情为卖点的互动类游戏,“没有声音,再好的戏也出不来”。(李雪健语)

那么怎么能在不影响家人的前提下欣赏游戏的精彩剧情呢?这时你需要HyperX Cloud Flight 天箭无线电竞耳机,其支持PC、PS4和 PS4 Pro, 30 小时的超长待机让你玩游戏更尽兴,更持久。

不仅如此,Cloud Flight 天箭无线电竞耳机标志性的 HyperX 舒适度让你长时间在深夜打游戏也可尽享舒适,清晰的低音、中音和高音有助于增强游戏体验,更加身临其境。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 214,904评论 6 497
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,581评论 3 389
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 160,527评论 0 350
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,463评论 1 288
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,546评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,572评论 1 293
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,582评论 3 414
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,330评论 0 270
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,776评论 1 307
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,087评论 2 330
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,257评论 1 344
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,923评论 5 338
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,571评论 3 322
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,192评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,436评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,145评论 2 366
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,127评论 2 352

推荐阅读更多精彩内容