下面,我们来解释一下,为什么思考这个问题很重要。我们为什么会同情仿生人的悲剧。
如果只是站在人类的角度,那么整篇小说我们看到的悲剧内核也罢,对人类自己的反思也罢,都只是站在无关自身实际痛痒的位置上发出的感慨。就像小说里反复提到的同情心那样,我们只是同情“别的种族”的悲剧,但毕竟,那是“别的种族”,不是我们。但如果换一种思考角度,那你就会发现这个问题的意义绝非如此简单。
我们不妨先回到小说里面去,在小说里,主角里克被当做性骚扰犯抓进警察局的时候,他产生了很强的困惑。他怀疑抓自己的警察是仿生人,但对方不知道,他又怀疑自己也是仿生人,自己是人类的记忆都是伪造的。在小说改编的电影《银翼杀手》,以及它的续作《银翼杀手2049》里面也把这个问题作为关键剧情迷雾:主角到底是人,还是仿生人?
在小说的后半部分,里克陷入自己的职业要求和心理障碍复杂的斗争里,故事的最后里克虽然设法暂时克服了心障,干掉了所有脱逃的仿生人,但这一天的经历让他三观尽毁。他已经成了史上最伟大的猎人,走上了人生巅峰,但结果却对自己,对人性,对仿生人界限无比迷茫。小说虽然完结了,但很难想象这之后,里克会变成什么样子。
我们不讨论这个困惑对剧情的意义,只谈这个困惑的基础:被创造出来的“工具”在能力上已经拥有了人类一样的思维能力和自我认知。只有这样,它才会困惑自己到底是谁,是人还是工具。而人类也会同样反过来困惑,既然工具可以以为自己是人,那我会不会其实只是工具,却误以为自己是人?
那么换一个角度来看,这就意味着有一天工具——比如AI——已经接近人类的时候,我们怎么来确认我们这些听这个音频的意识体是人类,而不是AI呢?
本质上,这就像当年纳粹德国的故事一样,你怎么知道你身上就淌着优等种族的血,而不是盖世太保眼里的劣等种族呢?
约翰·罗尔斯在《正义论》里提出过一个重要的概念,叫“无知之幕”。这个概念提出一种原则,来实现社会政策的正义公正。无知之幕的意思是,当选择社会政策的时候,每个选择的人都应该删除自己是什么身份地位出身的记忆,以“无知”的方式进行选择。比如选择应不应该保留黑人奴隶制度的时候,你不知道自己是黑人还是白人。选择买卖妇女是不是合法的时候,你不知道自己是男人还是女人。
这个无知之幕,立在一个基础上,就是“我们”拥有对等的能力和智慧,我们相信白人和黑人、男人和女人在幸福和痛苦上是平等的,一方感受到的东西,另一方也能感受到。所以我们能真切地“同情”到对方。你不能跟龙虾、跟带鱼一起披上无知之幕,因为你们在能力、智慧和感知上不可能平等。
但是当人类创造出来的工具越来越接近我们,在能力上越来越平等的时候,不管他们是AI、机器人还是仿生人,我们总有一天能和他们一起披上无知之幕。当我们披上无知之幕,我们就能明白,我们对仿生人命运悲剧的同情,本质是希望避免自己有一天也遭遇同样的悲剧。
好,《仿生人会梦见电子羊吗?》这本书就给你解讲完了 下面我们一起做一个总结:这本书所告诉我们的三层意思:
一是外在环境的压力迫使人类文明趋向于创造出超越人类自身能力的造物,并把它们作为工具,而随着造物不断接近人类本体,双方必然产生无法调和的矛盾冲突。
二是人类必然需要为自己的造物上一层保险,限制它们的超级能力反过来危害人类,但同时这种限制成为检验人性善恶的一面镜子,将引起人类文明伦理道德基准的反思与动摇。
三是人类的天性将会同情造物的处境,无论是仿生人还是AI,但这种同情在本质上是希望避免人类遭受同样的悲剧。
菲利普·迪克虽然在这本书里流露着一种深沉的悲伤,他对自己提出的问题无法回答,或者说没有找到出路的方向。但是这种深沉的悲伤给我们提供了一种警醒,尤其是在这个不断逼近技术奇点的时代。每多一个人理解这种悲伤,理解仿生人命运悲剧背后的思考,就多一分找到避免这样悲剧的希望。