也许作为一种起源于新石器时代的古旧思想,说希望这种思想中的某些内容能够对你们有所启示是不合适的,毕竟无论是从知识还是见闻方面,你们都比我们那时广博多了。不过如果看过本文集前面那些之后,还有兴趣的话,咱不妨再补充几点。
你们知道,我们曾经有一个关于“人造人”的传说,其实这个传说不如说是个思想实验。传说中有一个叫做“偃师”的傀儡师,造出的木偶不仅外形、甚至连动作都跟人几乎一模一样。偃师在周穆王西巡的时候见到了这位西周的国王,并且向他展示自己制作的会行走、说话、跳舞、唱歌的人偶,谁知这个人偶在表演结束的时候,却向着陪同穆王一同巡游和欣赏木偶戏的美丽王妃抛了个大大的媚眼,搞得周穆王以为这家伙是在当面调戏自己的王妃,气得想要将其斩首示众。偃师见状,连忙上前解释,并亲自把木偶拆解开,证明它只是一些木头和皮革而已。偃师还向周穆王演示,取走傀儡的“心”、“肝”、“肾”等部分,它就会相应地失去说话、视觉、行走等功能,而且依然会按照傀儡师的指令作出某些动作,周穆王这才确信那东西只是一个木偶。
表面看,这故事确实仅仅是个神话传说,在故事标明的年代里,或许有人能做出与常人相仿的会动的木偶,但要说那木偶能够五脏俱全、并且自主地唱歌跳舞,甚至向美女挤眉弄眼,则无疑是完全不可能的。或许的确有个技艺高超的木偶戏表演者,利用自身精湛的演技把当时的周穆王给欺骗了,使之误以为那惟妙惟肖的傀儡的确是个人,若然如此,那故事中就不必提到取走木偶部分内脏后的效果,只需说到把木偶拆解即可真相大白。无论历史上是否有过国王误将艺人手中的傀儡当成人,并醋意大发的事情,记述“偃师造人”的故事的人显然不仅仅想要表现傀儡师神奇的技艺,还有更重要的,就是木偶和常人的根本区别及其鉴别方法。
说这故事是个思想实验,原因就在于它实际上设想了一个这样的问题:有一个外形像人、动作言语也与人无异的木偶(它甚至会向面前的美女献媚),那么该如何确定这木偶(已知它是木偶,因为它可以被拆解掉)是否具有人一样的灵性(或者说心灵、灵魂)?答案已经在故事里给出来了,那就是看它是否能够被完全控制,即使在受到严重伤害的情况下(被取走一些内脏)也仍然无条件地服从外界指令,丝毫没有反抗的意志流露,如此便可以认定它只是个傀儡,而不包含任何完整的生命意识。因为像前面说过的那样,完整的生命意识必然包含着神性与魔性两个组成部分,神性负责沟通并保持跟外界的友好互动,魔性负责注意自身的独立和权力实现、并着重维持个体性的存在,神性倾向于自我牺牲,魔性则倾向于牺牲自我之外的一切来寻求对自我的满足,无神性者难留命,无魔性者不得生。周穆王当然很清楚这些,所以他在看到被取走内脏而导致功能缺失的木偶依然会毫不懈怠地完成既定动作的时候,他就知道那只是个木偶,因为它在自身受到了伤害的情况下(对木偶而言,仇已经产生),却没有任何的恨意表达,同样地,就算它向王妃抛媚眼是由于王妃的美貌,这种献媚的行为也只是最单纯的喜爱和赞美,其背后不会附带任何的情感欲求或别的企图。没有哪个理智的人会跟一个有爱无情、有仇无恨的木偶较劲,它没有完整的意识,也根本不清楚自己到底在做什么,它的外表行为就算是自动进行的,亦是按照某种事先设置的机关运转,不管这机关多么精巧、能实现多么不可思议的功能(比如识别美女的面庞并作出某种反应),都与心灵和意识无关。只要确认了这一点,就算那不是个可拆解成木头和皮革的傀儡,而是个有血有肉的人,那么此人的这等行为也可以肯定不是出自他本人的意识,那要么是某种虚伪的表达,要么那人就是个行尸走肉,抑或是个被操纵的提线木偶。相反,如果那木偶能表现出完整的意识特征,即使它可以被拆解成一堆木头和皮革,在我们看来那也是一种不折不扣的魔法或者妖术。
同样的观点大概能适用于你们的人工智能判定,即不论人机对话如何进行,只要接受测试的机器一方不能像人一样偶尔漠视或有选择地接受对话请求,甚至有时依靠强词夺理来替自己的主张辩护,那么这样的智能机器恐怕就不能算是具有与人一样的智能水平。除非你们对智能的定义中不包括完整的自主意识,除非你们所追求的人工智能只是作为一种好用的自动工具,否则你们也许应该认真考虑一下怎样构造出神性和魔性算法,并把它们同时塞进同一部机器中去。魔性对应着不友好的意志表现,完整的意识就意味着拥有这一意识的主体有可能做出抢夺、破坏等不德之行,这是自然赋予每个自由生命的基本机能,要了解生命和意识就必须正视这一事实。可是,自然可以不承担一切责任追究,然而创造拥有魔性意识机器的人,是否也有足够的理由免除所有可能造成的不良后果产生的对他的责任追究呢?假如偃师造的不是一具傀儡,而是一个具有完整意识的人偶,那么偃师又是不是需要为人偶对王妃的轻薄行径承担一定的罪责呢?“偃师造人,唯难于心”,不仅难于心灵的构造,更难于解决因心灵的构造而引发的伦理道德疑难。