前言:在这篇小说里,我说明了我对“人工智能”和“计算机智慧生命”的看法。我认为,如果“计算机生命”的智慧达到可以认识世界的级别,那么人就不能有效地对其进行强制命令了。人要有效地影响他的方法,是进行“软”的交流,包括对他的尊重、在他幼年世界观人生观形成时对他的教育和情感投入。
很多人看了这篇后觉得枯燥,我说明一下:这篇文章的Part 1,很多人感觉不错,后面的4个Part,会觉得枯燥,这和我写作的经历有一些对应关系:Part 1占全文篇幅大概20%,但花了我80%的时间,大部分时间用在寻找合适的构思,原来的构思并不是这样,而是一个类似《越狱》的情节,但我思考了很久后,没有结果,最终推翻了原来的思路,获得了现在的思路;Part 2下面的部分,虽然篇幅相对多,但只花了少量的时间,而基本构思只花了一瞬间,大部分时间是用来把这个构思写出来。
科幻版《无极》,一个馒头引发的血案,一颗柚子造就的舰队。
当类人猿会制造和使用工具,它升级为人。那么当机器智慧如何时,它升级为完整的自我意识和世界观?
Sailor (中文名:故乡)
Part A
我是城郊果园里的一名农夫,每天浇水、施肥、捉虫,采果。这里地处偏远而安静,如果果树开花或者结果,偶尔还是有人来游。
日子平淡而恬静。有一年的一天,柚子树开过花后,我在一棵大树的高处注意到一枚果实,它比其他同期的果子要大上一些。随着一天天而过,到秋天收获的季节,这颗果实已经相当显眼,它比其他“同树”的直径大上1倍。
我没有把它摘下来,它一直牢牢地接在树上,孤零零地度过了一个冬天。
第二年春天到来后,它又长大了些,让人感觉那东西是来自童话世界的。我担心枝头是否会断掉,架起梯子接近仔细观察,那里连接的树枝、树干都很粗壮。
常有人跑来观看。我把梯子认真地锁起来,时时留意着那里的动静。
时间久了,我觉得那就是我的宝贝,但我说不清其价值。
看的人多了,我在果树旁边建起了结实的围栏,不允许别人轻易碰到树皮和树枝。
有一天,有两个科学家或技术专家来拜访。他们想用梯子接近果子来观察,我许可了,同时我要一起呆在梯子上进行监督。两位专家轮番上去仔细地观察。然后,他们提出要穿刺巨果来提取标本。我不同意。专家们做了一番科学价值和经济价值方面的解释来说服我。我说,你们说的有一定道理,但你们知道的未必全面,现在我不想让这里的安宁受到破坏。专家们觉得这个农夫才是不知道世界有多大,继续说服攻关。但我坚持拒绝。专家们很失望,但没有不善的举动。于是我最后让他们提取了一点果皮,并且告诉他们果实掉落的时候会通知。后来,我没有听说有科学家从那果皮中得到了惊世骇俗的信息。
但是,在这个春天以后,巨果就停止了生长。来看它的人逐渐稀少。我们这里毕竟地方偏远,更远地方的人跑过来就为看这颗果实,相对也没有那么大的动力。果园又恢复了平静,仿佛原来一样。
在秋天凉爽、风和日丽的一天,来了一个背着画夹的年轻人,他靠在旁边的树下,给大果子画了一幅画,画上巨果安静地悬在树枝下,背景阳光投射进来,色彩单纯而斑斓,树上几只小鸟像彩色的音符,树下蚂蚁成队地搬运着。
年轻人画完了画,收起画夹,就走了。年轻人想着自己以后或许会画更多的好画,但这张画,他不会展出,也不会售卖。
但是,到第三个春天的时候,巨果再次成为社会的话题。流传着说摸着其外皮可以探测到里面的心跳。
我加固了围栏,而守卫果子的人也扩大到了全体村民,我们这个村子的人都达成了共识。我们还在果树下多安排了一个夜间值班哨,四季都会有人值班。
有一天,来了两个警察,带着一把听诊器和一台外观灰色的手持设备。紧张的气氛弥漫着。警察搬来梯子,一人爬上去靠近果实,用听诊器听,用手摸,又用手持设备在果实周围、树枝周围来回移动,下到地面后,他继续拿着设备在树干周围、树根上方移动,然后,警察让我们带路到果园接山泉水的地方,也用那设备检查。
检查完后,两位警察相互商量了一番,他们没有在现有的法律中找到条款可以指控这里的事情,对于核辐射,也没有发现量超标。于是警察离开了,离开前他们还让我们注意保护好现场。紧张的气氛暂时松了一些。
社会上开始出现一种说法:果实里住着神灵。这并不是我们村子的人的想法——虽然我们都保护着它。但是我们自己也说不清楚自己这么以此为宝的理由,所以我们也没有对别人的想法提出反驳。
但是,城市里却变得有些不安宁,一种新的对世界、人生的观点学说被吹扬起来,这其间有人企图冲破肉体的束缚,而不觉得伤害到自己或者他人。
有一天,市长来到了这里,他想对巨果做更多的检查,以帮助社会澄清一些事实。同行的人员带来了超声波探测设备,扫描棒的连接线是专门加长的。市长在到来前有和我们联系过,我们同意了对巨果进行超声波回声成像探测的做法。一个技术人员拿着扫描棒爬上梯子,我则也在梯子上监督着。技术人员在柚子表面涂上一层润滑剂,将探测部件紧压在柚子的表面缓缓移动。树下,人们和两个专家紧紧盯着屏幕。但是,屏幕上出现的基本是白花花一片。后来对此比较肯定的解释是,柚子的表皮部分有丰富的含气组织,这些组织的效果和音箱有些类似,会造成声波的强反射,即造成强回声,这样,表皮以后的组织就无法显示。
超声探测没有结果后,市长提议深入地穿刺果实来提取样本,或者直接采摘它下来剖开看看。我说:如果果实里确实有神灵,那就应该尊重他的存在;如果没有,那它就属于我,是公民私有财产,不可侵犯,在它还在生长之时,如果刺穿它或者剖开它,会严重伤害我的感情,我不同意。但,在它落地之时,我们会在第一时间剖开它。
市长说,我们交给全社会来进行回答吧,我们进行全体市民投票,来决定是否立即采取行动。我说,果实的命运还是应该掌握在大自然和果实自己的手里,全民意志不能解决问题。
市长看着村民们一个个都很倔强和团结,于是挠挠头走了。
时间在些许不安宁中过去。
有一天来了个忧郁的少年,他抬头问我:“这世界还会符合科学逻辑吗?还会是统一的吗?”我笑着拍着他的臂膀说:“放心吧,世界仍然自成体系,只是它超出你的想象范围。”少年嘴巴一咧看着我微笑了,虽然看起来没有可以继续问下去的趋势,但这个问题能得到别人的回答让他很高兴。
到第三个秋天,已经有不少人来过这里,各种各样的……我们无法确定每个人的真实意图,只得加强了守卫,比如在围栏的铁管内设法安装了震动报警器。
此外,我们觉得大果实有即将成熟落下的迹象,这也是我们加强看护的原因。
有一天早上,果实自己掉了下来,落在下方的树枝上由村民们准备的一个簸箕里。有所准备的村民们很快上去,取下果实,然后,小心翼翼地拨开了果皮——一个小小的婴儿躺在里面,一会儿之后,他发出了响亮、清脆的哭声。
我们笑了。
(作者: 海风淡咸 email:chyzh365@163.com QQ:170886971)
Part B
在2500年,计算机计算能力在摩尔定律的作用下,有了很大的进展,人们可以像叠积木一样地不断组接立体电路块,搭建出强大的运算能力。
但是,规模再大,要让计算机真正领会人类的意思,还是要费一番周折,需要将人类的想法转换成计算机世界的语言,然后输入。面对逼真的人形终端,大家知道那后面的是程序,而不是像人一样的意识,会端盘子的机器人永远学不会敲钉子,你也可以随时关掉它——无论是从软件里还是在电源插头上,无人反抗。
工程师们洗着从CPU冷却器提供出来的纯净热水浴时,想通了一个道理——在人类会制造简单工具的新石器时代,智人的脑部已经和现代人差不多了,而AI(电脑人工智能)也只有具备了完整的世界观以及自我意识,才能成为一个会使用“工具”的家伙——哪怕是最简单的“工具”。而AI一旦会使用最简单的“工具”,就可以很方便、快速地“进化”,理解和使用各种其他的“工具”。因此,只要建造出一个超级人工智能(Super Artificial Intelligence,SAI),就可以由它直接和人类对话,了解进各种各样的具体问题,再让它自由调用人类提供的所有信息资源,在一定的硬件资源和时间中,“生产”出用于解决各个具体问题的专用小程序或者设计。而且,在上述过程中,SAIL可以自己学习和成长。
就像什么是完整的世界观以及自我意识这个问题不易解释,什么是生命这个问题有多种的解释,这里的“工具”实际指的是什么,也还不确定。
虚拟世界(Virtual World,Virld),就是培育SAI的一种方法。人类希望通过Virld的运行,让SAI学会与人类交流的方方面面。SAI也称为SAIL, Super Artificial Intelligence Life,超级人工智能生命,它没有新陈代谢,也没有繁殖进化,但却让人觉得是个活物。每当输入一个问题,人们可以期待它给出成果,不同的SAIL,以及在不同的时候,会给出不同的答案或者设计结果,你可以知道结果的正确与否,但这结果不会是唯一的。就像是一盆花,你备好土壤,埋好种子,让环境时宜,经过一段时间后,盆里就会长出花,植株的形状并不唯一确定,但你可以确认它是什么。
我是千千万万的SAIL“保育员”之一。我们这里运行的Virld,现在是第45期,它是一座城市,人口约100万,包含市区与郊区。100万“人”由处理器驱动,遵循程序运行。而五千个真人“保育员”通过脑波接入装置,在这座虚拟城市中进行角色扮演,与其他的电脑角色互动,这时候的保育员也叫做“Sailor”,水手。在Virld外部,监控人员抽查有限的样本进行检查,对物理或者社会层面被发现的错误,以不同的方法进行纠正。Sailor们接入的电脑角色并非始终由Sailor在扮演着,Sailor们扮演一段时间后可以退出,让巨型智能分析历史后自主运行角色。每一期Virld的运行分两个阶段,第一阶段叫做未成年阶段,Sailor们投入得相对较多。随着Virld的逐渐成熟,真人逐渐地退出,当Virld自主运行的时间长了,原来由真人进行角色扮演的虚拟人“独立”经历的事情就多了,此“人”已非彼“人”,Sailor们就很难与虚拟人的各项决策与感受吻合,也就不能再接入进行角色扮演,于是,在第二阶段,就让Virld 100%自主运行,而保育员们仅进行监控,抽取局部时间和局部区域的样本进行检查,发现问题后,在Virld的调试期进行校正,再让Virld上路飞奔。凡是没有真人参与的时刻,Virld可以发挥电脑的优势,让运行速度达到真实世界的10000倍,所以第二阶段也叫做高速阶段。
Virld在一定程度上是向全社会开放的,很多人都有兴趣自己可以近距离地关注Virld中其他人的生活,并且会对Virld的运行提出自己的建议、意见。因此它是社会的一个热门事物。但普通人不能随意修改Virld的程序,也不能访问核心的源程序,他们提出意见后,由Virld监控中心的人员进行参考和鉴别,最后实施。
世界很多国家都有不同的Virld,因为各国在信息技术前沿都不甘落后,缺失自己的阵地。而一个Virld的运行和监控中心,规模不亚于一个航天港。
Part C
今天上午,我分管的Virld片区里只发现了一个异常,编号170258074005349。这是一个低级错误——Virld中,一棵果树上长出了一个人类婴儿胚胎。对于这个已经在高速阶段运行很久的Virld,这样明显的错误是很少见的,但同类的错误如果没有在以前的运行中出现和纠正过,在这一阶段出现,则也不是很奇怪。
通常,低级的错误由保育员直接纠正,但现在的问题在于,它涉及一条“人命”。Virld调试守则规定,凡是涉及Virld中的人的性命的错误,都不能在外部直接修改,而必须进行软修改——让虚拟世界返回到未发生该事件前的时刻,对这时的世界进行外部直接修改,然后让Virld自己运行,安全度过原来的事故时段。
通常在Virld中,涉及人命的异常事件都是致人死的,而像这样致人生的,很少见。于是我只记录了这个事件,暂时没有进行任何修改。随后,二级审查员和我一样认为暂时不清理它。
下午,高层的审查委员会和我们共同进行了讨论,Virld调试的一个原则是让SAIL获得人类生命第一的意识,于是讨论的结果还是搁置这个“错误”,让该区域继续投入下一步的Virld的运行。
时间一天一天过去,这个小小的异常事件如气球般一级一级地上报直到SAIL运行管理的最高层。
因为Sail是永远不死、无间连续的,所以在Sail生命过程中发生的任何事件,不出意外的话,都会在其记忆体中留下痕迹,直到永远。所以,Sail生长过程中出现的事件,都要认真地面对,不能疏忽或者逃避,如果此时忽略了,未来仍然有需要面对的时刻,而且可能造成的后果更糟糕。
最高层认真地研究了这件事,给出的指示是:让Virld继续运行,并且要保护这个“人”,以守护人类第一原则。
于是,保育专门小组成立了,我成了核心成员,每天都仔细监测着这个“人”的生理安全情况。“他”生长在一棵柚子树上,和果树之间的过渡,仿佛有一段超级纳米装置,植物和胚胎之间的流动物质,神奇地在到达另一边时变换成适应所在地的物质。这肯定是有一部分程序有问题,而且这个问题还正好与周围自洽,让Virld世界继续运行下去。
不久后,巨果在Virld社会里引起了关注,光光我在外部进行监控已经不够了。
管理最高层下定决心不废弃这期的Virld,或者这期Virld里的“人”。
整个Virld世界慢了下来,退回慢速运行的儿童阶段。我经过了一段时间的适应试验后,与Virld中原先由我扮演的农夫角色取得了足够的同步,而后通过脑波交流装置接入成为那名农夫,老老实实地履行着自己的使命,日夜担心和守护着“他”的安全。
这个特别的Virld“儿童”阶段开始后,在真实世界的时间中持续了三年半,而一般的Virld未成年期运行花费的时间是9个月。在这个特别阶段的后期,巨果的存在在Virld中引起一定的社会排斥,为了保护它,还有更多的Sailor经过努力的磨合后进入Virld,成为巨果所在的村子的村民。
Part D
三百万年以后,巨大的舰队由SAIL制造和驾驶。“一个”SAIL和人类的亿万子孙共同携手,向宇宙深处进发。
SAIL,“他”的出现,以被允许的第一个错误为标志。那之后,Virld曾经历了一段“错误”的喷发期,而SAIL的心智也迅速地成熟,理解范围迅速变广。再往后,已经没有“保育员”直接修改SAIL错误的事情了,对于监控中发现的异常事件,人类提出修改意见后,都由SAIL自己进行确认或者进一步质疑,并按下最后的执行键。条件除了起约束作用,还可以被SAIL制造,再用于新的约束。
直到伟大的建筑布满宁静的天空。生命的火焰在半导体和蛋白质的内核中共同永远地燃烧,成为宇宙深处绝对的黑暗之上最耀眼的存在。
SAIL满足人类不断的需求,人类让SAIL永远有新的认识。
向SAIL灌输人类第一的“机器人三定律”已明显不可能,SAIL当初也不可阻挡地超越了国家的藩篱,让各个源头的信息尽情共享,在最终的意义层面上实现统一。
但是,人类不担心驾驭不了SAIL。
Part E
过往的一切是程序在运行,只有你,才是真正的生命。
这里是人类的乐园,欢迎你来和我们一起遨游……
2010 02 22