最近在得到app上学习传媒总编辑王烁老师的《30天认知训练营》,在“怎样更好的思考”一章中,提及一个思想实验:亿年机器人
什么是思想实验?科学家理解世界的办法主要是观察和做实验,而思想实验在现实中也没法实验,就用你的想象去构造的实验。
“亿年机器人”的思想实验内容如下:
如果你想亲身看到一亿年后的地球,现在能想象的惟一办法是休眠。你爬进休眠舱,然后在一亿年后醒来。可是,问题没这么简单。休眠舱需要经受一亿年考验,要保证能源供给不断,要能经得起环境灾变,万一受损还得自我修复,数不清的考验它都得能应付,否则你就再也醒不来了。
你找个最理想的位置,有维系休眠舱所需的所有资源,然后固定在那里。行不行?
这不算好办法,一亿年间,地震、海啸、陨石撞地球,这么长时段中,想想就知道没法靠谱地预测风险如何降临。千年一遇的事情每天都在发生。不然,福岛核电站怎么会出事故?天津港怎么会发生大爆炸?更别说一亿年。
未来无从预测,那怎么办?
制造一个能感知环境、回避风险、寻找资源的机器人,把休眠舱放进去。
说到这里,你应该明白点了。不动,能动,是从自然界复制而来的两个策略,前者是植物策略,后者是动物策略。
要求机器择机而动,你从一开始给它下达了指令,“让我活着”,然后便沉睡一亿年,不再给它临场指导。你的机器人必须能够自己制定策略,“知道”如何去寻找资源,如何转移到安全地带,如何预判和回避危险。
这些你既不可能都提前想到,就算想到一部分你也不能事事都提前准备,你准备不起:所需资源太多,太笨重,更不能适应环境变化。
挑战不止于此。未来一亿年不会只有你的那个机器人,可能有许多机器人,彼此竞争、合作。你的机器人得具备合纵连横的能力,需求层层嵌套。
如果你的机器人最终不辱使命,将你保存到一亿年之后,那么它多半发展出了自运行的能力。你在休眠中,不能实时控制,机器人在保存你生命的最终目标之下,根据环境变迁,会自己衍生出许多次生目标。这是天大的事:衍生就意味着脱离,脱离于当初的目标。
不忘初心,何其之难。允许机器有决策自主权,那么自主决策的进程一定会超越你的预想范围,这就叫失控。
有没有一丝熟悉的感觉?
这个故事中的机器人就是人类自己。在演化中,基因创造出人来做它们的机器人,以保护它们在人类身体深处漫漫休眠。人是基因为了自己永生而造出来的机器人,但在基因不得不让渡的自主决策空间中,人类演化出了自由意志。
我们作为人的利益,与“造物主”基因的利益,走上岔路。从基因不得不赋予人类学习能力,授权自主决策的那一天起,基因失控,人类自立,就成为注定的结果。
一言点醒梦中人。既然人本来是机器,机器何尝不能是人?
亿年机器人这个思想实验,来自丹尼尔·丹尼特的《直觉泵与其他思维工具》( Intuition Pumps and Other Tools for Thinking )。丹尼特是现代进化论科普大家,也是最具科学家气质的哲学家。在机器智慧与人类智慧的大辩论中,他的看法与提出“中文屋子”的哲学家塞尔针锋相对。
他认为,不需要什么神秘的大脑特殊机理,运算层层嵌套,足以涌现出与人类相当的智慧,因为人类智慧亦不外乎是。
直觉泵这个词就是丹尼特为思想实验发明的,指在没有证据、数据的地方,我们从公认的直觉开始做思想实验,看它将我们带到何方。
我不禁回想起电影《黑客帝国》,电影中的人类是机器人的生物电池,不断给其提供能源。而这个思想实验中,人类躯体似乎就是基因的存储工具。
无论哪一种,都颠覆了一直以来所认为的“人是万物之灵”的观念。
如果是这样,那我们究竟是怎样的存在?我们所以为的真实,难道只是自我意识在大脑中的反映吗?
我们可能存在于一个虚拟世界之中?