#22/30#【日更】著名的思想实验:亿年机器人

【见】

思想实验:亿年机器人
如果你想亲身看到一亿年后的地球,现在能想象的唯一办法是休眠。你爬进休眠舱,然后在一亿年后醒来。
可是问题没这么简单,休眠舱要经受一亿年的考验,要保证能源供给不断,要能经得起环境灾变,万一受损还得自我修复,数不清的考验它都能应付,否则你就再也醒不来了。
你找个最理想的位置,有维系休眠舱所需要的所有资源,然后固定在那里,行不行?
这不算是好办法,一亿年间,地震、海啸、陨石撞地球,这么长时段中,想想就知道没办法靠谱地预测风险如何降临。千年抑郁的事情每天都在发生。不然福岛核电站这么会出事故?天津港这么会发生大爆炸?更别说一亿年。
未来无从预测,那怎么办?
制造一个能感知环境、回避风险、寻找资源的机器人,把休眠舱放进去。
说到这里你应该明白了。
不动,能动,是从自然界里复制而来的两个策略,前者是植物策略,后者是动物策略。
要求其择机而动,你从一开始给它下达了指令,“让我活着”,然后变沉睡一亿年,不在给它临场指导。
你的机器人必须能够自己制定策略,“知道”如何去寻找资源,如何转移到安全地带,如何预判和回避风险。
这些你既不可能提前想到,就算想到一部分你也不可能万事提前准备。
挑战不止于此。未来一亿年不会只有你那个机器人,可能会有各种各样的机器人,彼此竞争、合作。你的机器人得具备合纵连横的能力,需求层层嵌套。
如果你的机器人中不辱使命,将你保存到一亿年之后,那么它多半发展出了自运存能力。你在休眠中不能实时控制,机器人在保存你生活的最终目的下,根据环境变迁,会衍生出许多次生目标,这是天大的事:衍生就意味着脱离,脱离于当初的目标。

【感】

这个故事里的机器人就是人类自己。在漫长的演化过程中,基因创造出人类来作为保持它们天长地久的“机器人”,但是基因又不得不让出自主的决策空间,人类演化出了自由意志。

【思】

不忘初心,何其之难。允许机器有相继决策自主权,那么自主决策的进程一定会超越你的预想范围,这就叫失控。

【行】

对王烁老师的课程真是相逢恨晚~!想把王烁老师所有东西都找来看一遍~~非常的精彩~!!
同时王烁老师推荐了丹尼尔 丹尼特的《直觉泵与其他思维工具》,里面有数十个精巧的思想实验和思维工具。
丹尼特是现代进化论科普大家,也是最具科学家气质的哲学家。他认为不需要什么神秘的大脑特殊机制、运算层层嵌套,足以涌现出与人类相当的智慧,因为人类的智慧亦不外乎是。
以上干货内容来自大师课《三十天思维训练营》(名字平平无奇内容含金量极高),请在得到app购买正版课程,感谢王烁老师带来的精彩讲解。

图片发自简书App




最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

友情链接更多精彩内容