上篇https://www.jianshu.com/p/13ed2a4c683f,这里通过18-19年的一些科技热点再度探讨《未来简史》。
在《未来简史》中赫拉利论述人类克服了以往的三大问题,饥荒、瘟疫、战争,进入和平发展的时代,带来新的三大议题,永生、幸福快乐、从“智人”进化为“神人”,达到这些有赖生物科学和人工智能的高度发展。
基因之于进化“神人”
对生物科学的发展,赫拉利先例举出二战期间整形外科从治愈脸部创伤为出发点,而发展的结果却是让富人更漂亮。接着分析未来的基因工程必然从基因缺陷的治疗出发,然后是基因的改写,最后发展为基因的优化。“我们就像这样一小步一小步地走着,等到哪天,就会有孩子的基因类型目录任君选择。”
2018年11月,南方科大贺教授的基因编辑事件,使双胞胎女婴所谓获得对艾滋病天生免疫,消息一出,举世哗然。基因编辑正面的意义在治疗遗传疾病,减轻人类痛苦,然而不能忽视的是基因编辑后面临的风险,尚未清楚是否对其他DNA造成以外损害的范围,及CCR5失活是否导致更容易染上其他疾病,伦理上有争议。
从《未来简史》的角度,基因编辑是种进化为“神人”的方式。关于基因编辑问题,在人类利用这些方式对基因进行改变前,有一大堆棘手的难题摆在眼前。首先就是这个问题的极端复杂性,这在某种程度上意味着对人类高端行为进行基因改造几近不可能。对人类基因工程的第二个阻碍是在人体上进行实验的伦理担忧。 为什么会担心生物技术呢?曾经有一门优生学是悬在整个基因学之上的幽灵——它意味着,只专门生育有着优选的遗传特征的人类。基因工程的优生或非优生是否会广泛传播以至于改变人性,这是一个完全开放的问题。很显然,任何基因工程的手法要想对整个人群产生显著的影响,它必须是非常有用、相当安全和价格低廉的。人工婴儿初期一定非常昂贵,仅是富人的选择。人工婴儿是否会越来越便宜并因此而流行起来,这取决于科技进展的速度。
当前在生物伦理学家看来最为普遍的担忧是,这一技术只有富人可及。如果将来的生物技术能够使用一种相当安全且行之有效的基因手段,来制造更为高智商的孩子,那么这一危险性将大大提高。这种情形下,发达国家将会重新进入优生游戏,这一次不是为了阻止低智商婴儿的出生,而是用基因手法帮助天生残缺的人提升他们及他们后代的智商。也许这样能诞生所谓“神人”,然而这些发展将会面临极大的争议,因为它们挑战了人们所珍视的平等和进行道德选择的能力;这些发展给了社会新的控制公民行为的手段,会改变人们对人的品性及认同的传统理解,将会倾覆现存的社会结构,深深改变人们智商差异、财富分配比例从而影响到政治进程,进一步地将重塑全球政治的性质。
某些社会缺乏对科技的敬畏, 科技本身就是双刃剑,一项新技术、新成果带来的既有好的一面,也有需要关注和避免出现坏的一面。 这也在警示人们切勿让科技失控。
永生与幸福快乐
《未来简史》中的另外一个目标很可能是长生不老,幸福快乐,以及化身为神:在减少了饥荒,疾病和战争之后,我们希望能够克服年老甚至战胜死亡。目前有越来越多尽管还是少数的科学家和思想家公开表示,现代科学的重要任务就是战胜死亡,赋予人类永恒的青春。
不过即使人实现了永生,相应地最不缺的就是时间,人生规划将无从谈起。对人来说可能没有什么是值得花几万年几去追求的事,我们也无法想象过什么样的生活会永远是一件好事,因为没有任何生活会永远有趣且吸引人,谈不上还有什么理想,也许会说你会给自己定一个又一个的小目标——以几十年或一百年为期,因为已经是永生了,时间长度可以无限。但永生是一段非常非常漫长的时间,永远会持续到永远。除非你能不断给自己找到新的兴奋点,否则生命最终都会变得乏味和糟糕,而且极其痛苦;这就造成每种生活最终都是你想摆脱的生活。 我们现在所熟知的伦理道德也许到时候都不再起作用,例如在永生的状态,人会不断结婚和离婚。缺乏追求和伦理约束的人手,幸福快乐又在哪。
永生的成本会非常高,谁有能力获得呢?还将是那些富豪,那些有能力获得的人。而占人口大多数的中产阶级和贫困人口可能将无法享受——这会导致社会将产生新的不公平——寿命的不公平。生与死本身是自然界的选择,也是人类社会的新陈代谢,他们占据着社会的大量资源,新一代想实现他们创新的想法和期望将会难上加难。 赫拉利提出的永生与幸福快乐这两议题似乎陷入矛盾,永生真一定有幸福快乐?
人工智能的思考
2018年底,waymo掌门人和苹果联合创始人承认自动驾驶的普及还要几十年。自动驾驶技术还没达到能在任何天气和任何条件下都能驾驶的最高等级L5。一个原因是,自动驾驶的场景太多太复杂,算法达不到要求。 自动驾驶是趋势,然而还是要理性看待。
具有自我意识以及反思自身处境与行为的能力,是人类区别于其他生物最重要、最根本的一点。另外,人类的大脑皮层能力是有限的,如果将智能机器设备与人类大脑相连接,不仅会增强人类的能力,而且会使机器产生灵感。 脑机接口(BCI),现阶段是大脑植入电极,刺激神经使瘫痪病人能进行某些动作,更长远的是治疗失语症及盲人,硅谷的公司认为BCI能让人类与AI共存,然而怀疑论者认为神经科学、材料科学、机器学习、工程、设计方面还远未达到要求。
2019年卡内基梅隆大学开发无创连接的脑机接口,直接从人的头皮获取神经信号。马斯克也在2019年开发Neuralink,为植入式脑机接口。专家对BCI未来发展的预测,第一层,通过心念操纵机器,由机器代替身体的一些技能,修复残疾人生理缺陷;第二层,通过脑机接口,改善大脑运行,使人清醒高效做事;第三层,使人短期内获得大量知识和技能;第四层,不通过语言,仅靠脑电波彼此交流。似乎黑客帝国和攻壳机动队的场景要成真了。明白大脑运作机制后,人类能改造、优化它,打造超级智人。与基因改造类似,BCI可以帮助残疾人,但也会被滥用,存在伦理问题,例如从此以后人脑和电脑的界限在哪?BCI也存在被黑的风险,人的意识、决策被AI或他人入侵控制,违反自己的意志。
计算机储存的信息和知识与人的意识相互上传下载,人类意识和记忆在计算机永生。这又是另一种形式的永生,有别于上面的肉体永生,刘慈欣的《时间移民》,人类将自己的意识记忆拷贝进计算机的无形世界中,在这个世界中,想象与现实是同一个东西,人可以随心所欲,创造想要的一切,似乎实现了永生,当所有的游戏都玩遍了之后,人类甚至会厌倦玩游戏本身,进而怀疑人类存在的价值,结论不自然就是“不存在才是合理的”,人类就此消失,11000年后时间移民们找不到地球上的人类。
应认识到人与机器各有所长各有所短, AI没有意识,没有主观性和意向性,不知道自己在做什么,不知道做的目的和意义, 技术可能与价值可能之间的纠缠,人工智能能做什么不仅由技术可能性决定,更应由人的价值决定。
《未来简史》结尾的三个问题
1,生物真的只是算法,而生命也真的只是数据处理吗?
2,智能和意识,究竟哪一个才更有价值?
3,等到无意识但具备高度智能的算法比我们更了解我们自己时,社会、政治、和日常生活将会有什么变化?
第一个问题,生命是有一定的算法,是由信息组成的有机体,生命就是个不断进行信息处理的过程。但生命本身并不依赖于某一种算法,因为它的已知变量太多了,未知变量更多,不是简单地用“算法”就能描述透彻。人类真正无限的东西是思想。如果思想可以达到无穷远的话,人类就不可能是由算法决定的。类似地,人类社会的变量也非常多。市场经济把原来的计划经济取代,并不仅仅由于算法的缘故。对此只是数据处理的算法并不能称为生命,生物和算法之间必然是有区别的。这一区别就是下个问题中提到的“意识”。
第二个问题,16-17年赫拉利对“意识”的看法前后不一,《未来简史》中认为意识不重要,然而17年却又说意识比智能重要。心理学界对意识(consciousness)的理解分广义和狭义两种。广义的意识概念是指大脑对客观世界的反应,这表现了心理学脱胎于哲学的一种特殊的学术现象,而狭义的意识概念则是指人们对外界和自身的觉察与关注程度,现代心理学中对意识的论述则主要是指狭义的意识概念。算法是完全客观的,人类可以借助于算法获得智能,从而摆脱意识的局限。 而意识是人优于人工智能的地方。算法可能活干得很棒,但却没有明确的动机,都是人或者别的算法或者算法本身(未来可能会这样)让它干的。有意识,就会有其它非生存本能的需求,这些需求对物种生存来说可能是不必要的浪费。而这些非生存必要的需求,恰恰是人类优于其它生物的地方。
第三个问题,在大多数情况下,求最优解不如求“够好的解”(Good enough solution)有效率“。因为为了求最后那5%,或许要花好几倍的资源。比如为考试准备。如果准备3小时可以考95分。准备10小时能考99分,那最后这4分成本就太高了。当然,这个问题的关键是什么叫可以接受的“够好”。所以再精确的算法也不一定给人最适合的结果。算法真的更懂人吗?也许真的最好,但未必能让人接受。再退一步说,真有那么高度智能的算法比我们更了解自己时,社会和政治可能变得有规可循,日常生活将变得高效,却失去了让我们自己判断的乐趣,以及面临挑战时兴奋和不安的情绪。有不确定性的存在,生活充满魅力,多姿多彩,富有创造,如果一切都依照算法,那么真实存在的我们真的还是我们自己吗?
结语
科技不断进步一日千里,与其悲观担忧科技取代人类,不如反思人的本质到底是什么,人的独特性究竟是什么,也许这些答案不同时代会有不同的更新。