《生命3.0》序言：怎样正确地关心人类命运
1. 《生命3.0》的作者泰格马克把生命分成三等，人类只能算第二等，叫“生命2.0”；而 AI 则是“生命3.0”，它们将可以随意升级软件和硬件，它们终将超过我们。
2. 决定人类终极命运的，只有这一个问题最重要 —— AI 到底能不能拥有人的意识。
每个人都关心自己的命运，很多人关心国家的命运，而你还应该关心人类的命运。人类命运是个大尺度的问题，未来究竟会怎样。
一般人预测短期的未来往往过分乐观。想象一件事总比做成一件事容易，容易高估技术进步的速度。
但是如果要预测长期的未来，人的想象力往往又会不够用。一两百年前的人想象二十一世纪的生活，他们根本就想不到会有智能手机和计算机这些东西，他们能想象的大约是一个蒸汽朋克的世界，天空中飘着巨大的飞艇。
泰格马克可能是当今活跃着的最有意思的一位物理学家。他在量子力学和宇宙学这些最正宗的物理领域里做出过很了不起的工作，而且还涉猎广泛，跨界搞过人工智能方面的理论研究。而且他还很有思想，提出了“数学宇宙”这个哲学的世界观。而且他还热衷于社会活动，跟物理学和人工智能界的很多大佬经常互动。而且他还很会写书。
李鸿章年轻的时候有一句诗叫“一万年来谁著史”，泰格马克这本《生命3.0》的气魄比那个还大。这本书研究的是人类的终极命运。
这个问题本来都是交给哲学家和科幻小说作家，物理学家能干什么呢？答案是物理学家的推导更精确，而且更有想象力。
比如一想到未来，就关心地球环境会不会被破坏，能源够不够用，哲学家可能深表忧虑。但是物理学家知道，人类目前的能源汲取水平远远没有到顶，跟将来可以使用的聚变核能和太阳能相比连九牛一毛都算不上。只考虑物理定律的限制，宇宙是你的大舞台，能源根本就不是问题。
再比如人工智能。科幻小说作家畅想未来，经常会犯两种跟 AI 有关的错误。一种错误是没有充分考虑 AI，还以为都是人在主导一切。另一种错误是误判了 AI。有些作品里机器人动不动就活了 — 有人的意识，但是智力水平居然并不明显高于人，有时候还挺笨的！而科学家会告诉你，让 AI 获得意识非常非常困难，但是让 AI 的智能超过人则相当容易。
决定人类终极命运的，只有这一个问题最重要 —— AI 到底能不能拥有人的意识。
意识是我们对世界的主观感受。喜怒哀乐，一切感情都是因为有意识。一辆自动驾驶汽车也许可以出色地完成运输任务，但是遇到红灯它不会暴躁，有危险它不会害怕，撞车了它不会疼，没油了它不会饿，完成任务它不会高兴，它只是机械地做事而已。
其实现在生物学家认为，人做事的时候，本质上也是这样机械地做事。各种感情只是附带产生的、多余的情绪。就算没有任何主观感受，你还是一样能做好各种事情。
但是主观感受赋予了生活的意义。工作之余，偶尔抬头看看星空，感慨一下宇宙多么美好，那是因为你有意识。如果人没有意识，那一个人跟一堆沙子就没有本质区别，人生就没有意义，整个宇宙的存在就没有价值。
将来的 AI 有没有意识？
科幻小说作家会说既然世界上并没有“灵魂”这种东西，人纯粹是由原子组成的，那 AI 当然就可以有意识。按理说是这样的。但科学家会给 AI 的意识做出一些限制。比如这本书中介绍了一个叫做“整体信息论“的意识理论，这个理论要求有意识的物体必须是信息高速整合的，而物理定律要求信息的传播速度有限，AI 大脑的大小就必须限制在一个不太大的范围之内。AI 的聪明程度将是有限的。
但再有限也比人类厉害得多。那么将来的结局就是 AI 淘汰人类。如果双方和平交接，AI 将作为人类文明的代表去征服宇宙的各个角落，人类将是 AI 的宠物。
如果 AI 一直都没有意识，事情就更麻烦了。泰格马克推演，AI 就算没有意识也可能会有自己的目的，它们可能会不自觉地发展壮大，并且最终抛弃人类。那将是人类文明最坏的结局，可能会被没有意识的僵尸 AI 取代，留下一个空洞的、毫无意义的宇宙。
鉴于这些结局好像都不怎么理想，需要知道意识到底是怎么回事儿，将来的 AI 到底会怎样。
这并不是泰格马克自己在杞人忧天。美国上上下下，从学者到企业家和老百姓，现在对意识和 AI 想的非常多，主流媒体上也经常讨论，新研究新思想层出不穷。
中国人对 AI 的各种应用非常关心，也很了解，但是对人的意识、AI 的原理这些问题关心不够。我们有太多面向过去的思想家，还总想用过去指导未来，可是未来世界的逻辑很可能跟过去很不一样。
到底什么是意识？人到底是一个什么样的机器？就算你觉得未来太遥远，只要你关心人，这些问题就会让你寝食难安。这就是现在世界上最聪明的大脑都在想的问题。而这本书告诉你的大约就是目前已知最好的答案。
1:大局观下的生命和智能
生命是可以自我复制的信息处理系统：
生命1.0 ，是说这个生命的硬件系统和软件系统都是靠演化来进行更新迭代的，完全是自然选择的结果。
生命2.0 ，是硬件升级仍然依赖自然演化，一部分软件升级则可以自己设计。
生命3.0 ，则是硬件和软件都可以自己设计。
2017年有个卡西尼号探测器的新闻，不知你关注没有。这个探测器用20年的时间，飞行了超过60亿公里，代表人类造访了土星，漂亮地完成了一系列探测任务。
关键词是“代表”。过去这几十年，美国宇航局对载人任务似乎不再热心了，大量的任务都是不载人的探测器，而这些探测器对太阳系遥远的天体进行了出色的探测。事实上，不论过去、现在、还是未来，不载人任务取得的科学成果，都比载人任务要多得多。
对太空探测来说，人，是个累赘。
人是个累赘是读这本书的突出感受。这本书叫《生命3.0》（ Life 3.0: Being Human in the Age of Artificial Intelligence），2017年8月29日出版，作者麻省理工学院物理学教授迈克斯·泰格马克（Max Tegmark）。
泰格马克是个有意思的人物，本身是物理学家，在人工智能方面也做过一些漂亮的研究，而且很擅长写书！前一本书叫《穿越平行宇宙》（Our Mathematical Universe）。
这本书刚一上市，就得到了特斯拉和 Space X 的 CEO、也是著名的人工智能异议人士，伊隆·马斯克的 Twitter 推荐 ——
这又是一本说 AI的书。AI 是热门话题，而泰格马克这本书可能会给你带来新的启发。
首先，泰格马克是以物理学家的视角说 AI。其次，泰格马克的朋友圈特别厉害。当今掌握 AI 话语权的一线人物，比如 Google 创始人拉里·佩奇、特斯拉创始人伊隆·马斯克，机器学习专家吴恩达跟他是好朋友。包括霍金、戴森这些老一辈，也经常跟他互动。所以你要想知道现在学术界和工业界对 AI 是怎么认识的，泰格马克可能是你要找的人。
而这些人，并没有多大的共识。
通过朋友圈互动，泰格马克就发现这些一线人物对 AI 的前景有很大的争议。为了搞清楚他们到底在争论什么，以及这些人是否能达成一定限度的共识，他成立了一个叫“未来生命研究所（Future of Life Institute）”的非营利组织，还召集了当今和 AI 相关的大牛人物，跑到波多黎各去开了个闭门会议。
泰格马克发现，现在世人对 AI 的争议，基本上有两个方面。
第一是 AI 到底什么时候才能达到人的智能水平，乃至于超越人类。所谓“达到人的智能水平”，是说 AI 具备了*通用*的智能，叫做“AGI（artificial general intelligence）” —— 而不是现在会下棋的 AI，虽然下棋比人厉害，但是你给它讲个笑话它都听不懂。
比如《奇点临近》这本书的作者雷·库兹韦尔就认为 AGI 很快就能实现，所谓“奇点”马上就要到了，我们这一代人就能过上好日子。而有些人则对此嗤之以鼻，认为再过几百年也实现不了。比如吴恩达就说，“你们现在担心 AI 能有多厉害，就相当于担心火星上人口过剩的问题。”
第二是 AI 对人类来说，到底是好事儿还是坏事儿？Google 的拉里·佩奇是乐观派，他说 AI 必然是全人类的福祉所在，只有好处，你就等着将来过快乐生活吧。而伊隆·马斯克和霍金则一再提醒，AI 可能会给人类带来威胁。
泰格马克的视角是大局观和“第一性原理”。考虑到 AI 的存在，泰格马克把“生命”分成了三类。
什么叫生命呢？有各种各样的定义，泰格马克给出的定义，只从信息的角度说 ——
生命，就是可以自我复制的信息处理系统。其中的“信息”包括个体硬件复制的蓝图，以及个体行为的模式。一个生命体包括“硬件”和“软件”：硬件就是它的身体，软件就是信息。
举个最简单的例子。一个微生物的结构非常简单，无性繁殖，自己就能够复制自己。它的 DNA，就是它硬件的复制蓝图。它的行为模式也很简单，就好像一个计算机算法：如果当前环境中的营养物质多，它就停留一会儿；如果这个地方营养物质少，它就换个地方。DNA 和它的这种行为算法，就是它的软件。
生命1.0，是说这个生命的硬件系统和软件系统都是靠演化来进行更新迭代的，完全是自然选择的结果。
基本上除了人以外所有的生物都是如此。这是达尔文进化论的标准理论。有时候你觉得动物也会一代比一代聪明一代比一代强壮，那只不过是因为自然选择。环境变了动物不会主动适应，只能寄希望于下一代，通过生育过程中的随机变异。条件好的有优先交配权，不行的被淘汰了，行的留下。一切功能上的改进都是听天由命，而不是主动学习的结果。
生命2.0，是硬件升级仍然依赖自然演化，一部分软件升级则可以自己设计。
这就是人类的特点，人是可以学习的。
把人类在复杂世界中所有的生存技能都遗传给下一代是不可能的，生殖细胞的存储能力根本不够。人身上的可遗传信息，把所有DNA信息加起来，大概只有1.6GB。而成年人大脑中可以存储的信息量，则是100TB（注：1TB=1024GB）。所以最理想的办法是只遗传最基本的本能，把绝大多数技能都留到后天慢慢学习。
这 100TB 的脑容量就可以让你装下很多很多东西了，学习的潜能是巨大的。更重要的是这个软件升级模式可以让你随机应变。也许你长大后所处的环境跟父母那一代截然不同，但是因为你可以学习，你随时能适应新环境。比如你父亲是很好的猎手，你从小具备了优秀的猎人基因 —— 城市化以后你不能打猎了， 但是你还能学别的，你可以“主动”适应环境。
正因为人是“生命2.0”，可以在一定程度上自己设计软件系统，人才是万物灵长。所以我们千万不要像那些1.0的生物一样整天感慨遗传基因好不好，给你那么大的大脑是让你学习用的。
生命3.0，则是硬件和软件都可以自己设计。
你认为计算机是有生命的吗？根据前面对生命的定义，如果一个 AI 系统会自己复制自己的下一代，那我们就可以认为它是有生命的。如果这个 AI 还具有自己学习新东西的能力，而且还能升级硬件，那它就是生命3.0。
计算机升级硬件是家常便饭。内存不够大可以加内存条，CPU不够快可以换CPU。当然我们人类现在也可以在一定程度上给自己升级一下硬件，比如说装个假牙之类，但这不是决定性的升级，所以大概只能算生命2.1。
比如我就觉得我的硬件不行，我非常希望能够像计算机那样一秒钟之内就看完一本书，但我的输入设备 —— 眼睛和耳朵 —— 的带宽实在有限，我大脑的理解速度太慢。
赫拉利在《未来简史》中设想了一种“神人”，能把自己和 AI 结合起来，真正给身体和大脑升级。但是泰格马克这里说的生命3.0，可不是这些神人。
泰格马克说的是干脆不带人，纯机器 AI。正如我们开头说的太空探测，人是个累赘 —— 维持一个人的生命系统非常麻烦，人的效率太低，升级余地太小。而纯机器 AI，摆脱了人的血肉的束缚，那潜力可就大多了，也容易多了。
如果将来有一天 AI 真的具备了人的全部智能，而且还可以自己设计自己的下一代，这样一代比一代强地升级下去，将会是一个什么局面？那些3.0的生命看我们，是不是跟现在我们看那些1.0的动物一样？
生命3.0的 AI 如果出现，那将是人类最后一个发明。从此之后，发明创造可能就用不着我们了。
