迈克斯·泰格马克（Max Tegmark）： 《生命3.0》（ Life 3.0: Being Human in the Age of Artificial Intelligence ）
一般人预测短期的未来往往过分乐观。上世纪六七十年代有很多人相信二十一世纪将是一个宇航的时代，人类很快就能殖民火星 —— 结果我们今天所谓的高科技只不过是……智能手机。想象一件事总比做成一件事容易，我们容易高估技术进步的速度。
但是如果要预测长期的未来，人的想象力往往又会不够用。一两百年前的人想象二十一世纪的生活，他们根本就想不到会有智能手机和计算机这些东西，他们能想象的大约是一个蒸汽朋克的世界，天空中飘着巨大的飞艇。
简单地说，意识是我们对世界的主观感受。我们的喜怒哀乐，一切感情都是因为我们有意识。一辆自动驾驶汽车也许可以出色地完成运输任务，但是遇到红灯它不会暴躁，有危险它不会害怕，撞车了它不会疼，没油了它不会饿，完成任务它不会高兴，它只是机械地做事而已。
其实现在生物学家认为，人做事的时候，本质上也是这样机械地做事。我们的各种感情只是附带产生的、多余的情绪。就算没有任何主观感受，你还是一样能做好各种事情。
但是主观感受赋予了我们生活的意义。你工作之余，偶尔抬头看看星空，感慨一下宇宙多么美好，那是因为你有意识。
泰格马克把生命分成三等，人类只能算第二等，叫“生命2.0”。我们能学习新知识，但是不能随便升级自己的身体，我们受到了很大的限制。而 AI 则是“生命3.0”，它们将可以随意升级软件和硬件，它们终将超过我们。
泰格马克推演，AI 就算没有意识也可能会有自己的目的，它们可能会不自觉地发展壮大，并且最终抛弃人类。那将是人类文明最坏的结局，我们可能会被没有意识的僵尸 AI 取代，留下一个空洞的、毫无意义的宇宙。
泰格马克发现，现在世人对 AI 的争议，基本上有两个方面。
第一是 AI 到底什么时候才能达到人的智能水平，乃至于超越人类。 所谓“达到人的智能水平”，是说 AI 具备了*通用*的智能，叫做“AGI（artificial general intelligence）” —— 而不是现在会下棋的 AI，虽然下棋比人厉害，但是你给它讲个笑话它都听不懂。
第二是 AI 对人类来说，到底是好事儿还是坏事儿？我就觉得 AI 的确可能是人类面临的最重要问题。泰格马克做了很多功课，把各派人物的观点都说清楚了，有点儿学术味道，同时还提出了自己的观点。
泰格马克的视角是大局观和“第一性原理”。咱们先说说他的大局观。考虑到 AI 的存在，泰格马克把“生命”分成了三类。
什么叫生命呢？有各种各样的定义，泰格马克给出的定义，只从信息的角度说 ——
生命，就是可以自我复制的信息处理系统。其中的“信息”包括个体硬件复制的蓝图，以及个体行为的模式。一个生命体包括“硬件”和“软件”：硬件就是它的身体，软件就是信息。
举个最简单的例子。一个微生物的结构非常简单，无性繁殖，自己就能够复制自己。它的 DNA，就是它硬件的复制蓝图。它的行为模式也很简单，就好像一个计算机算法：如果当前环境中的营养物质多，它就停留一会儿；如果这个地方营养物质少，它就换个地方。DNA 和它的这种行为算法，就是它的软件
生命1.0 ，是说这个生命的硬件系统和软件系统都是靠演化来进行更新迭代的，完全是自然选择的结果。
生命2.0 ，是硬件升级仍然依赖自然演化，一部分软件升级则可以自己设计。这就是人类的特点，人是可以学习的。
生命3.0 ，则是硬件和软件都可以自己设计。
正如我们开头说的太空探测，人是个累赘 —— 维持一个人的生命系统非常麻烦，人的效率太低，升级余地太小。而纯机器 AI，摆脱了人的血肉的束缚，那潜力可就大多了，也容易多了。
如果将来有一天 AI 真的具备了人的全部智能，而且还可以自己设计自己的下一代，这样一代比一代强地升级下去，将会是一个什么局面？那些3.0的生命看我们，是不是跟现在我们看那些1.0的动物一样？
生命3.0的 AI 如果出现，那将是人类最后一个发明。从此之后，发明创造可能就用不着我们了。
什么叫“智能”呢？泰格马克给了一个比较笼统的定义：智能就是完成一个复杂目的的能力。当然，你可以进一步追问什么叫复杂，这都是科学家也说不清道不明的概念……不过这个意思你显然理解。反正能随机应变地完成一些复杂的任务，就可以叫做智能了。
想要实现智能，AI 大概只需要三种能力：存储信息、计算，和自我学习。
未来的人类文明会使用什么样的手段去获取能源，用什么样的方式生活？美国人爱说一句话叫“Sky is the limit”，翻译成中文大概叫“只有天空是尽头” —— 如果你考虑到超级 AI 的存在，那天空根本就不是尽头。物理学的限制，才是尽头。
1.AI 听命于人类
AI 驾驶汽车和 AI 参与医疗这些技术现在已经几乎成熟了，当前的主要问题是解决可靠性。
还有我们说过多次的，AI 可能让很多人失业。所以你看，AI 兴起的世界中其实有很多新烦恼。
但那个世界毕竟还是人类说了算。
2.AI 与人类共治天下
再往远考虑一点，恐怕就不仅仅是 AI 为人类服务了，人和 AI 之间会有主导权的斗争。
比如说，假设现在有一套遍布全国的监控系统，由 AI 统一管理。它给每个人身上带一个身份识别设备，它知道每个人在干什么，它甚至能根据一个人的性格和情绪预测这个人将会干什么。你说这套系统会不会变成独裁者的统治工具？
所有这些全面限制 AI 的手段都不太现实。除非你有一个统一了全世界的强权，否则就算你们国家限制 AI，别的国家也会发展 AI。越是弱国就越可能把灵魂卖给 AI，换取自身的强大。
3.AI 主导人类文明
如果我们考虑更远的尺度，比如说一万年以后，你几乎肯定那时候 AI 已经完全超越了人类。人类是否还有必要存在，都是个问题。
人是个效率很低的生物。用爱因斯坦的质能方程 E=mc^2，看各种获取能量的方式相当于消耗了多少质量来算的话，我们吃糖获得的能量消耗效率，相当于0.00000001%。烧煤的效率相当于吃糖的三倍。汽油相当于吃糖的五倍。这都是非常低效的能源。
如果你使用裂变反应的核能，效率一下子达到0.08%。用核聚变，效率能达到0.7%。可是如果将来的 AI 能做到用黑洞发电，根据物理学家的理论，效率可以达到20%以上，甚至达到90%。
AI 会在外层空间造一个巨大的球体，把太阳整个给包围起来。然后我们人类文明就可以生活在这个球体上，面积绝对够用怎么折腾都可以 。这么一来，我们就把所有的太阳光都用上了，一点都不浪费。只要球体足够大，阳光并不会很刺眼，球的内侧永远都是白天 —— 而如果你想看星空，直接下楼去球的外侧看。建设这么一个球需要的资源从哪里来呢？也许 AI 可以先把木星拆了。
AI 殖民不需要载人。AI 可以带着人类的 DNA 信息，用20年的时间飞到十光年以外的一个星球，在那里建设十年，用 DNA 信息现场组装出人类来。然后 AI 可以从那里出发再往前推进。 如果这么算的话，地球文明几乎就是以光速去殖民整个宇宙，文明扩散的唯一的限制是暗能量导致的宇宙膨胀！
这个星辰大海的前景只有两个问题。
第一个问题是，这一切可能都跟人类无关了。如果 AI 主导一切，人的位置在哪里？人存在的意义在哪里？
第二个问题则是，AI 愿意去做这一切吗？AI 会不会有自己独立的意志，它还会不会在乎我们这个文明？
wwg
