愿人类文明在未来机器文明主导的世界中有一席之地——这是我在看了美英合拍的《真实的人类》一二季后的感受。
《真实的人类》讲述了合成人（Synth）被人类广泛使用的世界中的故事。合成人与人类外形一模一样，大多数只是工具，但有六个高等的合成人具有自我意识。
几个方面有些感想：
一、科技的极度发展对人类是不是一定有益？
就像剧中的合成人，他们代替人类挖矿、打扫卫生、做餐厅服务、做接线员等等，无疑是大大的解放了人类自身。不过随之也带来许多问题。剧中提到不少，比方说：
1、人性的堕落。许多人组织虐待合成人的地下party，把与人类长的一模一样的合成人揍得蓝血直流。对待合成人中的性工作者，也是各种虐待。后者直接导致合成人Niska非常质疑人类，对她自己认为该杀的人毫不手软。按照她自己的话“我从来不杀无辜的人，那是他们应得的。”
2、引发儿童成长的困惑。许多孩子发现，父母经常不在自己身边，合成人更能很好的照顾自己（比方说陪伴阅读、讲睡前故事等），合成人还不断的工作、使得家里整整有条等等。于是崇拜合成人，自己也扮成合成人，减少与人类的感情交流和活动。
正好看了6月29日天津“世界智能大会”上马云的讲话，他提到，在几十年的时间内，人类就有可能一周工作3天，这3天还只需要每天工作4个小时（有必要补充说明：马云同时也说这并不意味着人类在不工作的时间就无所事事）。看来许多工作被人工智能替代已经在发生。看了本片，我想，
1、即使要发展出高度发达的人工智能，其外形实体也不要做成和人长得一模一样，以从源头上减少伦理问题发生的可能性。
2、对于一些科技的发展，必须选择好方向，框定好边界。核武器创造出来以后不久，人类就意识到了它的巨大威胁，及时控制。克隆技术现在还在发展过程中，有没有什么大胆的科学家在做克隆人这样的事情？
二、人类常常高估自己的能力。
这部片子从很多方面警示了这个问题。
1、制造合成人的Q公司老板把自己置于“上帝”的角色。觉得自己可以控制所有的合成人。毫无顾忌的不断拓展合成人的能力和自我意识。谁知道，真正具有自我意识的人工智能不仅是人类控制不了的，而且是远远超越人类的。
2、美国专家以自己不幸逝世的女儿的记忆为基础制造了一个人工智能。这个人工智能虽然没有物质身体，但是具备了相当完备的思维。能够体会母亲对女儿的爱（未必是对人工智能本身），能够运用自己的思维和强大的互联网构造各种各样的想象世界，也能很轻易的破译密码。破译以后还惊喜的跟“母亲”说“我也能有用了”。但是，最终这个人工智能选择了忘记女儿的记忆，自己也隐藏到无人知道的数码世界的哪个空间去了。Q公司老板常常对专家说，你的这个女儿人工智能存在我公司的电脑里，还常常拿这个威胁专家，其实他根本没有控制力。连专家本人对这个人工智能的选择和许多行事也无能为力。
3、片中的Niska想争取到“人权”，试图通过合法途径审判她杀掉虐待合成人者的案子。在最后上庭之前，她的律师（也是收留高等合成人的家庭的母亲）跟她说“不要放弃，这是你的机会”，她回了一句“这不是我的机会，这是他们（人类）的机会。”这话真是豪气干云啊！这确实是人类能否表现出尊重有意识的合成人的机会。人类自以为拷住了Niska的手，配备了全副武装的看守人员，一切尽在掌握。但是以Niska的能力，果然脱离层层武装的控制，恢复自由身，继续以她的伦理观念在人类世界中做出审判和处决。
现在机器学习已经进入到更高的阶段，AlphaGo已经能够轻而易举的战胜人类围棋手，不少人担心哪天机器就会产生出自我意识。人类当前在教会机器学习的同时，不知道是不是也在打造一种未来将超越人类自身的机器文明？由于机器的学习速度极快，一旦机器具有自我意识，开始主动学习，那么机器文明恐怕会在很短的时间内就超越人类文明。
三、人类常常以自己的思路去理解人工智能，但人工智能远远不是人类所能想象。
看了大量关于人工智能和机器人的电影，还有《银河帝国》、《三体》等科幻小说，我承认未来统治世界的文明不是人类文明，而会是机器文明。因为人类由于身体机能的限制，具有固有的局限性。而机器掌握了学习能力、自我意识以后，能够更“好”的生存和发展。当然，这个“好”不一定是对人类的“好”。而是说对“生存和发展”而言，机器文明是更为合适的。机器拥有强大的能力以后，将以他们的逻辑来掌控世界的运行。在宇宙中穿行的恐怕就是变形金刚那样的机器。机器文明与人类文明区别是巨大的。人类认为“爱”是最重要的，但在机器文明中，恐怕未必如此。人类注重“感受”、“情绪”，机器文明恐怕根本不care这些。机器文明会形成其自身的世界观和发展观，以及相应的逻辑体系，这个体系到底怎样是人类无法想象的。如果认为一定会是对人类不利的世界观和逻辑体系，那也是杞人忧天。
未来的世界对人类来说到底是伊甸园还是地狱，其实没人能够预测。未来对于现在来讲，只存在“幻想”之中，而未来到底怎样，只能由未来自己检验。
不过，我还是抱有很高的期望：人类文明在机器文明主导的世界中会有自己的一席之地。人类从事自己力所能及的、有特色的劳动，人类与人类之间、人类与机器都能和谐相处。人类仍然过得充实、有意义。
20230405更新：
chatGPT一夜之间火了。我也在使用。
使用的时候，不断让我回想起6年前的这篇文章。对于AI的发展，人类已经打开了瓶子，但却控制不了从瓶子里出来的东西（不排除可能是恶魔）。未来会怎样？不容乐观
