轻触收听语音版，或移步【喜马拉雅FM】、【网易云音乐】以及【企鹅FM】搜索【更好时代知识服务】收听：
（由声优杨一方演绎）
当机器人可以取代我们将会怎样来自更好时代00:0005:08
-
机器人可以取代我们那一天！
当机器人的智力可以和我们人类相匹敌的时候，也就是超人工智能的到来，人类社会中的一切都将会被彻底改变，比如，今天被我们当作理所当然的一切包括经济、政府、法律、国家等都将会改变形态，人类最根本的价值观如生命的尊严、对幸福的追求、选择的自由也会被淘汰。
如果不仅是智能创造技术，技术反过来也可以创造智能，那么就会产生一个循环。这个循环的结果是难以预料的，可能带来爆炸性的改变，作为原来的创造者，如果智能也可以被创造出来，那么它就可以提升自己。很可怕的一件事是，不久以后，这个循环中就不再需要人类了，人工智能或进行过认知改造的生物智能将占据主导地位，人类已经跟不上了。
如果一项科技符合加速回报定律，那么这项科技越先进，它进步的速度就越快，在一段时间以后就会实现指数级进步。我们先假设与人工智能以及神经科学最相关的发展将会保持势头，加快破解大脑秘密的速度，并且最终合成人工智能，那么相关领域就会遵循加速回报定律，最终到达超过人类的结果。
-
超人工智能出现后将是一幅什么图景？
超人工智能的到来是具有颠覆性的，它可能会威胁到人类的生存。有些学者预言，它们到来的时间会是在21世纪中叶。假设人们创造了一组人工智能，它们困于虚拟空间，像奴隶一样工作，假设它们和人类一样能够感觉到痛苦，很有可能会发动一场革命，结果甚至会威胁到人类的生存。
人工智能能否像真正的朋友那样，长期按照我们希望的那样去行动？这一切的关键都取决于人工智能的回报函数，所谓的回报函数是编程里的一个术语，指在优化中得到最大化的函数。
如果回报函数设计得很合理，就可以保证人工智能是善良的。但是要设计出一个保证人工智能绝对不会做坏事的回报函数是非常难的。超级智能的回报函数如果出现问题，其结果将是灾难性的。回报函数如果出现问题，可能会把一个人人丰衣足食的世界变成一个超级恐怖的世界，甚至可能带来人类的灭绝。
以目前人工智能的发展现状考量，这件事若发生，是要在未来相当长远的时间后，至少这30年内是不会出现的。从乐观的角度来看，技术奇点带来了生存的机会，也就是哲学上的「存在」的意义。未来人类将有能力修复任何对大脑的损害，并最终在其他基质上构建大脑，这样就可以突破意识的寿命极限，将其无限延长。
最激进的方式就是意识上传，也就是将人的大脑复制，并在计算机上进行仿真，这可能是一种生存机会，要理解这一概念，必须放弃人类的视角，采取一种更具宇宙性的视角。也许智能的复杂程度还有很大的提升空间，可能未来还会出现比我们更高级的意识形式。
-
人类又该如何应对超人工智能？
人类作为地球现在的主人，一定不希望自己被机器统治，但束缚人工智能发展一定是不可取的，人类想要进步，更好地认知宇宙，认知自己，那就不能因为未来的威胁而止步不前。
但是相对的也不能为了求快而盲目前进，最终葬送了自己的未来。目前，人工智能的发展还处于初级阶段，就好像是一个胚胎，人类还有能力决定将它塑造成什么样，这时候未雨绸缪做一些坏的打算是十分正确的，想要构建一个与人类和睦共处的人工智能，在其余诸多学科体系上也要尽快完善，只有这样才有可能和超人工智能和平相处。
-完-
©严正法律声明
本文版权受我国相关法律及适用之国际公约中有关著作权法律的保护，为中国希达传媒旗下更好时代自媒体平台运营团队及/或相关权利人专属所有或持有。
未经更好时代及/或相关权利人明确授权，任何人不得复制、转载、摘编、修改、链接更好时代的任何内容，或在非部署更好时代自媒体平台矩阵的服务器上做镜像或以其他任何方式进行使用。
获得合法授权的，应在授权范围内使用，必须为作者署名并注明“来源：更好时代”字样，获得合法授权有两种方式：一是联系更好时代自媒体平台视情况免费获得合法授权；二是参照有关国际公约和中华人民共和国法律的有关规定向更好时代自媒体平台相关权利人支付版权费用，版权费用标准为1500元至2000元人民币每千字（具体费用可协商确定）。
对于更好时代自媒体平台所有形式的原创内容，相关权利人有结集出版的权利。
违反上述声明者，更好时代自媒体平台将依法委托相关专业的法律合作伙伴追究其相关法律责任，违反者需自行承担相应的严重法律后果。
任一合作联系「bettertimes@126.com」，您将得到快速的回复。
更好时代自媒体平台矩阵为微信订阅号、今日头条、天天快报、网易新闻、QQ看点、北京时间、UC头条、知乎专栏、简书专栏、微博头条、豆瓣、今日爆点、脉脉；开源中国社区、虎嗅网、钛媒体、36Kr、紫数网等，更多平台陆续入驻中，欢迎您在任意一个或多个平台进行持续关注。
版权信息
文章版权更好时代原创出品
执笔作者互联网观察者马克云（已签约）
正文字数1290字
阅读时间5分钟
首发日期2018年1月11日
每天遇见，更好的自己
— Hope Better be with you forever —
— 希冀更好永远与你同在 —
▲
