今天是开心陪伴你每天一本书的第281天。
今日共读：《生命3.0》
一、生命3.0的出现不是循序渐进的积累，而是爆炸式的突现，一旦这个爆炸发生，人工智能具备了自我迭代升级的能力，它就会迅速进化，把人类远远甩在后面。
第一步，建造人类智力水平相当、但是思维速度要高于人类的通用人工智能，也就是普罗米修斯。第二步，用这个通用人工智能来建造更高级的、可以应用在各个领域的超级智能。第三步，使用或者放任这些超级智能来统治世界。
二、应该赋予人工智能什么样的目标？
人工智能所理解的目标跟我们输入的目标不是一回事。人类所有的目标体系都是建立在道德、情感、伦理这些不言自明的基础上的，但机器人并不具备这些。
人工智能的目标很难控制，因为它们会自动把确定的大目标拆解成未知的次级目标，在执行的过程中，次级目标还有可能会反超大目标，所以，可以考虑另一种方法，为它们装载人类的伦理和价值观，让人工智能和人类保持目标一致，目前比较流行的方法是逆向增强学习。三、人工智能也是一面审视自我的镜子，我们在思考人工智能的道德时，也在反思自己的道德。
图片发自简书App
