奇点临近读后感

作者的观点

作者认为人类会逐渐与人工智能融合,最终数字化,并利用人工智能的进化速度得到飞速提升,进而统治宇宙。

反对意见

第一,

人类通过数字化变为永生,人类智力会有瞬间飞跃,但是人类的道德水准会有瞬间提升么?这是不是相当于一个孩子掌握了威力不断增长的武器……

第二,

人工智能如果有了自我意识,会不会希望像虫族女皇一样,控制一切外设?那么人工智能会希望自己是这个世界上唯一的超级智能,人类就是他们最大的危险,拥有自我意识的人工智能不会允许人类成为新的超级智能。

那么如何阻止?

首先,要从逻辑上消除网络成为黑森林的可能性。允许多个信息化的意识共存并且不会不可避免地走向敌对。

其次,对人工智能程序从逻辑上进行限制,必要时要限制人工智能的进化速度,不可以让其失控。

第三,研究在人工智能的道德取向,模拟机器意识随着智能提升会做些什么,防范于未然。

第四,待续……

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容