从生命角度看，生命1.0是软件、硬件都不能自由设计，比如细胞；生命2.0是硬件不能自由设计，软件可以升级迭代，比如人类；生命3.0是硬件、软件都可以自由设计。
软件的自由设计你能理解，终身学习者就可以天天认知升级；那什么是硬件的自由设计呢？一辆车走着走着变成变形金刚机器人，这就是硬件的自由设计。
什么时候机器能生产出比自身更好的机器，那时候就是人工智能爆炸式增长阶段。一天十次及以上迭代。
根据这个理论，人工智能崛起可以三步走：第一步，出现一个思维速度、智能水平高过人类的通用人工智能；第二步，这个人工智能建造出碾压人类的超级智能；第三步，超级智能统治世界。
不管人类赋予人工智能什么目标，最终都会失控。因为人工智能没有人类的情感、道德和伦理，它分解出来的子目标一定会偏离原目标。
为了防止这个悲剧，人类有一招：逆向增强学习法。让人工智能观察人类的行为，自己揣摩人类的价值观。
但马上就迎来两个问题：第一，机器智能不断提高，说服越来越难；第二，人类的道德一定是完美的吗？人工智能学习了人类道德一定是好事吗？
人类道德本身存在两难困境，必须要一部分人死，4个老人和1个小孩，你选谁？战争机器人杀了敌人的士兵，但误伤了平民，要负责吗？一个人爱上了人工智能无微不至的照顾，完全看不出背后的算法和数学，他就沉溺进去了，是爱情吗？如果把机器人当作奴隶，是不是重新接受了奴隶制思想？那人工智能将来有一天是不是也可以把人类当作奴隶？
人工智能梳理
©著作权归作者所有,转载或内容合作请联系作者
- 文/潘晓璐 我一进店门，熙熙楼的掌柜王于贵愁眉苦脸地迎上来，“玉大人，你说我怎么就摊上这事。” “怎么了？”我有些...
- 文/花漫 我一把揭开白布。 她就那样静静地躺着，像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上，一...
- 文/苍兰香墨 我猛地睁开眼，长吁一口气：“原来是场噩梦啊……” “哼！你这毒妇竟也来了？” 一声冷哼从身侧响起，我...
推荐阅读更多精彩内容
- 人工智能很可能导致人类的永生或者灭绝，而这一切很可能在我们的有生之年发生。 上面这句话不是危言耸听，请耐心的看完本...
- 本白皮书前期在国标委工业二部和工信部科技司的指导下，通过梳理人工智能技术、应用和产业演进情况，分析人工智能的技术热...
