人工智能的围棋水平超越人类，如今已是不争的事实。但更加细思恐极的是，机器能做的绝不只是游戏。很多人的确已经感到了，未来被 AI 支配的恐惧。
image
无论是下围棋还是打游戏，AI 从来不需要被输入游戏规则。所有的规则、打法和策略，都是 AI 自己学习、摸索、总结出来的。
虽然看上去，AlphaGo 无论有多强，都只是一个用来解决特定问题的「弱人工智能」而已。就算是「机器威胁论」的重度患者，也很难相信 AlphaGo 能够用下围棋或打游戏的方式取代人类。
AlphaGo Zero 从对围棋一窍不通到超越所有老版 AlphaGo 只用了 40 天。
从物理学角度来看，并没有一条物理定律规定，基于电子芯片的人工智能不可能超越人类大脑机能。也并没有一条物理定律规定，人工智能一定会对人类言听计从，绝不可能违反指令。有人说可以在神经网络植入「机器人三定律」，就能阻止那些不听话的机器人。
可是，如果你认真看过阿西莫夫的机器人科幻就会明白，看似铁律的三定律其实是一个天然的悖论，机器人甚至可以在完全遵从三定律的前提下，变相做出谋杀、欺骗等明显违反三定律的行为。
从生物学角度来看，结论则更加一目了然。现代人的基因与 3 万年前的原始人类无异，而计算机发明至今只用了 70 多年。花费亿万年自然进化出的人脑，和每天进化 100 万次的 AlphaGo 较劲，相当于乌龟找阿喀琉斯单挑赛跑。
这让我想起了科幻小说�《三体》里面的技术爆炸。宇宙中为什么会存在消灭一切低级文明，就比如人类创造了机器人等人工智能，但是人工智能发展会很快超过人类，人类文明按照 5000 年算，不敢想像 5000 年之后的人工智能进化到何种水平。
简宝玉读书挑战打卡-《机器新脑：人工智能将如何进化？》读书感悟2
