1997年IBM的深蓝（Deep Blue）与Garry Kasparov之间的象棋对决已经让人工智能出尽风头，近日，Google的阿尔法狗（AlphaGo）连下三城，让围棋界及人类界哀鸿一片。有意思的是第四场对决，阿尔法狗以一种bug式的状态连抛数子，继而成全了人类所谓“最后的尊严”。阿尔法狗如此反常的举动背后会是什么呢？有三种可能，一，超出其计算能力/模式范畴；二，受人控制；三，故意让子。第一种可能，是我们的理想；第二种，人类的利益博弈或善意阴谋；第三种，已经不敢再深入想下去了！
上世纪50年代，天才的“计算机之父”图灵提出著名的Turing Testing（图灵测试），即一个人在不接触对方的情况下，通过一种特殊的方式，和对方进行一系列的问答，如果在相当长时间内，他无法根据这些问题判断对方是人还是计算机，那么，就可以认为这个计算机具有同人相当的智力，即这台计算机是能思维的。图灵测试建立在人工智能对人类极度了解的基础之上。如果阿尔法狗第四局的失利是出于第三种可能，那它就必定具备了通过图灵测试的能力。
人工智能通过图灵测试，说明它可能具备了人的智力，但若是这种智力的成长过于快速，致使它们选择故意不通过图灵测试呢？细思极恐。
英剧Humans里将人工智能具备感情/人性作为其威胁人类的临界点。AI这种去模块化、非理性的学习/成长方式，我们认为是进化。但现今工业社会，人类都在追逐模块化、理性化的高效思维/工作模式，摒弃人类本性里的感性成分，恰与AI背道相驰。在某个交界点上，人类与AI不分你我。
当AI进化到思维模式和反应能力与人类一般无二时，我们是否应该将其当人看待？如果AI可以进化成我们，那我们人类是否也是另外一种高级智慧所创造出来的？若从生物进化的角度来看，人类与其他生命之间的进化断层太大、进化时间也似乎过于短暂。如果人类是被设计出来的机器/生命，一切就都说得通了。于是又回到那个终极问题，以及众多的AI科幻电影/小说都在反复提起的问题：何为人性？我们是谁，从哪里来，要到哪里去？
