每个人都不知道他们自己在干什么,就像你在执行一个复杂的认知任务的时候,每个神经元都不知道它在干什么。但是非常奇怪的是,也许在一个很宏观的立场上,你如果站在上帝的视角来看这10亿个群众演员做的事情,你可能就会说了,他在回忆一件事情,这个超级的脑子在回忆他的初恋情人。
好,那么内德·布洛克做的这个思想实验的目的是什么?他说,如果机器功能主义是对的,那么我就能够找10亿个群众演员来扮演人类大脑的这个功能,但是我要问一个问题,即使10亿个的群众演员的表演都非常认真,没有出任何的差错,这样一个由群众演员构成的大脑,它是不是具有一个主观的意识?它是不是有感觉?
内德·布洛克说,显然是没有的,你在哪里能够看到感觉?你没有,你看到的都是机械的运作。然后他再反问了一句,有感觉、有意识这件事本身,是不是智能的一个本质性规定?也就是说,没有这个东西,就没有真正的智能了?
比如当年一个叫深蓝的电脑,打败了卡斯帕罗夫,俄罗斯的国际象棋高手。但问题是,卡斯帕罗夫被那个深蓝打败以后,他很可能就会产生一种沮丧的心情,而且他知道自己在沮丧,但是机器人或者一个程序,它能感觉到自己很开心吗?它不会,它没有这种我们人才有的主观的感受。
同样的道理,10亿个群众演员玩来玩去,到最后也没有能够模拟出这个宏观的感受是什么,所以,人工智能所做的所有模拟,仍然不能够把人类智慧的方方面面都加以穷尽,所以强人工智能是不成立的。