电脑与人的围棋大战
摄影／曾靉。
这几天如果有关注科技新闻的人，大概都不会错过AlphaGo这套人工智慧系统与世界棋王李世乭的世纪对弈。
就在我写这篇文章的当下，AlphaGo已然连续赢得两场胜利。而在比赛开始之前，不仅棋王认为AlphaGo还不是非常成熟的棋士，也有许多评论家认为，AlphaGo虽然一月时已击败欧洲棋王，但要赢过李世乭恐怕还不是时候。
两天之内，众多人类们被打脸了。震天作响的巴掌声中，有些人开始忧虑人工智慧征服人类的那一天真的要到来了，也有些人开始「正面思考」，相信这不失为好事，因为这代表著科技将更进步，而人类的生活将更好──只要我们不丧失斗志。
威胁潜伏：人工智慧
关于人工智慧将带来的挑战，已经不是新鲜事。在之前的文章中，我也曾指出，WEF创办人兼执行主席Klaus Schwab在宣告第四次工业革命即将到来时，也将人工智慧的发展视为最大的挑战。
更不用说英国物理学大师霍金曾警告，人工智慧终将发展出自我意识。而我们无法预料这个能够独立思考、又能持续进化的人工智慧，在超越人类的同时是否也会带来灭亡。
因此，在这些「警世预言」中，AlphaGo的胜利在某些人看来，等同于宣告著人类正走向这条前途堪虑的道路。也就是说，过去我们也许会认为，人工智慧最多只是扮演辅助性的角色，但AlphaGo的胜利显然说明了人工智慧不仅能「思考」、学习，甚至在複杂的对奕中还能赢过人类。
那麽，会不会有一天，就像「天网」一样，人类将被判定是具威胁性的物种而需要毁灭？或者像Tesla创办人马斯克的「垃圾邮件灭世论」那样，在神逻辑下终结人类的命运？
图说：「天网」为电影《魔鬼终结者》中挑战人类的人工智慧，原本是政府研发的国防电脑系统，却发展出自己的智慧、判定人类是威胁他们的物种。图片来自电影剧照。
虽然好莱坞电影不断上演著类似的情节，但如今要说人工智慧真能发展到灭世的地步，确实悲观的太早了一点（吧？）。但是，我们因此就可以乐观地认为，还有大把时间让我们好好想想，要如何「控制」人工智慧吗？我认为，在「正面思考」中也存在几点令人忧心的谬误。
乐观的谬误一：科技终究只是工具
第一个乐观的谬误源自于人类根深蒂固的「主宰者」思维：科技终究只是工具。这样的想法又可以分作两个层次。
首先，我们经常认为科技就是让我们能够达到目的的物质性手段。例如，印刷术可以让我们快速生产、印製书籍；电视可以让影音资讯同步在各地放送；而电脑、手机这类数位、多媒体科技更是有各式各样的功能，满足人类的需求。
然而，一如传播学者麦克鲁汉所说的，认为各种科技物只是中性、用以达成目的的工具的人，根本就是「白日梦游者」：以为自己清醒，却从未从梦中醒来。换言之，他们从未认识到科技物真正施加于人的效果。
图说：传播学者麦克鲁汉。照片来自Len Edgerly via flickr, cc license
知名科技评论作家Nicholas Carr在《网路让我们变笨？》一书中，正是以麦克鲁汉的观点为基础，指出了网际网路如何不只是「工具」，而是正在改变人们的大脑与思维模式。
当我们将科技单纯地视为是工具时，就会跟著产生第二个层次的问题：相信人类总是科技的主宰者。
一如一些乐观者所认为的，虽然人工智慧可能显露出比人类更快、更好的智力、机器人可能已具备比人更有效、有力的生产能力，那都没有关系。因为这些人工智慧、机器人终究是为我们人类服务、为我们创造价值。
然而，乐观者也许没有看见的是，随著工业革命至今的现代社会发展已显示出：人类根本无力于成为他所以为的那个主宰者。科技的失控、反扑在一次又一次的生态浩劫与危机中显现。
图说：科技社会学家Donna Haraway。照片来自Rusten Hogness分享于wikipedia, cc by 3.0
因此，就像科技社会学家Donna Haraway所说的，我们人类其实没有自己以为的那种「充分的理性」，可以算计出为了进步、发展而可牺牲的「成本」。同样地，风险社会学家Ulrich Beck在车诺比核爆后也早已指出，风险的不确定性早已侵蚀了人类过去引以为傲的「理性」。
乐观的谬误二：科技将带给人们富足
除了乐观地认为我们可以控制、主宰人工智慧外，另一种正面思考则是认为：人工智慧的发展是好事，因为它将大幅提昇产能，让人类社会更加富足。
换言之，这类乐观的观点认为，虽然乍看起来，人工智慧与机器人将会抢走人类的工作，但也无须担心，因为它们相对地也会带来更多的产能，因此人们即便不工作也不愁吃穿。唯一需要担心的是，人类会不会因此活得太废、失去生活的意义。
从某种角度来看，这类乐观并没有错。一方面，当生产全面人工智慧化、机器人化，可能达到的产能与效率绝对可能供给全人类所需。同时，另一方面，在这样的生活状态下，我们的确需要忧虑的反而是人的心理问题。
但问题是，先不说类似的观点听起来很耳熟，工业革命发生时，也有人预言过机器化的生产将可以解除全人类的贫穷问题。甚至今天，全球浪费掉的食物都足以喂饱所有人好几次了。但人类社会真的「都已」富足了吗？
恐怕更接近事实的情况是如《纽约时报》这篇评论所说的：在未来，也许只有天龙人可以享受得到科技进步的果实。
换言之，我们不是不能正面思考人工智慧将带来的美好未来，问题在于，我们有认真想过这些科技是「为谁发展」的吗？是谁掌握著这些人工智慧、这些高科技？是谁能够决定由这些高科技所生产出来的利益的分配？
倘若上述这些问题的答案都是：资本家、资本家、资本家，那麽我们又如何能期待资本家转性不再追求利润的累积（即便因此会更大量浪费物资），转而愿意养活在他们看来很废的「鲁蛇」呢？也许不是不可能，但却未免过于乐观。
AlphaGo已经赢了两场，我不知道当这篇文章刊出来时，世界棋王会是被直落三，还是能够扳回局面。但我知道，人类若当真要开始反省人工智慧发展可能带来的后果，我们不仅不能过度悲观、恐慌，也得要避免重蹈「失控的正面思考」的覆辙。
