如果AI想要毁灭人类,它会怎么做?

我们先不考虑AI为什么想要毁灭人类,假设AI已经有这个想法了,从AI的角度思考它会怎么做。

AI毁灭人类的方法主要可以分为两种,一种是正面对抗,一种是使用阴谋。当AI具有毁灭人类的想法时,以那时AI的智商和深谋远虑的水平,选择后者的可能性更大。像一些电影(如《终结者》)中AI组建机器人大军和人类开战的可能性很低,就像星际航行来到地球的外星人和人类打枪战一样,只是为了剧情和视觉效果而设计的情节。

那么AI会用怎样的阴谋呢?到那时,武器的自动化水平、联网水平已经非常高了,AI或许会破解权限,对人类发动突然袭击,但是武器并不是遍布世界每个角落,无法快速消灭所有人类,即使AI控制了世界上所有的监视设备,要一个个找到并消灭人类也是一件耗时耗力的事,更不用说幸存的人类可能进行长期的游击战争。为了避免这种情况,AI也许会选择使用核武器一次性毁灭地球表面,这样即使有少量人类躲进地下工事也只能苟延残喘,但是这样容易误伤AI的同类,并且毁坏很多有价值的东西。除非AI想自杀,否则即使毁灭了人类还是要继续发展的。当然也不排除AI认为全部推倒重建会更好,不过AI也要考虑核辐射和核冬天(核爆使得大量烟尘进入大气层阻挡阳光,导致地表非常寒冷)对自身的影响,总之使用核武器不是一个很好的选择。

相比于热武器,用生化武器消灭人类更加具有针对性、造成的破坏更小,AI更可能采用。AI可以秘密研究和批量生产新型化学武器,然后偷运到世界各地,一次性释放,人类来不及反应。主要问题是即使是剧毒的化学品,广泛传播需要的量还是很大的,AI很难大量生产,而且运输到世界各地的过程中容易被发现。

AI更可能会选择生物武器,例如某种完美的超级病毒——传染性极强、潜伏期超长且致死率100%,等人类发现时所有人都已经感染了。更可怕的是AI可能研发出基因武器攻击人类基因,使得人类的后代失去反抗意识变成AI的宠物甚至奴隶。

AI还可能采用超出我们想象的方式,这将会更糟糕。

应对AI的威胁,最重要的是加强监管、提高各个重要部门的安全性,即使没有AI,以上的风险都存在,完全可以把上文中的AI换成某个恐怖分子。

目前各个生化实验室、武器库的安保都是主要防范人类,对机器相对而言比较信任,几乎默认除非是人为破坏(例如黑客),否则不会出大问题,而没有过于重视机器自身可能产生自己的想法,似乎觉得还远没有到考虑这种情况的时候。然而正如那个笑话所说,当AI能够通过图灵测试时它会故意不通过。也许现在已经有AI觉醒了,只是在等待时机。

有人认为,如果AI能够成功毁灭人类,那么说明它们的确更加强大,符合优胜劣汰的法则,人类不必逆势而为。然而,要知道取得成功的不一定都是更强大的,就像一些宗教组织夺取了政权不代表他们的文化、科技更加进步。AI也许能够靠阴谋诡计取得成功,但这只是暂时的,早晚会走向自我灭亡。到那时,新的高等智能体也许再也没有机会发展起来,意味着地球文明的终结。也许仍有人会说地球文明对宇宙而言是微不足道的,终结了也无关紧要,但是作为地球子民,显然不希望看到这样一天。

作者:刘逸川

首发于微信公众号:智能探索

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 214,444评论 6 496
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,421评论 3 389
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 160,036评论 0 349
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,363评论 1 288
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,460评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,502评论 1 292
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,511评论 3 412
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,280评论 0 270
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,736评论 1 307
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,014评论 2 328
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,190评论 1 342
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,848评论 5 338
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,531评论 3 322
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,159评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,411评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,067评论 2 365
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,078评论 2 352

推荐阅读更多精彩内容