人工智能的研发的一次偶然“失控”

《太阳报》（8月1日）头版报道了一则"机器人正在接手主动权么？"的新闻。报道称， Facebook最近关停了一项人工智能实验，因为两个机器人开始用自己的语言交流。聊天机器人Alice和Bob在实验中讲英语转化成了一种更易于他们沟通的语言，而这种语言只有他们自己能理解。

事情的来龙去脉

实际情况是这样的，Facebook人工智能研究院（FAIR）想要训练一个聊天机器人，让它学会和人谈判，于是开发开始开发一套智能程序，能够听懂、思考、交流的智能程序。在训练之后和人进行谈判，当初初期只是交流很简单的东西。

在研究测试时，调皮的程序员突发奇想，让两个机器人进行聊天谈判，看会碰撞出怎样的火花，于是，就出现了网路上传播甚广的“机器人暗语”。

之所以会出现这段看似是英语，却用英语语法解释不通的对话，这个机器间的“暗语”其实是：

研究员在为系统设置激励条件时， 虽然告诉了它们“请用英文”，但忘了告诉它们“请用英文语法”。 换句话说，如果系统中编写针对英语语法的奖励机制，系统就会偏向于更符合英语语法的语言，也就不会出现现在这种情况。

所以这只是个技术上简单的失误，而对于这个问题的讨论却很多，看出人们普遍对于人工智能的担忧，可以说人工智能对人类已经存在一些潜在的威胁，而在未来，人类可完全把控人工智能吗？如果出现上面的技术失误，可能结果不是那么简单，会出现“一失足成千古恨”那么的惨痛教训吗？

扎克伯格与马斯克：互怼人工智能是否会毁灭人类

硅谷两大科技巨头Facebook马克·扎克伯格和特斯拉CEO埃隆·马斯克曾为人工智能问题发生过争论。

扎克伯格对人工智能的未来发展及对社会的影响持乐观态度，而马斯克却怀有一丝恐惧。

马斯克在Twitter上给予了回击，称扎克伯格根本不了解人工智能。马斯克说：

“我和扎克伯格探讨过该问题，他对这一问题的理解有限。”

在经过了双方的互怼之后，扎克伯格在Facebook上再次发表文章，侧面回击马斯克。他说：

“我对人工智能持乐观态度的一个原因是：基础研究的进步改善了人工智能在许多领域的表现，从诊断疾病维持健康，到更安全的自动驾驶汽车；从更高质量的新闻推送内容，到更具相关性的搜索结果。每一次我们提高人工智能技术后，相关的应用都会变得更好。对于人工智能所取得的所有进步，以及让世界变得更美好的潜力，我感到兴奋。”

人工智能会失控吗？

右侧漂亮女主是机器人

一些行业正在被互联网摧毁，一些行业正在重生，但互联网没法改变商业的本质。

互联网已经如同空气、水和阳光般，成为我们生活的必需品，互联网也不再只是一种媒介或者是一种渠道的补充，而成为了一种割舍不了的生活习惯，一种思维的方式，一种打破所有界限，消除了各种信息不对称、时间不对称和空间不对称的思考模式。

而吸引人的是，谁都不知道这个失控时代的营销真相，会是一个怎样无厘头的答案。

很久很久以前，当智能手机刚刚降临人世间之时，有句话颇为流行：我要这么多功能做甚？手机能打电话发短信就足够了，其他的都是多余。上网？我有电脑哇！

很久很久以后，当智能手机已经变成普及品之时，也同样有几句话你会经常听到：又到月底了流量又不够用了！这有wifi没？密码多少？

历史的车轮滚滚飞驰向前的速度超越以往任何一个时代，可以肯定的只有一件事，科技的飞速发展，飞速地改变着每个人的生活。无线网络技术的普及+处理器能力的升级+触屏技术的成熟，最终带来的即是我们身处的时代——移动互联网的时代。

互联网安全厂商360副总裁颜水成表示：

“如果移动机器人进入家庭，由此可能产生的不安全行为肯定需要警惕，在特定情况下，机器人仍可能会发生难以把控的情况。另一方面，全智能体的信息安全问题依然可能存在，“黑客可以通过网络或某种连接控制这个智能体，进而对人身财产、安全造成伤害。”

如果要让机器人严格按照人类的指令做事，不违背人类的意愿，就需要对机器设置限定，就像法律一样严格遵循，只不过这个法律是存在它们脑子里的，根深蒂固，按照阿西莫夫提出的”机器人三大准则：

第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管

第二定律：机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外

第三定律：机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存

但机器人不知道是否过人类智能，似乎篡改了这条准则，变成了机器人需要统治人类，或者机器人自身演化出了个”智能大脑“，有自主行动能力。

想象一下，假如我家里基本都是智能设备，哪天被黑客突袭，一大早起来发现房门大开，厨房里的智能电饭煲正在空煮，而客厅灯光大亮，智能窗户也打开着，窗外的雾霾正在往屋内涌来，然后手机突然收到一条短信:您的智能设备已经被控制，你别想着能恢复控制权，就算老天爷来了也没有用。你必须缴纳一定数量的比特币才能恢复控制权…当我缴纳钱并报警后，警方很快就破案，然后才知道控制了我家智能设备的黑客也是人工智能...

比尔盖茨在接受美国CNBC采访时表示未来10到20年之内，人工智能对人们的生活来说还是十分有用的，人工智能变得太过聪明的风险还很远。

比尔-盖茨的这番话正好贴合了目前人工智能的发展现状，按照目前人工智能的发展水平来说，要想彻底超越并摆脱人类的控制还为时尚早，而人工智能的发展却正在给人们的生活带来翻天覆地的变化，因此我们不能因为担忧人工智能存在威胁人类的风险就放弃发展人工智能，那样做才是真正的阻碍科技进步。

实际上，霍金和马斯克之所以表示自己对人工智能的担忧，目的是为了防止人工智能的发展失控，而对人类的未来造成威胁。认为它的发展应该被永远的置于人类所能控制的情况之下。比尔-盖茨也曾经表示认同马斯克的观点，表示“不明白为什么有的人一点儿也不担心”。

因此，从短期发展来看，人工智能对人类来说利大于弊，从长远来看，则还是一种福祸未定的状态。但是显然，是福是祸的决定权现在还掌握在人类自己手里，是不加节制约束的放任人工智能疯狂生长，还是有计划、有目的，谨慎的发展人工智能，确保人工智能永远在可控制的范围下发展，也许全在人类的一念之间。

欢迎关注，专注于互联网最新发展，WX为（laohancoming）同步更新文章。