已经成熟的技术，会给我们带来什么危害吗？著名科学家霍金曾多次警告：机器人在以比人类快的多的速度进化，而且他们进化的最终目标无法估量，人类必须正视机器人危机，对机器人做好教育，自身做好防范，否则100年内，机器人和人类的战争将无法避免。
2010年美国股市“闪电崩盘”的例子。简单来说，就是当自动交易程序已经成熟并且被各家金融机构深度依赖以后，有一次系统曲解了一次不合理操作背后的意义，开始高频交易，引发了连锁反应，最后在短短几秒钟内数以万亿计的美元被吸出市场。虽然这种自动交易程序本质上不算是高级人工智能，但是这种由于对计算机程序的依赖所导致的闪电崩盘还是能够警醒我们。
近期，俄罗斯总统普京参观某技术园区时见到了一位名叫Promobot的机器人，还和他握手合影。
这个名叫promobot的机器人，曾多次从园区试验场有计划的逃跑，去年6月他逃到了城市当中，在电力耗尽之前行驶了50米，可能心里在想：世界这么大，我想去看看。
而在他之前，Facebook的AI机器人在模拟聊天时创造了它们自己的语言。一开始这些聊天机器人根据机器学习算法自由地交谈，以增强对话技巧。随着时间的推移，这些聊天机器人开始偏离预先制定好的规范，开始用不是人类输入的，而是它们自己创造出来的语言进行对话。一旦机器人创造出自己的语言，可以用人类不理解的方式开始交流，他们的进化速度就将会大大加快，危险性也将大大增强，因为没人可以想象机器人们聚在一起进行头脑风暴后将会发生什么事情。
那我们该如何应对未雨绸缪的超级人工智能呢？
▼
感谢您的阅读，欢迎分享至朋友圈
•END•
