第11章 无人可控
到2015年前后，经过几十年模拟环境开发测试的人工智能，已经进入现实世界的应用阶段，大学实验室已不是推动人工智能前沿发展的唯一机构，科技巨头、初创企业、风险投资人纷纷参与其中，各领域逐渐认可了一个术语：第四次工业革命。
利用21个月学术休假的时间，李飞飞接受了谷歌云人工智能首席科学家一职。在这里，她深深感受到科技巨头的财富、权力和雄心，比传闻有过之而无不及。800个GPU同时工作训练800个模型，涉及各行各业甚至政府部门的大规模多种类海量数据，随处可见的拥有优秀资历的博士人才……所有这些，即使是斯坦福这样的知名高校都难望其项背。李飞飞说，人工智能正在成为一种特权，一种排他性极强的特权。
神经网络仍然在不断进化，它模仿了人脑中神经元的工作原理，通过构建多层节点来处理复杂的输入输出关系。它的结构本身充满了神秘色彩，它是由微小的、权重微妙的决策单元组成的巨大集合体。这些决策单元孤立地看毫无意义，但以最大规模组织起来时却强大的令人咋舌，几乎无法为人类所理解。我们可以理论的、抽象的谈论神经网络能做什么、它需要什么样的数据以达成目标、它们训练后的性能特征大致在哪个范围，但从一次调用到下一次调用，它们在内部到底做了什么，却是完全不透明的。
学术界早就意识到人工智能可能会带来负面冲击，比如缺乏透明度、容易受到偏见和对抗性影响等，但由于研究规模有限，风险一直存在于理论层面，同时受制于某些领域法规的制约（如医院临床），李飞飞团队研究人员的工作热情会保持谨慎和克制，因此有足够的机会来应对相关隐患。但当市值近万亿美元的公司掌握了主导权，潜在风险的发展步伐也急剧加快。
优步无人驾驶技术测试时发生的车撞人亡事件，有偏见的人工智能被广泛应用于处理贷款申请、协助法官做出假释决定、筛选求职简历，社交媒体定制化内容打磨以实现最大程度的“用户参与”，实时追踪工人工作效率的监控工具以及面部识别技术可能造成的隐私侵犯……科技抵制浪潮已经来临，人工智能难以独善其身。
