超级智能
序
- 超级智能是指“在许多普遍的认知领域中，表现远远超越目前最聪明的人类头脑的智能”。
作者将超级智能分为三种形式：高速超级智能、集体超级智能和素质超级智能。- 高速超级智能是指和人脑相似，但速度快于人脑的智能。
- 集体超级智能是指一种通过将总数庞大的小型智能集中起来，从而达到卓越性能的系统智能。
- 素质超级智能是指一个至少和人类大脑一样快，并且从素质上来说更加聪明的智能。
第一章 人工智能：昨日成就与今日现状
- 基于传统算法规则的GOFAI(传统逻辑范式)系统虽然逻辑严密，但是性能很差，其特有的脆弱性主要体现是，只要系统存在一个微小的错误假设，整个结果便会变得毫无意义。
- 简单的神经网络模型自20世纪50年代后期开始被人们熟知，在引入能够训练多层神经网络的反向传播算法之后，人工智能领域又迎来了一阵复苏。多层神经网络在输入层和输出层之间有一个或多个神经元隐含层，能够比之前的简单系统具备更强大的功能。神经网络具备类似于人类大脑的特质，催生出了新的“连接机制”，这种连接机制聚焦于大规模平行的精粒度亚符号数据处理的重要性。
- 以进化为基础的算法，比如遗传算法和遗传编程，构建了另一条引领人们走出第二次人工智能寒冬的新路径。进化模型能够维系一个备选方案群（方案群本身可以通过数据结构和程序来实现），并通过改变或重组现有方案群中的变量来生成新的备选群。通过应用选择标准（适应度函数）可以让备选群周期性地减少，并且只让其中那些更好的方案群进入下一代。经过数千代重复之后，备选方案池中解决方案的平均素质就会慢慢提高。不过即便是有了好的表达格式，进化算法也需要极大的计算量，并且常常会被“组合爆炸”击垮。
- 神经网络和遗传算法等新流行的技术有望在某种程度上克服GOFAI路径的缺陷，尤其有可能会在传统人工智能路径的脆弱性上实现突破。让新技术引以为傲的是，它具备了更多的生物有机体属性。以神经网络为例，它具备了“故障弱化”的特性：神经网络的微小损坏通常只会导致整体性能的微小弱化而不会造成系统完全崩溃。更重要的是，神经网络能够从经验中学习，也可以从样本中找到最自然的概括路径以及所输入数据隐含的统计规律。这使得神经网络能够有效解决模式识别和归类的问题。
- 贝叶斯网络提供了一个在特定领域中表达的概率以及独立条件之间关系的简洁方法。（探索这种关系对于我们克服“组合爆炸”带来的困难至关重要，因为“组合爆炸”本身从逻辑上看就是概率推理中遇到的一个问题。）
第二章 通往超级智能之路
- 超级智能的几种可能技术路径，比如人工智能、全脑仿真、生物认知、人机交互，以及网络和组织。由于目前存在多条技术路径，因此至少有一条路径能实现超级智能的可能性很大。
- 人工智能系统的核心特征是获知能力，而非事后诸葛亮，以及有效处理不确定性和概率信息的能力。
- 图灵的设计理念是，设计一种可以掌握学习能力的程序，但这一程序并不是从一开始就预设内容的。这个理念可以同等地应用在人工智能的神经形态学与合成的方法上。
- 全脑仿真的三个关键的先决条件：（1）扫描：有足够高的分辨率和相关检测性能的高通量显微镜；（2）翻译：自动图像分析将原始扫描数据翻译成对一种神经计算元素相关的三维模型的阐释；（3）模拟：硬件需要足够强大，以实现得到的计算结构。
- 生物认知的三个展望：（1） 生物技术增强至少可以得到超级智能的初级状态；（2）人类认知增强的可行性能促进机器智能的发展—也许只有认知能力得到提升的人才能创造出机器智能；（3）21世纪下半叶及以后，我们必须考虑到可能会出现一代基因增强的人群，他们可能是选民、发明家、科学家。而随着这些人繁衍下一代，其基因增强的幅度还会更大更快。
第三章 超级智能的形式
- 超级智能分为三种形式：高速超级智能、集体超级智能和素质超级智能。
第四章 智能大爆发的动力学
第五章 决定性战略优势
第六章 超级认知能力
第七章 超级智能的意愿
第八章 结局注定是厄运吗
- 恶性失败模式
- 反常目标实现方式
- 基础设施过量
- 意识犯罪
第九章 控制问题
- 两个代理问题
- 第一委托代理问题：人类—人类（赞助者—开发者）；主要发生在研发阶段；可以使用普通管理技巧
- 第二委托代理问题：人类—超级智能（项目—系统）；主要发生在运行（和引导）阶段；需要新的应对方法
- 能力控制方法
- 盒子方法：可以细分为物理遏制方法和信息遏制方法。
- 激励方法：是指将智能体置于某种环境中，使它有工具性理由去以最符合委托人利益的方式行动。
- 阻碍发展：限制系统的智能或其获取信息的途径
- 绊网：是指对系统进行诊断分析（可以在其不知情的情况下进行），如果探测到任何危险活动的迹象，就把系统关闭的一种机制。
- 动机选择方法
- 直接规定：解决控制问题最直接的方法。这个方法有两种版本，一种是基于规则的，一种是结果主义方式的。
- 驯化
- 间接规范：是直接规定一套具体的规范标准，而是说明一个可以产生标准的程序。
- 扩增的方法是说，与其试图设计一个全新的动机系统，不如从一个已有的、足够好的动机系统着手，提升其各项认知能力，使其成为超级智能
第十章 神谕，精灵，主权，工具
第十一章 多极情景
- 可能快乐的人更倾向于有创造力的跳跃和自由幻想，这是未来的老板将从大多数劳动者身上剥夺的东西。
