1. 技术发展

1.1. 美国和中国俨然成为人工智能研究、开发和部署方面无可争议的领导者

1.2. 人类从未彻底阻止某种技术的发展，虽然不同国家在不同时间对克隆、化学武器和核武器等技术采取了暂停或禁止措施，但我们仍在继续推进最前沿的基因工程、武器和其他各领域的技术发展

1.3. 实验室里经过改造的转基因作物拥有更强的抗虫抗旱能力，生产成本更低，更节约水和其他资源，特别有助于帮助全球的贫困地区

1.3.1. 人们普遍不信任人类对大自然的操纵和大公司对利益的追求

1.3.2. 但是欠发达国家因为在为填饱肚子而苦苦挣扎，所以更注重转基因作物所带来的直接好处

1.4. 人为干涉大自然应该受到道德谴责

1.5. 锤子可以用来敲钉子，也可以用来砸破脑袋

1.5.1. 人类的想象力可以极度夸大技术对人类自身和社会造成的伤害

1.6. 在过短的时间内发生如此快速的变革将会压垮人类和整个社会

1.6.1. 阿尔文·托夫勒

1.6.2. 让人们对加速变革所带来的危险后果有所准备

1.7. 对危险的担忧很少转化为主动的行动，让我们去重新夺回对发展的控制，重新审视技术发展对人类生活的影响

1.7.1. 当创新产生我们认为对个人有害的东西时，我们几乎总是无动于衷

1.7.2. 只有当它们带来主要的流行病，例如香烟大量致癌或阿片类药物成瘾影响美国社会权贵阶层时，政策制定者才会开始呼吁采取行动

1.8. 为数不多的体现人类远见卓识、积极引导技术发展的案例之一就是人类基因工程

1.8.1. 联合国各成员国在人类基因工程被公开试用之前就共同制定了指导方针，对其进行谴责

2. 人工智能更快更强大

2.1. 它对我们的生活、价值观和人际关系产生了广泛的影响，可能从根本上改变人类社会、文化和经济，甚至比互联网的影响还要大得多

2.2. 就像互联网一样，基于人工智能的创新可能会阶段式爆发，即使它会时断时续

2.3. 所有这些让人措手不及的快速变革都向我们提出了种种问题，这不仅需要技术人员、政治家或监管者来回答，还需要人们从整个社会中寻找答案

2.4. 如果我们把那些容易犯错的人从方向盘后面赶走，我们的道路将变得更加安全。

2.4.1. 硅谷软件和微芯片开发公司新思科技（Synopsys）的汽车战略副总裁、大众汽车美国公司电动汽车和创新前高级副总裁布克哈德·汉克

2.4.2. 告诉那个人他不能再开车又是另一回事了

2.4.3. 因为它触动了你成为司机的自由,这不能由监管机构来解决，而必须在一个完全不同的层面上解决

3. 照护机器人

3.1. 海豹机器人PARO最初讨人喜欢可能纯粹是因为样子长得可爱，但真正与用户锁定这种亲密关系的是它精巧的设计

3.2. 在毛茸茸的白色海豹皮毛底下，研发人员将机器人的触觉传感器放入气球中，这样用户就不会摸到坚硬的地方了

3.2.1. 当他们将PARO设计成重约6磅，即大约一个婴儿的重量时，他们故意把它做成海豹的形象，以避免人们联想到猫、狗等常见的宠物

3.3. 它的可爱背后凝聚的是严谨的研发思路，这让海豹机器人成为照顾老年病人，特别是阿尔茨海默病患者的能手

3.4. 它的有效性其实来自人性之中更深层次的东西：我们暂时放下怀疑的能力

3.5. 人们在多大程度上将机器视为社会生物

3.5.1. 要为这只机器人海豹加上一点儿什么，才会让人们更强烈地把它当作一只真正的海豹

3.6. 人工智能和机器人系统开发者在编写程序时，经常会使它们能传达人类的特质或情感，让人类与机器建立更加紧密的联系

3.6.1. 人们一开始对机器百分百信任，但当它没有实现功能或兑现承诺时，人们就会将其行为视为一种彻底的背叛

3.7. 对PARO最早的担忧包括担心它误导和操纵病人，虽然我们的生活中也有很多毫无恶意的例子

3.7.1. 我们已经从电影、戏剧和小说中获得了极大的乐趣，这些作品都需要我们大脑的想象和加工

3.8. 加速并放大了机器认知的发展，因为这些人工智能系统一直在处理一些人类最根本的、直接的、有形的和共性的需求

4. 人工智能的前景与风险

4.1. 技术的快速发展充满各种未知性，这使得人工智能应用的前景和威胁显得更加紧迫，但人类天生拥有一种超凡的能力，可以接受并不一定符合我们最佳利益的权衡妥协

4.2. 20世纪70年代，核能成为一种廉价而清洁的电力来源

4.2.1. 胜利者书写的“二战”简史帮助美国的核能卸下了破坏力强的道德包袱

4.2.2. 自切尔诺贝利事故和福岛核事故发生以来的几十年里，人们的焦虑情绪不断加剧

4.2.2.1. 核能的负面影响立刻清晰显现：一次事故就能造成巨大的人员伤亡

4.2.3. 今天，核武器或核能令人不敢小觑

4.3. 汽车对我们的环境和生活所造成的危害已经超过了核能

4.4. 汽车和核能的前景与威胁日益凸显

4.4.1. 人们投入了数亿美元的研发经费，使这两种技术更加安全，确保大多数人永远不会有身体或心理创伤

4.5. 与核武器和汽车不同，人工智能及类似技术并未对我们的日常生活产生显而易见的影响

4.5.1. 对生活产生的负面影响也远没有那么明显

4.5.2. 从这个意义上说，它们更像是药品

4.5.2.1. 人类通过大幅降低脊髓灰质炎和百日咳的发病率，以及控制艾滋病的致死率，挽救了数亿人的生命

4.5.2.1.1. 过去20年里，新生儿疫苗预防了2 100多万人住院治疗，挽救了73.2万条生命

4.5.2.2. 每当我们开始使用下一批药物，我们都有可能碰上新的突变，也许是流感病毒株或是链球菌细菌，从而引发连续感染

4.5.2.3. 随着阿片类药物、抗抑郁药、类固醇和其他药物在治疗计划中越来越普遍，这些药物可能引发一系列成瘾危机

4.5.2.4. 人工智能的广泛使用将在很多方面促进人类发展、改善人民生活，但我们仍然要像对待药物一样，考虑其潜在的副作用，不再重蹈汽车和核能的覆辙

4.5.2.5. 我们往往看不到也无法理解高深复杂的算法和神经网络，就像我们不能理解自己体内的生物细菌、病毒和化学反应背后最微小且深层的作用机制一样

4.5.3. 人工智能将以数据为燃料，成为卓有成效的自主经济的发动机

4.5.3.1. 要利用人工智能的潜力治疗现代社会的弊病，同时避免最坏的副作用发生，我们必须将这些力量向人类利益倾斜

4.5.3.2. 餐馆和规模统一的工业化连锁餐厅使人们对食物买得到、买得起，而且食物又好吃

5. 七度关系

5.1. 在技术方面，人类的想象力可以天马行空，甚至比高科技路线图走得更远

5.2. 尽管迄今为止几乎没有证据表明新兴的超级智能即将出现，许多中国民众已经开始担心人工智能的发展，因为他们对技术本身知之甚少

5.3. 人们想要找的东西往往与他们得到的搜索结果不一样

5.3.1. “结果多样性”作为主要指标之一，以满足不同用户的搜索需求

5.4. 基于商品化的人工智能平台开发的产品已经更具投资吸引力

5.5. 中国企业的规模更加令人瞠目结舌，尤其考虑到中国企业的全球化扩张并不如美国公司，它们的数字却已经接近甚至超过了美国企业

5.6. 这些公司的厉害之处在于，它们非常了解用户，并且对用户的生活有着很强的“黏性”

5.6.1. 社交媒体、搜索和电子商务行业形成了一两家公司独大的局面，这使得用户被更加紧密地绑定在这些平台上

5.6.2. 这也造成了一些公司的准垄断地位，它们运用强大的人工智能平台向我们推送称心如意的产品，不断增强我们对其内容和建议的依赖

5.6.3. 互联网巨头的算法黏性正是其服务的价值所在

5.6.4. 这种对社会关系的不断经营使科技巨头成为我们生活中的得力助手

5.6.5. 这些公司可以潜移默化地、下意识地引导我们的决策

5.6.5.1. 这是一种无形的、不可抗拒的力量，我们往往不能轻易察觉

5.7. 从理论上讲，我们仍然拥有改变思想和价值观的自由，而且我们常常会随环境和处境的变化做出相应的改变

5.7.1. 机器学习算法可以利用我们已有的偏见，并在我们毫无意识的情况下强化它们

5.7.2. 我们可能会受到高明的操纵，这可能是一般的非技术人员永远无法理解的

5.7.3. 政客和技术娴熟的黑客可以将虚假新闻和广告植入社交网络，巧妙地操纵我们对当前新闻和流行趋势的看法

5.7.3.1. 人工智能可以帮助他们将这些精心包装的内容直接投放到毫无戒心的用户的信息流中，提高人们对某些新闻的认知，加剧社会紧张气氛，甚至影响政治结果

6. 认知能力再混合

6.1. 认知就是力量，而智能机器的日益强大代表着一种新的力量源泉，一种强大的新智慧

6.1.1. 由人类创造，但人类必须与之一较高下

6.1.2. 说到底，我们也是智能生物

6.1.3. 我们对我们消费的媒体有自己的解读，我们仍然会投出自己的一票

6.2. “群体智能”

6.2.1. 将一群人组织成一种“实时人工智能系统”，结合并提高个人的智力，优化集体知识

6.2.2. 公司的底层算法可以协调不同人群的不同思维，将他们的知识、洞察力和直觉整合到一个“单一新型智能”中

6.2.3. 将其比作蜜蜂的互动行动，蜜蜂可以解决蜂群位置和食物来源等复杂问题，尽管它们每个脑袋里只有1亿个神经元

6.2.4. 人类大脑不管变得多么复杂，最后终将达到其容量极限

6.2.4.1. 换个思路，通过与其他大脑建立联系来提升智能

6.2.5. 该人工智能都有着不错的预测能力和见解

6.2.5.1. 将50位影迷组成一个智能集群，让他们预测获胜者

6.2.5.2. 独来看，他们的预测准确率平均是60%

6.2.5.3. 当集合到一起，他们的预测准确率达到了94%，比任何一位发布预测结果的个人专家都要高

6.2.5.4. 他们当中没有一个人看过所有的提名影片，大多数人只看过两部电影，罗森贝格这样对西南偏南大会的与会者说道

6.3. 从理论上讲，社交网络可以提升这种个人信誉，因为它可以通过对数百万或数十亿人的分析，获得和你一样的洞察力，给你提供有力的推荐

6.3.1. 从数据集中提取出见解并将结果与个人相匹配的算法，仅仅代表了一种你与其他多人相关的概率，并不是真正与你个人的一对一匹配

6.4. 因果关系，这一理解世界运作方式和原理的基本要素，可能是下一代人工智能系统的必备要素

6.4.1. 它必须真正理解其中的因果关系，你生活中的某件事如何导致另一件事

6.5. 不断迭代的人工智能将使我们暴露于其他实体的威力之下，由它们塑造我们的生活，但人工智能也将帮助我们发展，培养自己的助手和权威

6.6. 如果我们希望利用这些技术的潜力在未来10年或20年实现价值，我们此时此刻就需要建立一种新的力量平衡

6.6.1. 主动权还是在我们手里