巨浪时代的关键词

人工智能（AI）、通用人工智能（AGI）与人工能力智能（ACI）： 人工智能是引导机器学习类人能力的科学。通用人工智能是人工智能发展的高级阶段，那时人工智能系统将能够使用所有的人类认知技能，且其表现将超越最聪明的人。人工能力智能是人工智能通向通用人工智能的重要中间节点，这一节点正迅速向我们逼近；人工能力智能将广泛应对各种复杂的任务，但距离完全通用的智能水平仍有很长的路要走。

即将到来的技术浪潮：

一系列以人工智能和合成生物学技术为核心的相关新兴技术的集群，它们的变革性应用将赋予人类巨大的能力，也将带来前所未有的风险。

遏制：

对技术进行监测、限制、控制，甚至在必要时予以关闭的能力。

遏制问题：

技术倾向于如浪潮一般广泛扩散，可能会产生无法预测或难以控制的涌现效应，包括负面的、无法预见的后果。

困境：

新技术的出现或缺失，都日益增加了引发灾难性或反乌托邦式后果的可能性。

4个特征：

即将到来的技术浪潮所具有的几个关键特征加剧了遏制的难度。这些特征分别是非对称性、超级进化性、通用性以及自主性。

脆弱性放大器：

即将到来的技术浪潮所带来的广泛应用和影响，将进一步冲击和动摇民族国家本就脆弱的根基。

大契约：

作为赋予国家集中掌控武力使用权的交换条件，公民希望国家维护社会秩序，提供公共服务，并在采纳和应用新技术时将其负面影响降至最低。

狭窄小道：

人类在努力遏制浪潮的过程中，在开放与封闭之间找到一种微妙平衡的可能性。只有达到这种平衡，人类才能避免灾难性或反乌托邦式的结果。

悲观规避：

人们，尤其是精英阶层，倾向于忽视、淡化或排斥他们认为过于负面的观点。这是乐观偏差的一种变体，它在很大程度上影响我们关于未来的讨论，特别是在技术领域中。

合成生物学：

设计和改造新的生物体，或重新设计现有生物系统的能力。

技术：

为了制造工具或实现实用目标而对（最广义的）科学知识进行的应用和实践。

浪潮：

以一项新的通用技术为基础的新一代技术在全球范围内的广泛传播或扩散。