下载掌阅APP，畅读海量书库
立即打开
对许多人来说，“遏制”这个词会让他们联想到冷战时期。美国外交官乔治·凯南曾指出：“美国对苏联政策的要旨在于，它必须是一种长期的、耐心而又坚定的、警惕地遏制苏联对外扩张倾向的政策。” 2 凯南认为，世界是一个不断变化的争斗场，西方国家必须时刻监视并对抗苏联的力量，安全地遏制红色威胁及其意识形态触角在各个领域的蔓延。
这种对遏制的解读尽管提供了宝贵的启示，但对我们当前的目标而言还不够。技术并非敌人，而是人类社会的一种基本属性。要实现对技术的遏制，我们需要一个更深层次的方案，这一方案无关竞争方之间的力量平衡，而在于人类与工具之间的力量平衡。这是我们物种在未来一个世纪得以生存的必要前提。遏制涵盖了监管、技术安全提升、治理和所有权模式的创新，以及问责制和透明度的新机制，这些都是实现更安全的技术的必要（但非充分）条件。遏制如同一把统领性的锁，将尖端工程、伦理价值观和政府监管紧密联系在一起。我们不应将遏制视为解决所有技术问题的终极方案，而应将其视为第一步和关键的一步，它是人类未来所依存的基础。
因此，遏制应被视为一套相互关联、相互增强的技术、文化、法律和政治机制，其目标是在技术呈指数级增长的时代里，保持社会对技术的驾驭力。这应是一套能够应对当前技术变革速度的架构，这种变革过去需要几个世纪甚至几千年才能完成，而如今却在几年甚至几个月内就能实现，其影响更是能在几秒钟内迅速波及全球。
技术遏制是指在实验室或研发设施中进行的一些操作。以人工智能为例，其技术遏制涉及气隙隔离、沙盒测试、模拟演练、紧急关闭开关、内置的硬件安全和安全保障措施等。这些协议用于验证系统的安全性、完整性或未受损性，并在必要时将系统下线。另外，技术遏制还涉及围绕技术创造和传播所形成的价值观与文化，这些价值观和文化支持技术边界的设定、治理层级的构建以及接受限制的制定，同时帮助我们警惕潜在的危害和意外后果。最后，技术遏制还包括国家和国际层面的法律机制，例如国家立法机构通过的法规以及联合国和其他全球机构制定的条约。在任何特定社会中，技术总是与其法律、习俗、规范、习惯以及权力和知识结构紧密相连，所有这些方面都必须得到妥善处理。我们将在本书第四部分对此进行更深入的探讨。
此时，你可能在想，我们真的尝试过这样做吗？我们真的尝试过遏制浪潮吗？