引言

几年前，人工智能在公众的讨论中只占不起眼的一角。此后人工智能日新月异，今天已占据了世界各地新闻媒体的头版，也是世界各地科学、商业、新闻、公共服务、教育和政界领袖思考的一个问题。

在我们看来，公众也好，这一领域内的众多专家也好，仍然没有认识到人工智能新时代的重要内涵。花样翻新的人工智能和人类应对它们的方式有可能从根本上改变人类与现实和真理的关系，改变对知识的探索方式和人类自身的演变，改变开展外交的方式和国际体系。以上方面是今后几十年至关重要的问题，各领域的领头人应当给予最高级别的关注。

人工智能的最新能力给人留下了深刻印象。然而随着它的能力加速提升，将来回首看它今天的最新能力，会给人小儿科的感觉。迄今为止，我们从未想象过的种种能力即将渗入人类日常生活的方方面面。未来的体系将推动人工智能巨大的、总体而言利大于弊的进步，创造财富的同时也改善人类健康。

然而，伴随新能力而来的是技术上的风险和给人类带来的风险。有些风险是已知的，有些是未知的。当今的种种技术已经被以发明人不曾预料的方式投入使用。这一趋势有可能会继续下去。人类科学家探索的每一种富有成果的研究方法——今后不会只有一种——有可能产生未曾预料的新能力分支。对这些新分支，人类也许看得懂，也许看不懂。它们对人类也许有益，也许无益。

人工智能仿佛压缩了人类的时间尺度。未来的事物貌远实近。一个例子就是可以自己诠释目标的机器正呼之欲出。如果人类还有可能跟上这些风险的步伐，必须在可想象的最短时间内采取行动，应对风险。认识到今后的任务事关重大，刻不容缓，我们在这里仅指出这一任务诸多方面中的几个。

随着人机伙伴关系无处不在，人类必须决定这些关系的合理性质。我们可以从安全和效率逻辑，从对历史的研读，以及从神明的启示中获取答案。将来个人、国家、文化和宗教信仰都需要确立人工智能在真理问题上发言权大小的边界（如果有任何边界）。以上各方需要决定是否允许人工智能成为人类与现实的中介。在这个问题上各方需要二选一：要么继续保留人类进取心的传统作用（同时有可能把发现新知识的领导权出让给人工智能），要么摒弃受生物学束缚的人类思维，改为在知识前沿与人工智能结成一种潜在的重构伙伴关系。是人类选择自己的目标，然后驾驭人工智能去实现这些目标，还是人类让人工智能帮助选择其中的部分目标？当务之急是人类必须给人的尊严下一个现代的、可持续的定义，从而为未来岁月的决策提供哲学方向。

我们认为，人工智能的出现是一个关乎人类生存的问题。如我们在本书稍后所述，以非人速度运作的未来人工智能的能力将使传统规则失去用武之地。我们需要一种全新的管控方式。对全球科学界而言，当务之急是找到可以在每一个人工智能系统中加入内在安全保障的技术手段。各国和国际组织一旦达成共识，就必须为监督、执行和应对危机建立新的政治结构。这需要解决两个而不是一个“对齐问题”：一个是人类价值观和意图与人工智能行动在技术层面的对齐，另一个是人与人之间在外交层面的对齐。

本书作者之一亨利·基辛格博士在后一个难题上指导了其他两位合著者。曾任微软和谷歌公司高管的两位合著者在前一个难题上辅导了基辛格博士。克雷格·蒙迪是微软公司负责联络华盛顿及世界各国政府的首席技术政策联络官，同时主管微软的研发工作。此前不久，他曾向OpenAI公司高层提供过咨询服务。埃里克·施密特则掌舵谷歌公司长达10年。

我们共同面对的问题迫在眉睫。人类社会乃至人类物种迫切需要积极主动地解决这些问题，而不是坐等危机发生。人类安全固然是成功应对人工智能对策中一个不可或缺的部分，但它不能解答人工智能提出的所有问题，因为在人工智能时代，人类自身会变。问题是我们人类是否并在何种程度上选择在这一变化方式上继续坚定维护自己的权威。