中文版序

我们只看到了人工智能的冰山一角

我很高兴也很荣幸《生命3.0》这本书能在中国出版。在中国，人工智能的发展突飞猛进，目前已拥有许多世界顶尖的人工智能研究者和人工智能公司，这令我印象十分深刻。

从短期来看，这意味着中国已经遇到了我在第3章讨论的许多近期机遇和挑战。中国究竟会如何处理这些问题呢？我对这个问题兴致盎然。譬如说，我很高兴中国政府最近决定支持一项针对致命性自动化武器的禁令，这使得中国不仅仅在人工智能研发方面变得首屈一指，也成了促进人工智能有益运动的领军人。

从长期来看，我认为中国会扮演越来越重要的角色。我的个人经验告诉我，中国一定会出现极具天赋的研究者，因为在我带过的最优秀的研究生中，有许多都来自中国。目前在西方国家，很多时候，科学研究资金正遭遇停滞不前甚至日渐萎缩的困境，但中国却在科研方面（包括人工智能）投入了大量资金，即将赶超西方，成为人工智能领域的世界领跑者。

这会产生一个重要的结果：就是我在这本书中主要谈论的通用人工智能（Artificial General Intelligence，简称AGI）出现的可能性，这种人工智能在任何任务上都可以与人类智能相提并论。大多数人工智能研究者认为，通用人工智能会在短短几十年内发生。如果这是真的，我认为这将发生在中国。那么，有一件事情就会变得非常重要，那就是：你，我亲爱的中国读者，请开始认真思考，你想看到一个什么样的未来社会。正如我在这本书中所说，极好的可能性与巨大的风险同时存在。因此，想要实现好的结局，就必须认真斟酌后果，并思考如何才能平稳地实现目标，而不带来灾难。在这方面，中国拥有独特的机会，因为中国的长期计划能力远远超过大多数西方国家。此外，几千年的历史也能启发中国人看到同样遥远的未来，并能严肃地思考本书后半部分所聚焦的那些波澜壮阔的可能性。

如今，距离《生命3.0》英文版的出版已有将近一年的时间。在这段时间里，发生着一件重要的事情，那就是：人们开始更加严肃认真地对待这本书的一个重要观点——人工智能可能会在几十年内变成现实，我们必须认真思考如何保证人工智能的安全性和有益性。其原因是，人工智能在各个方面都取得了史无前例的进展。我很欣慰地看到，译者汪婕舒能够在本书中加入我发给她的关于这些进展的最新内容，比如说AlphaZero的故事，它最近成功碾压了那些花了几十年时间来手工开发围棋软件和象棋软件的世界顶尖人工智能研究者。

过去，我们一直认为，智能是一种神秘的东西，只能存在于生物（特别是人类）身上。但是，从我作为一位物理学家的角度出发，智能只是运动的基本粒子处理信息的特殊过程，并没有一条物理定律说，“建造一台在各方面都比人类聪明的机器是不可能的”。这意味着，关于智能，我们只看到了冰山一角，我们还有巨大的潜力来开启潜伏在大自然中的全部智能，并用它来帮助人类实现繁荣昌盛。我认为，人工智能有可能成为人类有史以来最美好的事情，也可能成为最糟糕的事情。虽然我在《生命3.0》这本书中描述了许多你或爱或恨的未来场景，但最重要的问题并不是计较哪一种场景最有可能发生，而是思考我们想让哪一种场景成为现实，并且，需要哪些具体步骤才能最大限度地保证人类拥有一个欣欣向荣而非每况愈下的未来。我希望这本书能帮助你——我亲爱的中国读者厘清这个问题！