引言
人类迈向奇点的千年征程已步入冲刺阶段

我无法确定地说奇点之后的生活会是什么样子。但通过理解和预测带领人类走向奇点的过程，我们可以确保人类在最后接近奇点时的道路是安全和成功的。

2005年，在《奇点临近》（ The Singularity Is Near ）中，我提出： 不断融合的指数增长的技术趋势将带来一场对人类具有根本性意义的变革。 今时今日，这场变革正在多个关键领域同时加速：计算的性价比越来越高，我们对人体生物学的理解越发深入，在微观尺度上的研究变得更具可行性。随着AI的能力日甚一日，信息变得越来越触手可及，我们正在将这些能力与人类智能愈发紧密地整合起来。纳米技术将使这些趋势达到高潮，开启一条利用云端虚拟神经元层直接扩展人类大脑的道路。通过这种方式， 我们将与AI融为一体，并利用比人类强数百万倍的计算能力来增强自己的能力，这种智能和意识的提升影响深远，以至于人们会感到难以完全理解。我所谓的“奇点”，正是指这一事件。

“奇点”这个术语源自数学 和物理学 。但我使用这个词是将其作为一个比喻。我对技术奇点的预测并非指变化速度将真的趋向无穷，因为指数增长并不意味着无限，物理学中的奇点也是如此。黑洞虽然引力大到可以捕获光，但量子力学并不能解释真正无限大的质量。我之所以用奇点作为隐喻，是因为它恰如其分地描述了人类当前的智能难以理解如此巨大转变的困境。但随着这种转变的到来，我们的认知能力将迅速增强，足以适应新的变化。

在《奇点临近》中，我详细展望了未来一段时间内的发展趋势，并推测奇点大约会在2045年到来。书出版时，距离预测时间还有40年，相当于两代人的时间。从当时的时间周期上说，我可以对引致该转变的多种力量做出预测，但对于当时的读者来说，这个话题仍然很遥远。许多评论家认为我的时间表太过乐观，甚至有人认为奇点根本不可能出现。

之后出现了一些令人瞩目的进展，虽然怀疑论者仍在表达反对意见，但这些进展仍在继续加速。社交媒体和智能手机从几乎无人问津到成为连接全球多数人的全天候伴侣。算法创新和大数据的涌现使得AI在一些领域取得了超出专家预期的突破，从擅长解题［玩《危险边缘》（ Jeopardy! ）游戏］、下围棋到驾驶、写作、通过法律职业资格考试，乃至诊断癌症。目前，强大且灵活的大语言模型，如GPT-4和Gemini，能将自然语言指令转换为计算机代码，极大地减少了人类与机器之间沟通的障碍。你阅读这段文字的时候，很可能已经有数千万人亲身体验了这些功能。与此同时，人类基因组测序的成本下降了约99.997%，而神经网络通过数字模拟打开了医学研究的新篇章。我们甚至获得了直接将计算机与大脑连接的能力。

这一系列的进步都建立在我所称的“加速回报定律”（Law of Accelerating Returns）之上：随着技术的不断进步，计算和其他信息技术的成本呈指数级下降，因为每一次的进步都会让它们下一阶段的迭代变得更为简单。因此，考虑到通货膨胀，现在1美元能购买的计算能力比《奇点临近》出版时强大约11 200倍。

图0-1中的内容我将在后面的章节中做深入讨论。图中概述了推动人类技术文明进步的核心趋势：在长期范围内来看，随着时间的推移，一美元能购买的计算能力呈指数级增长（在对数刻度图上是一条直线）。众所周知，摩尔定律指出，晶体管尺寸在逐年缩小，随之而来的是计算机日益强大，但这只是“加速回报定律”的一种表现形式。在晶体管发明之前，这个定律就已经成立，即便在晶体管达到物理极限并被新技术取代之后，它仍有望会持续下去。这个趋势定义了现代世界，在本书中讨论的即将实现的所有突破，都直接或间接地依赖于它。

我们一直在按计划迈向奇点。这本书出版的紧迫性源自指数变化的核心。在21世纪初还难以察觉的趋势，现在已经实实在在地影响着数十亿人的生活。2020年以来，我们进入了指数曲线急剧变陡的部分，创新的步伐给社会带来的影响前所未有。为了给你一个参考，你阅读这段文字的时间点，可能距离首个超人类AI的诞生更近，而不是离我的上一本书《人工智能的未来》（ How to Create a Mind ） 的出版时间更近。与我1999年出版的《机器之心》（ The Age of Spiritual Machines ）相比，你现在恐怕离奇点降临更近。从人类的生命周期来看，现在出生的婴儿在奇点到来时将刚刚大学毕业。在个体层面上，这是一种与2005年相比完全不同的“接近”。

正因如此，我才写了这本《奇点更近》。 人类迈向奇点的千年征程已经步入冲刺阶段。 在《奇点临近》的前言中，我曾写到我们当时正处在这一转变的初期。而现在，我们进入了高潮期。那本书是对遥远地平线的一瞥，这本书则讲述的是走向地平线的最后几公里。

幸运的是，我们如今更能清晰地看懂这条道路。尽管要实现奇点还面临诸多技术挑战，但关键的先行指标正迅速地从理论科学走向积极的研究与开发之路。在未来10年里，人们将与看起来非常人性化的AI互动，简单的脑机接口将像今日的智能手机一样普及，并对我们的日常生活产生影响。生物技术领域的数字革命将帮助我们治愈疾病，并显著延长人类的寿命。然而，与此同时，许多劳动者也将经历由于技术革新造成的经济动荡之痛，而我们所有人都将面临对新技术的不慎或蓄意误用导致的风险。 到21世纪30年代，不断进步的AI和日渐成熟的纳米技术将以前所未有的方式促进人机结合，这将进一步放大可能的希望与潜在的危机。如果我们能够成功应对由这些进步带来的科学、伦理、社会和政治方面的挑战，那么在2045年，我们将深刻改变人类在地球上的生活，使之变得更美好。 反之，如果我们失败了，我们的生存就会受到威胁。因此，这本书将聚焦于人类奔向奇点的最终路径——我们所了解和熟悉的世界的最后一代人将共同面对的机遇与挑战。

首先，我们将探索奇点的确切到来方式，并将其置于人类长期追求重塑自身智能的背景下。以技术创造感知能力带来了一些深刻的哲学问题，因此我们将深入讨论这场变革如何影响人类的身份和使命感。其次，我们将讨论未来几十年的实际发展趋势。正如我将展示的那样，“加速回报定律”正驱动一系列反映人类福祉的多个指标得到指数级的提升。虽然创新带来的最明显的弊端之一是各种形式的自动化导致的失业，但我们将搞清楚，为什么长远来看仍有理由保持乐观，而且为什么我们最终不会与AI竞争。

随着这些技术为人类文明带来巨大的物质财富，我们将致力于突破限制人类全面繁荣的下一大障碍：生物学上的弱点。接下来，我们将展望未来几十年内人类可以使用的工具，以越来越多地掌握生物学本身：首先是战胜身体的衰老，然后是通过增强人类有限的大脑来迎接奇点的到来。然而，这些突破性进展也可能会使我们面临风险。生物技术、纳米技术或AI的革命性新系统可能会导致某种形式的灾难，例如，毁灭性的流行病或自我复制机器的链式反应。最后，我们将评估这些威胁，这需要我们慎重规划，但正如我将解释的，我们手头的策略非常有希望去消除或缓解这些危机。

这将是人类历史上最激动人心、最重要的几年。 我无法确定地说奇点之后的生活会是什么样子。但通过理解和预测带领人类走向奇点的过程，我们可以确保人类在最后接近奇点时的道路是安全和成功的。

[1] . William D. Nordhaus, “Two Centuries of Productivity Growth in Computing,” Journal of Economic History 67, no. 1(March 2007): 128–59. F0fTQJNX2iEpq91iR9eJS4P2P3s2/TPCwjD+lU7OMAj9sNnkxScu/uIDiMm+7gux