前言

数字科技正在改变我们沟通交流、工作思考的方式，其影响已经超过了人类的其他所有发明。机器作为人类的智能假体，一方面帮助我们完成数学计算、文字拼写、信息记忆等工作，另一方面却也潜移默化地塑造着我们的思维方式，促使我们点击广告按钮、编写越来越复杂的代码并在政治议题上采取极端立场。当下，机器对人类的塑造主要以人工智能（简称“AI”）为基础，而不少有识之士认为，人工智能技术对人类构成了“存在性威胁”。

技术在塑造我们的文化的同时，也为我们的文化所塑造，并以极快的速度演进变化。这些变化在多大程度上可控？人工智能是否真的会威胁到人类的生存？我们是否注定要被新兴的“超智慧生物”灭绝？还是说我们终将以大脑植入的形式与技术融合成为生化机器人，开启拟人智能的新时代？

本书认为，科技正在与人类协同进化，而这种进化并不像技术鼓吹者或技术恐惧者所宣称的那样，会导致人与技术相融合或者被技术所灭绝，更可能的结果是人与技术共生。当然，这并不意味着这个过程将一帆风顺，或者不会有大风大浪。快速的协同进化本质上是一个不可预测的过程，而随着技术和人类的同时改变，出现各种各样的问题在所难免。但面对问题，我们应该实事求是地寻求解决方案，而不是将其视作“世界之战” 。

一个根本性的问题在于，究竟是我们在定义科技，还是科技在定义我们？如果我们采取所谓的“数字创世论”观点，认为科技纯粹是可控的、审慎的、自上而下的智能设计的产物，那么我们只要确保人类工程师们“为所应为”，就能获得称心如意的结果。但如果人与机器关系的本质是达尔文式的协同进化，而人类工程师只是变异的推动因子，那么左右技术和社会发展轨迹的就是意外后果而非精心规划了。

担忧人工智能失控的人会为这种可能性惴惴不安，因为如果我们与机器协同进化，那么事情实际上并不受人类控制。但缺乏掌控并不意味着人类会被消灭或者奴役，因为这一过程同样不是机器能掌控的。能动性在进化的过程中没有用武之地；细菌进化出抗生素耐药性既不以人的意志为转移，也不是出于它自己的主观能动性。虽然机器至少目前尚未表现出类似能动性的特征，但它们的确参与了自身的发展过程，这一点几乎跟生物是一样的。

我本人在对人机关系的探索中发现，将机器视作一种与人共享生态系统、协同进化的生命体，是很有帮助的思维方式。将机器视作“生物”并不等同于认为它们具有智能，也不需要赋予它们能动性，而是承认它们具有一定程度的自主性，可以维持自身的生命过程，并且能够自我复制（尽管目前仍然需要人类的帮助）。这些都是生命体的特征，并且塑造了我们与科技之间的关系。这样的一种隐喻不仅直面了人类对技术发展轨迹究竟有多大掌控力的问题，而且能够启发我们去理解除人类意志之外的其他影响科技发展的力量。

在与别人讨论这个隐喻时，我创造了“LDB”这个术语，作为对“有生数字体”（Living Digital Beings）的简称。但使用这个术语可能会造成过度引申，让读者误以为我要赋予机器某种玄乎其玄的“生命的跃动”（élan vital）。因此，我在本书中仍将使用“机器”这个词语，不过有两个前提需要说明。首先，本书中所讨论的“机器”并不涵盖任何生物系统，尽管生物系统本质上也可以用机械论的观点加以分析。其次，本书中探讨的机器不限于硬件，其中有些甚至不需要依附于硬件。软件不仅是机器数字过程的必要部分，有时候甚至还是最重要的部分。如果我们将机器视作生物，那么软件就是DNA（脱氧核糖核酸）和代谢途径。机器的“身体”由硅和钢铁而非有机分子构成，而机器与其“身体”之间的关系更大大不同于有机生物与自身躯体之间的关系。尽管如此，机器还是具备很多近似于生物的特征。它们的本质取决于其“生命”过程而非材料构成。同样，类似于生物，机器也有生有死。有些机器构造简单，不过几千比特的“基因”代码而已；有些机器则极尽复杂。有些机器可以做出堪称“智能”的行为，但大多数机器不能，这一点与生物是一样的。大多数机器生命短暂，有时候甚至不足一秒；同时也有一些机器的生命可以持续数月甚至数年；有些机器甚至超越了有机生物，有望实现永生。

人类可以对周遭的生物施加影响，却不能控制它们。虽然我们可以利用基因工程技术创造出新的微生物或者新的植物品种，但这更像是对自然过程的推动，而非自上而下的智能设计。若能意识到这一点同样适用于科技的发展，我们便能做出更具智慧的政策决策，更好地预测政策的失灵以及潜在的灾难。与此同时，正如利用生物工程技术制成的疫苗可以影响我们的生理机能那样，数字科技同样影响着我们的思维以及社会和政治的结构。科技带来的信息洪流远远超出了我们的吸收能力。它为我们带来了新的药品、心脏起搏器和体内成像手段，提升了我们的身体健康水平，同时却又威胁到了我们的心理健康。数字科技正在改变我们的经济、社会关系和政治结构，从而颠覆人类社会的组织结构。它既消灭财富，又创造着新的财富；既能改善环境，也能破坏生态。它不断地改变着权力结构。机器拥有超越人类的速度、准确性、信息处理和分析预测能力，可以帮助人类更高效地解决问题；但同样的科技也可以用于构建天罗地网的监控，挑拨人与人的关系，借助过滤气泡（filter bubble）和回音室（echo chamber）形成一个个信息孤岛，进而危及民主的基础。

如果我们把机器视作生物，便会发现机器与我们人类——创造它们的有机体——有很多相似之处。跟我们人类一样，机器会对外界环境的刺激做出反应。它们的反馈可以是与我们对话、向我们派送货物或者打开我们房间里的暖气。有些机器会不断成长，其他机器则生来便完全成形，到死也没有太大变化。有些机器会“繁衍生息”，尽管这一过程基本上都需要人类的帮助。很多机器一旦死亡，便彻底灭绝。

有些机器可以被类比为简单的单细胞生物，它们的身体只是一个硅材质的微处理器；有的机器则是体型庞大的多细胞生物，不仅有数以百万计的组件和一个“神经系统”，甚至还有一套内部恒温系统，也就是由计算机控制的空调系统，可以将机器的数据中心维持在最适宜运行的温度。有些机器长期处于休眠状态，像孢子一样待时机成熟时才恢复活性——比如你家的洗碗机，任务完成之后便再次进入休眠状态。

机器也需要营养，但它们的营养是电，而不是生物需要的有机物或者阳光。如果愿意，我们可以将计算机控制的发电厂理解为机器的消化系统，它不断地进行新陈代谢（metabolism），将有机的化石燃料转化为电能。但数字机器很少独立拥有消化系统。除此之外，它们与生物相比还有很多生命形态上的差异。比如，它们可以将整个身体与其他机器共享；一片微处理器可以同时服务多台机器。更本质的区别在于，机器是数字的、基于计算的。人类作为机器的有机创造者，是否本质上也是数字的和基于计算的呢？当今的很多思想家持肯定观点，但同样也有很多理由去质疑这种观点。再先进的人工智能可能也无法真正做到与人类相似，其原因就在于机器本质上是数字的、算法的，而且不具备有机的血肉之躯。它们在构成材料这一点上就与人类不一样。

数字技术人工物（digital technological artifact）是否真的有生命？这个问题没有标准答案，完全看你怎么定义“生命”。即使是生物学家也无法就有机生物的“生命”是什么达成一致意见。你可以说硅本身不具备生命，但组成我们身体的分子本身也不是活物。生物是一个过程，而不是一个物件。刚刚死亡的生物，其尸体的构成物质与它活着的时候一模一样。重要的不是物质，重要的是过程。

我们可以围绕数字科技到底有没有生命这个问题无休无止地争论下去，但这没有任何意义。更有意思的问题是：“生命”的类比是否有助于我们更好地理解人类以及社会正在发生的变化？毫无疑问，我们正经历着令人恐惧的巨变。如果技术人工物正在经历达尔文式的进化，那么我们就只能影响其进化的过程，而无法控制其进化的路径。于是，工程技术成了养殖和接生，而科技进化的最终结果将取决于自然选择。但人们对未来科技的恐惧还是太过夸大了，因为在自然选择力量的影响下，物种之间是可以互补的，而不一定要你死我活。实际上，仿真机器人和拟人人工智能都未必是机器最终的归宿。模仿人类可能并非机器的终点，与人类互补或许才是科技发展的正道。

即便我们将数字人工物视为生物，它们仍然依赖于人类。但相应地，我们也依赖于它们。想象一下，当你读到这段文字的时候，假如全球的电脑都被永久关闭并且无法再启动，那么将发生什么？对于人类来说，其结果必将是灾难性的。哪怕仅仅关闭几台电脑都会带来高昂的成本。虽然我们可以“拔电线”让“做错事”的机器“听话”，但实际上，拔电线的成本太高了，与其说是“杀掉”机器，不如说是自寻死路。

换个角度，想象一下，当你读到这段文字的时候，你体内的所有细菌集体死亡。短时间内你可能安然无恙，但过不了多久，你就会病入膏肓。生物学家将我们与体内细菌的关系称为互利共生（mutualistic symbiosis），也就是说双方都能够从共生关系中获利。我们与机器之间的联系可能正超越互利共生，发展为生物学家口中的专性共生（obligate symbiosis），也就是任何一方都离不开另一方。情况若真是如此，那我们的确应该好好考虑一下，我们是否真的能控制机器的进化过程。早在20世纪60年代，马歇尔·麦克卢汉（Marshall McLuhan）、理查德·道金斯（Richard Dawkins）、丹尼尔·丹尼特（Daniel Dennett）等思想家就提出，科技是我们自身的延伸，而且技术作为思想的累积，与人类之间是一种达尔文式的协同进化关系。但我们今天的所见所闻却与上述观点大相径庭。上述思想家认为，“技术”是思想的纲要，而思想——也就是道金斯所称的“模因”，是固化在人类大脑当中的。思想在可预见的未来恐怕无法脱离人类而独立存在或者自主复制，但基于数字技术的机器却可以做到这一点。

数字计算技术的变革性超越了人类此前创造的任何科技。随着我们对计算能力的理解不断深入，我们开始在自然界中发现类似于计算的过程，包括自组装（self-assembly）、基因调控网络（gene regulation network）、蛋白质-蛋白质相互作用（protein-protein interaction）以及单细胞生物中的基因拼装（gene assembly）。一些研究人员由此得出结论，自然界中的所有过程最终都可以被视为某种形式的计算。这堪称观念上的大飞跃，而本书的主题之一便是探讨生物过程与计算过程之间存在哪些无论技术如何发展都无法弥合的根本性差异。如果人类本身就是一种计算机，那么或许我们真的迟早会被机器压制。但如果我们不是机器，那么能取代我们的机器也许还没有诞生。

然而，这并不意味着我们可以高枕无忧。弗诺·文奇（Vernor Vinge）、雷·库兹韦尔（Ray Kurzweil）、尼克·博斯特罗姆（Nick Bostrom）和迈克斯·泰格马克（Max Tegmark）等思想家都谈到过反馈环路失控的可能。在这种情况下，机器有能力自行设计它们的后代，从而打破与人类的专性共生关系。软件的确会反过来影响软件设计。但这是否意味着人类不过是一台更宏大的机器里的轮齿？毫无疑问，这样的命运已经降临在优步（Uber）司机的身上，他们执行的只是转动方向盘、踩刹车这类机器暂时还没学会的低级别功能。等待我们的是否真的只有被征服甚至被消灭？或者我们将继续与科技共同进化，变成面目全非的新物种，甚至与机器发生物理结合、成为生化电子人（cyborg）？

不少生物学家相信，像人体细胞这样拥有细胞核的“真核细胞”就是从原本截然不同的有机体的共生中逐步进化而来的，这些有机体正是这些细胞以及细胞的细胞核和线粒体的“祖先”。这个过程可能会在人与机器的融合中再度上演。但对于两种不同的生命形态而言，并非只有“你死我活”或者“合二为一”这两条路，互补互助也是一种可能，而且自然界中有很多这样的先例。当今世界，人机互补的案例俯拾即是：银行软件每天可以精确可靠地处理几十亿笔交易，方便我们获取日常饮食，即便它并不是我们身体的一部分。

我们是否可以——或者说应该——将机器视作生命体？这个问题会牵扯出一系列难题。数字人工物是否可以在不借助人类力量的情况下自行存活、复制？它们有着怎样的复制、遗传和变异机制？它们能否匹敌或者超越人类的智能？它们能否具有自我意识，甚至是自由意志？它们应该对自己的行为负有怎样的责任？它们的行为是否符合伦理的标准？这些难题同样适用于人类自身，也正是哲学家几个世纪以来孜孜不倦探究的问题。

本书或许不会给你提供简单直白的答案。但我希望读罢此书，读者可以获得对这些问题更深入的理解。至少就我而言，我自认为对科技的理解胜过对人类的认识，而科技的视角总能让哲学问题更加明晰。或许，探究数字人工物是否能拥有自我意识，可以帮助我们更好地理解自我意识是怎样形成的。同样地，我们或许还可以在纠结这些问题的过程中，加深对人与科技之间复杂关系的认识。

章节概览

有些读者喜欢在阅读之前先了解书的梗概。尽管有自我指涉之虞，但为了方便这部分读者，我在此简单介绍一下本书的内容。不过坦诚地讲，我建议各位跳过这部分，直接进入第1章。本书所要讲述的故事是短短几个段落难以准确概括的，并且这样的概括难免会让读者误以为书中的内容庞杂繁复。但尽管如此，以下是本书内容的概要，供各位读者按需参考：

在第1章“半个大脑”中，我将引入“有生数字体”这个隐喻。我要讨论的不是人工智能，也不是未来的反乌托邦或者人类的生存性威胁——毕竟在这些方面有很多学者珠玉在前。我在这里探讨的是我们已经十分依赖的数字人工物，以及它们如何改变了我们，将怎样继续改变我们，又将怎样随着我们的改变而改变。我将探讨它们如何繁衍和变异，以及我们是如何像离不开肠道菌群那样离不开它们。

第2章“‘生命’的意义”的主题是，我们是否真的可以将数字人工物视为生物。毕竟，它们并不具备其他各类生物所具备的基本生物属性，在这种情况下，将它们称作生物岂不牵强？但须知数字人工物同其他生物一样，都是一种过程，而不是一个物件。它们会对周边环境的刺激做出反应，会生长、繁殖、继承先辈的性状，也拥有近似细胞的结构。它们主动维持着稳定的内部环境（内稳态），它们使用的能量主要来自有机分子的化学转化（近似新陈代谢的过程）。像维基百科这样更加高级的数字人工物甚至还拥有自己的神经系统。这样看来，这个类比好像也没有那么牵强——不过我会在第7章引入一个相反的视角。总而言之，问题的关键并不在于它们是否真的活着，而在于这个类比是否可以帮助我们更好地理解人类与科技之间的关系。

第3章“计算机无用？”着眼于数字科技作为人类的“认知假体”以及大脑的延伸的角色。数字科技让我们变得更聪明还是更愚蠢，抑或两者兼有？在本章中，我的观点是，科技可以使个体的人变得更加愚蠢，同时让人类整体变得更加聪明。

第4章“有话直说”从作为所有生物本质特征之一的反馈（feedback）讲起，首先从较高层级探讨反馈在人类语言生成过程中扮演的角色，之后讨论了反馈机制以深度学习算法等形式在人工智能软件中的应用，以及它如何使机器的认知更接近于人类。

第5章“负反馈”主要讨论一个非常简单却十分有力的理念：犯错，然后纠错。要做到这一点，需要具备感知错误的能力，以及纠正错误、减少犯错的能力。如果一个系统可以快速坚决地完成纠错，那么反馈机制就可以很好地弥补系统设计的粗糙。本章将从最原始生物的反馈系统讲到最高级形态生物的反馈系统。就科技系统而言，反馈机制提升了系统的适应性。因此，有效的反馈系统似乎是实现高水平智能系统的必备要件。

第6章“解释难以解释之物”篇幅较短。本章主要针对这样一个问题：虽然深度学习算法可以很好地将事物进行分类，但它的分类原理对人类来说仍然十分神秘。如果缺乏合理的解释，那么有些算法给出的分类结果在伦理上是无法被采纳的，而如何给出合理的解释，这个问题在很大程度上仍有待解决。

第7章“错了”提出了一个与第2章截然相反的观点：基于硅和金属材料的数字计算活动本质上与有机的生物过程大大不同。与希拉里·普特南提出的“多重实现原则”相反，“具身认知理论”，即主张认知活动与人的血肉之躯不可分割地联系在一起，或许确有其道理。人类心智的很多活动单凭大脑本身是无法实现的。

第8章“我是数字化的吗？”讨论了像人类这样的认知体（cognitive being）是否能被计算机复制的问题。本章将对所谓的数字算法系统的内涵进行探讨，并提出数字算法系统原则上可以实现光速远距离传送、备份后存储以及永久保存。有一种广为接受的观点认为，人类的认知本质上是数字的、算法的。我对此提出了质疑，指出这一论断不是事实，而只是一种信仰；它很可能是错误的，然而，它究竟是对是错则永远无从证实。

第9章“智能”提出，拟人的人工智能或许不是一个合理的发展目标；机器已经展现出与人类迥然有别的智能形态，这已经大大超越了人类的认知能力。本章将考察各种智能的特征，包括适应性的目标搜寻、获得和使用知识，以及意识这一“头号难题”（the“hard problem”）。我还会谈到诸如超人类主义（transhumanism）和奇点（singularity）等较为极端的观点。

第10章“责任”关注的问题是机器是否有能力，或者说是否应该为它们的行为负责。若人工智能创作了艺术作品，那么谁才是真正的作者？如果技术本可以拯救一个人的生命却袖手旁观，谁应该为此负责？如果人工智能的所有权或者后代分散不明，或者如果人工智能体在创造者死后仍然存活并进化成创造者不曾设想的东西，那么谁应该为这个人工智能体的行为负责？本章将讨论自由意志、创造力、伦理和自我意识这些艰深的问题。在人工智能的语境下进行这样的探讨，可以让我们对这些古老的难题获得全新的认识。

第11章“起因”关注困扰人们已久的因果推理问题。相关讨论最早可以追溯到伯特兰·罗素（Bertrand Russell），他认为因果关系并非客观世界的属性，只是人类的认知建构。如果不首先就因果关系问题达成共识，便不可能解决机器能否以及是否应该为其行为负责的问题。在这一章中，我援引图灵奖得主朱迪亚·珀尔（Judea Pearl）的观点表明，因果推理本质上是主观的，而交互造就了它。我指出，计算机如今已经具备了基本的因果推理能力，因此，它们或许能在未来发展出第一人称的世界观。那将是机器为自身行为承担责任的第一步。

第12章“交互”或许是本书中难度最大的，因为这一章将前一章论述的因果推理与两个十分深奥的技术概念结合在一起，以证明交互比观察更有力。这一结论带来的后果之一，便是随着计算机越来越多地与周遭的客观世界交互，它们的能力也将不断提升，其程度可能十分惊人。此外，我还指出交互可以揭示出单纯的观察无法揭示的信息，包括一个智能体是否拥有自由意志，以及一个智能体是否有意识。但与此同时，我也将论证，通过交互获得的信息可能是不完美的，亦即无法实现百分之百的置信度。以此推论，即便人类真的造出了一个有意识、有自由意志的人工智能体，我们可能也无法百分之百地确信这一事实。在此基础上，我接着解释和应用了零知识证明概念以及图灵奖得主罗宾·米尔纳（Robin Milner）提出的互模拟理论。

第13章“病状”将我们拉回如何与科技共存这个现实问题。本章的基本观点是，技术的进化难免会给人类带来各种异常和问题，但我们应该将这些问题当作病状加以解决，而不是把它们视为人与机器之间的“世界之战”。

第14章“协同进化”关注的问题是人类文化和技术是否正在通过不断的“变异与自然选择”的反馈过程实现进化。我指出，生物进化论领域的新进展表明，变异的来源比达尔文设想的更为复杂，技术的变异来源似乎更贴近这些新理论的结论，而非达尔文所说的随机事件。更重要的是，我提出人类的文化和技术正在共生地进化，并且可能已经接近任何一方都无法脱离另一方单独生存的专性共生。