下载掌阅APP，畅读海量书库
立即打开
2015年7月8日，我还在撰写本书的时候，美国联合航空公司的计算机系统出了故障，所有飞机被迫停飞。同一天，纽约证券交易所的计算机系统也遇到了问题，所有交易被迫中止。《华尔街日报》的网站也崩溃了。接二连三的系统问题令无数人惊慌失措，但是没有人知道到底发生了什么。Twitter上谣言四起，许多人都在猜测：美国是不是遭到了网络攻击？
但是，这些似乎并不是有预谋的网络攻击。“罪魁祸首”更有可能是问题很多且尚未被人完全掌握的软件系统。
[1]
一位安全专家在评论该日事件时所说的话可谓一针见血：“这些都是极其复杂的系统，出错的方式多种多样，其中有很多是我们目前完全无法理解的。”
事实上，对于这些复杂得令人难以置信的技术，说我们根本无法尽知其出错方式，其实已经是在有意地轻描淡写了。
人类的技术，从网站到交易系统，从城市基础设施到科学模型，甚至是为大型企业提供配套服务的供应链系统和物流系统，都已变得过于复杂且相互交错。在很多情况下，就连当初构建、每天使用和维护它们的人也无法完全理解了。
在《创造力差距》（ The Ingenuity Gap ）一书中，加拿大政治学家、生态学家托马斯·霍默－狄克逊（Thomas Homer-Dixon）描述了他于1977年在法国斯特拉斯堡（Strasbourg）参观高能粒子加速器时的情景。 [2] 当时，他问一位在那里工作的科学家，想知道是否有人明白整台加速器到底有多么复杂，结果得到的答案是：“没有任何人能够完全搞懂这台机器。”后来，霍默－狄克逊回忆说，这个答案令他深感不安。是的，我们理应感到不安。从那时起，粒子加速器以及人类所构建的其他一切事物的复杂程度，几乎都在不断增加。
技术的复杂性一直在增加。以铁路为例，铁路出现后，轨道网络和调度系统应运而生，以保证列车能够安全且准点运行。因为要对遍布整个大陆的无数列车进行调度，所以美国的标准化时区制也得到了发展。在铁路技术诞生之前，或者说在其复杂情况接踵而至之前，标准化时区制本不是必需品。
然而时至今日，技术复杂性已日益接近一个临界点。计算机的出现又给环境平添了许多激进新颖性（radical novelty） [3] ，这是计算机科学家艾兹格·迪科斯彻（Edsger Dijkstra）提出的一个术语。计算机的硬件和软件比之前的任何事物都要复杂得多：一个程序可能包含数百万行计算机代码，微芯片内集成微型元件的尺寸也已经小到接近原子量级。现在，计算机已经被应用到了汽车、手机，以及金融市场等领域，而不断增加的技术复杂性也已经到了令人费解的程度。
近年来，科学家们甚至还逐渐认识到，技术已与自然密不可分。研究地球岩层的地质学家已经在正式考虑这样一个问题：是否有足够的证据支撑我们把当下这个时代命名为“人类世”（Anthropocene） [4] ，也就是人类的时代。无论正式名称是什么，我们所制造的人工系统与自然世界之间的亲密关系都意味着，人类的每一个行动都比以往任何时候更有可能引发意想不到的后果，其影响不仅将涉及生活的方方面面，还将波及地球的每个角落，甚至在某些时候会超出地球本身。
从整体上看，技术和基础设施已经变成了极其复杂的、物理化和数字化的系统，好似血液循环系统那般，牵引着地球上所有原材料的流动，同时“排放”出道路、摩天大楼、芸芸众生，以及化学废水。技术加速了地球的“新陈代谢”，而这个过程是在一场极其复杂的“材料之舞”中完成的，这一切甚至改变了地球表面的光芒。
面对这种复杂性，我们往往会情不自禁地发出心难两用的感慨。一方面，我们构建出了这些令人难以置信的复杂系统，这无疑是值得自豪的，尽管它们也许永远无法如预期那般正常运行，但是它们作为无比复杂的大型系统，本身就是值得赞叹的。另一方面，我们在技术领域所付出的所有努力，几乎都在使我们远离优雅和简单，并且让我们无法抗拒地一步步走向某个极度复杂、完全无法预料的世界。
这段“旅途”的终点，其实已隐约可见，那是一个几乎可以自成一体的技术生态系统，一个超越了人类认知和理解能力的极限世界。正如2013年9月《科学报告》（ Scientific Reports ）所刊发的一篇论文指出的那样，现在，一个完整的“人类不可能及时应对的新机器生态”已经出现了。 [5] 需要注意的是，这篇论文所讨论的范畴还仅仅是金融领域而已。在股票市场上，各种机器通过各种形式进行着交互，从根本上说，这与利用不同算法进行交易没什么两样，而人类则成了局外人。 [6]
本书的观点是，如今存在着这样一种趋势和力量：无论人们做什么，都会使技术日趋复杂且变得难以理解。这种趋势和力量意味着，2015年7月8日那天所发生的事件将会越来越多。人们原本认为非常可靠的系统会发生无法解释的故障，甚至崩溃！
作为一名研究复杂性的科学家，我花了很多时间研究生活中日益增加的复杂性。我早就注意到，在巨大的复杂性面前，普通人一般会做出两种反应，这两种反应都因各自的极端化而有失偏颇：第一种反应是对技术所导致的复杂世界满怀恐惧；第二种反应是对技术过度崇敬且深信不疑。
恐惧是一种非常自然的反应。长久以来，人类一直被“淹没”在各种各样的末日预言中：大型机器会变成杀手，超级智能计算机即将出现，程序无法保证自动驾驶汽车不会撞死行人，等等。这些技术都非常复杂，即使是专家也无法完全理解，碰巧它们又相当可怕。这样一来，我们在接近技术、使用技术的时候便会警觉不安、惊恐不宁。
就算对技术系统本身并不畏惧，许多人还是会对已经形成包围之势的算法和技术如履薄冰，甚至感到厌恶，不愿直面技术所拥有的惊人力量。当亚马逊或奈飞推送购买建议时，我们无从拒绝；当敲下的文字被输入法自动纠错时，我们恼怒不已，这些都是我们的切身体会。甚至，在面对应用程序所推荐的从一个地方到另一个地方的最佳路线时，许多人偏要反其道而行之。毫无疑问，这种“算法厌恶”现象反映出了许多人共有的一种情绪，而这种情绪其实就是“技术恐惧” [7] 的表现之一，只是不那么严重而已。
与此同时，还有些人走向了另一个极端：对技术过度崇敬。在面对某个行为奇异的复杂事物时，很多人最终都会选择到宗教中寻求慰藉。当领教了谷歌公司“大脑”的“博学” [8] ，也就是对用户需求的精准预测之后，抚摸着心爱的最新款苹果手机时或访问一个庞大无比的数据中心时，我们的内心可能会蠢蠢欲动，感觉自己像是走进了一座庄严雄伟的大教堂。这时，崇敬之心油然而生。
然而，这两种反应，无论是来自专家的，还是来自非专业人士的，皆不恰当，或者说，皆是非生产性的。在并不值得我们深信不疑的系统面前，无论是恐惧也好，崇拜和敬畏也罢，都会阻碍我们选择恰当的面对方式。若无法采取切实到位的措施，我们就有可能失去控制权，而这会带来意想不到的、甚至是毁灭性的后果。当系统再度崩溃时，这种“理解不足”所导致的问题可能就不会再像《华尔街日报》事件中那样，仅仅只是读者无法在网站上阅读文章那么微不足道了。故障可能会发生在电网、银行系统，甚至医疗领域中，而且不会自行消失。我们现在如果不正视它们，未来定会陷入险境。
技术无处不在，既不古老也不深奥，说到底，它源自某些完美的无限遐想。 [9] 纵然技术是十分混乱且不完美的，但它却很“平易近人”。我们所需要的是应对各种情况的策略。
我写这本书是为了帮助人们在上述两个极端反应，也就是恐惧和崇敬之间找到一条正路，并为接近技术、理解技术和掌控技术探索出方向。那是一个乐观的方向，能够改变对这些系统的思考方式，让我们不会陷入恐惧或崇敬，不会陷入“六神无主”。
想要朝这个方向出发，就得向技术“妥协”，而这又要求我们得先培养出一种面对技术系统时的舒适感，尽管我们从未完全理解它们。这是一种谦卑的舒适感，既要容忍不确定和不完美，又要不断努力探索，以期逐渐了解更多。正如即将看到的那样，除了其他方面，我们在探索这个方向时，还需要借鉴科学家研究生物复杂性时所采用的方法。
尽管人类过于依赖技术系统，而这些系统又过于复杂，但我仍然相信，人类终有希望掌控自己所构建的系统。
本书旨在说明为什么系统会过于复杂，以及我们应该怎样理解和掌控过于复杂的系统。
[1] 有人猜测，《华尔街日报》的网站之所以会崩溃，是因为有太多用户为了阅读关于“纳斯达克停止交易”这则新闻而在同一时间段内登陆。请参阅：Jose Pagliery, “Tech Fail! Explaining Today's 3 Big Computer Errors,” CNN Money, July 8, 2015。关于此事件及其影响的进一步分析，请参阅：Zeynep Tufekci, “Why the Great Glitch of July 8th Should Scare You,” The Message , July 8, 2015。
[2] Thomas Homer-Dixon, The Ingenuity Gap: Facing the Economic, Environmental, and Other Challenges of an Increasingly Complex and Unpredictable Future (New York: Alfred A. Knopf, 2000; repr. Vintage, 2002), 171.
[3] Edsger W. Dijkstra, “On the Cruelty of Really Teaching Computing Science,” E. W. Dijkstra Archive: The manuscripts of Edsger W. Dijkstra, 1930—2002, document no. EWD1036, December 1988．艾兹格·迪科斯彻在1972年受美国计算机协会（ACM）之邀举办了图灵讲座（Turing Lecture），并阐述了类似观点。请参阅：E. W. Dijkstra, “The Humble Programmer,” Communications of the ACM 15, no.10 (1972): 859–86。尽管不是每一项技术都具有可计算性，但迪科斯彻的确深刻地指出了当今这个技术时代的生活模式。
[4] Lee Billings, “Brave New Epoch,” Nautilus 009: January 30, 2014.
[5] Neil Johnson et al., “Abrupt Rise of New Machine Ecology Beyond Human Response Time,” Scientific Reports 3: 2627, September 11, 2013.
[6] 原文为：回到2008年，那是布拉德·胜山（Brad Katsuyama）第一次意识到股票市场已经变成了“黑箱”，普通人不可能理解它的内在工作机制。请参阅：Michael Lewis, “The Wolf Hunters of Wall Street,” The New York Times Magazine , March 31, 2014。
[7] Berkeley J. Dietvorst et al., “Algorithm Aversion: People Erroneously Avoid Algorithms After Seeing Them Err,” Journal of Experimental Psychology : General 144, no.1(2015), 114–26.
[8] 关于这种崇敬心理的实例有：一位记者写下了自己在参观谷歌数据中心时的感受；请参阅：Stephen Levy, “Google Throws Open Doors to Its Top-Secret Data Center,” Wired , October 17, 2012。另一位记者则描述了自己对Facebook新闻推送算法的崇敬之心，他是这样说的：“新闻推送算法在评论界掀起了轩然大波，它似乎有了自己的思想，就像是有智慧的北欧古符文被解除了封印，开始追逐一些超出人类理解能力的目标。”请参阅：Will Oremus, “Who Controls Your Facebook Feed,” Slate , January 3, 2016。
[9] 关于“对算法的崇拜”的进一步讨论，请参阅：Ian Bogost, “The Cathedral of Computation,” The Atlantic , January 15, 2015。