连接和反馈是复杂系统的典型标志。技术系统已经变得如此复杂，以致每个专家都仅知道其中的一个部分，没有人能够完全理解整体。我们已经从“启蒙时代”迈进了“纠缠时代”。

1986年初的一个冬日，距离“挑战者号”航天飞机爆炸事件发生还不到一个月，著名物理学家理查德·费曼（Richard Feynman）在调查委员会的听证会上公开了一份调查报告。 ^[1] 费曼非常冷静地揭示了导致“挑战者号”航天飞机起飞后不久就爆炸解体的原因。问题出在用于密封固体火箭助推器各部分之间缝隙的O型圈上。O型圈其实是一小片橡胶，放入冰水后会失去弹性，也就是说，这种小部件对温度变化非常敏感，所以无法保证密封的牢固性。这些O型圈很可能就是这起导致7名机组人员丧生灾难的罪魁祸首。

与此事件如出一辙的是发生在汽车业中的另一事件。2007年的一天，琼·布考特（Jean Bookout）驾驶着一辆生产于2005年的丰田凯美瑞，行驶在俄克拉何马州的一个小镇上。突然，她的车开始加速，并失去了控制。 ^[2] 她踩下了刹车，但没有任何作用；她拉起了紧急制动器，轮胎在道路上留下了触目惊心的摩擦痕迹。然而，这些努力都无济于事，汽车最终狠狠地撞到了路堤上。布考特受了重伤，车上的乘客、她的朋友芭芭拉·施瓦茨（Barbara Schwarz）则不幸遇难。

并不是只有布考特一个人遇到这种怪事。事实上，多年以来，在丰田公司生产的汽车中，有多种型号的汽车都曾出现过此类奇怪且危险的故障：汽车在行驶过程中会“违背”驾驶员的意愿保持匀速，甚至还会“擅自”加速。这种意外加速事故已经导致多人伤亡。业内专家分析出了这类事故的几个导火索：驾驶员操作失误，垫毡顶住了油门加速踏板，油门加速踏板黏滞未能及时复原，等等。但是，这些原因并不能解释所有的意外加速事故。在受事故影响的车型中，因为垫毡或油门加速踏板不合格而被召回的并不多，而且我们也没有理由认为，丰田汽车的驾驶员比其他汽车的驾驶员更容易犯错。

无奈之下，丰田公司请来了嵌入式软件专家迈克尔·巴尔（Michael Barr）追查原因，并向他开放了专有数据库以及向来严格保密的软件代码。在6位经验丰富的工程师的协助下，巴尔几经周折终于找到了问题的根源。与此同时，计算机科学家菲利普·库普曼（Philip Koopman）也通过对公开程序的仔细分析，找到了事故发生的大致原因。 ^[3] 两位专家都认为，对于意外加速事故的发生，丰田发动机软件系统的过度庞大和极度复杂，以及糟糕的设计都应该承担相应的责任。我们无法将事故责任明确地归咎于某个设计或部件出了错，毕竟，这里面存在的问题盘根错节，而且这些问题还会引发汽车软件系统与外部机电系统之间的巴洛克式结构（baroque structure）的大规模交互。无论是单独看来，还是整体看来，这个系统的极度复杂性让我们很难理解这些相互作用、相互影响的部件的深层问题和缺陷。有依据表明，丰田公司本来完全没有必要搞出一个如此复杂的系统，至少在现有情况下，不必如此复杂，它们显然不够小心。

这个“诊断结果”与我们熟悉的“技术失败”并无二致。费曼找到了导致“挑战者号”航天飞机爆炸的单一原因，有所不同的是，我们无法确定导致丰田汽车出现事故的单一原因。无论如何，如果部件堆积得越来越多，设计也越来越复杂，那么灾难便只会越来越多。

事实上，即使找到了导致失败的单一原因，但在极度复杂的系统中，那很可能也只是掩人耳目的东西罢了。1996年，阿丽亚娜5型火箭在发射升空39秒后爆炸，火箭上搭载的4颗卫星均毁于一旦。 ^[4] 事故分析表明，发生爆炸的原因是，火箭在新环境下使用了一些较为陈旧的软件代码。但是，根据霍默－狄克逊教授的说法，没有任何一个承包商被追责。这次爆炸并不是某个决策失误所致，而是整个发射系统的极度复杂性所致。其他类似的灾难还有三哩岛核电站事故， 尽管有关方面也找到了一个原因，但是究其根本，仍然得归咎于系统的庞大和极度复杂，而非某个部件或决策出了错。

当我们试图将这种复杂性拆解开来时，难免会陷入“挑战者号”航天飞机的主流事故中。 ^[5] 尽管航天飞机的发射和操作是一项异常复杂的工作，但是很多人都相信，只要彻底核查复杂系统，将其分解开来，确定每个部件如何工作，在什么情况下会出故障，我们就应该能够理解它们。这无疑是一种过于自信的想法，其根源在于：人类的思想拥有无限潜力。人们总认为，只要足够努力，就可以完美地理解身边的一切事物，特别是人类自己所构建的那些东西。

我们观察到，这种情绪在所谓的辉格党式（Whiggish）的进步观念中体现得最为充分。正如科学作家菲利普·鲍尔（Philip Ball）所描述的那样，这种观念认为人类已经踏上了“从无知和迷信的黑暗时代走向理性时代的胜利之旅” ^[6] 。在科学界和技术爱好者的圈子中，这个观念根深蒂固，正如历史学家伊恩·毕考克（Ian Beacock）在文章中所写：“科技行业讲述了人类‘数字时代’的崛起，那是一个辉格党式的故事：阴郁昏暗的时代行将结束，人类将迎来一个更加美好的未来，一个更幸福、更开放的世界。在那个美丽新世界中，一切都是测量好的、经过精心设计的，并达到了最高效的完美状态。” ^[7] 当然，坚持这种观点的人还认为，效率和生产力的提高，促使人们为了实现某个令人振奋的目标，而持续关注和理解自身所构建的现代工程。这种辉格党式的观点与社会学家马克斯·韦伯（Max Weber）所描述的“现代思维模式”有关：在一个“不再拥有幻想的世界”中，人们会产生一种感觉，也就是“在原则上，我们可以通过运算来掌握所有事物”。 ^[8]

然而，这种理解复杂性的方法如今已经失效了。是的，我们正处在一个新时代，正在建立一个新系统，而这个系统是无法从整体上被掌握的 ^[9] ，或者说，无论对谁而言，它都太复杂了。我们发现，在分析丰田汽车意外加速事故时，无论是不是专家，上述那种陈旧的思维模式都不足以应对其复杂性了。不仅如此，这些情况不只附着在我们缺失的经验中，它们已充斥了我们的整个生活。

[1] James Gleick, “Richard Feynman Dead at 69; Leading Theoretical Physicist,” The New York Times , February 17.

[2] 关于丰田汽车意外加速事故的更多信息，请参阅：Ken Bensinger and Jerry Hirsch, “Jury Hits Toyota with $3-million Verdict in Sudden Acceleration Death Case,” Los Angeles Times , October 24, 2013; Ralph Vartabedian and Ken Bensinger, “ Runaway Toyota Cases Ignored,” Los Angeles Times , November 8, 2009; Margaret Cronin Fisk, “Toyota Settles Oklahoma Acceleration Case After Verdict,” Bloomberg Business , October 25, 2013; Associated Press, “Jury Finds Toyota Liable in Fatal Wreck in Oklahoma,” New York Times , October 25, 2013。

[3] 2014年10月3日，库普曼在他的博客上发表了一个题为“丰田汽车意外加速事故与软件安全案例研究”的演讲。也请参阅：the report by Michael Barr of the Barr Group on Bookout v. Toyota 。

[4] 关于阿丽亚娜5型火箭的事故详情，请参阅：Homer-Dixon, The Ingenuity Gap 。霍默－狄克逊的部分叙事基于James Gleick, “A Bug and a Crash: Sometimes a Bug Is More Than a Nuisance,” 1996(which originally appeared in The New York Times Magazine , December 1996)。关于这类系统突然崩溃的直接原因与深层原因的讨论，请参阅：Chris Clearfield and James Owen Weatherall, “Why the Flash Crash Really Matters,” Nautilus 023, April 23, 2015。

[5] 我们必须认识到，“挑战者号”航天飞机的失事原因比坊间所传要复杂得多。例如，有种说法是，在发射之前，某些工程师已经预感到这架航天飞机可能会发生“灾难性事故”；尽管他们无法说出准确原因，但是他们的确反对过这次发射。当时，有工程师指出“温度是一个因果性的因素”，但并不确定。请参阅：Wade Robison et al., “Representation and Misrepresentation: Tufte and the Morton Thiokol Engineers on the Challenger,” Science and Engineering Ethics 8, no.1(2002): 59–81。在这个事故的“口述”材料中也有一些线索可以表明，某些工程师似乎知道失事原因；理查德·费曼也得到了这方面的材料，并在听证会上做出了强调。请参阅：Margaret Lazarus Dean, “An Oral History of the Space Shuttle Challenger Disaster,” Popular Mechanics , February, 2016。

[6] Philip Ball, “Science Fictions,” Aeon , October 29, 2012.

[7] Ian Beacock, “Humanist among Machines,” Aeon , June 25, 2015.

[8] Max Weber, “Science as a Vocation,”in From Max Weber: Essays in Sociology , trans. and ed. H. H. Gerth and C. Wright Mills, 129–56(New York: Oxford University Press, 1946, repr.1958) .

[9] 人类一手创造之物，令人类困惑不解。类似的观点，法国诗人保罗·瓦莱里（Paul Valéry）早已“预言”：“因此，所有的问题归根结底是在问：人类心智能不能掌握人类心智的创造物？”转引自：Langdon Winner, Autonomous Technology: Technics-out-of-Control as a Theme in Political Thought (Cambridge, MA: The MIT Press, 1977), 13。 aDaAscVM0QVeSaXD0XVRhFzjR+j9rScJ0ZA6ifAxoR31DuSOxnrp/cOYLno0MFtP