引言
植物羊

14世纪中叶起，出自据称是英格兰骑士约翰·曼德维尔爵士（Sir John Mandeville）的游记的一段经历令欧洲学者津津乐道。 曼德维尔在游记中记述他曾穿越小亚细亚、北非，进入印度，经历了许多当时西欧居民从来没有听说过的事。其中一段描述着实让人震惊，那就是他在印度时碰到过一棵树，这棵树上结着像葫芦一样的果实，果实里面竟然有完整的、有血有肉的微小羊羔。曼德维尔声称自己还吃过这种果实，并且发现它“很奇妙”。

整个14世纪，并不是只有曼德维尔提到过这种神奇的树。一个名叫鄂多立克（Odoric）的意大利修士在曼德维尔的游记发表之前约30年，就写过类似的文章。他声称自己曾穿越东方 ，但他并没有吃过这种果实，只是从“值得信赖的人”那里听说过这件事。

各式记录中的羊羔树，后来被称为“植物羊”（the Vegetable Lamb of Tartary），一度激发了中世纪人的想象力，其中不乏一些知名的博物学家和植物学家，他们还声称自己对此进行过研究，有人甚至说自己见过植物羊的羊毛。类似的描述层出不穷，一直持续到17世纪。有的文献还专门记载了有关植物和动物、动物和动物杂交的研究，植物羊仅仅是其中一个有名气的例子。［另一个例子是一种不存在，却出现在多篇科学文献里的野兽。它是一种长角的兔子，貌似鹿角兔（jackalope）——美国西南部的神话动物，传说这家伙喜欢喝威士忌，还会模仿牛仔的声音。］ ^[1]

即使已经名声大噪，对于植物羊的存在照样有怀疑论者。出身贵族的冯·赫伯斯坦（von Herberstein）是16世纪神圣罗马帝国驻俄国大使，他报告说，植物羊一说最初让他感到震惊，但经过深入了解后，他也逐渐成了一个对此坚信不疑的人，特别是在许多“信得过的人”进行描述后。这些人品尝过植物羊那鲜美的果肉，抚摸过它雪白的绒毛。 赫伯斯坦称，他听到的各种描述版本“差别微不足道”，这使得他认为“这件事的真实性比他想象的还要大”。

当然了，世界上没有这样的树，而且从来没有。世界上也没有其他类型的动植物杂交体。但是在中世纪，在曼德维尔的游记问世之后，欧洲植物学家和生物学家花了将近四个世纪的时间，才真正认识到植物羊只是一个传说。1683年，瑞典博物学家恩格尔贝特·肯普弗（Engelbert Kaempfer）受国王卡尔十一世委派，在小亚细亚进行了系统深入的调查，最终断定世界上根本没有植物羊。

几个世纪以来，很多欧洲学者都以明确肯定和严肃的态度坚称羊羔可以从树上长出来，为什么会这样？考虑到当时所有的有关动植物的可用经验，这样一个没有证据的观念，一个显而易见的（错误）观念不停出现简直是荒谬透顶。为什么这样的观念持续存在了几个世纪？

更重要的是，这种观念的形成和传播机制，竟然在所谓的专家中也照样存在。今天类似植物羊的观念又有哪些呢？我们中又有多少人相信它们呢？

2016年9月26日，在唐纳德·特朗普当选美国总统前约6周，美国一家自称“ETF新闻”的网站（endingthefed.com）发表了标题为《震惊世界，教皇发表声明支持特朗普当总统》的报道。报道甚至附有一份所谓的教皇声明，表述教皇决定支持特朗普的原因是FBI（美国联邦调查局）并没有对特朗普的竞选对手希拉里·克林顿提起刑事指控。 ［FBI局长詹姆斯·B. 科米（James B. Comey）在2016年7月5日宣布，FBI已经结束了针对希拉里担任国务卿期间使用的个人电子邮箱服务器的调查，因为调查发现没有证据表明希拉里意图违反任何法律，所以FBI不建议起诉。］

根据ETF新闻的报道，“FBI……的行为已经暴露了他们被十分强大的政治势力腐化，”教皇写道，“尽管我不同意特朗普先生在某些问题上的观点，但我认为，对致使整个美国联邦政府腐化的强大政治势力投反对票，是一个渴望真正民有、民治的国家的公民的唯一选择。”从发表到大选期间，此文在脸书上被转发或者点赞了96万次（看到该报道甚至点击阅读的用户数量可能是这个数字的10倍多）。 这也是当年美国大选前3个月中脸书上转发最多的与选举相关的单条新闻。 同一时期来源于知名新闻媒体的被转发最多的报道，是《华盛顿邮报》的一篇评论，题目为《特朗普的腐败历史令人惊愕，那么，为什么希拉里会被认为是腐败的？》。这篇评论先后被转发84.9万次（当然了，此评论也带有赤裸裸的党派色彩，算不上标准意义上的“新闻”——虽然此文比ETF新闻编造的新闻更符合新闻标准）。与此形成对比的是，希拉里以不到25万票之差输掉了美国18个州，并在威斯康星州、密歇根州和宾夕法尼亚州各输掉了将近5万票。假如希拉里在这三个州翻盘，她将赢得大选。

如果教皇真的表示支持特朗普当总统，那势必会成为重大新闻，引发关注，受到各新闻机构的广泛报道。但是，这一切根本没有发生过，全部内容都是编造的。

教皇支持事件是那个选举周期中最大的“假新闻”事件，但绝非唯一的。蜂鸣器新闻（BuzzFeed News）的克雷格·西尔弗曼（Craig Silverman）分析发现，在大选前的三个月里，热度排名前20的假新闻在脸书上被转发或点赞的总次数达870万次。而在同一时期，源自知名媒体的热度排名前20的新闻，在脸书上仅获得730万次转发或点赞。在另一项研究中，经济学家、纽约大学的亨特·奥尔科特（Hunt Allcott）和斯坦福大学的马修·根茨科（Matthew Gentzkow）汇编了一个数据库，其中包含115篇支持特朗普的假新闻和41篇支持希拉里的假新闻，在大选前的几周，这些假新闻被转发了3800万次。他们估计，这些转发带来了数亿次点击。他们还列出了一个假新闻网站名单，这些网站在10月8日至11月8日之间的访问量总计1.59亿次。

ETF新闻做得尤为出色，有5篇ETF新闻的报道位列热度榜前20名，而且这些报道在传播期间共获得了350万次转发或点赞。 ETF新闻可能是大选之前的几个月中互联网上最受欢迎的“消息”发源地。这些“消息”包括指控希拉里直接向“伊斯兰国”出售武器，美国联邦司法机构取消她担任公职的资格，FBI前局长詹姆斯·B. 科米从克林顿基金会拿了数百万美元，总统贝拉克·奥巴马下令削减美国军人的薪水，等等。

一个值得注意的例子，是ETF新闻事件中有关电视节目主持人梅根·凯利（Megyn Kelly）的报道。这条新闻一度成为脸书上的“热门话题”，受到站方的积极推广。报道声称凯利作为“叛徒”已经暴露，并因支持希拉里而被福克斯新闻解雇。 （特朗普与凯利之间的积怨始于2015年8月6日的共和党初选辩论，凯利就特朗普过去贬损女性的言论向他提出了一个尖锐的问题。特朗普后来发表的言论被广泛解读为，他暗示凯利之所以在辩论中提出批评，是因为她处于月经期。）

这些新闻都不是真实的，许多甚至不是原创的，而是直接从其他假新闻网站上抄来的。如教皇支持特朗普的新闻，最初发布在一个名为“WTOE 5新闻”的网站上，该网站隶属于一个由假新闻网站组成的网络矩阵，曾经通过声称名流们正计划搬迁到美国的各个小镇来增加访问量 （该网站已不存在）。其他文章是从“超级爱国者”（supremepatriot.com）和“骗局”（proudcons.com）等网站上一字不差地复制过来的，并且没有注明出处。不知为何，ETF新闻网站上发布的版本在社交媒体上的转发次数要远远高于最初发布的版本。

对植物羊一说信以为真并加以传播，最终成为一段无伤大雅的历史插曲。但如今，“植物羊”不仅已在美国，而且已在英国和欧洲大陆成为一股重要的政治力量。 有近10亿人生活在美国和欧盟，还有数十亿人受到这些国家军事、贸易和移民政策的影响。无论人们如何看待特朗普的当选或者英国退出欧盟（“脱欧”）的好处，一想到这些重大政治事件是由各种谎言构成的，就会让人深感不安。这也引出了一个深刻且令人不安的问题：民主能在假新闻充斥的时代存活下去吗？

本书是一本关于公众观念的书，也是一本关于真理与知识、科学与证据的书。但最重要的是，本书是一本有关错误观念的书。 人们如何形成观念，特别是错误观念？它们如何持续存在？为什么会传播？为什么即使面对大量相反的证据，错误观念依然不会改变？也许最主要的是，我们如何才能改变这种情况。

这听起来像是老生常谈，但是值得一提的是，我们关于世界的观念很重要。我们的观念关乎我们每天做出的决定。你怀孕时吃寿司吗？这取决于你是否相信鱼中的Ω—3脂肪酸会促进宝宝的大脑发育，是否相信鱼含有的汞会伤害宝宝的大脑，以及这家餐厅有李斯特菌的概率有多大。

观念同时关乎社会决策——包括经济政策、公共卫生和环境等方面的决策。我们会限制汽车排放量吗？这取决于我们如何考虑汽车排放对公众健康的影响以及加以限制后对社会经济增长的影响。我们会限制政府债务吗？这取决于我们对债务是否影响我们的未来福利的看法。

这些观念并非可有可无。事实上，基于这些观念所做的决策会产生深远的影响。如果你相信了谬误，并且根据这些观念做出决定，那么这些决定不大可能产生你所预期和渴望的结果。对于你所坚持的观念，这个世界也会予以回应。如果你不相信大型海鱼体内含有大量汞，或者你不认为汞对身体有害，那么你会在怀孕时吃寿司——这样可能会增加胎儿汞中毒的概率。如果你相信政府债务高企会拖累经济，那么即使利率很低，你也会投票赞成减少政府债务的政策，哪怕是以减少政府服务或者刺激支出为代价。

观念的影响如此重要，这意味着如果持有错误观念，我们会受到伤害。观念的持续影响力更令人惊讶。

想要理解为什么错误观念会持续存在并传播，我们首先需要搞清楚观念的来源。有些观念和我们的亲身经历有关。我们吃过很多次番茄，没有明显的不适，所以我们认为番茄并不危险。（顺便说一下，在两百多年的时间里，欧洲人自己竟然没有发现番茄可食用；一直以来，番茄被认为是“毒苹果”，食用是很危险的。） ^[2] 我们相信经常运动和有效睡眠有助于稳定情绪，寒冷会引起嘴唇干裂，地鼠是花园的祸害。这些观念都是基于我们对周围世界的直接经验。

你可能会认为，人们之所以会持有错误观念——这些观念与现有证据相矛盾，而且这种矛盾众所周知——是因为未能正确处理已获取的信息。 也许错误观念是认知偏差或盲点导致的，人类的心理怪癖会阻止我们从经验中得出可靠的结论。也可能是因为经验太少或者受教育水平低，或者即使证据摆在眼前，持有错误观念的人也因为太笨而看不到真相。我们常常认为智力只用于衡量一个人在面对各种情况时做出可靠推断的效率。错误观念大概表明一个人没有做出正确的推断。

当然，这类因素在解释错误观念如何形成的过程中发挥了一定作用。但是，把形成错误观念仅归咎于个人心理或智力，会使我们严重误判错误观念持续存在和传播的原因，这种不全面的解释也会导致我们采取错误的补救措施。我们的许多观念——可能是大多数——的形成都有较复杂的渊源。我们根据他人的描述来形成第一印象，我们往往相互信任并愿意相互学习。大鱼体内到底有无汞？大多数人其实不知道如何检测汞含量，我们必须依靠别人提供的信息做出判断。

我们所持有的每一个科学观念都是这样来的。如果你问美国人是地球绕着太阳转还是太阳绕着地球转，他们中的大多数会回答地球绕着太阳转（美国国家科学基金会2012年进行的一项民意调查显示，至少有74%的美国人这样认为） 。他们（或多或少）是正确的。他们之所以这么说仅仅是因为曾有人这么告诉他们。即使是在专业领域有成就的科学家，也倾向于只针对特定的主题进行研究，以求解答人类未知的一小部分问题，所以他们其他方面的科学认知同样深深地依赖于别人。这意味着，即使是公认的最精英的专家，也可能基于他人的判断而产生错误观念。还记得吗，正是中世纪欧洲的科学家和思想家对植物羊及其“鲜美的果肉”深信不疑。

人类的一个特别之处是具有共享信息并影响彼此观念的能力。在科学和艺术上如此——实际上，在以各种形式存在的文化上都如此。但这也导致了一个难题。我们如何知道是否应该相信他人告诉我们的事情？如果是你“信得过的人”告诉你植物羊毋庸置疑是真的——或者教皇支持唐纳德·特朗普当总统——你会相信吗？再比如，你所知的聪明、受过良好教育的人都相信植物羊存在，那么你呢？如果你的朋友在社交媒体上发布文章，嘲笑那些否认植物羊存在的人无知，你又该怎么办？对于大多数人来说，在大多数时候，这些足以使他们确信，这件事的真实性可能比他们想象的还要大。

进行社会交往时我们会面对各种信息，需要即刻做出取舍。如果你想拥有尽可能多的正确观念，那就应该相信你听到的一切。如此，我们在社交中接触到的每个正确观念都将成为我们的观念体系的一部分。如果你希望将错误观念的数量降到最低，那就不应相信任何事情。如此，我们自然就不会相信所谓的植物羊了。虽然最好的做法是只相信真实的信息而非虚假的信息，但是仅根据从别人那里听到的信息来做判断，你很难区分真假。大多数人在同一个地方得到错误观念和正确观念，所以如果我们想得到正确观念，那么也有可能得到错误观念。

中世纪文献中的植物羊主题经久不衰，与植物学或自然界没有任何关联，它纯粹是一种社会现象。在分析植物羊以及假新闻时，我们需要理解观念的社会属性，还需要认识到，普遍存在的虚假信息是我们学习真理的强有力工具产生的必要但有害的结果。

我们生活在错误信息时代——一个充斥着杜撰、营销和彻头彻尾的谎言的时代。当然，说谎并不是什么新鲜事，但是在过去的一个世纪中，故意传播虚假或误导性信息的行为激增，原因是新的信息传播技术——广播、电视、互联网——被投入使用，以及有意误导我们的人愈发老练。

错误信息大多以宣传的形式出现。这种宣传材料通常由政府或政治组织来制作，目的是宣传某个特定观点，或挑战某个观点。一直以来，大众媒体宣传都是政府控制本国公民，并影响国内外竞争者政治命运的工具。（当然了，受众也要面对国内政府资助的媒体，如英国的BBC。）有政治动机的媒体类似于为国家做宣传的机器。它们是带有左倾或右倾色彩的“新闻”的来源，也是别有用心的言论以及谣言和假新闻的来源。

政治宣传只是问题的一部分，行业（商业）广告宣传通常是更危险的——因为人们对它宣传的东西不太了解。行业广告宣传无所不包，从明目张胆意图改变人们观念的广告，到旨在将已有可靠证据削弱为错误信息的宣传活动。

后者的一个典型例子，是烟草公司在20世纪下半叶发起的运动，旨在降低证明吸烟与肺癌有联系的研究的可信度（我们将在第三章中详细讨论）。烟草公司重金聘请“专家”制造了这样一种印象，即吸烟与肺癌之间关系的不确定性远超实际情况，相关共识也比实际情况少得多。这场运动成功地在一代人或更长的时间里使得戒烟法规和公共卫生倡议被无限期推迟。正如科学史研究者内奥米·奥利斯克斯（Naomi Oreskes）和埃里克·康韦（Erik Conway）在他们合著的《贩卖怀疑的商人》（ Merchants of Doubt ）一书中详尽记录的那样，卷烟制造商开创的宣传方法，已为能源行业以及相关科学家和政界人士所效仿，以使公众产生气候变化的严重性和原因存在不确定性的印象。

所有这些故意提供片面、扭曲和不准确的信息的来源——从政治宣传机构到具有政治动机的媒体，再到受行业利益驱动的科学研究——都在错误信息的起源和传播中扮演重要的角色。正如曼德维尔的虚假游记导致植物羊一说被广泛接受一样，假新闻和假科学研究仍然是错误观念的重要来源。

但是，对错误信息进行描述或者介绍，并不足以解释它们为什么能广泛传播并被接受。与相信植物羊的存在不同，对吸烟的健康风险持有错误观念会导致严重的后果。虽然确定癌症发生和吸烟之间的联系需要大规模的流行病学证据和严谨的实验数据，但事实上，在过去的一个世纪中，许多人看到他们深爱的人——吸烟者——过早、痛苦地死去。正是这种眼见为实的直接经验，使人们停止纠结吸烟有害健康的观念是否可信，除非还有其他因素凌驾于直接经验之上。

那么，宣传者是如何颠覆人们的生活经验、推翻严谨的科学研究得出的证据，从而塑造我们的观念呢？

我们认为，宣传通常会利用相同的社会因素，正是这些社会因素使得植物羊以及教皇支持特朗普当总统这样的谣传得以持续存在和传播。在对待吸烟是否有害这件事情上，那些希望相关研究得出不确定性结论的势力利用观念在社交网络中传播的方式，诱导人们产生吸烟不一定有害的印象，其结果是数以百万计的人死于吸烟导致的本来可以预防的疾病。

在本书中，我们认为社会因素对于观念的传播至关重要，尤其是错误观念的传播。我们会描述错误观念传播的主要机制，并讨论为什么同样的机制在试图获得真理的过程中非常宝贵。只有合理阐释这些社会因素，才能充分理解对现实世界具有重大影响的错误观念是如何持续存在的，即使已经有证据表明它们是错的。在这个假新闻可以否定真新闻、可以影响选举和政府决策的时代，理解这些是成功应对上述问题、做出准确判断的前提。

在某种程度上，我们的讨论借鉴了历史上（以及当今）的错误观念案例，这些错误观念已经在试图了解世界的人群中传播开来。至少在本书第一章中，我们选择的大多数案例来自科学界。我们会讨论科学家群体是如何坚持错误观念的，以及在能证明这些错误观念根本不属实的可靠证据出现后，这些错误观念是如何持续存在的。我们也会谈到一些科学家，他们摒弃了自己先前持有的某个观念，认为其是错误的。正如我们所讨论的那样，科学家和其他人一样，也容易受到社会关系网的强烈影响。

虽然我们研究的大多数例子来自科学界，但这并不意味着我们的关注点仅限于科学家所持有的观念。相反，我们想要说的是，本书讨论的各种社会因素对于理解几乎所有错误观念的持续存在和传播至关重要。我们专注于科学家，是因为大多数科学家大多数时间都在尽最大努力使用现有最佳方法来研究世界，他们对现有证据予以密切关注。他们接受过收集和分析证据的训练，通常对自己研究的问题有充分的了解。换句话说，科学家是我们最接近理想的研究对象。正是因为有上述前提，科学家群体也可能会坚持错误观念的事实着实令人震惊。既然科学家也会受到社会因素的影响，那么其他人受到影响也就不足为怪了。

关注科学家还有另一个原因。事实上，无论是个人还是集体，任何人类活动都离不开这个世界，行动能否成功，客观世界的影响因素更多一些，这毋庸置疑。如果想正确预测我们的行为将产生什么结果——当然，我们是这样做的——正确的做法就是仔细研究现有的证据。当人们这样做时，通常会像科学家一样行事：试图了解过去发生的事情，了解事情为什么以这种方式发生，并预测如果做出某种选择，将来会出现什么结果。人们都有生活经验，记住这些经验，并根据这些经验的积累来改变已有的观念。科学家进行科学活动，也是用类似的步骤，只不过他们努力做得更系统。因此，科学活动也可以被理解为大部分时间里我们所有人在世界中为努力前进所做的事情的一个极端版本。

分析特定事例只是研究的一种方式。我们还会借鉴科学工具：计算机模拟和数学建模。近20年以来，科学哲学家借鉴了经济学和进化生物学等领域的模型和思想，用以研究“认知共同体”——试图获取有关世界的知识的人类群体。使用这些研究模型的科学哲学家更喜欢将科学家群体作为他们的主要研究对象。但是，正如我在本书中所论证的那样，他们开发的研究模型具有更广泛的应用空间：可以帮助我们了解任何收集证据并分享他们的观念的人类群体。

为什么要使用数学模型来研究诸如人类学习之类的复杂事物呢？这是因为想要研究大规模的社会效应，通过观察或使用传统的实验方法很难完成。相关研究过程在时间和空间上分布广泛，通常会涉及数百至数千人，利用科学家常用的方法，很难干预和询问在稍有不同的情况下，事情会如何发展。模拟和建模可以提供的帮助之一是通过构建简单的计算机程序来模拟分享观念的人群，这样就可以检验关于哪些可能因素在影响人群的学习方式的假说，进而引导人们去解释在现实世界中看到的东西，甚至可以提出新的研究方式来全面了解人类互动的复杂性。

分析这些模型可以改变我们对自身的一些基本看法。西方文化中普遍存在一种观念，即人类本质上是理性的，能够熟练地将事实与虚构区分开来，并最终得出关于世界的永恒真理。根据这种观念，人们遵循逻辑规则，准确地计算概率，并根据所有可用信息完美地做出决定。相反，未能做出有效而明智的决定往往被归咎于人们理性思考的失败——比如心理影响或认知偏差所致。 这种观念认为，成功或失败取决于个人的理性和智慧。如果想获得更好的结果——比如产生更可靠的观念、做出更好的决策——我们就需要专注于改善个人的理性思考能力。

社会学习模型让我们看到，这种关于人类学习和理性的图景是扭曲而危险的。 模型往往表明，即使是拥有完全理性的人，在和社交网络中的人与事物打交道时，就算有充分的证据存在，也可能会形成错误观念。换句话说，个人再理性，照样可以组成不理性的群体。

这种个体理性和群体理性的脱节，为我们理解人类观念提供了重要的道德依据。人类是一种能够在进化的环境中不断通过进化获得生存能力的动物。最重要的是，人类是社会性动物。现在的人类已经进化为以社会群体为单位生活，并利用各自群体来分享和创造关于世界的知识和对世界的理解。正确分析得到的信息，并形成正确观念和结论的能力，与每个群体的社会条件以及个人心理状况息息相关。

综上所述，数学模型及其他学科的证据，展示了人们处理信息和做出决策的惊人能力（或无能）。这种研究方法解释了植物羊之说流传的原因，也解释了一些更危险的观念是如何形成和传播的。

在1964年上映的政治讽刺电影《奇爱博士》（ Dr. Strangelove ）中，美国空军上将杰克·瑞朋下令单方面对苏联发动核打击，目的是保护所谓“宝贵的体液”不受苏联的攻击——这显然是在讽刺极右翼的约翰·伯奇协会（John Birch Society）在20世纪50年代至60年代积极宣扬的观念，即饮水氟化处理是共产主义针对美国的阴谋。 这种完全凭借猜测、对基于证据制定的公共卫生干预政策的下意识拒绝，长期存在于美国的公共生活中。尽管约翰·伯奇协会和类似的组织极力反对饮水氟化（以及许多其他的政府活动），但在20世纪，它们仅处于社会边缘，无法动摇主流意见。

然而，现在情况似乎有所不同。关于气候变化、疫苗接种、转基因食品等公共健康问题的缺乏证据支持的论点仍得到了广泛讨论和认可，而且在许多情况下，这些观点得到了包括国会议员在内的美国政府现任官员以及英国、欧盟和其他地区的一些主要政客的积极支持。就像前面提到的那样，假新闻和广泛存在的错误观念似乎在2016年美国大选、英国脱欧公投和近期欧洲国家的大选中发挥了重要作用。

当然，正如我们已经讨论过的那样，从某种程度上讲，错误观念的持续存在是人之为人的一部分。人类知识和观念的核心结构就是这样令人无奈，哪怕辟谣文章“反攻”，哪怕错误信息会让人在现实中碰壁，社会效应仍会导致错误信息和观念传播。

但是，毫无疑问，情况正在发生变化。在过去的20年中，在美国和英国的公共生活中，有影响力的人物与事实之间的联系越来越微弱，这些人完全无视证据、专家观点以及逻辑连贯性，而且他们不用承担任何政治后果。这引出了两个紧迫的问题：发生了什么变化？我们该如何解决问题？

本书的主要论点之一，是仅关注个人无法理解政治局势的变化。我们还需要了解社会互动网络是如何变化的，以及这些变化为什么会影响我们作为一个群体形成可靠观念的能力。

20世纪90年代初以来，我们的社会结构发生了戏剧性的转变，社会活动已经由社区范围内的面对面交流快速发展为互联网在线交流。诸如脸书和推特之类的在线社交媒体，极大地增加了人们接收社交信息的数量及速度，使社会效应在观念形成方面相比其他知识来源具有额外的优势。社交媒体还方便人们构建和精简社交网络，让周围的人与我们形成统一的认识和偏见，并可拒绝与不同己见者交流。这限制了我们能接触到的事实的范围，由此减少了用现实检验我们观念的途径。

宣传工具在这种环境下尤其有效。社会评论家早就注意到只要存在有关政治的话题，社交媒体中就会出现在线“回声室”（echo chambers）现象。社会学习模型能够解释为什么这些变化如此重要。 人们喜欢与周围的人保持一致，当被拥有相同观念的同伴包围时，从众的力量就变得异常强大。正如我们所论证的那样，这种从众心理可以被武器化。

同样，科学家和其他专家在向公众传播思想时也深受社会因素的影响，很容易受到操纵。本书运用的研究模型得出的最令人惊讶的结论之一，是宣传者没有必要通过在结果上造假来改变公众的观念。只需要对与公众分享合法、独立的科学研究结果的方法施加影响，宣传者即可极大地影响公众对科学结论的看法。这就使得普通人在应对宣传时遭遇较大困难，仅查清行业资本、政治资助对科学研究施加的影响是不够的，还需要了解科学成果是如何公开和被分享的。

基于对使宣传起效的微妙和有害的分享方式的认识，我们还可以主张，即使没有宣传者，也会产生宣传效果。一场科学辩论中，如果记者报道双方的观点时努力做到所谓的“公平”，他就有可能以极具误导性的方式歪曲公众所看到的结果。

在本书中，我们还会说明为什么减少宣传和实施干预假新闻传播的一些措施，例如打破可靠信息在不同社区之间传播的障碍，不太可能奏效。为了向持不同观点的人学习，我们首先要与他们建立联系，同时也要充分信任他们，相信他们的观点。在两极分化（极化）的政治环境中，两派之间的这种信任很难成立。

当然了，世界上没有预防谎言流传和错误信息传播的灵丹妙药。我们认为，最有可能成功的干预措施涉及根本的且不太可能发生的变化，例如制定新的监管条例以惩罚那些故意制造和散布假新闻的行为，类似于德国最近通过的控制社交媒体上仇恨言论的法律。 也许我们还需要做更多，包括重新设计我们的基本民主制度。考虑到此类变化发生的可能性（以及风险）很小，我们将指出记者和社交媒体，以及我们每个人，都可以在不限制言论的前提下限制错误信息传播的方法。每个人都不希望在不知情的情况下成为替他人利益奔走的宣传者。

确定具体的干预措施很重要，了解我们所干预的机制也同样重要。本书中介绍的社会学习模型为人们提供了一个全面的研究模式，可用于研究可能的干预措施产生的结果，并至少以定性的方式预测社交网络的特定变化可能会给参与者带来怎样的帮助或伤害。这种分析远远超出了人们对文化潮流的忧虑，直击变化的社会动态如何影响人们的观念的核心。

深入理解这个问题至关重要。包括美国和欧洲大部分地区在内，越来越多的西方国家政府做出的决策是建立在谎言和虚假信息的基础上的。如果认为避免这种情况出现的方法是为政府提供更多的信息，那就太幼稚了，因为人们已经拥有比以往任何时候都多的信息。可以说，正是在新的社会环境中人们分享的海量信息，导致了我们目前面临的问题。

[1] 乔安妮·琼斯顿（Joannes Jonstonus）在1658年出版的《四足动物的自然历史》（ Historiae Naturalis de Quadrupedibus ）一书中描述了长角的兔子。乔里斯·霍夫纳格尔（Joris Hoefnagel）在1575年出版的《四足动物与爬行动物》（ Animalia Quadrupedia et Reptilia ）一书中对此进行了说明。杜雷特（Duret 1605）用一章的篇幅论述了植物形动物，即动植物杂交物种。英国皇家学会成员罗伯特·莫雷爵士（Sir Robert Moray 1677）报告说，他曾研究过一种名为“藤壶鹅”的生物，这种鹅据说是爱尔兰西部的树结出来的，他曾见过多只长有喙及翅膀、形态完美的小鹅在藤壶体内。

[2] A. F. Smith（1994）详细介绍了番茄的使用历史。他还记录了另一起离奇的有关错误观念的事件。19世纪中期，番茄蠕虫在美国东北部传播，认为其是致命性昆虫的恐惧也随之扩散。各种说法被广泛认同，例如被番茄蠕虫叮咬可能导致死亡。《锡拉丘兹标准报》（ Syracuse Standard ）刊登了富勒博士（Dr. Fuller）的描述，他声称番茄蠕虫“像响尾蛇一样有毒”，能喷射唾液至几英尺远的地方。“唾液溅到皮肤上，接触部位立刻开始肿胀，病人疼痛不堪，几小时后死亡”（同上，58）。事实上，这种可怕的虫子是天蛾的无害幼虫。 VNx/b5fTbN375KZDAoggVGGYIG6oU1oX7kDdAspjf8gI0w/FJ10aOq2V8uQIW9Ax