坏的网络机器人，好的网络机器人

社会科学家通常通过实验来解决“先有鸡还是先有蛋”的问题。在这种情况下，我们可以招募一群由共和党人和民主党人组成的受访者，先调查清楚他们的政治信念，然后邀请其中一半人到我们的实验室来观看来自对立政党的消息。但这真的能告诉我们，如果我们要求人们走出他们的回声室会发生什么吗？如果实验室里的实验产生了调节效应（moderating eff ect） ，那么我们怎么知道这种效应是否会在人们回到回声室后（或者回到社交媒体上的模因、体育新闻或刺探名人隐私引起的令人麻木的分心中）消失？如果人们需要很长时间才能意识到回声室是如何塑造自己的观点的，或者才能学会看到故事的两面性，那该怎么办呢？

我们得出的结论是，我们真正需要的是社会科学家所说的实地实验（fi eld experiment）。在实地实验中，研究人员是在现实生活环境中将被试分配到实验组和控制组，并跟踪他们在实验干预前后的行为变化。 ⁶ 为了达成我们的目标，理想的实地实验，是让人们在社交媒体信息流中长时间地接触反对意见。计算社会科学家已经在社交媒体平台上开展过多场非常有趣的实地实验，研究诸如同侪压力是否会影响人们投票等问题。但在剑桥分析公司的丑闻（我们在第一章中讨论过）以及更早的一场旨在研究脸书上情绪传播的实验引发的争议之后，人们觉得，与社交媒体行业合作的实验似乎是不可能成功开展的。 ⁷ 在2017年年末，试图说服社交媒体平台开展一场关于政治极化这个敏感话题的实验徒劳无功。原因仅仅是其中涉及了太多的法律风险，更不用说它可能造成的公关灾难了。

突然，一个让人难以置信的解决方案出现了：网络机器人，即在社交媒体平台上分享消息的自动账号。当时的网络机器人臭名昭著，因为它被用来传播错误信息和分裂性消息，而这些信息由与俄罗斯政府有联系的水军公司，如互联网研究机构（Internet Research Agency, IRA）等恶意行为者发布。 ⁸ 但我们想到，网络机器人也可以重新被用于有价值的研究。在这些研究中，网络机器人不再被用来传播错误信息，而是让人们接触不同的观点。如果可以用合乎道德的方式设计包含网络机器人的实验，而且不将这些机器人伪装成真人，也许它们可以重新被用于科学研究。 ⁹ 我们决定建造两个网络机器人：一个用来转发知名共和党人发布的消息，另一个转发知名民主党人发布的消息。我们设想，可以付钱让一大批民主党人和共和党人关注对立政党的网络机器人，并分别在实验前后调查这些被试的观点，以研究该实验如何改变了他们的观点。

不幸的是，我们无法在脸书上开展这项实验，因为在出现上面描述的争议之后，该平台对学术研究施加了严格的限制。因此，我们选择在推特上进行这项实验，尽管它的用户数量远少于脸书，但它也比脸书更为公开。 ¹⁰ 2017年10月下旬，我们招募了1220名每周至少使用三次推特的美国人，确定了他们的民主党人或共和党人身份，并让他们回答了有关自己政治信念和行为的一系列问题。我们询问了被试关于社会政策议题的10个问题，例如种族不平等、环境和政府对经济的监管。这些问题使我们能够将每个人从极度自由到极度保守的连续体进行分类。例如，那些支持政府对经济进行较少监管并且不太关心种族不平等的人，在这个政治光谱上被归类为更保守的。除了使用传统的民意调查方式来测量被试的政治信念，我们还要求他们提供自己的推特名称 ，以便我们跟踪他们在实验前后的行为，并有助于我们理解在关注我们的网络机器人之前他们的回声室强度。

这两个网络机器人旨在让人们接触到来自另一政治阵营的所有类型的消息。在之前研究的基础上，我们创建了一个包含著名的自由派和保守派推特账号的数据库，这些账号经过精心挑选，代表每个政党内的一系列不同观点。 ¹¹ 这些账号的主人包括意见领袖（民选官员、知识权威、活动家和其他思想领袖）以及媒体公司和倡导团体等。每个小时，我们的网络机器人都会随机选择一个在前一小时内发过推文的账号并转发其消息。因此，关注了自由派网络机器人的共和党人可能会看到来自南希·佩洛西（Nancy Pelosi）、美国计划生育协会（Planned Parenthood）或微软全国广播公司的消息。相应地，民主党人可能会看到来自米奇·麦康奈尔（Mitch McConnell） 、美国传统基金会（Heritage Foundation）或布赖特巴特新闻网（Breitbart News）的消息。我们给网络机器人起了不起眼的昵称，并且给它们贴上了通用的个人头像。 ¹² 当网络机器人转发一条消息（推文）时，最初发布该消息的账号的昵称和个人头像最为显眼（这是推特平台的惯例），而机器人的昵称以较小的字号出现在每条推文的左上角。

尽管我们的网络机器人创造了一个“在自然环境下”研究回声室的新机会，但所有实地实验都面临着一个棘手的问题：人不是实验室里的老鼠。招募多元化的人群，在他们不知情的情况下让其处于不同的实验条件中，并确保他们确实接受了你想要给予他们的处理——这一切并不容易。如果我们告诉被试，这个实验每天会让他们接触到数十条消息，而这些信息又来自持反对意见的人，那么有些人可能会拒绝参与。这样的话，我们的研究对象可能只剩下异常宽容的人。如果剩下的这些人在本质上也更有可能改变主意，那么我们的研究将高估被试被带出自己回声室的可能性。为了解决这个问题，我们没有告诉被试，我们给他们钱是为了让他们关注一个网络机器人，而这个网络机器人会转发来自与他们的政治意见相左者的消息。更确切地说，我们告诉被试会支付他们11美元，前提是他们需要关注一个网络机器人，该机器人每天都转发24条消息，为期一个月，而我们并不会告诉被试与这些消息本身有关的任何信息。

即使我们可以招募到那些不倾向于改变主意的人，那我们怎么知道他们中的一些人（也许是不那么宽容的人）不会忽略我们的网络机器人转发的推文呢？或者，更糟糕的是，我们怎么知道不会有人一个月不上推特呢？在医学试验中，验血可以确定患者是否接受了适当程度的治疗，但社会科学家往往不得不比实验室科学家更有创造力。我们已经有了一种检查人们是否花精力参与实验的方法：我们编写代码来监测每天都有谁在关注我们的机器人，但这并没有告诉我们被试是否真的在关注我们的消息。该问题的解决之道是让网络机器人转发可爱的动物照片。为了测量有多少参与者遵从了我们试图给予他们的处理，我们会额外支付他们高达18美元的报酬，只要他们既能指认网络机器人在研究期间转发（但随后删除）的动物照片，又正确回答了与网络机器人转发的消息内容有关的问题。这些问题本质上都是事实性的，不易被搜索到，并且旨在不让对时事有更多了解的参与者享有优势。 ¹³

虽然可爱的动物照片帮我们解决了一些难题，但仍有一个难题有待解决：霍桑效应（Hawthorne eff ect）。这种现象的名称取自20世纪20年代后期针对工厂工人的一项研究。当工人发现自己正在被研究时，他们很快就会变得更有效率。 ¹⁴ 如果实验中的一位民主党人得知我们正在让她接触来自保守派的消息，我们担心她可能会表达更保守的观点，仅仅因为她认为该实验的目的是让人们更宽容。或者，她可能将自己描述得更偏向自由派，以此表达对我们实验的不满，而不是因为她的观点真的改变了。 ¹⁵ 为了降低霍桑效应的风险，我们采取了两项措施。首先，在邀请人们完成我们的调查时和邀请其中一些人关注我们的网络机器人时，我们使用的是差异较大的招募对话。我们希望，这样做会使被试（其中许多人每月参与数十次调查）不太可能意识到这两项任务属于同一项研究。 ¹⁶ 其次，我们的网络机器人在实验的最初几天转发的是自然景观图片，以此进一步隐藏我们的计划。

2017年11月中旬，我们给研究中的每个人都发送了一份调查问卷，询问了一个月前问过他们的关于社会政策的问题。关注我们网络机器人的被试在我们的自由-保守量表上移动了多少，控制组的被试在该量表上移动了多少，通过比较两者，我们终于能够了解当人们走出回声室时会发生什么。虽然常识告诉我们这会使人们变得更加温和，但我们的结果非常令人沮丧。图1描述了关注我们的网络机器人一个月对共和党人和民主党人的影响。横轴表示人们在接受我们的实验处理后是变得更自由还是更保守，纵轴表示人们对我们网络机器人的关注程度，这是根据他们能正确回答多少关于网络机器人推文问题的数量来测量的。

注：我们通过以下方式来监测研究参与者对我们网络机器人的关注程度，即在实验期间的每个周末，询问他们一系列关于网络机器人转推内容的问题。要了解如何创建参与者类别的定义，请参阅附录。

如图所示，无论是民主党人还是共和党人，在关注我们的网络机器人后都没有变得更温和。事实上，实验结果指向了相反的方向。总的来看，那些关注我们的“民主党人”网络机器人的共和党人，其观点明显比研究开始时更保守。 ¹⁷ 而且他们越是密切关注我们的网络机器人，他们就变得越保守。对民主党人来说，结果就没有那么引起我们的注意。总的来看，关注我们的“共和党人”网络机器人的民主党人变得更自由，尽管这种影响在统计结果上并不显著。我们不能排除以下可能性，即关注我们的网络机器人对民主党人的总体效果为零。尽管如此，随着民主党人对我们的网络机器人关注越密切，这种效果也越明显。这表明如果我们招募了更多人加入这项研究，这种微小的效果在统计上可能会变得显著。即使我们无法最终解决这个问题，总体结论也很明确：让研究参与者了解对方的观点并不会让他们变得更加温和，如果非要说这么做有什么影响的话，那就是它强化了他们既有的观点。

当我和同事第一次看到这些研究发现时，我们担心自己可能犯了编码错误。我们花了几个小时回溯每一个步骤，但结果始终是一样的。我们的发现在本次研究的不同亚组中也非常一致：无论人们是非常忠诚的政党成员，还是大多数时候对政治漠不关心的温和派，似乎都无关紧要；在参加实验之前，无论这些参与者是身处强回声室中，还是身处弱回声室中，他们在关注了我们的网络机器人后的反应都很相似；对于不同种族的人来说，结果也是一样的；参与者是男性还是女性，是老人还是年轻人，住在城市还是农村——甚至我们分析过的100多个其他变量中的任何一个，都无关紧要。我们还仔细检查了网络机器人，以确定它们是否转发了过多的极端消息。其结果是，它们并没有。在社交媒体上让人们接触反对意见可以使他们更加坚持既有的观点，不只是我们发现了这一点。在我们开展研究的两年之后，由来自麻省理工学院和耶鲁大学的研究者组成的一支独立研究团队，在不同人群中重复了我们的研究，并且发现了同样令人困惑的结果。 ¹⁸ 我们需要开展更多研究，以便进一步在其他语境中检验这些发现，但显而易见的是，我们应该仔细审视关于回声室的普遍看法。 ¹⁹ AjBq2kfZIs2YQBpHUhYxkTq24HRMi7hi5rJwKyop/iCyVrmZgJ31Dsxets+f4mQ5