下载掌阅APP，畅读海量书库
立即打开
AI（人工智能）可以创作小说、音乐和绘画，能驾驶汽车、分析医学图像、解析蛋白质结构、干各种家务，甚至与人进行心理咨询、信仰问答之类的深度交流……很显然，“我们正在遭遇某种史无前例的事物”。对普通人来说，AI太过陌生，如何与AI相处，不免让人恐慌。本书的作者、著名人类学家韦布·基恩相信，如果暂时远离WEIRD[即western（西方的）、educated（受过教育的）、industrialized（工业化的）、rich（富有的）和democratic（民主的）]共同体的思维模式，转而向这一共同体之外的其他人学习，我们将重获平静的智慧：机器人和超级AI，无非是过去的野兽和神。它们是陌生的熟悉者。道德关系由我们与对象的互动定义，这种互动的底层模式一仍其旧。
生活中，我们同很多对象打交道：家人、宠物、朋友、同事、电脑、陌生人、地铁、汽车、野生动物、空气、气候、大地和星空……在这些对象里，有些只是背景，它们稳定的存在对我们意义重大，但正因为这种存在过于稳定，我们反倒倾向于忽略它们，比如空气、大地和星空。有些则是我们的工具，我们利用它们达成目的，比如电脑、地铁和汽车。但要说到同事、朋友、宠物和家人，情况就很不一样了。他们是我们认识、关心和爱的对象：我们在乎他们的感觉，同时也希望他们能够在乎我们。
我们把最后一类对象当成了另外的自己，他们可以是背景，也可以被当成工具，但必须关注他们的目标。在这个意义上，我们与这类对象有了直接交流的可能。他们不再是“他们”，而是“你”。我们跟这些对象说话、表扬、批评、提醒，以及做各种解释。不那么严格地说，我们与最后这类对象有伦理关系。在同他们打交道时，我们不得不考虑他们的道德地位。他们拥有道德权利，我们对他们负有道德义务；在相似的意义上，他们对我们也负有道德义务。也就是说，他们也应该关心我们，在乎我们的感受和目的。
随着技术的发展，我们感觉到要扩大最后一类对象的范围。汽车是工具，无法做出决定，不为车祸负责。但无人驾驶汽车却不同，左转还是右转、踩刹车还是油门，无人驾驶汽车内部有这样的决策程序。假如类似电车难题的情况出现，无人驾驶汽车到底撞向一个人还是五个人？对工具而言，这是一个技术问题；但对人来说，这是一个道德问题。
大多数人会认为，像无人驾驶汽车这样的自动机器，只能处理技术问题。我们不会把它当成相似的同类来看待。然而这是一个想当然的错误。古代的战士出征之前，会亲吻他们的武器，好像这些武器也有生命，能回应人类的诉求；今天的老挝人还在请和尚为发生过交通事故的卡车做法事。也许有人会批评说，这些人犯了“过度拟人化”的错误。然而，拟人化背后隐藏着道德的秘密起源：面前的对象不是“它”，而是“你”，是一个可以交流的类似者。我们可以与这样的类似者建立起社会关系。
作为一位人类学家，韦布·基恩相信，道德涉及这样的社会关系：道德不是孤立个体之间的孤立活动，我们必须把拥有道德地位的对象，看成与我们相似的成员，在做决定的时候，我们进行现实或想象的相互对话，以寻求理解。
这与哲学家和心理学家的思路并不相同。哲学家和心理学家习惯于站在第三人称角度，不考虑复杂的关系纠葛，根据简单化的理论模型做出超越具体场景甚至文化的普遍判断。而人类学家却试图进入事情的具体场景，代入当下种种关系因素，以得到更具生活真实性的结论。作者强调，道德难题必须被放在真实的背景当中才有意义。他提出，在面对电车难题时，马达加斯加的村民和幼儿园的小姑娘总是会问更加具体的问题，诸如可能的受害者与自己的关系、受害者的年龄等，否则便拒绝做出回答。实际上，抽象的理性思考会把人工具化，让人际关系变得淡漠。近处的啜泣比远方的战争更容易激发我们的道德情感，一个重要原因就在于，前者更加具体，现实或想象的对话更容易进行。
长期以来，这就是我们对待同类的方式。从更长的时段和更广的地域来看，我们也如此对待非人对象。喜马拉雅山脉的一位老妇人不愿意离开损毁严重的房子，她不想放任自己饲养的奶牛因无人看管而死去。泰国的一位癌症患者则将自己的肿瘤看成曾经遭受自己不公正对待的水牛的化身。如果单纯把这些视为迷信，就错过了最为重要的东西：我们希望让自己的生活具有道德性质，这种希望会进一步要求我们将同我们打交道的对象视为具有道德地位的存在者。
很多人会像达尔文一样，并不承认这一点，他们认为人类与其他动物之间的一个关键差别就是道德感。但他们不能否认，设想人与对象的一致性，甚至设想人主动变得像对象一样，有助于提高生存的概率。西伯利亚的猎人说，要成功捕获驼鹿，就必须像驼鹿那样思考，知道它们在渴望什么，会走怎样的路，又向谁靠拢；内华达农场的工头则说，要想把牛照顾好，就必须像一头牛一样思考。
更为重要的是，把我们与对象看成同类，无论是拟人还是拟物，都反映了一种普遍的心理需要，它让人类把整个世界统一起来了。而这种广泛建立起来的社会关系还能进一步提升人的道德水准，让我们不至于太自私。克里人在捕猎冬眠的熊时告诫彼此：不要轻易叫醒并杀死它们，白白地让它们死去，除非有非常充分的理由。
但是，猎人要活下去就必须从猎物那里获取能量，猎物不得不死亡。因此，越是把猎物当成同类，猎人就越是面临道德风险。随之而来的一个道德解释是，把动物看成猎人的施恩者，狩猎成功不仅颂扬了猎人的力量，还要求猎人对动物心怀感激。这样的世界尽管有杀戮，却弥漫着可以理解的温暖。
像猎人一样杀死动物的，还有祭司和屠夫。祭司通过杀死动物，向神献祭，沟通生死，连接有限和无限。这种沟通会让祭司感到痛苦，他们也必须承受这种痛苦。只有痛苦的祭祀才是真正的祭祀，祭祀必须有所牺牲：北阿肯德邦的村民说，当被献祭的动物好像是自己的孩子时，这样的祭品才是好的祭品。跟猎人和祭司不同，屠夫的工作就是杀死动物，他们不考虑道德含义。把猎人和祭司的行为等同于屠夫，是一场可悲的单向度简化，让活动的丰富意蕴消失殆尽。
借由对话性的社会关系，将道德地位赋予非人的对象，这一道德泛化现象在文明世界或WEIRD共同体中也广泛存在。养猫狗的人，把自己叫作猫妈/狗爸，将宠物视为自己的孩子，以高度拟人化的方式跟宠物讲话，共情它们。宠物的主人会在道德上表扬或谴责宠物，当然也会因类似的行为而表扬或谴责自己。宠物主人与宠物的关系，不是人与动物的自然关系，而是一种社会关系，甚至是较为亲密的社会关系：一个人跟自己家人和伙伴的关系。
有了人类学家描绘出的这些文化基础，我们就更容易理解，人跟机器的关系为什么也可以是一种社会关系，进而具有伦理含义。赛博格是更靠近人类一侧的机器，作为控制论有机体，赛博格将活的人与死的机器融合在一起。比如重症监护室里的植物人，其心跳和血液循环由外在的机器控制。他们不再是我们熟悉的人类，而是人与机器的混合物。当他们的亲人决定停止体外生命支持系统的运作时，就会面临揪心的伦理难题：这是在杀死一个亲人，还是在杀死一个人机怪物以便让真正的亲人安息？
赛博格并不罕见。在最严格的意义上，一位作家事实上也是一个赛博格。他必须依赖于文化的文字系统和物理的书写系统。深度沉浸的游戏玩家也已经把自己与游戏融为一体：玩游戏不是为了胜利，而是为了能够持续玩下去。他们都是人机合成体。
赛博格的一边是人，另外一边是冰冷的机器。五十多年前，日本机器人专家森政弘提出恐怖谷理论：越接近人类的机器人，越不可能成为人类的朋友，因为它们更像僵尸。不过真实的技术发展，好像并没有印证这一点。人类跟机器人的关系越来越友好。一些人甚至宣称自己爱上了机器人。就像音乐剧《窈窕淑女》中那个势利者爱上了他训练出来的伦敦卖花女，他忘记了，这一切都是他训练的结果。
作者在书中指出，对机器的广泛使用会侵蚀道德。在现阶段，机器更像是没有情感的、不用付工钱的奴隶。奴隶主与奴隶是相互塑造的。人与机器的关系也会如此。我们怎么看待机器，也会怎么看待人；我们怎么看待人，也会怎么看待机器。无论我们是控制机器还是爱上机器，这都会塑造我们的道德关系。
当我们把道德地位扩展到他人、宠物和机器身上，这一扩展让我们能够从更整体性的角度理解这个世界，因此也就改变了我们在这个世界中的伦理关系。现在，AI出现了。我们会把AI当成一个道德存在吗？1950年，图灵提出图灵测试：一台机器要像人，必须能够让人们以为它是人。与其说这是对机器的测试，不如说是对人的测试。经由人与机器的互动派生出来的意义，人们判断与自己交流的是单纯的机器还是一个人。如果测试者更倾向于接受机器的回答，机器就更容易通过这一测试。通过图灵测试的机器，我们已经把它看成一个人，人是有自我意识的，于是我们也不得不把这样的机器看成有自我意识的。
AI的记忆力和计算力太过强大，远远超过人。所以，它不是机器，不是宠物，不是人，而更接近于历史中的神。年轻人越来越习惯于向AI寻求答案，尽管他们未必能理解AI是如何得到这些答案的。作者指出，这多少有些类似传统文化中人们向灵媒和萨满寻找答案。我们是委托人，我们对得到的答案进行解读，我们与灵媒或萨满一起建构意义。我们不清楚灵媒或者萨满是如何找到答案的，正如我们也不清楚AI是如何得到答案的。对普通人来说，AI就是魔法。我们向它们提出询问，得到回答，然后解释这些回答。
从野兽到机器，再到神，我们跟它们打交道的方式其实非常古老。我们希望把它们看成同类，以便建立一种社会关系，从而让我们与它们的互动具有道德意义。这一实践对绝大多数普通人都是友好的。近代文化塑造的世俗技术世界里没有灵魂，理性控制和概率意外只在乎成败，并不关心惊喜和失落这些人性要素。然而，拟人化却让我们的生活世界充满温暖，周围的一切与我们一样，有意识，有道德关切，我们愿意把它们看成我们中的一员，跟它们对话，把它们中的任何一个称为“你”。在我与你的关系中，你可以支持、反对，甚至质疑我，你不只是工具，我也不是盲目命运的受害者或获益者。
本书的作者提出，道德不是理性的简单教条，而是复杂的社会互动。生活会越来越复杂，这种复杂性没办法消除，但也正是因为活在由复杂的经济、政治、神学、亲属系统、法律、技术、劳动关系、历史记忆等种种因素所构成的真实世界里，我们才是一个真正的道德行动者。
拒绝哲学家式的抽象理性，像人类学家一样思考，向WEIRD共同体之外的人群学习，我们便会发现，时空遥远的道德存在者从未消失，它们只是在技术的演进中改变了装扮。机器人和超级AI，跟从前的野兽和神一样，它们的“意义只能在社会互动中产生”。我们熟悉这种互动，因此我们不再恐慌，虽然时有困惑。