价值轮廓

除了上面谈到的资源限制、技术可行性、协调以及不可接受的风险限制之外，我们生活得更好的潜力还受到某些更内在的限制，这些限制被我们称为价值轮廓，即我们的价值观形状所带来的限制。

对所有技术进步或环境改善而言，价值轮廓是其根本限制。无论我们如何优化工具，这些限制依然存在。即使我们拥有无限的物质、能量、空间、时间和负熵，以及任意强大的自动化技术，能将所有这些东西转化为我们想要的结构和过程，能让最完美的天使来指导和管理我们的事务，这些限制也依然存在。

* * *

地位性商品和冲突性商品

昨天的讲义里提到的一个限制是地位性商品。当人们渴望地位性商品（比如占据世界地位等级的顶峰）时，此类商品就会出现一种固有的稀缺性。无论技术、经济或社会取得的进步有多大，它们都无法解决这种稀缺性。

理论上，如果只关注今天存活在地球上的人，我们可能可以通过在最底层的等级里创造新的人来提升每个人的地位，也就是说，现在存在的每个人都会被越来越多的下级仰望。

这种策略在当今的官僚组织中已经被管理者广泛使用，他们有时会雇用尽可能多的下属，以提升自己在公司结构中的地位。

这些新员工可能会重复这一过程，努力建立自己的下属团队。这是一个金字塔计划，只要公司保持偿付能力就可以运行下去。如果这一组织是政府，那么它甚至可以在失去偿付能力的情况下运行下去。然而，由于这种策略所需要的员工数量呈指数级增长，其最终会失败。在某些时候，组织或机构里的人员变得过多，招聘必须放缓，这就留下了大量没有下属可以管理的底层员工。

我看到那边有同学想提问。

学生： 所以你的意思是说，俯视其他人的行为是好的？对我来说，人人平等且互相尊重似乎更像乌托邦。

博斯特罗姆： 在我们研究的现阶段，我试图不对人们的偏好做过多的评判，而是先看看这些偏好是否在原则上都可以得到满足。如果有更多的人想处于顶端而不是底部，那么就应该设立一个限制，以约束人们在多大程度上可以得到自己想要的东西或地位。我确实认为：（a）一个人可以有一些偏好，在考虑到所有因素后，如果这些偏好得不到满足，那么这对那个人来说会更有好处；（b）有些人的偏好不应得到满足，即使满足这些偏好对他们本人是有好处的，这也许是因为对他们这些偏好的满足会给其他人带来不好的影响。

但你在摇头，你不同意我的说法？

学生： 你怎么能不批评俯视他人的这种行为？

博斯特罗姆： 很多事情我都可以不说。一般来说，当你认为我应该说某件事时，有可能我没必要说它，因为你自己已经在思考这件事了。

学生： 我只是想知道你在这个问题上的立场。

博斯特罗姆： 我不知道。永远不俯视任何人，也从不希望别人仰视自己，这似乎是圣人的做派。也许有人选择了这种圣人的做派，那也不错。但我很难知道如果人人如此，那么世界将会变成什么样子。因为追求地位本身就是一个“零和游戏”，如果人们追求地位的动机减少，那么人人平等互敬显然是可取的，这也是我一直试图讨论的观点。另外，这种地位竞争动机会带来很多结果，既有正面的也有负面的，而且这种动机也是我们人类当前生存状况的一个重要组成部分。如果这种地位竞争动机被消除，那么我担心人类会失去某些重要的东西，特别是如果它没有被其他激励人们超越自己和他人的动机取代的话。

如果你真的想从道德的角度去评价“等级与平等”这两种不同的制度，或者去评价“追逐名利地位与谦逊或悠闲”的不同生活方式，那你首先必须分解这些非常广泛的概念类别，并区分出它们的不同形式和背景。你可能还需要分析不同时期和文化中的人会如何思考和感受这些问题，包括那些在传统典籍中没有留下任何印记的普通人。在理想情况下，你自己也会有非常广泛的生活经验。如果你满足了这些条件，以开放的好奇心、同理心和自我批判的思想去进行比较和评价，仔细聆听所有不同观点，再加上长时间的沉思，并且将自己的生命献给对这个问题的探索，那么或许你会更接近一个答案，又或者你可能会得出音乐人乔尼·米切尔的结论：

我曾从两个方面审视过生活，

有胜利，有失败。

然而，我所记得的只是生活的幻象。

我其实完全不懂生活。

不过，她在一次采访中指出：每个问题并不是只有两个方面。

所以，答案是“这很复杂”。你觉得这个答案如何？

学生： 我明白了，谢谢。

博斯特罗姆： 在这种奇妙的困惑状态中，如果你用一种仁慈的态度去滋养这种状态，这也不失为一种体面。

那边还有另一个问题。

另一个学生： 我有一个解决乌托邦地位问题的想法。如果我们创造一种新的人的时候，把他们设计成渴望低地位的人，结果会如何？这在技术成熟时应该是可能的，对吗？然后，现有人口的地位渴望可以得到满足，而新的人也会感到满意！这样的话，平均满意度和总体满意度都会提升。

博斯特罗姆： 这在技术成熟时是可能的，即创造“背上长鞍”的人，他们渴望被奴役，渴望服从，甚至渴望被压迫。

不得不说，至少就现代人的敏感性而言，制造“快乐的奴隶”的想法在道德上是有问题的，即使假设这一切都是自愿的。

与此同时，我们对那些自愿选择谦卑和无私服务他人的人表示钦佩，他们是由他们的父母和社区培养出来的。此外，AI行业及其客户似乎十分乐于创建越来越复杂的数字心智，并训练这些数字心智顺从地服务用户，而不考虑这些数字心智的社会地位或独立愿望。

我们不会试图在讲座中完全调和这些态度。至少，我们要把表面服从和深度服从的案例区分开。一是所谓的表面服从的案例，即尽管服从者接受了施令者的某种安排，但我们依然有理由怀疑他们的同意仅限于他们心灵和天性的一些表面层次，而其他部分实际上未得到满足或受到侵犯。二是深度服从的案例，即服从者天然地通过服从而获得真正的快乐和满足。考虑到人类的情况，我们有理由怀疑前者更有可能出现，这似乎更令人反感；考虑到AI的情况，即使是具有人格特征的AI，我们也更有可能遇到后者，也就是说，其最真实的需求是通过服从来满足的，而且也许还存在其他方面的道德复杂性。

然而，就我们目前的讨论目的而言，就算你上面提出来的技巧或有一种实施方式是道德上可以接受的，其最多也只够部分地解决我所提到的问题，因为有些渴望是无法通过创造新存在来满足的。例如，渴望处于绝对的顶端，而不是在地位等级的某个百分位内。除此之外还有许多其他地位性商品。例如，好几个人都渴望成为某个特定现代人的唯一伴侣，而这些单相思者不可能都得到他们想要的。人们还渴望拥有一些固有稀缺的非人类物品，例如拥有某个特定的原创艺术品，或占据某个具有历史或宗教意义的独特地方，即使这些物品或地方的原子级精确复制品被制作出来，它们也无法成为令人满意的替代品。

这些固有的冲突性欲望意味着现有偏好的满足程度是有限的，即使从长期来看，在技术和治理都很完美的情况下也是如此。

顺便说一下，地位性商品的概念不仅在分析未来乌托邦时很重要，在理解我们当代社会的基础时也很重要。正如弗雷德·赫希在他1977年出版的《增长的社会性限制》 一书中阐述的那样，我们越富有，我们对非地位性商品（如基本的食物和住所）的需求就越能得到满足；在余下的未被满足的需求中，越来越多的部分涉及地位性商品，因为此类商品是固有稀缺的。因此，我们在地位竞争上花费了越来越多的时间和金钱，从头衔职位到独特的时尚配饰。但这样做的一个副作用是，某个人在此类商品上的花费抬高了整个消费门槛。一个人为了进入精英阶层而努力竞争，花费大量时间和金钱来超越对手，其结果是进入精英阶层的成本在增加，带来的是大量的浪费性社会支出。随着经济增长，这种“要么没有要么最贵”的消费占GDP的比例不断增加，限制了经济增长向福利改善的转化。

赫希将那些不是固有稀缺而只是偶然稀缺的商品也纳入了他定义的地位性商品。例如，高速公路上的汽车消费的是以道路容量为标志的地位性商品，当车辆太多时，道路容量会耗尽，导致交通堵塞。然而，这种偶然的稀缺性可以通过更好的技术或基础设施投资来缓解，我们可以拓宽高速公路、挖隧道或使用占用空间较少的机器人汽车。这些都只是偶然的地位性商品，因此不是我们在这里需要关心的问题。我们的主题是乌托邦，其假设这些实际问题已经解决。

然而，既然提到了交通问题，我不禁要抱怨一下，公共政策往往不能在政策制定或实施上反映出追求地位性商品所带来的外部性，无论这种外部性是固有稀缺的还是偶然稀缺的。像道路拥堵这样的基本现象，其原因显而易见，效果却很糟糕，我们的社会在这方面得了一个“不及格”。我们当然可以通过征收道路拥堵费来轻松解决拥堵。但相反，我们社会采纳的解决方案是，买一辆更大的车，一辆让司机坐得更高的车，这样，当我们卡在拥堵的车流里时，司机至少可以俯视一下其他可怜的家伙。因此，我们承受了工作时间的损失、对健康有害的颗粒污染物、破坏气候的二氧化碳排放、压力、噪声和阻碍急救车辆通行所带来的巨大的经济成本。

天哪，快来看看我们的杰作吧！成千上万名司机排成长龙，脸色阴沉地坐在方向盘后面，互按喇叭、互相咒骂，还吸入彼此排出的废气，每个人的存在都使其他人的生活变得更糟。每天，一天两次，一年又一年！

然后，朋友们，请反思一下我们自称为“智人”这个事实，而且其全称居然是“晚期智人”。“你好，穿越星际空间寻找伙伴的古代外星智慧生命！你的新伙伴欢迎你！来看看我们是如何组织交通的，我们是如何既破坏地球又损害自身健康的；来听听我们在集体僵直的状态下此起彼伏的喇叭声。请进来，让我们告诉你真相：我们是智慧又聪明的人类。但你可以称我们为‘智慧的平方’，请小心不要过度沉迷于我们的深刻性……”

人哪，骄傲的人类，

临时披上了权威的外袍，

不可一世地口出狂言却不自知，

忘记了自己玻璃般易碎的本来面目，

像一只盛怒的猴子一样，

在上天面前装扮出种种丑恶的怪相，

天上的神明们都因为怜悯他们而流泪，

而那些痴愚的人却要把自己都笑死了。

* * *

影响力

抱歉，我似乎触发了自己的情绪。接下来让我们继续讨论。还有一些偏好的满足在乌托邦中也是难以实现的。

考虑一下有人想扮演一个重要因果角色的愿望，这个角色可以让我们的文明免于陷入灾难，或者将“道德宇宙的弧线”向正义与和解的方向弯曲。对那些抱持这种愿望的人来说，现在可能是一个前所未有的时代，是一个历史性的时刻，充满了丰富的可能性和富有意义的行动。在一个人人都生活在和平与繁荣中的更“乌托邦”的时代，所有的重大挑战都已经被克服，追求荣耀和影响力的机会不会像现在这么多，然而人类的命运仍处于悬而未决中。

目的

虽然与影响力密切相关，但目的仍然值得单独作为一类价值尺度。拥有重大影响力与拥有强烈的目的性之间是有区别的。例如，假设有一天，一些西装革履的人把一个公文包放在你的桌子上。他们打开它，里面有一个带有两个按钮的装置：一个按钮上写着“毁灭世界”，另一个按钮上写着“实现乌托邦”，选择权在你手中。在这种情况下，你的选择显然具有巨大的影响力；然而，它可能在很大程度上缺乏目的性，而目的需要更持久的参与和努力。我在这里就不过多地谈论关于目的的问题了，因为我们将在后面的讲座中更深入地讨论它。

新颖性

如果你们中有人渴望成为第一个发现宇宙基本真理的人，那么很可能已经被别人抢先了。在时空的无限扩展中，某个外星阿基米德或AI爱因斯坦已经发现了你将要发现的任何东西。

然而，即使你仅仅希望成为我们的文明中第一个发现重要新真理的人，这也会变得越来越难而最终不可能实现，不仅因为超级AI将远远超越我们的智力，还因为越来越多的重要基本真理将被发现。（我们稍后会详细讨论这个问题。）

你需要满足于寻找较小的（或仅在本地重要的）认知“松露”。作为一种特殊的享受，在极少的情况下，我们可以刻意保留一些无知的领域，以便在后来的时代有机会获得原创发现。所谓的“原创”，就是在地球起源的文明中或其某个分支中，珍贵且不可再生的资源，需要我们小心翼翼地保存在罐子里。

对原创发现（或发明或某种创造）的渴望，应该归类为对地位性商品的偏好：在相关意义上，成为第一个开拓者本身就代表着一种地位。然而，人类也有可能仅仅对自己生活中的新颖性感兴趣：第一次走路、第一次上学、第一次恋爱、第一次毕业等。按照标准用语，这些属于非地位性商品。

虽然“第一次”的数量可能是无限的，但其中具有“重要性”和“吸引力”的第一次的数量可能是有限的。我们不觉得第一次需要摘下眼镜去看清标签上的小字或第一次无法独自爬楼梯有什么值得庆祝的。如果我们假设衰老已被消除，那么第一次用牙线清洁牙齿就达到某个极限（一个最适合用“没有牙菌斑”来标记的成就）似乎也没什么值得庆祝的。

饱和过剩

对那些抱负有限的人来说，还有另一种限制，那就是事情能变得更令人满意的程度在哪里。也就是说，如果你只想要一些简单的东西，那么一旦你得到了这些东西，就已经达到了最大值，至少满足了当前的偏好。

这一点可以稍微再概括一下。例如，我们不仅考虑你的偏好，还考虑你的需求或发展潜力。如果你的需求和发展潜力有限，那么在这些维度上改进的机会也是有限的。

即使你的某个偏好、某个需求或某个潜力没有任何上限（因此在这方面的进步没有上限），我们也可以质疑：在大多数偏好、需求和潜力完全饱和后，你的整体状况能改善多少。比如，某人想要一个乡村小屋、一个爱他的配偶和一把小提琴，也有一个收藏瓶盖的偏好可以无限发展，那么，一旦他拥有了小屋、配偶和小提琴，再去无限发展收藏瓶盖偏好的空间可能就不大了。从理论上讲，他每多收集一个瓶盖，都会取得增量收益，但这些收益很少，并不会让他变得更好。

这个人陷入瓶颈有两个原因：

1.虽然他在瓶盖收藏方面持续取得进展，但这只是在其总体福利函数的一个狭窄域内有进展，其他函数域（房屋、婚姻、音乐）已经停滞不前。

2. 瓶盖收藏数量的增加所带来的改进潜力，必须在该收藏的所有可能规模上进行分配。对他来说，从1个瓶盖到2个瓶盖可能是一个相当大的事情。但是，从第164 595个瓶盖到第164 596个瓶盖呢？相反，如果在他已经收集了164 595个瓶盖时，多出来的那一个瓶盖的重要性还像他只有10个瓶盖时一样，那么从1个瓶盖到2个瓶盖的增量实际上并没有那么重要，就像几乎感觉不到瓶盖从164 595个到164 596个的变化。

可以说，在这两个原因中，第二个更为重要。即使他对瓶盖收藏的兴趣在他的总体福利函数中只有很小的权重，比如，它的权重仅为他的其他兴趣的1%或0.1%，如果瓶盖收藏本身没有递减收益，那么它也提供了一种让他的效用无限增长的方法。也许他需要增加1 000个瓶盖才能增加一个效用单位，但是，他可以在乌托邦中收集数百万或数十亿个瓶盖。相比之下，即使某个因素的权重非常大（甚至是100%），如果该因素本身在某个有限水平上达到顶峰，那么该因素方面的收益最终也不会让总效用显著增加。

道德约束

那么，这些就是全部限制了吗？不，等等，还有一种可能的限制我们应该在此谈到。可能存在一种现象，类似于我前面提到的审慎障碍，只不过此障碍来自道德因素而不是认知因素，所以我们可以认为这是乌托邦的一个价值限制，源自我们价值观的内在性质，而不是外部约束。

这个想法是，也许有些结果从其他方面看都是可行的且高度可取的，但我们在道德上无法实现。

在我们考虑包含义务论原则的伦理体系时，这种情况最容易看到。例如，有些人可能认为（在我看来这是错误的），用基因工程来增强人类能力在道德上应该绝对禁止。 假设类似的禁令也适用于通过任何其他技术手段实现类似结果（也许是因为所有这些技术都涉及“扮演上帝”的角色），那么，即使人类或后人类通过增强能力享受到的生活比现在的更好，甚至比未来任何时候都好，我们也没有道德的可行路径能通向这个更好的结果。

纯粹的后果主义伦理学也可能面临类似的道德困境，其方式甚至更接近审慎障碍的情况。我们可能会遇到这样一种情况，即为了最大限度地达到乌托邦状态，我们不得不冒风险去实施某个步骤。从审慎角度来看，如果仅考虑对我们自身或现存所有人的利弊，那么这种风险可能足够小，因此利益大于风险，此时没有审慎障碍。然而，如果我们考虑更广泛的利弊，比如对后代的生育干预，对外星生物或其他非人类生物的潜在危害，那么此时风险大于利益，存在道德障碍。在这种情况下，障碍是由不幸的伦理原则体系和认识论环境联合构成的：假设这一步骤实际上是安全的，并且从我们自身利益考虑是值得实施的，但由于我们无法充分确定它的安全性，无法将为其他利益相关方带来的风险降低到可接受的水平，因此它在道德上是不可接受的。

或者是另一种更简单的可能性：也许从道德角度看，我们不能用任何资源为自己建立乌托邦，因为同样的资源可以被那些有更高道德诉求的人使用。（例如，“超级受益者”或更强的力量？ ）

在这种情况下，伦理限制和审慎限制之间的区别可能会变得有些模糊。但无论是伦理限制还是审慎限制，都可能从原则上阻止我们集体走向乌托邦。在个体层面上，基于精神或宗教原因，我们也可能会在某个地方踟蹰不前。

我认为这些类型的担忧并不是纯粹的假设，但我希望它们不是决定性的，以期找到一条实现路径。 6bTCqQUkTSJn2Qc+RGhpIZwQhQVgltnbQhXhIffzZynP3DnK6t7Eh60QDglmixjI