购买
下载掌阅APP,畅读海量书库
立即打开
畅读海量书库
扫码下载掌阅APP

第五节
智人与人工智能:构建共同体的两种模式

“深度学习之父”杰弗里·辛顿在2023年6月10日所作的《通向智能的两条道路》演讲中,提出了“能动者的共同体” (a community of agents) 分享知识的两种模式。 我们可以把这两种共同体模式——亦即两种器官化 (组织化) 的形态——分别命名为“数字模式” (digital mode) 与“模拟模式”(analog mode) 。而生成式人工智能与智人,分别是这两种模式的能动性践行者。

每个大语言模型,都包含了无数“数字计算”的能动者——它们是使用完全相同权重的副本。如果个体能动者(亦即每个副本) 具有同样权重、以完全相同的方式使用这些权重,那么,能动者之间就可以把自身个体性训练数据中学习到的内容,通过共享权重的方式无损地实现彼此转交。也就是说,共同体内每一个能动者,都可以即时获得其他能动者的学习成果——前提是所有个体能动者皆以完全相同的方式工作,故此他们必须是数字的。

就大语言模型而言,模型的每个副本都从它所观察到的数据中学习,不同副本观察不同的数据片段,它们通过共享权重或梯度来高效地分享所学的知识。这就使得每个副本都能从其他副本的学习中收获知识。在这个意义上,大语言模型本身就是一个“能动者的共同体”,该共同体内每个能动者都只是以非常低的带宽来学习 (它仅仅就拿到的数据片段来预测下一个单词),但彼此间能精确地共享权重——如果模型拥有万亿个权重,这意味着每次分享时就开启万亿比特带宽的沟通。于是,运行大语言模型的成本 (主要体现为能源消耗)会十分巨大——这是分享知识之数字模式的代价。化石燃料消耗所导致的行星层面的生态变异,恰恰是“人类世”的核心困境:庞大的能耗会对行星增加巨量碳排放,推动其熵值的加速增加。

与大语言模型相较,人类个体进行学习的能源消耗非常低,而学习带宽则远高于单个模型副本。但人类个体彼此间要分享知识,这个过程则远远比大语言模型低效得多。利用特定生物硬件之模拟特性来进行计算 (“生物性计算” ) 的人类个体,只能使用“蒸馏” (distillation) 来分享知识,而无法使用权重共享来精确地分享知识。 这就意味着,个体 B没有可能完全弄清楚个体 A 生成内容时所使用的权重 (甚至这种权重对于A本人也是不明晰的)。 这便是分享知识之模拟模式的局限。

人类社会之所以会有“学校”这种教育机构,就因为人类个体无法将自己所知道的东西直接装进另一个个体的生物硬件中。 两个神经网络内部架构如果不同 (亦即不存在神经元间的一一对应),那权重共享就不起作用 (我的权重对你没用)。如果李白神经网络的权重另一个人可以直接使用的话,那后者也能随即写出李白的诗句。不同的人类个体之间 (以及不同架构的大语言模型之间) 进行知识分享,就只能使用蒸馏。比起权重共享,蒸馏的带宽要低得多,这意味着知识分享效率低,能耗也小。 金庸在其成熟期的名作《天龙八部》与《笑傲江湖》中,多次描述了一类独特功夫,后辈可以把前辈几十年的功力直接“吸”到自己身上。此种功夫对任何依赖生物性硬件来进行学习的能动者而言,都是一个彻底的不可能。而用“数字模式”进行学习的能动者,同样不需要这种功夫,因为这些能动者根本不需要“吸”走他人的训练成果,而是可以彼此都拥有。

辛顿勾勒了在共同体中分享知识的两种模式,但他没有提及的,恰恰是 关于知识分享的“技术 政治”前提

人工智能形成“能动者的共同体”,本身并不需要特殊之“智”(包含在其智能之中)。这就意味着,能动者共同体规模提升,除了耗能增加外并无其他要求或代价。

智人要形成“能动者的共同体” (超过150人) 并在其中分享知识 (对比数字模式而言这种分享相当不高效),光靠“生物性计算”或者说“生物化学算法”并无法达成,还另外需要特殊之“智”,那就是政治智慧。

要形成“能动者的共同体”,人工智能不需要政治智慧;但缺乏政治智慧的话,人类能动者很可能走向霍布斯笔下的“自然状态”而非共同体。政治智慧,是智人达成知识分享的前提性条件。诚然,大语言模型的持续性运行,会消耗巨大能源。然而,人类文明的持续性运行,同样会消耗巨大能源。 并且,后者随时可能因政治智慧跟不上,而导致“文明”瓦解、共同体秩序不复存在。当代人,实则正在见证着政治智慧的日渐稀薄。

生活在迈向通用人工智能的技术加速时代的当代人,早已习惯于 依赖技术 来生活——失去手机、电脑、各种 APP,许多人就不知道如何生活。在人际层面, 当代人则习惯于依赖 既有的系统 (即特定政治智慧的制度化) 来生活,全然忘记了政治智慧是一种需要去使用、去实践,并在使用与实践中得到不断更新的智慧。

在系统本身不够发达的诸种社会 (所谓的“传统社会”“前现代社会” ),人们反而更容易看到政治智慧在实践中的重要性,在日常生活中有意识地去积极使用。古代的“能人”或“能臣”,并不是技术智能高强,而是善于运用各种政治智慧把方方面面都照顾到,把事情办得漂漂亮亮;他们用自己根据具体情况不断调整的智慧,去达成人际合作。

理查德·罗蒂把根据具体情境不断更新实践方案的“实用主义政治”所达成的社会合作,称作“团结”。 而生活在“人类世”(“特朗普世” ) 中,人们在同事物乃至行星的互动上,在人与人彼此的互动上,皆正在系统性地变得愚蠢,社会团结正在溃散——从全球层面 (最大的共同体) 到核子家庭层面 (最小的共同体), “撕”,恰恰已然成为涵盖全民、比比皆是的当代景像。人类的共同体,在各个层面上都在快速陷入分崩离析状态。智人正在返回霍布斯所说的前政治的“自然状态”,在其中人与人动辄像狼与狼般互撕。

当代政治学家格雷汉姆·阿利森2015年提出影响巨大的“修昔底德陷阱”论,主张“新崛起大国与既有大国必有一战”。他写道:

为持存重要利益,领袖们必须愿意选择 以毁灭为风险的道路 ;华盛顿必须思考不可思之事 [即进入核战争],来可靠地遏制潜在对手诸如中国。

这种彻底去智化、对“政治”之本体 起源完全无察的“政治理论”,能够得到学术界与政界许多人追捧,甚至被奉为主导人类政治的“铁律”,便正是这个“智能时代”系统性愚蠢的典范性标识。

技术智能在加速,政治蠢人 (从政治学者到领袖) 在增多,人类各个层面的共同体形态在崩塌。 面对这样的技术政治状况,所有生活在人工智能时代的“智人”,该何去何从?

所有仍努力不辜负“智人”这个自我命名的当代人,只有全力抗拒愚蠢、抗拒去智化,以生命 (自然生命与共同体生命) 的全副实践,去 探索生物器官与政治器官的再功能化 ,才有可能蹚过“奇点临近”的当代技术 政治状况,才有可能在可见的未来使人类文明免于普罗塔戈拉神话中所描述的“被灭”命运。 fBubYH5zVaj4y838JerxJvEXa0Vd779cLIRiQqBlO9vqxyZtbsxBPUGWPYYpzY7T

点击中间区域
呼出菜单
上一章
目录
下一章
×