我女儿上十年级的时候,我曾经跟她的老师们发生过一次争论。我女儿对玻尔原子模型感到困惑,我就提出建议,说玻尔原子模型的维基百科词条是个不错的参考。老师们对此却不以为然。“我们不鼓励学生参考维基百科。”老师们的意思似乎是,学生们只要有了那些配有“华而不实”的插图的教科书就足够了。“可是,”我说,“有时候听听另一种说法,确实会有帮助啊。”
“我们不鼓励那样。”
我猜,问题可能不在于听取另一种说法,而在于这另一种说法来自维基百科。维基百科是观念的无主之地,不是吗?毕竟维基百科的网页,任何人都有权编辑。
然而,令很多人惊讶的是,无政府状态的维基百科已被证明是人类知识的宝库。在一个青少年靠制作计算机病毒取乐的世界里,这怎么可能?尽管存在混乱的可能,但我仍然坚信,维基百科可以帮助我们变得更加智慧。维基百科已经悄然形成了一种强调相互协作、共同完善的文化。诚然,有很多维基百科词条质量一般,但有一些词条质量确实好到令人拍手叫绝。有时,在我非常熟悉的领域里,维基百科上的解释比我在任何其他渠道上找到的都好。每次遇到这样的情况,我都不由得惊叹。现在,只要遇到关于数学的问题,我肯定就会首先查询维基百科。或许与争议性更强的政治类词条相比,数学类的词条质量更容易核验;哪怕真的不准确,这些错误也会更显眼。
我在现在的年纪遥想当年,那时的我想要查阅相关书籍弄懂一个数学概念,必须大费周章跑趟图书馆。如今,我只需要登录维基百科,了解个大概,然后使用谷歌学术(Google Scholar)查找相关论文就可以了。过去,获取信息耗费的时间和精力成本比现在高太多了,结果导致我们很少尝试获取信息。这就是为什么我相信,谷歌学术和维基百科使我变得更聪明了。不过,这究竟意味着什么呢?
智慧很难被测量,但我们已有一个相当成熟的方法,那就是智商测试。事实上,在20世纪的大多数时候,人们的智商测试得分一直以每10年高3个分值的速度稳步增长。人们把这一现象称作“弗林效应”(Flynn Effect)。詹姆斯·弗林(生于1934年)是一位新西兰的政治学(荣誉)教授,曾就上述现象撰写过大量的研究论文。智商测试是归一化的,也就是说一个群体中的平均智商值始终被设定为100。但测试题是会不断变化的,而曾经有一度,新的受试者做旧版测试题的平均得分明显高于100。在2013年的一次TED演讲中,弗林说,如果你用现代的智商测试题去考生活在一个世纪之前的人,那么你可以测出他们的平均智商值大约只有70,这在如今会被认为是严重的智力障碍。如果用一个世纪之前的智商测试题去考当代人,那么测出的平均智商值会达到130,拥有这样的智力水平的人现在会被认为是天才。弗林认为,之所以会出现这种现象,是因为我们生活的世界要比之前复杂得多。而我们生活的世界之所以更加复杂,至少在一定程度上可以归因于科技以及科技所支持的更加复杂的社会结构。维基百科这样的技术发展成果,是不是让我们变得(可量化地)更聪明了呢?
可惜近些年,在维基百科崛起的同时,西方国家人口智商分值的增速反而放缓,甚至开始出现下降趋势。有趣的是,有专家认为,弗林效应及其逆转都有科技发展的“功劳”。
20世纪人口智商值之所以上升,更合理的原因或许应该是营养提升、教育普及、医疗条件以及生活环境质量的改善。近年来,尽管人口智商值有所下降,但人类社会的文化似乎仍在不断变得更加复杂。所以照此看来,社会和文化的复杂性似乎不足以解释弗林效应。
智商测试本来就是一种度量个体大脑能力的尝试。受试者在接受测试时可以使用纸和笔这些传统的认知假体,但被禁止使用谷歌搜索这些现代的认知假体。此外,智商测试根本不具备测量集体智慧的功能。交往广泛的人可以比孤立无援的人更高效地解决问题。或许我们可以认为,文化复杂性是集体智力增长的一个原因,但与个体智力关系不大。
苏格兰圣安德鲁斯大学行为与进化生物学教授凯文·拉兰德在其著作《未完成的进化》中提出,“人类的头脑并非单纯为了文化而生,是文化造就了人类的头脑”,以及“文化不仅是人类进化的产物,也是人类进化的‘联合导演’”。 [1] 不过,拉兰德谈的是进化历程长达几千年的时间跨度,相比之下,弗林效应考察的只是转瞬之间的事。拉兰德按照时间顺序记录了动物大脑尺寸与其社会结构复杂性之间的关联,指出“古人类大脑尺寸的增长与科技水平的进步同时发生”。 [2] 的确,人类祖先的大脑尺寸在先前200万年左右的时间里显著增长,但奇怪的是,人类大脑的平均尺寸在过去1万年中缩小了大约10%,而这一时期刚好是科技快速发展的阶段。古人类学家、英国自然历史博物馆人类起源课题研究牵头人克里斯托弗·斯特林格(Christopher Stringer)认为,科技的发展可能会使“大”脑变得没有必要:
我们越来越多地将信息储存在身体之外——在书本、计算机和网络上,这意味着很多人即使大脑容量小一些,也能活得不错。
他还说:
我们的生活方式可能会对大脑容量产生影响。比如,驯化动物的大脑容量比野生动物的要小,这可能是因为它们不需要额外的脑力去躲避猎食者或者捕获食物。类似地,人类的驯化程度已经相当高。不过,只要我们的大脑可以适应我们的生活方式,我们就没有理由担心大脑容量的缩小会影响人类作为一个物种的集体智力水平。
显然,维基百科等数字技术已经成为我们大脑的延伸部分;甚至正如斯特林格所说,数字技术已经在物理上取代了大脑的部分生物物质,同时还让人类变得更加聪明——至少是让人类这个集体变得更聪明。当然,科技支撑了更复杂的社会结构,而这种复杂性又促使大脑去适应这种社会结构。科技用便利的附加硬件和程序,强化了我们的大脑。
按照这个逻辑,我们已经是生化电子人了。正如我们“委托”肠道菌群帮我们处理部分消化任务那样,我们委托科技帮助我们完成部分思考。与肠道菌群一样,数字技术是动态的过程,而不是被动的、静止的实体人工物。就凭它们的动态性,以及它们已经成为人类一部分的事实,我们或许有充分的理由认为它们是活的。
20世纪60年代,远在互联网和万维网(World Wide Web)诞生之前,加拿大的英语文学教授马歇尔·麦克卢汉便开始了他充满争议的探究之旅,而主要的争议之处便在于他认为,印刷、电视、广播等人类之间沟通的媒介不仅塑造着我们的文化,更塑造着我们的自我认知。 [3] 如果真如麦克卢汉所说,媒体技术是我们自我的延伸,那么他会怎么看待人工智能呢?
麦克卢汉预见了我们当下数字化文化的很多方面。他曾预测,电子化的媒体会推动社会从个人主义走向集体认同,也就是他所说的“地球村”(global village)。如果麦克卢汉今天仍然健在,我可以肯定他对于维基百科这种集体合作的“社群”一定有很多话要说。麦克卢汉预见到了网络对人类阅读、吸收信息乃至思考等方面的影响,是他普及了“冲浪”(surfing)这个词,用以描述快速随机浏览各类文件的行为。他那句著名的“媒介即信息”(The medium is the message)说的便是媒介的结构本身——而不只是其内容——会塑造我们的思维。按照这个理论,电视凭借其播放形式、中插广告、色彩和风格,成为一个生活在20世纪的人重要的生活特征。
不过,当今媒介的结构远比麦克卢汉时代的要丰富得多。我猜脸书、推特和谷歌一定会让麦克卢汉大开眼界,因为这些媒介在主动地塑造我们,仿佛它们自身便具备能动性。正如我们从2016年美国总统选举中看到的,社交媒体凭借其个性化的算法可以“观察”我们的一举一动,了解我们的兴趣偏好,并借此为我们每个人定制一个不断强化我们固有认识、从不展示新观点的“回音室”。我认为,在塑造自我认知方面,算法的能力已远超麦克卢汉的预料。这些媒介塑造思维的方式,甚至连脸书的工程师在其设计之初也无法预见。虽然科技可以使作为整体的我们变得更加聪明,但与此同时,作为个体的我们可能反而变蠢了。
法国哲学家、耶稣会士德日进(Pierre Teilhard de Chardin)在20世纪20年代阐发了“意识域”(noonsphere)这个概念,用来描述继地圈(geosphere,即无机质)、生物圈(biosphere,即有机生命体)之后地球发展的第三阶段。社交媒体的个性化算法将德日进的意识域打碎,使其变成了一个个割裂的事实孤岛。正如生物圈将生物划分为生殖隔离的不同物种(species)那样,社交媒体将知识分割为连基本事实都大相径庭的意识形态。互不相同的世界观由此展开。
德日进本质上是唯心主义者,他所谓的意识域既不属于地圈,也不属于生物圈,而是脱离于一切物质现实的独立存在。德日进本人与天主教会的关系十分复杂,后者将他的很多作品纳入了天主教会官方的《禁书目录》。他参与科学考察活动,发现了大约75万年前的“北京猿人”化石,并公开宣讲进化论,直接对抗当时的主流观念。但他死后却得到了教皇本笃十六世(Pope Benedict XVI)的赞誉,教皇方济各(Pope Francis)还曾在2015年发布的通谕中援引他的神学作品。
如果意识域不属于物理和生物世界,那么德日进会将数字机器纳入其中吗?这似乎是不可能的,甚至可以说是离经叛道的,但人们的真理孤岛上似乎并不要求逻辑统一。比如2016年美国总统选举,绝大多数基督教福音派信徒将选票投给了唐纳德·特朗普,尽管特朗普的言行与耶稣的教导和基督教传统有很多相悖之处。
可以说,我们目前制造的机器具有某种形式的“知识”,还从某种意义上形塑了“信仰”。如果从人文主义的视角论证,那么我会说既然专家在媒体上声称我们现在处于一个“后事实”(post-fact)世界中,我们就应该重新审视“知识”和“事实”的定义;而如果一个群体中大多数个体的行为明显与他们所声言的信仰不符,那么我们就应该重新审视所谓“信仰”的真正含义。不过在此,我想从技术主义的视角进行论证。如果我们可以制造出拥有知识和信仰的机器,那么或许我们可以由此更好地认识知识和信仰的实质。比如,我们可以追问,机器所具备的知识是否比人类的知识更为自洽?
事实很可能是,机器获取知识和信仰的能力要强于人类。巴拉特、博斯特罗姆和泰格马克似乎都认定,机器的能力将全方位超越人类,在知识和信仰领域也不例外。不过我认为,这个问题并不是机器和人类谁能笑到最后那么简单。维基百科和谷歌这样的认知假体指向的是共生,而不是竞争。人与机器之间的关系会存在紧张态势,甚至面临灾难,但这些终将被证明是阵痛,而不是终点。我们的社会文化与机器相互交织之后,必将经历摩擦,我也希望我们可以挺过去。但这样的问题都将是暂时的“病症”,而不是所谓的“世界之战”。
不过,毕竟病症与战争一样,也可以杀死人,所以必须得到认真对待。计算机科学家、人工智能先驱斯图尔特·拉塞尔认为,情况可能比“机器杀人”更糟糕,因为人工智能精挑细选后再呈现给你的信息会改变你。 [4] 算法设计的初衷是尽可能提高信息点击量,也就是让你多点击网页上的广告。算法不仅会预测你的偏好并相应地调整信息的推送,还会向你推送能让你更多地点击相关内容的信息。这个正反馈环路(参见第5章)非常容易让人走向极端。政治上的极端分子比温和派更容易被预测。推而广之,世界观狭隘的人更容易被预测,所以片面信息的立场越鲜明,算法的效果就越好。
毫无疑问,技术正在塑造我们的认知,但麦克卢汉和德日进或许都始料未及的是,技术是利用其自身的认知功能,实现了对人类认知的塑造。机器观察、学习、反复消化着人类的想法,然后合成了知识和亚文化的结构。当谷歌展示一个搜索关键词的前十位搜索结果时,它实质上给那个关键词赋予了一个全新的含义,以任何人力都不及的方式将其与外部的概念联系在了一起。人类根本没有同时调用这么多概念的能力。机器已经与人类的认知深深地交织在了一起,但与此同时,人人都知道“人工智能技术方兴未艾”。那么问题来了:我们未来究竟要去往哪里?
以下便是我对目前严峻现实的简单概括。如果我们把机器拥有的有组织的数据和经过训练的神经网络称为“知识”,那么机器所掌握的知识已经远远超越了任何一个人类个体的极限。以色列历史学家尤瓦尔·赫拉利在其著作《未来简史:从智人到智神》中提出,“数据主义”(dataism)便是当代的宗教。他认为,人工智能对我们的了解已经开始超过我们对自己的了解。 [5] 人工智能可以利用它们所掌握的这些信息个性化地定制我们每个人的信息流。正如拉塞尔所指出的,计算机算法对信息流的加工处理,往往会让一个人的世界观变得更加狭隘,而不是更加开阔;同时,通过强化个人的固有偏好,计算机算法能够使他们变得越来越易于预测。套用德日进的理论,长此以往的结果便是一个由无数片面事实孤岛组成的意识域。人类将四分五裂:宗教极端激进主义、白人至上主义、极端左翼、反动保守派、特朗普主义、阴谋论无政府主义……这些处在我的孤岛之外的世界观,我将永远无法理解。在这样的一个世界里,民主还会有一席之地吗?
连续创业者埃隆·马斯克(Elon Musk)于2017年表示,人工智能是对人类的“存在性威胁”。不过,我并不认为我们再往前一步就将踏入很多科幻电影里描述的人类被恶意硅基文明灭绝的万丈深渊。人类随着技术的发展而改变,所谓的威胁就来自我们自身。我们中的很多人作为个体,的确面临着存在性的危机,但这种危机并不是被灭绝(至少不是被人工智能灭绝),而是变形。也许明天早上一睁眼,我们就会发现,自己变成了认知蟑螂。
赫拉利在2018年的作品《今日简史:人类命运大议题》中指出,整个20世纪都在与剥削做斗争的人类,到了21世纪将为捍卫自身的价值而战。他认为,当今世界的人们更需要担心的不是自己会被利用,而是自己不再被需要。我们可以想见随之而来的各种社会弊病。例如,一旦算法能决定民主选举的结果,那么投票行为本身就变成了走过场。
在弗兰茨·卡夫卡于1915年首次发表的名作《变形记》(参见图3.1)中,一个名为格雷戈尔·萨姆沙(Gregor Samsa)的旅行推销员一天早上醒来时,突然发现自己变成了一只大甲虫。他躺在床上看着天花板,挥舞着许多条腿,思忖着自己是如何睡过头而错过了平日上班乘坐的火车。到了公司,格雷戈尔的办公室经理走过来,隔着门告诉他上班迟到的后果很严重,尤其是他最近业绩极差。当格雷戈尔费尽九牛二虎之力终于打开了门时,经理被眼前的大甲虫吓了一大跳,撒腿就跑,格雷戈尔也正式失去了工作。之后,无力挣钱养家的格雷戈尔成为家庭的负担,以一种恐怖的方式成了赫拉利所说的“无关紧要之人”。在日夜煎熬中,格雷戈尔最终撒手人世。
图3.1 弗兰茨·卡夫卡《变形记》1916年版封面
格雷戈尔的职业——旅行推销员——如今已经不复存在。有一些人对卡夫卡的作品进行了解读,他们认为,格雷戈尔身体的异变生动地反映了他是如何从家里的顶梁柱变成了一个好逸恶劳的寄生虫和家庭负担的。这样的转变并不是格雷戈尔的错。现在,很多人的工作都受到技术发展的威胁,或许一夜之间这些人就会沦为家庭的负担。
美国未来主义者马丁·福特(Martin Ford)在2015年出版的作品《机器人时代:技术、工作与经济的未来》中表达了对人类工作未来的悲观预期。他认为,现阶段的科技发展速度与此前时代中不断提升的自动化水平相比,已经发生了质的飞跃,这主要体现在知识工作者正在逐渐被取代。在这种情况下,的确有很多知识工作者会在一夜之间变成认知蟑螂,失去继续养家糊口的能力。在卡夫卡的故事中,格雷戈尔的身体虽然变了,但他所处的世界仍岿然不动;而在福特的版本中,格雷戈尔大概不会发生改变,但他所处的世界已经大不一样。无论怎样,格雷戈尔最终都失去了在新世界中发挥作用的能力。
诚如福特所说,我们面临着巨大的变革,很多个体的生活将被颠覆,甚至有些人会像格雷戈尔那样以悲剧告终。但我们同时也要看到,这些人身边的其他人将继续生活下去,很可能还会过得很好,即便生活发生了天翻地覆的变化。卡夫卡在故事的结尾写道:格雷戈尔死后,他的父母看到他的妹妹格蕾特已经出落成如花似玉的大姑娘了,想着该给她找个丈夫了。我们的子孙后代在新科技的陪伴下成长,新的常态——无论是好是坏——将由他们塑造。这或许有些反乌托邦的味道,但自古以来,人类已经证明了自己具有顽强的生命力以及强大的适应能力。
我们有理由对未来抱有谨慎的乐观态度,尤其是在理解了当前形势的情况下。适应能力强的人不但不会被技术所取代,反而会如虎添翼。我并不是说那些未能适应变化的人就该自生自灭,我的意思是人类作为一个整体,或许仍然可以拥有光明的未来。也许认知上得到强化的人类可以学会如何逃离片面事实的孤岛;也许我们可以学会用更人性化的方式对待那些没能跟上时代的人,让格雷戈尔的悲剧不要在他们身上重演。
赫拉利在《未来简史:从智人到智神》中丝毫没有留情。他说:“人类面临着失去自身经济价值的风险,因为智能与意识之间的耦合正在解除。” [6] 但他同时也指出,近年来技术进步似乎对人类产生了深刻的影响:
有史以来,撑死的人首次多过饿死的,老死的人首次多过病死的,自杀而死的人数首次超过死于战争、恐怖袭击以及恶性犯罪的人数总和。 [7]
赫拉利指出,生活在大约5 000年前的苏美尔人发明了货币以及强调数字和官僚体系的书写系统,并借此“打破了人类大脑在数据处理方面的局限”,其影响极为深远:
书写和货币使政府得以向成千上万人征税,组织起复杂的官僚体系,并建立庞大的帝国。 [8]
图3.2 一块来自大约公元前2350年、篆刻在泥板上的苏美尔文字碎片,现存于卢浮宫博物馆。泥板上的文字记载了一位苏美尔亲王的功绩
随之诞生的军队和企业虽有智能,却没有意识。在这项书写技术的支持下,记录和处理数字、法律问题以及合约成为可能,而正是这些社会架构支撑着人类在这个小小的行星上繁衍生息,直至发展到如今全球总计约75亿人口的规模。在赫拉利看来,人类成功的秘诀就在于我们可以用生理机能以外的方式进行沟通:
人类之所以能够在2万多年的时间里,从用石尖长矛狩猎猛犸象,发展到驾驶宇宙飞船探索太阳系,并不是因为人类进化出了更为灵活的双手或者体积更大的大脑(实际上,现在我们的大脑体积似乎在变小)。人类征服世界的关键要素在于我们具有将所有人联系在一起的能力。 [9]
还记得在20世纪80年代中期,当我第一次意识到计算机已经从进行数学运算的工具变成了通信媒体之后,感到十分惊讶。据说,巴勃罗·毕加索在谈到计算机的时候曾经评论道:“但是它们毫无用处,只能给你答案。”毕竟,人类发明计算机,最初就是用来模拟核链式反应的。但如今的计算机已经不是毕加索熟悉的那个“吴下阿蒙”。现在,计算机可以将人与人、观念与观念相连,这一点是无论多少苏美尔楔形文字都做不到的。
互联的计算机诞生于20世纪80年代,距今约有40年时间。站在历史的角度来看,这不过是一眨眼的工夫,但这40年所带来的飞速巨变却真真切切地令人惊叹。计算机未来会进化成什么样?是像人一样的思想者,是全知全能的超级智能,是助力人类思考的工具,抑或是其他什么东西?在讨论此类问题的时候,我们最容易犯的一个错误便是假设我们人类不会随着技术的进步而进步。如果我们想象超级智能会对眼下的人类社会产生怎样的影响,结果难免是反乌托邦的场景。如果麦克卢汉是对的,那么人类一定会一如既往地随着科技一同改变。我确信我自己便是如此。如果没有谷歌、维基百科、可搜索的电子书以及MacBook Pro
的聚焦搜索(Spotlight)功能,那么我永远没办法写出这个包含麦克卢汉、毕加索、德日进、特朗普、马斯克、赫拉利、福特和卡夫卡等人的思想的章节。这些技术是对我大脑的延伸,而正如你从本章中或许可以读出来的,它们为我创造了一个奇异的回音室。
维基百科不是人工智能,但它可以拓展人类的智能。自苏美尔人创造楔形文字以来,不具备任何智能的技术一直以这种方式帮助着我们。泥板没有任何智能,可拥有智能并不是我们认定某物有生命的要素,正如我们不会因为肠道菌群没有智能就否认它是活的。不过话又说回来,尽管智能不是构成生命体的充分条件,但智能确实可以帮助生命体活下去。哪怕是看起来微不足道的智能也可以帮助生命体获得巨大的生存优势。我们无法用智商测试来测量蠕虫的简单智能,甚至无法对其进行简单的定义。从下一章开始,我将论证:最基本的智能形态需要的是反馈,而不是意识。
[1] Laland, Darwin's Unfinished Symphony , pp. 29, 209.
[2] Laland, Darwin's Unfinished Symphony , p. 224.
[3] McLuhan, The Gutenberg Galaxy ; McLuhan, Understanding Media .
[4] Russell, Human Compatible .
[5] Harari, Homo Deus , p. 397.
[6] Harari, Homo Deus , p. 311.
[7] Harari, Homo Deus , p. 2.
[8] Harari, Homo Deus , p. 158.
[9] Harari, Homo Deus , p. 131.