正如所有的巴比伦人一样,我当过总督;正如所有的人一样,我当过奴隶。
——豪尔赫·路易斯·博尔赫斯(Jorge Luis Borges),《巴比伦彩票》( Lottery in Babylon )
巴比伦彩票最初只是一个简单的碰运气的游戏。人们购买彩票,抽出中奖者,然后颁发奖品。随着时间的推移,游戏也在不断发展,惩罚与奖励逐渐相伴而行。最后,彩票具有了强制性质。它出现的频率不断增加,最后彩票抽取的结果成为万事的基础。平凡的事件和人生的转折都受制于彩票的“偶然性强化”。或者,正如博尔赫斯所言,彩票的解释力以及彩票的幕后操纵者,即“公司”的解释力在不断增强,直到所有的事件都有可能根据它的概率而重新定义。
“巴比伦彩票”是从文学作品中借用的一个术语,相关的科学术语并不存在。它描述了程序化偶然性的缓慢侵入,或者用我们如今的说法——“算法”。
今天,就像在巴比伦一样,我们感受到了算法的重要性。它们强化了我们的产品选择和新闻推荐,它们根植于我们的金融市场。虽然我们可能没有构建算法的直接经验,或者说我们无法理解它们的影响范围,就像巴比伦人从未见过幕后操纵者“公司”一样,但是我们相信它们是包罗万象的。
算法作为计算规则并不是什么新鲜事,新鲜之处在于认清它们的范围。提及巴比伦彩票以及我们自己,至少有三件事可以谈论。
第一,巴比伦彩票的复杂性和影响范围随着时间的推移而增加。同样,我们的算法也从确定性的进化到概率性的,拓宽了范围,并将随机性和杂乱的社会信号融合起来。概率性计算在某种程度上比确定性计算更强大,我们可以在预期中了解它,但不能完全了解。
第二,虽然一开始所有巴比伦人都知道彩票的运作方式,但随着时间的推移,知道的人越来越少。同样,今天的算法也越来越专业化。很少有人能够既从基本原理上理解计算系统,又在它的最前沿发展方面做出有意义的贡献。
第三,巴比伦人在一段时期内一直对彩票的侵入视而不见。由于“偶然性强化”与我们熟知的白手起家的精英统治神话相冲突,所以我们也会尽可能长时间地忽略算法的影响。
于是,随着算法的侵入,很少有人能理解它们,并最终彻底醒悟。我们如何避免巴比伦人一样的命运?令人遗憾的是,那些创造算法的核心研发人员却搞错了方向。算法并不是中立的,在很多情况下都会有编码偏差或偶然性,这对于任何使用算法的人来说都是心照不宣的。但是,随着这种情形日益普遍,我们开始寻找罪魁祸首。
一些人指出,算法及算法产生器“缺乏共情”。他们提出,其解决方案就是建立一套更具共情能力的算法,来压制那些不带感情色彩的算法。为了对抗数字化干扰,新算法会在周日限制电子邮件,构建冥想应用程序。它们会注入一些相反的观点,来替代由推荐系统透露你最想获悉的内容的方式。然而,具有讽刺意味的是,这些人为的举动只会加剧巴比伦彩票的盛行。
就像我们无法回到过去一样,我们也无法消除巴比伦彩票的复杂性。很长一段时间以来,我们试图用自己创造的神话掩盖彩票的影响力,但是巴比伦彩票的复杂性意味着,任何想要改变它的人都不能完全理解它的运作原理。我们也已经看到,构建新算法来颠覆旧算法完全是徒劳的。
那么我们该怎么办呢?巴比伦人怎么可能让巴比伦彩票“短路”呢?
对于博尔赫斯笔下的巴比伦叙述者来说,可选择的出路只有两条。首先是身体的离开。我们遇到了戴着镣铐的叙述者,他登上了一艘即将启航的船。他的逃脱究竟是表明彩票的缺陷,还是测试彩票的影响范围,目前仍不清楚。
其次,通过讲故事可以发现一条更清晰的逃离巴比伦的路,这正如我们所看到的那样。通过叙述彩票的演变,叙述者使用描述的方式取代了列举的方式。故事就像道德准则一样,不同于任何算法。算法是决定结果的规则,而故事是自始至终的决策指南。
讲故事可以确保彩票的下一个实例并不仅仅是旧彩票的一个新参数化版本,故事教会我们犯新错误,而不是递归地重复旧错误。这提醒我们,算法的范围可能比我们想象的更有限。通过以意义为起点而不是以意义为终点,故事可以克服机会决定论。
作为物理空间的巴比伦已经土崩瓦解,但是巴比伦的故事却流传至今。