下载掌阅APP，畅读海量书库
立即打开
我的核心问题是：在21世纪的这个时刻，AI是如何真正被概念化和建构的？在社会转向人工智能的过程中有什么利害关系？这些系统解释和绘制世界地图的方式中包含着什么样的政治？将AI和相关算法系统纳入教育和医疗保健、金融、政府运营、工作交际与招聘、通信系统和司法系统等社会机构的决策系统会产生什么样的社会和物质后果？本书不是关于代码和算法的描述，也不是关于计算机视觉、自然语言处理或强化学习的最新思想，其实很多书已经这样写了。本书也不是对单个社区的人种学描述，以及人工智能对其工作、住房或医疗体验的影响——尽管我们当然需要更多这样的描述。
相反，本书是对人工智能及其逻辑、材料和成本的一个扩展视图。AI不是一个单一的东西，而是一幅完整的图景——一个行业、一种意识形态、一种观察方式、一种哲学、一个研究领域和一个营销术语。为了探索这片广袤的土地，我们将进行一系列的旅行，前往那些揭示人工智能本质的地方。
在第一章中，我们从美国内华达州的锂矿开始讲述，这是推动当代计算能力所需的众多矿场之一。挖矿是我们最能从字面意义上看到人工智能的攫取性政治的地方。科技行业对稀土矿物、石油和煤炭的需求巨大，但这种开采的真正成本从来都不是由行业本身承担。在软件方面，自然语言处理和计算机视觉的模型建构极度需要能源，而生产更快、更高效模型的竞争推动了贪心算法，拓宽了AI的碳足迹（carbon footprint）
。我们将从环境与人文的角度追踪这一行星级别的计算网络的诞生地，看看它们如何改造地球。
第二章展示了人工智能如何由人类劳动构成。我们考察拿低廉工资的工人如何通过点击微任务（micro-tasks）来创造AI的“魔力”，使数据系统看起来比实际更智能。我们的旅程将进入亚马逊的仓库，那里的工厂工人必须及时跟上一个庞大物流帝国的算法节奏；我们将拜访芝加哥“拆卸”生产线上的肉类加工工人，他们在那里分割动物屠体并为消费做准备。我们还会遇见那些抗议的工人，他们反对AI系统协助老板加强监控和控制的方式，包括从在工作场所对身体的控制到对时间本身更抽象的控制。
劳动也是一个关于时间的故事。协调人类的行动与机器人和流水线生产设备的重复运动需要在空间和时间上对身体进行控制。从秒表的发明到谷歌的TrueTime应用，时间协调的过程是工作场所管理的核心。AI技术既需要更精细、精确的时间控制机制，又为此创造条件。协调时间需要更多关于人们做什么、何时做以及如何做的更详细的信息。工作场所AI系统在后台的工作，为以牺牲他人为代价使一些人受益创造条件。
第三章着重介绍了数据在人工智能领域中的作用。目前，所有可公开访问的数字材料（包括个人数据或具有潜在破坏性的数据）正在被收集到用于建立AI模型的训练数据集中。有许多巨大的数据集可供使用，数据库中充满了例如人们的自拍、手势、开车的人、婴儿、城市街道上的行人等数据，所有这些都是为了改进面部识别和目标检测的算法。我认为已经发生了一种政治转向，即这些数据集合不再被视为人们的个人资料，而仅仅是作为基础设施。图像或视频的特定含义或语境被认为是无关紧要的。除了与隐私有关的明确问题，目前在AI中处理数据的做法还引起了人们在伦理、方法论和认识论方面的深切关注。
那么这些数据是如何被使用的？在第四章中，我们着眼于人工智能系统中的分类做法，社会学家卡瑞恩·克诺尔·塞蒂娜（Karin Knorr Cetina）称之为“认知机制”（epistemic machinery）。我们将看到当代系统如何使用标签来预测人类身份，通常使用的是二元性别、本质化的种族分类以及对性格和信用“价值”等问题的评估。一个标志将代表一个系统，一个代理服务将代表真实身份，一个“玩具”模型将代替无限复杂的人类主体性。通过观察分类的方式（从17世纪的百科全书到当代计算机视觉的数据集），我们看到了社会组织的技术模式是如何强化等级制度并扩大不平等的。最糟糕的是，机器学习给我们提供了一种规范推理机制，当这种机制占上风时，就会成为一种强大的统治理性。
我们将从这里前往巴布亚新几内亚的山区城镇，探索所谓的“情感识别”（affect recognition）的历史，即如何通过捕捉一个人的面部表情预测其情绪状态。第五章仔细探讨了心理学家保罗·艾克曼（Paul Ekman）的观点，即从人脸可以看出六种普遍的情绪状态。科技公司正在将这种模式应用到情感识别系统中，作为一个预计价值超过900亿美元的产业的一部分。但是围绕情绪检测存在巨大的科学争议，最乐观的观点认为它是不完整的，而最糟糕的声音则认为它是完全未经证实的。尽管其科学前提尚不稳定，但这些工具已经迅速被应用到招聘、教育和警务系统中。
在第六章中，我们将探讨人工智能系统被用作国家权力工具的方式。人工智能在军事方面的历史和现状塑造了我们今天所看到的关于监控、数据提取及风险评估的实践。但如今，科技行业与军方之间的深层互联正受到控制，以满足强劲的民族主义议程的诉求。与此同时，曾经只有情报界使用的法律管理之外的工具现已散布开来，从军事领域转移到商业技术领域，用于教室、警察局、工作场所和失业办公室。塑造AI智能系统的军事逻辑如今已成为市政工作的一部分，进一步扭曲了国家和民众之间的关系。
结语部分评估了人工智能作为一种结合基础设施、资本和劳动力的权力结构是如何发挥作用的。从优步司机被催单，到无证件移民被跟踪，再到在家中与面部识别系统抗争的公房租户，AI系统是建立在资本、警务和军事化逻辑的基础之上的——这种结合进一步扩大了现有的权力不对称。AI观察社会的方式结合了抽象与提炼的方法：将制造它们的物质条件抽象化，同时从那些最无力抵抗的人那里提取更多的信息和资源。通过观察人工智能设计和使用中的权力动态，我们可以看到高度集中和不透明的制度所带来的根本性的民主挑战，这些制度在公共机构和私人决策中发挥着重要作用，但其首要任务却为股东利益所驱动。