下载掌阅APP，畅读海量书库
立即打开
开篇的故事发生在印度孟买，一个当地家庭参与了一项由深度学习赋能的智能保险计划。为了改善这家人的生活，该计划的AI保险程序通过一系列的生活应用与这家的每位成员相连，这些应用与保险算法进行动态互动。然而，这家正值青春期的女儿却发现，这套AI保险程序似乎总是在“巧妙”地阻挠她追求爱情。
在本章故事后的解读部分，我将介绍AI和深度学习的基础知识，阐述其利弊优劣。通过这个故事，我会进一步解释AI的运作方式，以及为何AI在一门心思地试图优化某些目标时，却可能“无意”中导致后果惨重的多米诺骨牌效应。同时，我会谈一谈当一家企业拥有太多用户数据时，可能带来什么样的风险。考虑到有些读者对AI较为陌生，我在本章的解读部分增加了“AI简史”，探讨为什么有些人对AI翘首以盼，而有些人对AI持半信半疑的保留态度，以及AI让人欢喜让人忧的几大议题。
自己的命运虽不完美，也好过完美模仿他人的命运。
——《薄伽梵歌》第三章第35节
屏幕上，随着西塔琴的节奏，三层楼高的象头神塑像缓缓沉入阿拉伯海。可溶解性材料会在海水中化成金色和紫红色的泡沫，沾在焦伯蒂海滩上数千个庆祝节日最后一天的孟买信徒身上，像是某种祝福。
爷爷和奶奶高兴地拍起手唱起歌，弟弟洛汗大口嚼着木薯条，喝着无糖可乐，食物残渣随着他的摇头晃脑撒了一地。医生要求洛汗严格控制脂肪和糖分的摄入，尽管他只有8岁。在厨房里忙活的父亲桑贾伊和母亲丽娅也敲打着厨具合唱起来，就像宝莱坞电影里会出现的桥段。
纳亚娜却对此熟视无睹。此刻，这个10年级女孩全副心思都在一款最近在年轻人中很火的智能应用“叶占”（Leafate）上，据说它能够以问答的方式进行AI占卜。
相传数千年前，一位叫阿加斯蒂亚（Agastya）的印度圣哲，在棕榈叶上以梵文古诗刻下每个人的前世、今生与来世，以及天文科学、医疗知识与哲学智慧。13世纪时，这些叶子在印度南部的泰米尔纳德邦被发掘出土，英国殖民者将许多刻有天文与药草知识的叶子带回欧洲，而那些写着每个人命运的纳迪
叶则被卖掉。幸而当地学者与占星世家将这些纳迪叶视为传家之宝，悉心保存，才得以流传至今。
每个人都可以通过提供出生时间以及指纹来寻找属于自己的纳迪叶，但因为战乱、遗失、保存不当等原因，只有一部分人能找到属于自己的纳迪叶。2025年，来自英国的一家科技公司花巨资对民间流传的纳迪叶进行扫描，并使用AI对上面的信息进行深度学习、自动翻译及结构化处理，试图为每一个人模拟出一片近似的纳迪叶。毕竟这颗星球上有近87亿人口。
按照叶占的说法，每个人的数字纳迪叶都被存储在云端，只有通过问答形式，才能解锁想要咨询的信息，不同问题的价格也不尽相同。
今天纳亚娜想问的问题是：“我和新来的插班生萨赫杰，有没有可能发展成情侣？”
当萨赫杰的视频流被推到虚拟课堂界面中央时，纳亚娜一下子被吸引住了。这个男孩没有用美颜滤镜或虚拟背景，显得羞涩而真实。他介绍了身后墙上挂的手工面具，这些面具结合了印度神灵和超级英雄的特点，用色大胆，可以看出制作者的确才华横溢。
纳亚娜发觉在“享聊”（Sharechat）的私密聊天群里，其他女生也在讨论萨赫杰。从家居布置和经过隐私保护处理的姓氏，讨论他究竟是不是所谓的“15%”，也就是政府要求私立学校必须为其保留15%入学名额的“弱势群体”的孩子，学校需要为他们免除学杂费，他们的书本和校服也都得靠捐赠。所谓“弱势群体”，不过是一个对于曾经的“达利特”更具保护性的代称。
她从一些纪录片和书本里看到过，种姓制度可以追溯到几千年前，是一种基于印度教教义的社会和宗教等级制度。传统上，一个人的种姓在出生之时便已确定，并且一个人的种姓将影响他的职业、教育、婚姻及生活方式。按传统定义，达利特在四大种姓之外，又称“贱民”，是“不可接触者”，他们通常从事最肮脏的工作——徒手清洁下水道、处理动物死尸、鞣制皮革以及一些被认为会“污染”其他印度教徒的事情。
根据1950年的印度宪法，种姓歧视是非法的，但在很长一段时间里，达利特从饮水、用餐、居住的社区到死后埋葬的墓地，都与其他更上等的种姓人群区隔开。他们担心会造成种姓“污染”，这似乎已经成为一种集体无意识的心理烙印。一些原先属于上等种姓的人会拒绝从达利特手里接过食物，甚至拒绝在同一个空间共处，哪怕双方是同学或者同事。
印度政府努力纠正这种历史上形成的不公正现象，试图为达利特提供更公平的竞争环境。早在1950年的宪法中，印度政府就以“表列种姓”“表列部落”的方式，制定了为达利特人提供政府和企事业单位职员名额、高等学校入学名额以及立法机构的议员名额等方面的“保留政策”（Reservation Policy）。从2010年开始，当局又进一步宣布为达利特在政府职员名额和高等学校入学名额中保留15%的配额。不少家长抱怨，为什么不按真实成绩录取？为什么我们需要为历史的过错买单？难道这不是在变相鼓励一种新的不平等吗？
但总体上，种姓制度已经成为历史。2亿曾经的达利特已通过各种方式融入印度的主流社会，难以从表面上看出身份的痕迹，印度政府也在大力推行对贫民窟的改造，提高弱势群体的生活水平。一切似乎都在变得更公平、更美好。
聊天室里的女孩们讨论得很热烈：如果萨赫杰真的是15%，还要不要跟他约会？
你们这些势利眼。纳亚娜心里暗暗咒骂。她有一个远大的梦想，她想成为一名表演艺术家，而不是肤浅的娱乐明星。所有伟大的艺术家都必须真实地面对自己的内心感受，不被世俗眼光所左右。如果她喜欢萨赫杰，那么就是喜欢，无论他是什么出身，住在哪个社区，说的印地语是否带有浓重的泰米尔口音。
经过计算，叶占给出一个令人失望的答案——“很遗憾，由于所提供信息不足，您的问题暂时无法得到解答。”紧接着，是退款成功的金币撞击声效。
骗子！信息不足又不是我的错！
纳亚娜愤怒地抬起头，发现母亲已经把饭菜都准备好了。除了传统的印度节日食物，还叫了昂贵的中华料理外卖，这对于一向抠门的父亲来说可不太寻常。不仅如此，母亲还穿上了她最珍视的帕西式真丝纱丽，盘了头发，戴上了全套首饰。上次这么隆重，也许还是在她和父亲结婚的时候。爷爷和奶奶也比平时要高兴几分，甚至胖子洛汗也没有一直讨厌地缠着她问东问西。
这一切肯定不是因为象神节的缘故。
“发生了什么？”纳亚娜看着桌上的一切，没头没脑地问。
“什么叫发生了什么？”母亲反问她。
“只有我一个人觉得你们和平常不太一样吗？”
和父亲相视一笑后，母亲说道：“说说看，哪里不一样了？”
“你们在笑，你们有什么事情瞒着我？”纳亚娜变得有点神经质。
“乖宝贝们，先开饭吧。”奶奶开始动手掰面包。
“等等，难道是……爸爸升职了？我们家中彩票了？政府减税了？”
“你倒想得美。”父亲摇晃着脑袋，“想减税只能等下届选举了。多亏你能干的妈妈……”
“妈，你又买了什么？”纳亚娜不等父亲把话说完，便转向得意的母亲。
“喂，你这口气听起来有点不尊重长辈呢。”
“上次贪小便宜上当的人又不是我……”纳亚娜的声音小了下去。
“这次不一样。我做了充分的调查，它有IRDAI（印度保险监管与发展局）的牌照。而且，周围的邻居都买了，她们可比我小心多了。”
纳亚娜深吸了一口气：“这次又是什么？”
“象头神保险（Ganesha Insurance）！大家都管它叫GI，节日有特别折扣，首期保费打五折。”
听到五折，爸爸兴奋地拍起了手。爷爷和奶奶虽然不明所以，不过也跟着鼓起了掌。
“停！我们家不是早就有生命保险公司的保险了吗？”
“你爷爷、奶奶、外公、外婆年纪都大了，原有的养老金根本不够用，还得靠我们家供养。生了病，你也不想去公立医院排队吧，钱从哪来？还有你和你弟弟上私立学校，都得靠省吃俭用。你不是还想去拉伊大学学表演艺术吗？那里的学费、住宿费可比孟买的公立大学贵多了……”
“我就知道，最后又会怪到我头上……”
“人既要为长远做打算，也得考虑眼前的生活。”爷爷慢悠悠地插了一句。
“那这家保险公司又有什么不一样？”纳亚娜问道。
“隔壁的沙阿太太说，这个平台用了AI技术，能够根据全家人的情况，动态调整保费，用最少的钱实现最大的保障。而且它还有一系列生活App，推送购物建议和打折券。看看我的头发，就是在它推荐的美发店做的，才400卢比，比我以前做过的都要好。”
洛汗想偷偷地拿甜品，却被纳亚娜打了一下手背，只好乖乖缩回去。
“可一家保险公司干吗要管你去哪做头发呢，它又怎么知道我们家人的情况呢？”
“这个嘛……”妈妈开始顾左右而言他，“GI接受家庭投保的条件是，给出所有人的数据接口。”
“什么？”纳亚娜瞪大了眼睛。
“但他们向我保证所有数据都是严格保密的，除非我们允许，否则他们不能随便使用。”
“你有什么权力把我的数据接口给别人！”纳亚娜失控地叫起来。
“不许这么跟你妈妈说话。法律上，你还没有成年，作为你的监护人，是的，我们有权这么做。”爸爸突然严肃起来，用手指着纳亚娜。
女儿的脸憋得通红，把刀叉使劲往盘里一摔，跑回自己屋里，用被子蒙住自己的脑袋。在纳亚娜的那片纳迪叶上，这一定是她生命中最糟糕的一天。
* * *
纳亚娜和家人的冷战只坚持了一个礼拜。她开始收到奇怪的讯息。
一开始，只是一些日常的问候和提醒：要下雨了，出门记得带伞；最近呼吸道疾病流行，要戴好口罩；临近街区食用水管道发生泄露；出行路线有交通事故，注意绕开拥堵……纳亚娜开始觉得GI的服务似乎也没那么讨厌。如果在智能传输设备smartstream装上GI出品的一系列生活App，绑定数据接口后，它便时不时地还会推荐一些美妆、服饰、餐饮打折信息和优惠券。所有这些App都有一个共同点——界面上有一只金色的小象。
母亲把那只金色小象强行推送到了每个人的终端上。据调查，在孟买有超过70%的家庭数据控制权是在女性手里，而在印度的其他城市这个比例只有不到40%。所有这些个人数据都绑定在由印度国民身份统一管理局（UIDAI）向超过13亿印度合法居民发放的数字身份卡（Aadhaar）上。数字身份卡从2010年开始投入使用，经过30年的发展，公民的指纹、虹膜、部分家族遗传病史、职业及家庭信息、消费及纳税记录等数据都通过这一系统被政府记录在案。而GI能够在用户同意的前提下获得极高的数据权限，并使用到其旗下一系列App矩阵中，为用户提供最为智能和个性化的服务。
当然，总有一些隐私不在打包范围之内，比如社交媒体数据就需要单独授权，未成年人隐私数据的授权甚至需要获得合法监护人的同意。
纳亚娜非常谨慎地对待每一次与GI的交互。她总会反复阅读说明，选择“我接受”或者“再考虑一下”。但慢慢地，她发现每次选择“再考虑一下”之后，GI总会推送过来更有诱惑力的折扣信息。
比如，纳亚娜正发愁应该邀请萨赫杰去哪里吃饭，GI就会立马为她列出全孟买最适合情侣约会的10家餐厅。
纳亚娜猜AI是通过网络浏览记录猜出自己的想法，尽管她对此也不是百分之百肯定。萨赫杰太可爱了，像一只温顺的绵羊，想要讨好班上的每一个同学，给每个人送上自己做的木雕动物头像。见到真人之后，她更加难以自制，不时找各种借口和萨赫杰热情地搭话。但出于某种原因，男孩总是跟她保持距离。
他不喜欢我吗？
这个问题盘旋在纳亚娜脑海中，挥之不去。GI则是更加起劲地推荐诸如“如何在男性眼中显得更有魅力”的建议清单。也许这对于其他孟买女孩来说，再正常不过了，可在纳亚娜看来，总觉得哪里不太对劲。为什么女生需要通过改变自己才能获得男生的青睐，而不是向对方展示最真实的自我呢？
尽管跟妈妈还没有完全和好，可纳亚娜还是趁着她心情大好的时候抛出了心底的疑惑。
“傻孩子，机器会的也是人类教的呀。”母亲看着镜子中新买的长裙，转了个身，“如果AI每天都泡在享聊上，那它能学到的只能是这种大男子主义的调调。怎么？你最近谈恋爱了？”
“没、没有呀……”纳亚娜心虚地否认。
“你瞒得了我，可瞒不过AI哦。需要我帮你出主意吗？”
“谢了妈。可我在网上给他点赞，他也没什么反应……”
“傻孩子，喜欢一个人，光在网上点赞是不够的。不过这倒提醒我了，据说如果对GI开放享聊账号，我们家的保费也许还能再往下降降……”
纳亚娜摇摇头，退出母亲的房间。不久前，母亲还强烈反对纳亚娜为了获得更准确的占卜结果，向叶占开放数据接口的想法。现在情况却完全反了过来。
不光是母亲，家里的每一个人似乎都被这个App洗脑了。你能从它上面看见，自己每一个行为都能够影响下一期保费的升降。一旦什么事情跟金钱挂上钩之后，人类的大脑就像打开了赏罚分明的自动程序，不由自主地改造自己，朝着目标竭力逼近。
老人们得到了许多关于养生和健康的建议，GI会提醒他们及时服用药物以及到医院复诊。当然他们也可以通过GI直接在线预约私人医生，只不过政府养老金无法覆盖这部分费用，只能通过商业医保抵扣。直观地看到保费数字的变化后，老人们似乎更懂得珍惜自己的生命了。毕竟这个国家有超过2亿老年人，其中将近六成的人都享受不到医疗保障，只能自求多福。
父亲桑贾伊接受了金色小象的建议，戒掉了香烟，酒也从浓烈的亚力酒换成了比较健康的葡萄酒。他甚至连开车风格也有所收敛，不再像赛车手一样在拥堵的孟买街头横冲直撞了。GI让桑贾伊直观地看到了车险、意外险和寿险保费随着他的行为习惯的改变而下降，好处可是实实在在的，精确到一分一厘。
纳亚娜原本以为弟弟洛汗是最顽固不化的。毕竟对于没有什么自控能力的小孩子来说，脂肪和糖分容易让人上瘾。可金色小象竟然做到了。当然，它不是让8岁男孩理解延迟满足的重要性，而是让每一个家人都理解洛汗不健康的饮食习惯会直接导致保费上涨，从前的心软与纵容便一去不复返。
这一切都很好理解。保险公司当然希望投保人活得更健康、更长寿，它的利润率也就更高。客观上，这个控制系统也降低了父亲死于癌症及交通事故的概率，阻止了弟弟成为印度8000万糖尿病患者中的一员，让4位长者活得更有尊严，更有质量。GI甚至还通过对智能电网数据的分析，找到一处因为老化而漏电的线路，避免了一场火灾。
母亲见人就说，政府没有做到的事情，GI做到了！好像这是一件多么光彩的事情。在纳亚娜看来，母亲已经完全成了GI的一个传销工具。母亲的整个生活只有一个目标——如何将保费降到最低，至少必须是社区里最低的。这几乎成了太太们相互之间的一场竞赛。
可纳亚娜还是犹豫不决：自己究竟应不应该交出享聊的数据接口？
直到她收到了萨赫杰送给自己的动物木雕，一只雕满花纹的乌鸦。
可乌鸦不是厄运的象征吗？他是让我不要太聒噪吗？他到底想要说什么？
被一连串疑问折磨得晕头转向的纳亚娜第一时间想到的，竟然不是登录叶占去算一卦，而是允许GI进入她的社交媒体生活。
* * *
事情非常不对劲。
开放了享聊的数据接口，就好比敞开了卧室的大门，你的网络私生活一览无遗。尽管GI一再保证，所有的数据都以联邦学习的方式投喂给AI，不会有任何第三方平台会得到这些隐私信息，但对于终端用户来说，这样的保证就好比农场主对火鸡说，你现在很安全，尽情享受生活吧。可谁也不知道感恩节究竟在什么时候降临。
一想到自己在享聊上的浏览、发言、点赞、表情……以及在输入框中键入又删除的文字，还有手指在屏幕上滑动、停留的痕迹，都将成为一个保险“机器”调整账单数字的依据，纳亚娜就觉得整件事太可笑了。
她还期待这台机器能够充当恋爱顾问呢。
萨赫杰在享聊上留下的信息很少。他像一个不属于这个时代的老年人，谨慎地转发官方新闻，或者发一些过时的表情包，给人一种“僵尸”账号的感觉。
毫无疑问，尽管AI不认识萨赫杰，但只要追踪纳亚娜的行为轨迹，便能够轻易地在两人之间建立起某种关联。这只关乎算法，与爱情毫无瓜葛。
纳亚娜发现，她每一次刷新萨赫杰的页面时，每一次给他点赞时，GI都会蹦出奇怪的提示，分散她的注意力。如果她想找个理由和萨赫杰通话，预约共进晚餐的餐厅，甚至只是在网上挑选礼物时，GI都会弹出一些完全离谱的推荐，或者干脆让页面一直处于加载状态，无法显示结果。
如果她猜得没错的话，GI正在阻止她进一步发展和萨赫杰的关系。这和之前相比，可是大相径庭。
为什么是萨赫杰？或者可能是任何一个人？究竟是哪里出了问题？
母亲毫无预兆地出现在纳亚娜的房间门口，打断了她的胡思乱想：“你究竟在搞什么鬼？我们的保费都快涨到天上去了！”
“我……”纳亚娜不知道该怎么说出口。
“告诉我，否则我就没收你的smartstream。”
“不，你不能这么做！”
“很遗憾的是我可以，而且我现在就要……”
还没等母亲的话说完，纳亚娜就撞开她，跑出了家门。她要逃到一个没有人能找到自己的地方。她要给萨赫杰打一个电话，管它保费涨多少。
魂不守舍的女孩不知道走了多久，直到看见混凝土墙上一张张人脸对自己露出笑容，她才知道自己走到了古堡区的新印度保险大厦。这座装饰艺术风格的大厦建于1936年，外立面装饰着表现农民、陶艺师、棉纺女工等劳动者生活的浮雕。
太阳开始落山了，纳亚娜决定在这里给萨赫杰打电话。
男孩的头像旋转闪烁，smartstream不断弹出GI的通知，家庭保费又上涨了0.73卢比……等待接听的时间如此漫长，就在纳亚娜几乎要放弃的时候，电话接通了。画面黑乎乎的，看不太清楚，只有当萨赫杰咧嘴一笑时，那口整洁的白牙才暴露了他。
“是你吗，萨赫杰？”纳亚娜怯声问道。
“……是我，纳亚娜？”
“我以为你不会接我电话呢。”
“嗯……我不能说太久，不过……我并不是不想跟你说话。”
“我知道。”纳亚娜的心都快跳上天了，“我给你发餐厅地址，一会儿见？”
萨赫杰似乎有一丝为难，不过最终还是答应了。
挂掉电话，纳亚娜忍不住欢呼了一声，却听到身后有人叫自己的名字。她转身一看，是母亲。丽娅站在夕阳下，浑身闪烁着金红色的光。
“妈妈？……你怎么知道我在这里？”
“别忘了，我还是这家里的数据管理员。”丽娅做出生气的样子。
“对不起。”纳亚娜不敢直视母亲的眼睛，“我喜欢上了一个人……我想去见他，可是GI不让我去……”
“这就是保费上涨的原因？这可太奇怪了，我一直以为GI的目标就是最大限度地延长我们的寿命，不让人干出一些伤害健康的蠢事。除非，那是一个很危险的人？或者，他患有某种传染病？”
纳亚娜摇摇头：“他是我的新同学萨赫杰，很聪明，很有才华。”纳亚娜从口袋里拿出萨赫杰送她的礼物，“喏，这是他自己刻的。”
母亲仔细端详着那只木头乌鸦：“感觉他确实不像是坏人，我敢打赌他应该还挺帅。”
纳亚娜收起木雕，露出了羞赧的笑容，随即又变得忧心忡忡：“也许我应该听GI的话？也许这对我，对我们家，都是更好的选择？”
“孩子，我想告诉你一些事情。”母亲搂着女儿的肩膀，缓缓地往回走，“之前有一段时间，我感觉到了咱们之间的小别扭。也许由此而来的担忧影响了我的举动，AI注意到了这些变化，开始向我推荐一些书……”
“那么你读了什么？”纳亚娜开始好奇。
“一本20年前的电子书，名字却叫《AI2041》。里面有一个关于母亲和女儿的故事。母亲为了维护自己的权威，却忽视了女儿成长的烦恼……巧的是那也是一家印度人！里面还提到了科妮莉亚·索拉布吉（Cornelia Sorabji），那是一位我曾经深深敬仰的女士……”
“妈，能说一点关于那位女士的故事吗？”
“20年前，当时我比你大不了几岁。我最大的愿望是当一名律师。也许是因为我的母校——孟买大学曾经出过印度历史上第一位女律师科妮莉亚·索拉布吉。尽管她1919年就在牛津大学拿到了律师资格，却因为印度没有女律师的先例而被拒绝注册成为执业律师。她与官僚机构抗争了许多年，才真正成为一名律师，替女性和弱势群体伸张正义，争取权利。”
纳亚娜吃惊地看着母亲，她从来不知道这些事情。
“但是100年后，女性的处境依然很艰难。我的父母希望我能够尽快嫁人，而不是混在男人堆里整天和罪犯打交道。这就是为什么在这个国家女性地位如此低下的原因。我没有科妮莉亚那么勇敢，我放弃了。我珍藏那件纱丽，就是为了向科妮莉亚致敬。当年她把纱丽反过来穿，作为一种示威。”
母亲停下来，双手放在女儿的肩上，眼中有什么东西闪闪发光。
“我希望能给你有足够安全感的生活，这样你就不需要靠嫁给谁才能得到幸福，这样你就可以去追求任何你想要的东西，成为任何你想成为的人。比如，去上拉伊大学学时尚科技与表演艺术。纳亚娜，无论是谁，人或者AI，告诉你你不能做什么，别听他们的。有些事情如果自己不去尝试，你永远也不会知道答案。”
纳亚娜仿佛第一次真正认识了自己的母亲，她激动得说不出话来。
“所以……所以你并不介意我离开孟买……去艾哈迈达巴德？”
“这个嘛……如果你考得上的话，不过竞争可是很激烈哦。”母亲微微一笑。
“也不介意因为我，家里的保费上涨？”
“有一些风险值得去冒，我相信我的女儿有自己的判断力。”
“谢谢你，妈妈！我现在就去找萨赫杰！”
纳亚娜吻别母亲，雀跃着奔向车站。一辆红色的双层巴士正从马路拐角驶来……
* * *
透过玻璃窗，纳亚娜看见餐厅里的侍者们正忙碌地摆放餐具，点亮烛台，等待顾客在这个浪漫的夜晚走进靛蓝餐厅
。萨赫杰站在窗外的街边，他的皮肤在夜色中显得更加深沉。他一点也没有想走进那家餐厅的意思。
“对不起，我不能……”他的眼睛像一对萤火虫，幽幽发亮。
“为什么？”
“如果我和你进了这家餐厅，我的妈妈会不高兴的。这种消费行为会提升我们的保费。”
“难道说……”纳亚娜闪过一个念头，“等等！你们也加入了GI的家庭计划？”
“是的。我妈妈生病了。我们只负担得起草药的钱，可是草药治不好她。我们很幸运，GI有面向弱势群体的特殊通道，否则，我们可能根本负担不起……”
“可我还是不明白！为什么你要送给我乌鸦？而不是孔雀、兔子或者别的什么动物……”
萨赫杰又露出了迷人的微笑：“问题小姐，我们不该站在这家高级餐厅门口，像两个傻瓜一样瞪着对方。边走边说吧。”
夜幕初降的孟买街头车水马龙，喇叭声此起彼伏，像是公鸭在比拼嗓门。璀璨的灯火照亮这座容纳了3000万人口的巨型城市，她的历史可以追溯到石器时代。最初到达这里的希腊人给她起名为“Heptanesia”，意思就是“七座岛”，后来历经佛教的孔雀王朝、印度教的锡拉哈拉王朝、伊斯兰教的古吉拉特王国，直到落入葡萄牙人的手里，然后又被当成凯瑟琳公主的嫁妆送给了英国人。再后来，她成了印度争取独立的核心，伴随着血与火的洗礼，直到今天。
纳亚娜意识到萨赫杰非常小心地保持和自己的距离，就像她身上带着电流或者尖刺。
“为什么我们就不能……不能靠近彼此？”纳亚娜小心地选择措辞。
这下轮到萨赫杰露出了惊讶的表情：“你真的不知道吗，纳亚娜？”
“知道什么？”
“我的姓氏啊。”
“学校和虚拟课堂的系统一直把你的姓氏保护得很好，就像是什么名门望族的后代。”
“恰恰相反，这是因为他们不想让你们产生不好的感觉。”
“什么不好的感觉？”
“在以前，它被形容为一种‘被污染’的感觉。”
“你是在说……种姓？可我以为那已经被禁止很久了。”
萨赫杰苦涩地笑了笑：“法律上不允许，新闻里不出现，人们不说这个词，但这并不代表它就消失了。”
“可AI是怎么知道的呢？”
“AI并不知道。事实上，它根本不需要知道任何关于种姓的定义，它只需要从历史数据中学习。你住哪个社区，做什么工作，赚多少钱，开什么车，平常吃什么，在网上喜欢看什么……所有这些都会通过算法把你和一个更大的群体联系起来，即便你并不认可这种身份。无论你用什么方式隐藏或改变你的姓氏，它都像一个影子一样存在着。人没有办法摆脱自己的影子，不是吗？”
纳亚娜想起妈妈说过的话，若有所思：“所以，AI是通过对数据的学习，将社会上对于种姓的隐性歧视，显性化成可以量化计算的保费。”
萨赫杰故作轻松地笑了笑：“哈，差点忘了，还有肤色。最初代表种姓的梵文‘瓦尔那’（vārna），意思就是‘颜色’。”
“这简直太荒谬了！”
“这就是现实，纳亚娜。低种姓的女孩或许可以嫁给高种姓的男性，但如果反过来，则会被社会视为不道德。高种姓女孩的家庭声誉会受损，她的兄弟姐妹也会被人指指点点。”
“可我以为AI并不懂这些。”
“没错，AI并不在乎这些古老的规矩，它只在乎如何尽可能降低保费。这就是为什么GI要阻止我们在一起的原因。”
不知为何，当听到萨赫杰说到“在一起”时，纳亚娜的耳朵微微发烫，头开始发晕，以至于没听清男孩说出的一个术语。
“目标函数最大化。”
“那是什么？”
“如果人类告诉AI，嘿，让这些人的保费降得越低越好。然后，AI就会千方百计地去实现这个目标。客观上，GI的建议会让投保人活得更久、更健康、更安全，但除此之外，它不会考虑其他的因素，比如这些人快不快乐。”
“这也太蠢了。”
“机器还没有聪明到能够理解人类的快乐。况且，所有这些不公平与偏见都是真实存在的。AI只是揭开了那层遮羞的面纱。”
“你怎么知道这么多？”纳亚娜眼中又多了几分赞赏。
“我想申请上帝国理工学院。”萨赫杰小心翼翼地说出了自己的心愿，“我想成为一名算法工程师，然后，改变这一切。”
两人走到一个岔路口，离纳亚娜的家已经很近了。萨赫杰打算就此告别，女孩却有话还没说完。
“这种不公平让我想起了叶占上的那些预言，那些预言早在千百年前就被写好了，每一个人都不得不接受命运的安排……”
萨赫杰露出奇怪的表情：“难道你还不知道？”
“知道什么？”
“叶占也是GI家族的App之一。那些所谓的算命结果，都是来自AI对你的数据分析。”
“啊？所以命运也不是真的……”纳亚娜突然感到一阵失落。
萨赫杰沉默了一会儿，指向自己将要走的方向。
“这条路通往我的家。它将经过达拉维工地，孟买的心脏，那里曾经是容纳过100万人的超级贫民窟。每个游客都想到此一游，拍照留念，但他们绝对不会住下来。政府正在把它改造成适合普通市民居住的超级社区。可当你靠近达拉维时，GI还是会不停地推送警报，告诉你上周有多少人在这里被杀，有多少女孩被强奸，有多少孩子死于痢疾。纳亚娜，我很欣赏你的正义感，但这样的一条路，不是为你们这样的人准备的。如果我们要讨论命运，这就是命运。”
“带我去。”纳亚娜朝前迈出一步，连她都被自己的话吓了一跳，“我要证明给你看，我不是你所说的那种人。”
“你确定吗？”
纳亚娜遥望远处那片改造中的工地，在灯火通明的孟买中心，那里就像一片黑暗的沼泽。她心里生出几分害怕，但她又想起了妈妈之前告诉过自己的话。
“有些风险值得去冒。”她坚定地说。
“请。”萨赫杰微微一笑，像个真正的绅士那样伸出手，让纳亚娜先走。
两个孩子在这座古老的城市中行走。历史在每一条反复修缮的街道上，在每一张表情复杂的脸上，在每一个来历不明的音节里留下印迹。它们都是孟买的灵魂。这些灵魂又将被打碎、重组，然后拼贴成明天崭新的机器神灵。
“那么你到底为什么要送我乌鸦？”
“我的星座动物是乌鸦，虽然我没那么擅长社交。”
“就这么简单？”
“就这么简单。”
纳亚娜的smartstream越来越频繁地震动起来。她知道这是来自GI的警告，警告自己务必远离达拉维。那里曾经是全世界最大的贫民窟，那里充满了贫穷、犯罪、疾病，以及所谓的“不可接触者”——就像眼前的这个男孩。
她紧了紧衣领，沿着古老的街道继续向前走去。
女孩决定要自己找到答案。