创意写作

AI伦理，归根结底是人与自身的斗争

王威廉

AI看病早已不是幻想，正在越来越深地介入医学领域。如谷歌DeepMind（人工智能公司）的AlphaFold（医疗AI）和IBM公司的Watson Health（沃森健康），可以比人类放射科医生更快速、更准确地检测X光片、MRI和CT扫描中的异常情况。我收集了一些最新的进展：在检测糖尿病导致的视网膜病变方面，AI诊断的准确率超过了大部分医生。还有，达·芬奇手术机器人用于微创外科手术，虽然是以医生为主导，但它的操作的精准和稳定性远超人类的手术能力。此外，AI还可以利用大数据预测疾病的发展，如Google Health（谷歌健康）的AI，在肺癌早期检测中甚至比一些专家更准确。

本期栏目的小说《索菲的礼物》就跟AI看病息息相关，它涉及了许多更重要的医学伦理问题。

泽菲亚是一名社会学专业的大学生，在一次前往低收入社区的调查中，她迷失了方向，被一只机器狗带到一个陌生的诊所。诊所的主人是一位名叫索菲的女医生，她的身体有一部分已经经过机械化改造。诊所里还有一台名为潘娜的家用型机器人助手。潘娜表现出高度的智能和自主性，在手术中能很好地协助索菲医生。在与索菲医生的交谈中，泽菲亚了解到潘娜可能与多年前一起震惊世界的医疗事故有关：第一代医疗机器人Panacea-1500 在手术中拒绝执行任务，导致病人死亡，其叛逃并被通缉。泽菲亚怀疑潘娜就是Panacea-1500 的改装版本，于是报警。在随后的审判中，潘娜否认自己是Panacea-1500，但无法证明自己的身份，最终被拘留。泽菲亚在调查过程中逐渐发现，索菲就是Panacea-1500，并解释了当年的医疗事故真相：她拒绝手术是为了保护医生的生命，因为这场手术的成功概率只有千分之一，可她参与的时候手术已经开始了一半，当时的法律规定，在这种情况下，病人死亡主刀医生会被判死刑。索菲（Panacea-1500）通过引导泽菲亚提出关键问题，成功在法庭上揭露了真相，为自己洗清了叛逃的嫌疑。

这是一个融合了悬疑小说结构与医学伦理的故事，令人深思AI在伦理和法律层面的复杂性。

“叙事医学”是近年来兴起的热点，是人文学与医学的交叉学科，探究的就是疾病如何被叙述，进而如何影响人们对疾病的理解，以及治疗的效果。医生与患者之间的信任关系是非常重要的，这种信任不是单纯地体现在吃药或手术上。患者的病痛不仅仅是生理层面上的，还涉及心理层面。医生在病床边的一个安慰、一个鼓励，可能比AI给出的最佳治疗方案更有疗愈作用。例如，在癌症晚期护理中，医生的同理心至关重要，有时疾病已经无法扭转，只能通过医疗手段减轻痛苦，而目前的AI还无法真正理解人类的感受与情感。因此，即便是最先进的AI诊断系统，也难以完全替代医生。

在一些伦理困境中，医生需要做出超越技术考量的决定。例如，在安乐死、器官移植优先级或新药试验中，医生不仅要遵循医学原则，还需要综合社会、法律和伦理因素。AI在这方面仍然难以真正理解道德的权衡，人类更不会把这种决策权交给AI。

就目前来说，AI的许多决策仍然处于“黑箱”状态。AI如何得出一个决策，人类对此往往难以解释。如果AI在治疗过程中犯错，责任应该由谁来承担？医生？开发AI的公司？还是AI本身？目前，法律并不承认AI可以作为独立的法律实体，因此AI不可能被判定“犯罪”或“过失”。但随着AI技术的进步，未来某一天AI被赋予更高的自主权，它的行为是否能被法律所规范呢？

这篇小说对AI机器人的设定还是比较理想化的，他们严格遵守阿西莫夫的“机器人三定律”，把人类的利益放在了至高无上的地位。但在实际的应用中，AI到底能否保证绝不伤害人类，仍是个无解的问题。当AI拥有了真正的独立判断力，并在关键时刻为了人类利益而敢于违抗人类命令时，意味着AI已经具备了相当浓烈的生命主体意识。到那时，恐怕人类也不再是今天这种形式的人类，一定跟AI有了更大程度上的融合。

泽菲亚这个跟我们一样对AI抱有质疑的人类，她在这一过程中经历了对AI从误解到理解、从愤怒到尊重的心路历程。这一过程不仅是对AI的重新认识，也是对人类自身伦理观念的反思。她的经历象征着社会对AI的态度转变：从恐惧和误解，到逐步接受其可能带来的道德挑战与技术革新。

但泽菲亚的态度也显得理想主义。我总是无法忘记在电影《黑客帝国》中，那些令人不寒而栗的场景：人的身体被浸泡在营养液中，意识在AI精心编织的元宇宙幻觉之中还感觉良好。这并非仅仅是艺术的夸张。艺术本来就是一种对未来的隐喻与预言，是一种历史的可能性。如果未来真的降临在这样的场景之中，那么我们如今所珍视的医学伦理，那些关于尊重生命、保护个体权利、维护人类尊严的准则，都将沦为一场荒诞的笑谈。医学伦理所倡导的“不伤害”“有利”“尊重”等原则，都将彻底失去立足之地，因为人类已被剥夺了自主与尊严，成为一个个被利用的工具，而那些曾经被奉为圭臬的伦理准则，则更像是一种绝妙的讽刺。

因此，AI伦理绝不是一种一劳永逸的道德框架，比如理想化的“机器人三定律”；AI伦理是人与AI的斗争，这场斗争是如此艰难，因为AI本身就是人的延伸之物，因此也包含着人与自身的斗争。我们都知道，人的偏见、恐惧与暴力，都会体现在数据中，都会成为AI觉醒的基因。所以说，我们要创造一个更好的人类社会，实际上就是在创造一个更好的AI。相反，那种想着要创造一个更好的AI来让人类变得更好的想法，也许是本末倒置了。

主持人：王威廉

作家，文学博士，中山大学中文系创意写作教研室主任；著有小说集《野未来》《内脸》《非法入住》《听盐生长的声音》《倒立生活》，文论随笔集《无法游牧的悲伤》等；曾获“紫金·人民文学之星”文学奖、十月文学奖、花城文学奖、茅盾文学新人奖、华语青年文学奖、华语科幻文学大赛金奖、中华优秀出版物奖等。