人类将如何面对自己的创造物？
——剧集《你好，安怡》观后

中国近年的影视作品，从各方面看进步都非常快，包括以往国内较少尝试的科幻题材，也有了不少值得称道的作品。中国的科幻创作曾长期处在“科普纲领”的强烈影响之下，许多人，包括相当多的创作者，习惯于将科幻视为科普的一种形式，而且还是以青少年为目标读者的低幼形式。当国内科幻小说作家整体上在20世纪90年代完成了“和国际接轨”的转变之后，影视作品仍然滞后。直到最近几年，在优秀作品带动下，在相关政策感召下，情况才有了较为明显的改善。观众认为影片《流浪地球》的成功才真正开启了中国影视的“科幻元年”，信非虚语。

在告别了“科普纲领”之后——这绝不意味着优秀的科幻作品不会在客观上继续发挥科普的实际作用，科幻作品最值得重视的价值就是它的思想性，而思想性恰恰是国内科幻作品的短板。这块短板亟需有作品将它弥补起来。前不久播出的30集科幻剧集《你好，安怡》（以下简称《安怡》）在这方面做了相当成功的尝试。

虽然《安怡》有着一般青春剧的形式，主要是一群青春靓丽的年轻人的故事，用亲子关系、爱情等辅线来帮助推进情节，但编剧看来对人工智能问题做过不少功课，对于当下有关人工智能的几乎所有重要争议和思考，剧中都试图有所表现或回应，这在以往的国产科幻影视作品中比较少见。

人权·三定律·图灵测试

首先是机器人（完全可以平移为克隆人、复制人、人造人……在《安怡》中是“芯机人”）的人权问题。在无数涉及人工智能题材的科幻作品中，机器人的人权问题经常被作为主题或主题之一。《安怡》中那些已经有了自我意识的机器人，希望得到人类的平等对待，它们痛恨人类将自己看成一台机器，特别痛恨人类在挽救一个人类生命时，可以毫不犹豫地牺牲机器人的生命。这其实也就是希望获得人权。在《安怡》中，正面角色都认同了这一点，这可以理解为剧集赞成承认机器人的人权——如果它们的自我意识已经具备或觉醒，并且在各方面足够优秀的话。

阿西莫夫在他的小说中提出了著名的“机器人三定律”。国外一些涉及人工智能的早期作品中，还郑重其事地找机会将这三定律宣示一番。《安怡》中也对“机器人三定律”有所宣示，且安排得比较自然。值得注意的是，剧集对违反三定律的现象有所思考。剧中出现了受罪犯操控的机器人杀手，而剧中人物明确指出，这样的机器人直接违反三定律中的第一定律“机器人不得伤害人类”。这个情节背后的道理虽然简单，却可以直接推论出：任何军事用途的机器人都是直接违反三定律的。事实上，根据“机器人不得伤害人类”，我们甚至不可以让机器人来对一个死刑犯人执行死刑——死刑必须由人类来执行。所以对于军事用途的人工智能，我们只能抱着和当年研发“两弹一星”同样的心态去研发。

著名的“图灵测试”，是国外一些科幻影视作品中喜欢表现的内容，比如影片《机械姬》（Ex Machina，2015），详细展示了反人类的机器人如何通过测试，而《安怡》将这个问题直接转换为机器人和人类的识别问题。在剧集设想的情节中，机器人通过“图灵测试”早已不是问题，杨小兰长期隐瞒自己的机器人身份，在政府部门担任公务员；文浩康甚至一直在机器人专家程世光身边担任助理和亲信，也没有让程世光发现它其实是机器人。这表明剧集并不认为机器人通过“图灵测试”有什么划时代的意义。

奇点和自我意识

在《安怡》中，最重要的悬念是“奇点”。类似科技狂人的机器人专家程世光，以及心怀深深怨念潜伏在程世光身边后来凶相毕露的机器人文浩康，都心心念念要“开启奇点”。但是，“奇点”如何开启？开启之后意味着什么？这两个角色都没有想明白。事实上，剧集对这两个问题显然也没有想明白——眼下谁能将这两个问题想明白？

“奇点”之说的流行，源自库兹韦尔（R. Kurzweil）的《奇点临近》（The Singularity Is Near，2005）一书。书中鼓吹，到2045年，人工智能将超越人类，那时就是“奇点”的到来：“奇点涉及很多方面，其发展速度是近似垂直的指数增长，技术的扩展速度也几乎是无限的。”书中还明确预言，2020年之前人工智能将通过“图灵测试”，现在看来至少是估计得过早了。

库兹韦尔的书虽然总体上有呼唤“奇点”的姿态，但他书中论述给人的印象，“奇点”是一个亦正亦邪的时刻，虽然激动人心，却也充满风险。而《安怡》对待“奇点”的态度也是相当暧昧的：不顾一切要开启“奇点”的，是两个反面人物，剧中的正面人物都在奋不顾身地阻止“奇点”的开启。但“奇点”到底意味着什么呢？根据剧中人物的对白，似乎主要是这一点：有自我意识的机器人大量出现。至于“奇点”如何开启，在此基础上也就不难想象了：程世光和文浩康都打算将能够产生机器人自我意识的程序上传到网上去，让千千万万机器人能够自我升级，这样“奇点”就能够开启。

于是我们就进入《安怡》中最基本的设定之一，即机器人的自我意识问题。这个问题是国外许多作品喜欢浓墨重彩去描写和想象的，比如剧集《西部世界》（Westworld，2016—2020），几乎整个第一季都在表现机器人自我意识的萌生或觉醒。而《安怡》则采用了简捷明了的方式，一上来就指明了四个有自我意识的机器人，后来又追加了两个潜伏的。这些机器人的自我意识，也不是自动萌发的，而是它们的“父亲”、人工智能专家李建维直接赋予它们的。

其实人类的意识到底是什么，至今也没有定论。心理学家、脑科学家、科幻作家、人工智能专家都会关心这个问题。一些脑科学家试图将人类意识还原或理解为人脑某种物理运动的产物，这虽然具有哲学上的诱惑性，但迄今仍缺乏实证。

而《安怡》将自我意识想象为某一段神秘的代码或程序，李建维将它写入了姜离、叶坤、曲思家、小马、李遥（他的大脑是电脑）、杨小兰乃至文浩康的脑中，它们就都是一出场即具有自我意识的机器人。程世光、文浩康为了开启奇点，不顾一切想要获得的也就是这段代码或程序。剧集的这个想法，有可能得到一部分人工智能专家的赞成，尽管这样神奇的代码或程序迄今在现实世界中尚不存在。

人类打算如何与机器人相处？

和国外许多剧集一样，《安怡》的结尾也是开放的：有了机器人的未来世界，既可能鸟语花香，也可能腥风血雨。人类打算如何与机器人相处呢？如果具有自我意识的机器人是危险的，我们又有什么必要将它们研发出来呢？

原载2021年7月20日《文汇报》 9CWh2bXOxjDsYQX6nWUCmkJRdVl/njOJPM2BipFwIjxJnmMEvOwe/6fZ+8xZNPye