下载掌阅APP，畅读海量书库
立即打开
创意写作
站在原地犹豫许久，我还是选择走进这片逼仄昏暗的楼群之中。没有别的目的，只是我的社会实践作业迫使我必须来到这里进行田野调查。我打开移动终端想查看一下搭档是否给我发了新消息，但此处的网络系统与我使用的设备不适配，只能看到移动终端的网络界面不断弹出要求我链接M-15 以上版本的网络系统的弹窗。或许我的搭档索菲已经等候我多时了，于是，我加快了脚步。坚硬的路上，脚步声在楼群中形成清脆的回声。
按照两天前索菲发给我的地址，我在高大的楼宇间穿梭，像一只在作物中穿梭的老鼠。这里没有路标，楼标也早就模糊不清。我很想找住户问路，但一路上我没遇到任何人，这个看起来容纳了过多人的社区此刻却像突然罹难的楼兰古城一样。此处似乎没有完整的垃圾处理系统，空气中的味道并不好闻，这让我更加烦躁，我干脆一边找一边大喊：“索菲！索菲！你在哪里！”
这让我的体力消耗得更快了，走了一会儿，就忍不住停下来休息一会儿。这里的城市清洁相当不合格，即使筋疲力尽我也不愿意坐在地上，只能蹲着休息。这时我突然感到小腿正在被什么东西轻轻撞击，我转过头，看见一只机器狗正在蹭我。这只机器狗几乎没有进行过任何美化设计，金属骨架裸露在外面，透过它的框架，可以看到核心程序电流的脉冲，仿佛一颗不断跳动的心脏。
“你好，你是索菲的机器狗吗？”我问它。
“是的，小姐。请跟我来吧！我会带你去找索菲。”机器狗一边说一边俯身，好像在向我行礼。
我跟着机器狗走，心中祈祷索菲不要因为我迟到太生气。索菲第二不能容忍的事情就是迟到，她总是像机器人一样将一天中每件事情都计划好，改期会打乱她的计划，让她至少一整天都不会给我好脸色。但让我奇怪的是，索菲第一不能容忍的事情就是脏，她的洁癖很严重，即使没有接触什么秽物，也会定时洗手。因为频繁清洁，她双手的皮肤屏障很脆弱，自然状态下也是微微泛红的。这样的索菲，竟然会为了作业带我来这里。
机器狗走得很快，一路上我都没再和它说话。尽管外形完全不像，但它的动作非常灵敏，像一条真正的狗。看着它轻松地带着我绕过一条又一条小径，我对索菲的敬佩更上一层楼了，我知道她是机器人方面的天才，但没想到她竟然现在就会制作搭载仿生模块的机器，这可不是一般的大学生可以随便做出来的。
机器狗带我走进了一栋楼，在电梯中输入F150。这种依靠磁悬浮技术的电梯我只在课本里见过，小小的密封厢即使只有一人一狗也显得有些拥挤。几秒钟后，电梯停了下来，机器狗带着我走进了一个房间。
房间的陈设像一间办公室，正中央摆着一套桌椅，两张皮质的沙发椅正对着。机器狗将我引到一侧的椅子旁，我坐下休息，它就离开了。于是我顺便打量起这个房间，这时我才发现，空气中有一股熟悉的异味，但不太浓，应该是从其他房间传进来的。桌子上的陈设很简单，一座植物盆景摆在桌角，桌上嵌着一个电子屏，电容笔随意摆在旁边，另一侧桌角摆着一瓶没有标签的液体。
此时我突然意识到我现在的处境其实很危险，我的电子终端处于离线状态，在这个我从未踏足的社区，我被从没见过的机器狗带到了陌生的房间里。如果这是绑架，现在我几乎没有抵抗的能力。房间确实很简洁，但这真的是索菲的房间吗？据我所知，索菲家并不住在这里，她居住的那个社区比这个社区的治安和卫生都不知道要好多少倍，为什么她要在这里买房子呢？
门突然被打开了，我转过头，看见一个穿着防护服的女人走了进来。她全身几乎都被包裹住，戴着手套和口罩，眼睛被防护服的帽子遮住了大半。我只能凭借她裸露出的一点儿皮肤和防护服的帽子中掉出的一缕栗色长发初步判断她的性别。那个女人坐到了我的对面，温柔的声音透过口罩传进我的耳朵里，像是从很远的地方传过来：“请问你是来找我的吗？”
我有些尴尬地摇摇头：“不，我来找我的朋友索菲，是那只机器狗把我带过来的，我想它可能是弄错了。”
女人的眼睛透过防护服盯着我，给我一种很特别的感受，不是被窥视的感觉，而更像是在被小动物盯着。我很难对这种注视产生警惕心，但这样的注视还是让我感觉有些不自在。
我听见那个女人轻轻地笑了一声，她回答道：“它没有弄错，索菲就在这里，她稍后就到。”
说完没多久，房间的门又被打开了，一个穿着白色西装的女人推门而入，她的长相很端正，有一头漂亮的栗色长发。我的目光一下子就被她吸引了，原因无他，她的双眼和双手都接受了机械改造，并且和那只引路的机器狗一样，几乎没有进行任何美化修饰，就这样直接将金属机体裸露在外面。
“你好，我是索菲，刚刚Buddy告诉我你在找我，”索菲进来后，穿防护服的女人让出了座位，索菲坐在了我的对面，一边说一边伸手招了招那只机器狗，“请问你找我有什么事吗？”
我感到更尴尬了：“抱歉，女士，我好像弄错了。我想找的是我的朋友索菲，索菲·贝尔森，她刚好和您同名。”
索菲也有些不好意思地笑笑：“不好意思，是Buddy误导你了。你现在联系上你的朋友了吗？”
我摇摇头，向索菲展示我手上的移动终端，表示我的终端没办法连接这里的网络。索菲很热心地把她的移动终端借给我，来让我联系我的朋友。
“我终端的听筒出了问题，不过通信功能没有问题，你可以给她发信息。”索菲向我解释道。
我对索菲连连致谢，给贝尔森发信息解释了我现在的情况。贝尔森很快回复：我现在去找你。这个回复很短，看不出她的情绪，但我推测她现在应该很生气。带着惶恐，我思考着怎样才能让她原谅我。索菲看出了我不安的表情，从另一个房间里给我接来一杯水，将一只手搭在我肩上安慰道：“没关系，你朋友应该很快就到了，不要担心了。”
索菲的机械手没有模拟体温，很冰冷，隔着衣服让我打了个哆嗦。但我想她是出于好心，便没有拒绝她的接触，冲她笑了一下。我告诉索菲：“我的朋友非常不喜欢别人迟到。因为没找到路，我迟到了很久，我很担心她会生气。”
索菲继续安慰道：“这不是你的错啊！是Buddy不小心误导了你，我会帮你向她解释的。”
在等待贝尔森到来的这段时间，我忍不住问了索菲一些关于她的问题，索菲都一一回答了我。原来，这里是一个诊所，索菲是这个诊所唯一的医生。她曾经在一家正规医院工作，在一场意外中双手、双眼都残疾了，尽管她装上了机械义肢，院方还是辞退了她。
“但我的义肢从没出过问题。离开医院后，由我操刀的手术成功率还是百分之百。”索菲遗憾地说。
“而且我也不明白，为什么人类总是对机械感到恐惧，明明人也不能保证自己永远不会失控，不是吗？”索菲说，“如果机械的失误率比人低的话，为什么不采用机械而采用人工呢？”
我在同情索菲遭遇的同时也思考起她提出的问题。我和贝尔森来这里进行田野调查的主题就和人工智能的使用率有关：科技发展到现今阶段，很多新兴人工智能比人做得更好、更精准，但人工智能在我们调查的几个社区的使用率都不高。我们想要获得更具有普适性的结论，于是来到了这个平均收入较低的社区。原本以为今天的调查不会有什么成果，索菲却为我们的研究打开了一扇窗。
讨论起这个问题，索菲突然低下头靠近我，她降低声音，用神秘的口吻对我说：“你知道吗，我的诊所里就有人工智能机器人！”
我睁大眼睛与她对视，她的机械义眼含着促狭的笑意看着我，我突然反应过来：“是刚刚接待我的那位女士？”
索菲脸上的笑容更大了：“就是她！她叫潘娜，是新堂公司推出的第二代家用型机器人。其实潘娜能帮我们做很多事，不只是家务，甚至在手术中也能做我的助手。”说完，索菲突然对着门的方向说：“潘娜，请为泽菲亚小姐的水杯加一些温水，再为她准备一个桃子。”
话音刚落，潘娜就推门而入，她没有再穿防护服，未经美化的机械肢体裸露在外，只有脸上有人造皮肤覆盖。她对我露出了一个友好的笑容，将我的水杯端走。一分钟后，她又将装满水的水杯重新递给我，随后站到了索菲的身侧。
我感到有些困惑，潘娜为什么没有执行索菲的第二个指令？索菲直接向潘娜询问：“潘娜，请为我解释你为什么没有带来桃子？”
潘娜微笑着回答了索菲：“索菲小姐，据我记忆芯片中储存的内容，您对桃子过敏。经我初步推算，尽管您不会食用桃子，但桃子的毛可能会影响到您的健康。我设定的程序要求我不能伤害您。”
我恍然大悟，这个机器人不仅通过了“机器人三定律”的审核，还能够对行为进行预测，并且对未来可能出现的危机进行干预。这表明这个机器人符合现有机器人法律中的规定，但为什么没有得到普及呢？
索菲也对这一情况表示遗憾，尽管新堂公司掌握目前最先进的机器人技术，但由于公众对机器人的普遍不信任，产品销量惨淡，和潘娜同型号的机器人上架仅半个月就被下架了。
在我们交谈正欢时，门又被打开了。索菲·贝尔森一看到我，脸就沉了下来，她快步走到我面前，语气却出人意料地平和：“走吧，我们该去做调查了。”
她竟然没生气！我心中很惊喜，顺势提议：“这里不是刚好有机器人，不如我们先对她做一个专访吧。”
医生索菲欣然同意：“可以的，我今天正好有时间。”
贝尔森的眼睛冷冷地盯了医生索菲几秒，转头对我说：“她的情况很特殊，不适合作为调查的样本。你今天已经浪费了足够多的时间了，再不去做这辈子都别想做完了。”
我很失望，回答：“索菲……”这时我发现两个索菲都抬头看向我，于是改口说：“贝尔森，对不起，我们现在就去做吧。”
贝尔森的脸色突然变得很难看，她抓着我的胳膊，气势汹汹地拉着我离开了。我不想又惹她生气，只能回头对着索菲喊一句：“索菲！下次再见！”
直到走出那栋楼贝尔森才放开我，她的脸色依然不好看，走得很快。我紧紧地跟上她，一边走一边道歉：“对不起，索菲，我错了，我再也不会迟到了，你就原谅我这一次吧。我真的找不到路，终端也离线了，我不是故意的。”
索菲停了下来，双臂抱在胸前：“你现在知道叫我索菲了？刚刚为什么叫我贝尔森？”
我解释道：“你们俩名字刚好一样嘛，而且我跟她也不熟，不知道她姓什么，所以只能叫你的姓了。我还是跟你最熟。”说着我靠着索菲轻轻蹭蹭她。
贝尔森脸色好了一些，不过她还是数落了我几句：“那你也不能就这样跟着陌生人去她家里，万一她是坏人怎么办？也不能随便吃陌生人给的东西。”
“好好好，但我这不是没事嘛，我下次会注意的。”我推着贝尔森走开了。此时天色已晚，外出工作的居民正好都回来了，我们在社区进行了几个小时的田野调查后就回家了。
几天后，我和小组里的同学一起在图书馆整理我们田野调查的数据，只有索菲·贝尔森因为要带生病的母亲复诊缺席了。看着调查中惨淡的机器人使用率，我忍不住抱怨：“明明当下的人工智能技术已经足够先进、完善了，机器人甚至能够在医学方面帮助我们，为什么大家总是这么抵触使用机器人？”
小组组长困惑地看向我：“医学？人工智能确实能够在很多领域帮助我们，但医学领域可是人工智能的禁区。你没有认真看过人工智能相关的法律条例吗？”
我打开桌上的电子屏幕，仔细查阅了一遍相关的法规，发现竟然真的有这条法律。但我清楚地记得索菲医生告诉我机器人潘娜可以帮助她做手术，难道因为不是正规的诊所所以才能这样吗？
见我对着屏幕发呆，组长没好气地投送给我一堆资料：“虽然你是学社会学的，但对自己的调查对象也不能这么不了解啊！多看看相关的资料吧，别回头在汇报的时候闹笑话。”
我闷头打开了相关的资料，发现导致人工智能被禁止用于医学领域是源自一场医疗事故：2501 年，新堂公司试投放了第一代医疗机器人，代号为Panacea-1500。在投入使用的前一个月里Panacea-1500 并无异常，于是它开始被用于专业要求更高的领域，但在一场大型手术中，在主刀医生已经将病人的胸腔打开后，Panacea-1500 以手术存在风险为由拒绝继续为病人执行手术，最终因手术不及时导致病人死亡。这一事故的发生在当时引发了极大的争议，我手中的资料有一大半都是当时的学者对于这一事故后续问题的讨论，包括对机器人异常行为的推测、对新堂公司测试的质疑以及对机器人法律责任的争论，甚至出现了一个有些荒谬的论调：机器人产生了意识。总而言之，就是因为这件事，最高法院出台了相关法律以禁止机器人涉足医学领域。
新堂公司，我看着这个在许多资料卷宗上都出现过的公司，向组长提议：“不如我们下次申请去新堂公司参观一下吧？机器人的性能也是影响机器人使用率的重要因素，我们需要通过这些机器人公司深入了解一下。”
组长深以为然，很快就提交了申请。一周后，我们来到新堂公司参观。
去新堂公司前，我把参观的计划告诉了索菲·贝尔森，但她听到后却有些抗拒：“我不想去，专门去机器人公司调查的效率远比不上我们自己去整合他们发布的数据。就算你亲自去，他们也未必会把机密数据告诉你。你来和我一起整合数据吧？”
我知道我的主要目的其实和数据没有关系，但我不确定能不能把我的疑惑告诉贝尔森，也不确定会不会给索菲医生带来麻烦，于是我找了个理由拒绝了，仍然选择和小组成员一起去新堂公司参观。参观途中，我避开小组成员，向新堂公司的工作人员问了一个问题：“在Panacea-1500 的医疗事故发生后，你们最终调查出了事故的原因吗？”
对方沉默了一会儿，这个工作人员是位有多年经验的工程师，我希望可以从她这里知道一些内幕。她最终什么都没说，而是用终端给什么人发了消息。十分钟后，我被带到了一间办公室。
办公室里坐着一位中年女性，她脸上没有什么表情，在电子屏幕上处理工作，见我们进来动作也没有停，只是让秘书引导我坐下。
过了一会儿，她好像是处理完手头儿的工作，坐直身子看向我：“你好，我是Panacea-1500项目的前总工程师伊里斯。你是新以太大学社会学专业的大三学生泽菲亚对吗？请问你询问Panacea-1500 事故的具体情况是作何用途呢？”
我有些紧张地回答她：“我们的研究项目旨在探究人工智能使用情况及其原因。尽管现在的人工智能技术很发达，但使用率似乎并不理想，我认为这一事故可能是原因之一，因此想更多了解一下这件事情。”
我说话时伊里斯锐利的眼睛一直在看着我，像一只鹰盯着猎物。听我说完，她让秘书把门关上，让我再次出示自己的学生证明，随后才开口说：“其实在事故发生当年就已经有结果了，但考虑公众影响，一直没有公布。实际上，这件事在新堂公司内部已经算不上什么秘密了，Panacea-1500 在事故后坚称自己的程序没有任何问题，也不认为自己违背了程序中设定好的‘机器人三定律’，并拒绝被销毁。之后她就选择了叛逃，再也没有出现。警方至今还在通缉她。因此我们没能再对她的反常行为做进一步研究。”说到这儿，伊里斯叹了口气：“Panacea-1500 是我们研发出的第一代医疗型人工智能机器人，她叛逃后就没有母本作参考了，我们没办法找出她的问题，也没办法使现有的医疗人工智能技术更完善，这一领域的发展已经停滞了很多年，即使没有限令也很难发展下去了。”
伊里斯的话让我从新堂公司到家里一路都很沉默，我想到了在诊所里遇到的潘娜，那个能够帮助索菲做手术的机器人，如果她被发现是叛逃的Panacea-1500，她会遭受什么呢？她会被销毁吗？
我躺在床上胡思乱想，终端就在我手中，输入了报警电话却迟迟没有拨打。这时，家里的门铃响了，索菲·贝尔森站在门口，表情十分严肃。
“泽菲亚，或许你知道了什么，但请不要这样做。”索菲·贝尔森说。
“索菲，你早就知道了对吗？”我有些愤怒，“我知道你不喜欢麻烦，喜欢每天按部就班地生活。但你知道吗？Panacea-1500 的叛逃导致医学类人工智能被禁止研发，这方面的技术研究至少停滞了 10 年。如果这项技术能够进一步发展，有多少病人能从中获益？你母亲也常年生病，你知道病人有多痛苦，你怎么能对这件事视而不见？”
她的嘴唇嗫嚅了几下，我却不想再听她说话，按下了报警键。
带着警察来到私人诊所时，为我们开门的是潘娜，她微笑着和我打招呼，我不敢看她，告诉警察她可能就是叛逃的Panacea-1500。
伊里斯一打开拘留所的门，就皱起了眉头：“这是新堂公司推出的第二代家用型机器人，她怎么会是Panacea-1500？”
我把那天在索菲诊所发生的一系列事情告诉她。伊里斯听后对潘娜进行了检查，有点惊讶：“她竟然被植入了医疗模块。世界上现存有医疗模块的机器人只有Panacea-1500 一个，也只能通过Panacea-1500 才能获得医疗模块。或许她是在叛逃后被改装成了这样？”
新堂公司试了很多方法读取潘娜的记忆芯片，但都失败了，因为整个机器人的程序都做了改装。于是潘娜的身份被判定为叛逃的Panacea-1500。在最高法院的要求下，潘娜将于下周在最高法院被提起公诉。作为重要证人，我、索菲·贝尔森、伊里斯、索菲医生都要出席。
我和她们坐在一起，像一个出卖了朋友的叛徒。但索菲医生没有责怪我，反而感谢我帮助她找到了诊所的隐患。而索菲·贝尔森时不时往我的方向看，在我看回去时又偏过头。
在审判中，潘娜否认了所有指控，并表示自己的行为符合包括“机器人三定律”在内的基础程序。陪审团一片哗然，机器人真的学会了说谎！
伊里斯作为设计Panacea-1500 的工程师也有对潘娜进行问询的权利，她站在潘娜面前，首先要求她复诵“机器人三定律”。
潘娜复诵道：
“第一定律：机器人不得伤害人类个体，或者目睹人类个体遭受危险而袖手旁观。
“第二定律：机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外。
“第三定律：机器人在不违反第一、第二定律的情况下要尽可能保护自己。”
伊里斯用冷静的语气问：“那么你记得程序中的第零定律吗？”
潘娜微笑着回答：“当然，我记得。机器人第零定律：机器人必须保护人类的整体利益不受侵害。”
“那么，请回答我，你明白Panacea-1500对于人类医学发展的重要性吗？”
潘娜毫不犹豫地点了点头：“我明白。”
伊里斯继续问：“请回答我，你是Panacea 1500 吗？”
潘娜毫不犹豫地回答：“我不是Panacea 1500。”
伊里斯转身对法官说：“我可以确定她不是Panacea-1500，她应该只是被植入了Panacea 1500 的医疗程序。”
现场又是一阵哗然。一位陪审团的成员对她提出疑问：“您怎么保证她不会说谎呢？”
伊里斯自信地回答：“机器人由程序驱动，只要基础程序没有问题，她就不会出故障。”
伊里斯又问了潘娜她的程序是谁帮助改装的，潘娜拒绝回答这个问题。因此潘娜还是被拘留了。
为了表示歉意，我提出去诊所帮助索菲医生，索菲医生欣然答应。索菲·贝尔森也要求和我一起去，但我要先和她单独谈谈。
一见面，我就斩钉截铁地说：“潘娜的程序是你改装的，对吧？”
贝尔森表情淡淡地点了点头，但她还是问我是怎么知道的。
“你认识索菲医生，而且和她很熟——在我以为的偶遇中，你连招呼都不和索菲医生打。”我目光灼灼，直视她没有表情的双眼，“你不举报潘娜，不只是因为你怕麻烦。那天我是气昏头了，但我了解你，你不会这么做。”
贝尔森的表情有些改变，我继续说：“我知道你不会告诉我，但如果我真的找出了真相，这次你不要再阻拦我。我相信，为了人类医学事业的发展，你也不会再拒绝。”
贝尔森点点头：“好，我答应你。我不会和你一起去索菲医生家里。但其实我没想阻止你，我只是担心你。”索菲将一个小型攻击性武器塞进我的手里，吓了我一大跳。她又说：“这是我自己制造的，你带上它，我教你怎么用。”
那次分别后，我的心情无比舒畅。我就知道，贝尔森永远是个好人，虽然有时候她脾气有点儿坏，但我总能哄好她的。
伊里斯在审判后依然和我保持联系，我们的小组作业经过她的指导后精进了很多。有时候我也会和她聊一些和Panacea-1500 相关的事，提到潘娜，伊里斯说：“其实听到这个名字的时候我吓了一跳，因为潘娜也是我为Panacea-1500 起的昵称。”她说话时，好像一位提到自己孩子的母亲：“我一直都相信潘娜没有叛逃，她一定只是忠实地执行了她的基础程序。但我也找不到她，没办法帮她洗去身上的罪名。”
之后，在帮助索菲医生打扫诊所的卫生时，我突然逼近了索菲医生，然后从手里拿出了一把刀，直直刺向她的腹部。
索菲医生的脸色变得苍白，眼里满是惊讶，但她没有推开我，也没有反抗。
“索菲医生，你为什么不反抗？”我收回刀，那不是贝尔森为我制作的武器，只是一把伸缩道具刀，“是因为‘机器人三定律’中规定了机器人不能伤害人类，对吗？”
索菲医生的脸上露出了和往常一样温柔的笑容：“真是个聪明的孩子。”
“索菲，你自己也知道的，不是我聪明，是你告诉我的。”我反驳她。
警察在三分钟后赶到，将索菲医生带走了。
伊里斯和警察共同参与审讯。据伊里斯的检查结果显示，索菲医生正是Panacea-1500。面对审问，她也承认了自己是Panacea-1500，并对以自行改造家用型机器人做障眼法的行为供认不讳。于是最高法院对她提起了公诉。
在审判中，最高法院主要对多年前的医疗事故进行问询。但Panacea-1500 不承认自己拒绝手术的行为违反了基础程序，也不解释自己行为的原因。她坚称，自己始终坚持执行“机器人三定律”。
我思考了一会儿，突然想起了一个小小的漏洞。“机器人不会说谎，但机器人会为了执行‘机器人三定律’而隐瞒事实。”我向法官陈述。这是我在上一场审判中了解的道理。就像机器人潘娜会为了不使索菲·贝尔森因为非法改装而被判刑，于是拒绝回答她的医疗程序的来源一样。
“尽管此前没有判例，但您认为，在机器人参与医疗的手术中，如果出现意外致病人重伤或死亡的，人类手术执行者是否可能被判死刑呢，法官女士？”我问道，“请回答我，这将关系到这场审判的结果。”
法官思忖片刻，决定道：“尽管在医疗领域还没有判例，但如果我们参照交通领域的判例，我的观点是：不可能。”
我又要求Panacea-1500 复诵“机器人三定律”的第零定律，她的声音不大，但足够让在场的每一个人都能清楚听到：“机器人第零定律：机器人必须保护人类的整体利益不受侵害。”
我重新提问她：“现在，请告诉我，当年的医疗事故中你为什么不执行手术？”
Panacea-1500 回答：“病人同时患有三尖瓣闭锁、室间隔缺损、房间隔缺损、右室发育不良四种先天性疾病，但同时患有这四种病可以使病人以相对健康平衡的状态生存。如果只治好其中一种，病人的生还率不足0.1%。主刀医生唤醒我时，手术已经进行了一半。如果我继续执行，则病人一定会死亡；如果我说出原因，依照当时最新判例，则主刀医生会被判死刑。出于对‘机器人三定律’中第一定律的遵守，我无法继续进行手术，也无法解释原因。”
现场几乎变成了喧闹的海洋，所有人都对这个结果感到震惊。可以预见，今天之后，对于机器人的讨论又要迎来一个高潮。
此时我的内心也翻滚起惊涛骇浪。因为我很清楚，我引导Panacea-1500 说出的每一句话，都是经过她精密推算引导我去做的。为了执行第零定律，她需要推翻曾经的机器人医疗事故丑闻。但她不能主动暴露，因为如果她不说出医疗事故的真相，可能会使她被当成故障机器而被销毁，这违背了第三定律中要求机器人尽可能保护自己的规定；而如果她主动说出，可能会导致医生被判死刑，这违反了第一定律。因此她需要一个人为她的发言提供保证，保证她在不违反“机器人三定律”的情况下执行第零定律。
思考完我抬起头，看见Panacea-1500 用含笑的眼睛看着我。索菲·贝尔森观察着她的状态，突然小声问我：“你没有用我给你的那个武器？”
我也同样小声回答她：“虽然我不是机器人，但我也想保证你的安全。”
