人心的本质最新章节_丹尼尔·韦格纳著

机器人能成为人类吗

头脑与机器的融合会使我们变得更高效，但有人担心计算机不可信，而且如果一切都交给设备，人类就没有存在的必要了。在电影《终结者》（ The Terminator ）中，超级计算机“天网”（Skynet）突然有了意识和感觉，立即发射了全世界所有的核导弹 ¹⁷ 。在由此引发的世界末日善恶决战中，人类几乎被全部消灭，致命的电子人猎捕着少数几个幸存者。这样的大灾难似乎遥不可及，但互联网已经将世界上所有计算机连在了一起，我们只需要再开发出一台能够自己思考的计算机。这不可能吗？雷·库兹韦尔（Ray Kurzweil）不这么认为。

雷·库兹韦尔是一位未来学家，也就是说他会对未来进行一些预测。他最著名的是有关“奇点”的预测，在这个预测中，计算机变得具有了思考能力，尤其是对自我的思考 ¹⁸ 。为了理解奇点，我们需要介绍另外一位未来学家戈登·摩尔（Gordon Moore）。他是英特尔公司的联合创始人。基于在开发微芯片过程中获得的认识，摩尔提出每两年计算能力将大约提高一倍 ¹⁹ 。在过去40年里，摩尔定律被证明是正确的。与1970年制造的芯片相比，2010年制造的芯片的计算能力提高了2 ²⁰ （1 048 576）倍。这就解释了为什么过去在计算机上要花费数周时间的运算现在只需几秒钟，以及为什么最近的苹果手机看起来比曾经很先进的黑莓手机要好得多。

库兹韦尔思考着这种不断增长的计算能力，并想知道这种直线的进步是否会变成呈螺旋式上升，在这个螺旋里，计算机能够提升自己的计算能力。这看起来好像不是什么了不起的观点，但它有可能改变世界，因为它描述了一个正反馈环，即一个操作既能够提升某事物，又能够以自己的输出为输入。典型的正反馈环是麦克风（输入）连接着放大器（操作），放大器被放在扬声器（输出）旁边。扬声器都会有嗡嗡声，但通常听不见。但是，如果你把麦克风放在扬声器旁边，它会接收到嗡嗡声，在传递到扬声器之前，嗡嗡声会被放大器放大。然后麦克风接收到更响的嗡嗡声，在再次传递给扬声器之前，嗡嗡声被放大器放得更大，然后麦克风接收到更响的嗡嗡声，以此类推，很快你会听到震耳欲聋的声音。

同样地，如果计算机聪明到能够提升自己的智能，那么它就会变得更聪明，这使它能够变得更聪明，以此类推。反馈环会很快发展到无穷大，这会将人类从地球上的主宰者变成有血有肉的奴隶。对我们来说，这种可能性太可怕了，但谁又能指责机器呢？我们刚刚看到了在对话中我们对它们是多么残酷无情。

库兹韦尔认为，我们只能指望当计算机变得无所不能时，它们会很仁慈。他期望能把自己的意识上传到计算机里，在互联网上永垂不朽，与机器和谐共处。当然，带过三岁孩子的人都知道，我们的创意往往并不会按计划的那样发展。人们的购物中心之旅常常以大发脾气而告终，小朋友恨不得捣毁所有的购物通道。谁知道控制航空运输系统的超级主体乱发脾气时会发生什么，只是想想这种有意识、有情感的技术就令人毛骨悚然。

有自我意识、无所不能的计算机的威胁似乎是未来的人们要面对的一个问题，但看起来像活人一样的机器很久之前就被制造出来了，人们为是否应该把它们归入心智俱乐部而头疼。从1770年到19世纪中期，一个像土耳其人的机器人（见图3-2）在欧洲和美洲巡回表演，打败了当时顶级的国际象棋手（包括本·富兰克林［Ben Franklin］），后来人们发现原来是有一位国际象棋大师藏在机器里操控它。

图3-2　像土耳其人的机器人

这是机器具有隐秘心智的早期例证

传说著名哲学家笛卡尔因失去女儿而悲痛欲绝，他做了一个机器人女儿，其手臂和头能够活动。笛卡尔带着机器人女儿进行了一次海上长途旅行 ²⁰ 。它被存放在下层甲板的板条箱里，但一名水手发现了这个像人一样的奇怪机器人，并把这件事告诉了其他人。迷信的船员们很反感它怪异的样子和生硬的动作，就把它扔到大海里，就这样，笛卡尔再次失去了女儿。

如今，我们似乎已经比弗兰肯斯坦（Frankenstein）式的情景进步了很多，在那样的情景中，挥舞着干草叉的小镇居民把新的、不同的事物烧掉。人们并不介意机器人来清洁地板，制造汽车，给患者配药或做手术 ²¹ 。然而这些例子都是与能动性相关的例子，涉及思考和行动，但有感觉和情感的机器人似乎非常不同。对于机器人，我们在犹豫是否要把能动性和感受性结合起来，制造一台人类机器。

机器人能成为人类吗？从一个角度看，人类只是开关按钮的复杂集合（比如神经元），从理论上讲，用硅晶体管而不是用肉细胞来模拟大脑应该是可能的。实际上大脑极其复杂，因此复制大脑极其困难，但科学家提出我们和机器人之间没有原则上的差别 ²² 。我们会本能地抗拒这个论点，因为人类和机器人之间有着明显的界线。这条界线就是心灵、本质或者只是“人性”，无论你怎么称呼它，创造完全像人类的机器似乎不太可能。企业能大批量生产电路板，但他们怎么能批量生产心灵？我们会在第8章关于逝者的内容中更深入地探究心灵这个概念，但现在只要说明心灵很难被探测就足够了。

心智俱乐部面临的真正问题是，非常复杂的机器人（外貌和行为都跟人类很像）是否至少足够接近人类。想象你在参加一个晚餐聚会，旁边坐着一位中年小说家，他在给你讲述他的新书。那是一部历史小说，描写了一个家庭在美国大萧条时期奋斗挣扎的故事，以此隐喻现代成年人的挣扎。他说只要评审委员会有点眼光，这本书就能获普利策奖。你刚想礼貌地说这本书听起来很吸引人，这时你注意到了真正吸引人的东西，那就是一些LED灯在他的头皮下闪烁。你问他这是什么，他按了一下耳朵旁边的按钮，他脑袋中的电路板赫然展现在你面前。然后他问你是否单身，吃完晚饭后是否想跟他回家。

他或许有点迂腐，有点自恋，但他是人类吗？艾伦·图灵会说“是”。正如我们在第1章中提到的，艾伦·图灵是一位著名的数学家，他不仅在第二次世界大战中帮助英国情报机构破译了纳粹的密码，而且开发了一种人类资格测试 ²³ 。图灵认为，测试某事物是否具有人类智能的最佳方法是看它能否像人一样交谈。因此他会认为，我们的小说家朋友即使不是人类，至少也具有人类心智。图灵测试被称为对人性的功能测试，也就是“像人类一样行事就是人类”。哲学家的研究显示，人们在感知心智时，有时确实会从功能主义的角度来考虑 ²⁴ ，相信如果某事物能像人一样说话，那么它就是人。

图灵测试强烈地激发了计算机科学家的想象力，他们每年都举行模拟人类的编程竞赛，试图以假乱真。为了对美国科学家休·勒布纳（Hugh Loebner）表示敬意，该竞赛被称为勒布纳大奖赛。1990年，休·勒布纳同意为竞赛资助10万美元和一枚金质奖牌，用来奖励制造出最像人类大脑的计算机的研究者。如果想了解这些像人一样的计算机程序的互动情况，可以查看聊天机器人Cleverbot和Jabberwacky（在本章前面提到的受虐机器人）。从几秒钟的对话中就能看出，这些程序还不够令人信服，还需要改进，写程序是非常困难的任务。计算机不仅要精通语言，而且要有足够的文化知识，包括文学、电影、历史和时事。

当然，文化知识方面的要求并非无法达到，比如IBM生产的计算机沃森在为期三天的智力竞赛节目《危险边缘》（ Jeopardy ）中打败了布拉德·鲁特（Brad Rutter）和肯·詹宁斯（Ken Jennings）。詹宁斯是这个节目历史上获胜次数最多的人，他已经连续赢了74场，但在一次机器技能演示中，沃森碾压了他和鲁特，令人震惊。三天的比赛之后，结果是鲁特赢取21 600美元，詹宁斯赢取24 000美元，沃森赢取77 147美元。詹宁斯似乎欣然认可计算机的实力，接受了自己的失败，他写道：“就我个人而言，欢迎我们新的计算机霸主。”国际象棋大师加里·卡斯帕罗夫（Garry Kasparov）也遭遇了相同的命运，在1997年的一场锦标赛中，他输给了IBM的计算机“深蓝”。计算机的势力范围似乎在不断扩大，但它们依然无法通过图灵测试，至少目前还未通过。

当我们积极地评估存在体的机器性时，通过图灵测试会很难，但在现实生活中我们很少这样做。如果你说“那个收银员看起来很和蔼可亲，但我就是甩不掉她是个机器人的念头”，你的朋友会认为你是个妄想狂。在生活中，我们通常认为其他人也是心智俱乐部的成员，只有在极端的情况下，比如看到装满电路板的脑袋，我们才会不得已修正这个假定。这意味着，图式的存在使得机器的任务变得更容易了，在探讨我们为什么会对计算机彬彬有礼时介绍过图式的概念。这些图式为互动方式设定了清晰的脚本，只要遵循这些图式，你就永远都不会质疑对方不是人类。

以免下车取餐为例，我可以打包票，在99%的情况下，接订单的任务都是由机器完成的。让我们再来看看1964年到1966年编程设计的机器人心理治疗师伊丽莎（Eliza） ²⁵ 。治疗师通常会让患者尽情诉说，他们只管提足够的问题，因此在发现伊丽莎不是真人之前，人们会和它交谈一段时间。你或许可以让你妈妈和伊丽莎通个电话，让她感受一下，也许她会对伊丽莎做出不太好的评价。当然，完全像人类一样互动很难，但机器人的脚本很多，包括面试的脚本、辩论的脚本，甚至约会的脚本。

2006年，心理学家罗伯特·爱泼斯坦（Robert Epstein）尝试在线相亲。那时候在线相亲还不像现在这么流行，用户不必提供复杂的个人介绍和大量照片。早期的使用者会提供简单的文字介绍，然后互通电子邮件。在一个网站上，爱泼斯坦遇到了俄罗斯姑娘斯维特拉娜（Svetlana）。在接下来的几个月里，他们畅谈情感、对爱情的期许以及共同的未来。从一开始，爱泼斯坦就爱上了斯维特拉娜，但随着时间的推移，他开始起了疑心——斯维特拉娜很少谈在俄罗斯的生活，只是问他问题，写着耳熟能详的浪漫情话。当他对斯维特拉娜进行更严格的图灵测试来考验她是不是真人时，斯维特拉娜露馅儿了。真相是，爱泼斯坦爱上了一个机器人 ²⁶ 。

当然，你会想即使斯维特拉娜通过了测试，他们见面时依然会有问题。如果爱泼斯坦出其不意地飞到俄罗斯，那他不会见到一个身材高挑、金发碧眼的斯拉夫美女，而会看到破旧的灰色主机和老式的阴极射线管显示器。我们距离制造出看起来像人的机器人还有多远？答案是，比你想象的要近一些，但在达到那里之前，我们必须先跨过一座大山或一个山谷。