下载掌阅APP，畅读海量书库
立即打开
克里斯：物理专业学生；帕特：生物专业学生；桑迪：哲学专业学生
克里斯：桑迪，谢谢你推荐我阅读艾伦·图灵的文章《计算机器与智能》。文章真是精彩，当然也引我思考——思考我的思考。
桑迪：很高兴听你这么说。你还像以前一样怀疑人工智能（AI）吗？
克：你误会了。我不反对人工智能。我认为它很了不起——也许还有点疯狂，但不就该这样吗？我只是认为，你们这些AI鼓吹者太低估人类的心灵了。有些事是计算机永永远远也做不到的。比如，你能想象计算机写出普鲁斯特式的小说吗？那丰富的想象力，复杂的人物设定……
桑：罗马不是一天建成的！
克：从文章来看，图灵果然是个很有趣的人。他还活着吗？
桑：不，他1954年就死了，才41岁。如果他还活着，今年也才67岁。不过现在他已经成了超级传奇人物，似乎很难想象这么传奇的人还活着。
克：他怎么死的？
桑：几乎可以肯定是自杀。他是同性恋，不得不应付外界的许多愚蠢和苛待。到最后他显然是承受不住，自杀了。
克：悲伤的故事。
桑：的确啊。让我难过的是，他从未目睹计算机在装置和理论方面取得的惊人进展。
帕特：嘿二位，你们不打算跟我讲一下吗，图灵的文章说了些什么？
桑：其实是关于两件事。一个是问“机器能思考吗”，确切点说是“机器最终是否能思考”。啊先说一下他认为答案是“能”。他回答问题的方式是把一系列的反对意见挨个驳倒。他试图表达的另一点是，这个问题字面上没什么意义，情感意味太重了。许多人被人是机器或者机器也能思考的提法搅得心神不宁。图灵试图用情感色彩没有那么强的措辞来化解这个问题。比如说，帕特，你怎么看待“思考机器”这个想法？
帕：坦白说，我觉得这个词让人困惑。你知道是什么让我困惑吗？是报纸和电视上的那些广告，它们说“能思考的产品”或者“智能烤箱”什么什么的。我真不知道应不应该太当真。
桑：我知道你说的那些广告，我想它们应该让很多人都感到了困惑。一方面，经常有人反复抱怨说“计算机真笨，你必须把每件事都详详细细地告诉它们”，另一方面，那些狂轰滥炸的广告又把“智能产品”吹得天花乱坠。
克：确实如此。你们知道吗，有个计算机终端生产商要把自己的产品叫作“傻瓜终端”，好让它们显得与众不同。
桑：倒挺可爱，不过这也是添乱。一想到这个，“电脑”（electronic brain）这词就总是跑进我脑袋。这个词，许多人轻易地就接受了下来，另一些人则不假思索地拒绝。很少有人能耐心地分析问题，看看它到底有多少意义。
帕：图灵有没有提到什么解决办法，比如某种针对机器的智力测试？
桑：如果有的话，一定很有趣，但还没有机器哪怕接近能做智力测试的水平。不过，图灵提出了一个测试，理论上能够用于任何机器，来测定它是否能思考。
帕：这个测试对这个问题会明确给出“是”或“否”的回答吗？要是它这么表示了的话，我可要怀疑了。
桑：它没有啦。某种意义上这正是它的一项优点。它显示了边界是多么模糊，整个问题又是多么微妙。
帕：那么，就像哲学中常见的那样，这个测试只是个措辞问题。
桑：也许吧，不过这些措辞感情充沛，因此对我来说，探讨这些问题，试着厘清关键措辞的意思，算是件重要事。这些问题对我们的自我概念来说十分重要，我们不该把它们扫到地毯之下，视而不见。
帕：那就告诉我图灵测试是怎么回事吧。
桑：这个想法是基于他所说的“模仿游戏”。游戏中，一男一女分别进入两间屋子，第三方可以通过某种电传打字设备向他们提问。第三方可以向任一房间提问，但不知道哪个人在哪个房间里。而询问者就是要弄清女人在哪个房间里。现在这个女人要通过她的回答尽可能地帮助询问者。但是男人要尽可能地迷惑询问者，假装女人来回答。如果他成功地欺骗了询问者……
帕：询问者只能看到写下来的话吧？然后觉得能从中看出回答者的性别？这个游戏听起来很有挑战性。我很想哪天参加一次。询问者在测试之前认识哪位回答者吗？他们中有人认识对方吗？
桑：那样可不大成。如果询问者认识其中一位，甚至两位都认识，所有难察难辨的暗示就都要冒出来了。三个人谁也不认识谁才最可靠。
帕：什么问题都能问吗，没有任何限制？
桑：那是当然。就得这样。
帕：那么，你不认为这个游戏很快就会滑向特别与性有关的问题吗？我能想象那个男人会在游戏中露馅，因为他会过于急切地想要表现得令人信服，所以会回答一些非常赤裸裸的问题，而多数女人都会认为这些问题过于私人，羞于启齿，即使通过匿名的计算机连接，她们也不会回答。
桑：嗯，有道理。
克：另一种可能性是盘问与传统性别角色差异有关的细节方面，比如女装尺寸等等。模仿游戏中的心理学可能非常微妙。我认为询问者是男是女可能会有区别。你不认为女人能比男人更快发现某些暴露真相的差异吗？
帕：这么说，或许 这 就是区分男女的方法！
桑：嗯……这又是个新情况。不管怎么说，我不知道有没有人认真试过原版的模仿游戏，哪怕是用现代的计算机终端来做会相对简单。不过我得承认，我也不确定，无论结果如何，它又能证明什么。
帕：我也很好奇这个。如果询问者——假设是位女性——没能正确分辨出谁是女人，能证明什么？肯定不能证明那个男人 原本 是女人吧。
桑：没错。我觉得好玩的就是，虽然我从根本上说相信图灵测试，但我不能确定这个测试的基础——模仿游戏本身意义何在。
克：我觉得用模仿游戏来测试“思考机器”，就像用它来测试女性气质，我挺不以为然。
帕：从你的话里我知道，图灵测试是模仿游戏的一种扩展，只是两个房间里的是一台机器和一个人。
桑：正是这样。机器竭尽所能让询问者相信它是人类，而人类则努力证明自己不是计算机。
帕：除去“机器竭尽所能”这样弦外有音的字眼，你说的这些非常有趣。但你怎么知道这个测试能触及思考的本质？也许它测试的是完全不该测的东西。随便举个例子，可能有人觉得只有机器跳舞跳得特别好，好到让人觉不出它是机器，他才认为机器能思考。还有人可能会提出些别的特征。机器能打字骗人，这又有什么了不起呢？
桑：我不明白你怎么能这么说。我以前听过这种反对意见，但老实说，反对得让人费解。机器不能手舞足蹈，不能搬起石头砸你的脚，又怎么样呢？如果无论你想谈什么，它都能应答得法，这不就表明它能思考吗？至少对我而言就是如此。依照我看，图灵干净利落地在思考和人类的其他特征之间划了一条清晰的界线。
帕：现在 是你 让人费解了。如果一个男人能在模仿游戏中取胜说明不了什么问题，一台机器能在图灵测试中取胜又能说明什么呢？
克：问得好。
桑：在我看来，如果一个男人在模仿游戏中取胜了，那就能说明点儿 什么 。你不能得出结论说他 本来 是女人，但是你肯定能说他很好地洞察了女性心理（如果真有所谓“女性心理”的话）。现在，如果一台计算机能够骗过某个人，以为它是人，我想类似地，你就得承认，它很好地洞察了做一个人是怎样的，洞察了“人的境遇”（不管它究竟是什么）。
帕：可能吧，但这也不一定就等于思考，对吧？在我看来，通过图灵测试只能证明有些机器能很好地 模拟出 思想。
克：我完全同意帕特的意见。我们都知道，今天那些精巧的计算机程序能模拟各种复杂现象。例如在物理学中，我们用它们来模拟粒子、原子、固体、液体、气体、星系等等的表现。但是没人会把这些模拟当作真事。
桑：哲学家丹尼尔·丹尼特在《头脑风暴》（ Brainstorms ）一书中，对模拟飓风也表达了类似的观点。
克：这个例子也很好。显然，计算机在模拟飓风的时候，它里面并没有发生一场飓风，因为计算机的存储器并没有被时速200英里的大风撕成比特碎片，机房的地板也没有被雨水淹没，等等吧。
桑：得了吧，这么说可不公平。首先程序员就没说过模拟 就是 真正的飓风。它只是模拟了飓风的某些方面。其次，你说模拟的飓风中没有倾盆大雨或者时速200英里的大风时，是在使障眼法。对我们来说当然没有狂风暴雨，但如果程序非常具体的话，其中就可能有一些模拟的人站在地上，遭遇这些狂风暴雨，就像我们遭遇飓风袭击时一样。在他们心中，或者就说在他们 模拟的心 中，飓风不是模拟，而是一个包含暴雨和破坏的真实现象。
克：哦，好家伙，场景真够科幻的！现在我们谈起模拟整个人群，而不是一个单独的心灵了。
桑：不是这么讲，我只是想告诉你，为什么你这个“模拟的李逵是李鬼不是真李逵”（the real McCoy）的论点是错误的。这依赖于一个默认的假设：能用旧眼光观察模拟现象，也同样能用旧眼光接触正在发生的事。但实际上观察者需要占据特殊的有利位置才能认清正在发生什么。具体在这个例子中，就是要戴上特殊的“计算机眼镜”，才能看见狂风暴雨等等。
帕：“计算机眼镜”？我不懂你在说什么！
桑：我是说要想看到飓风中的风雨，你必须用正确的方式去看。你——
克：不不不！模拟的飓风里没有雨！无论模拟对人来说有多像，它也永远不会 真的 有雨！也没有哪台计算机会在模拟风的过程中被撕成碎片！
桑：当然不会，但你把不同的层次混为一谈了。真正的飓风也不会把物理定律撕成碎片。在模拟飓风的例子里，如果你往计算机的存储器里巴望，指望找到断开的电线什么的，那你肯定会失望。你要往合适的层次看。应该去查看存储器中代码编写出的一个个 结构 。你会看到一些抽象的链接被破坏，有些变量的值变了很多，等等。这就是你要的大洪水，你要的大破坏——真真切切，只不过有点隐蔽，有点难发现。
克：抱歉，这可没法让我买账。你是执意让我寻找一种新型的大破坏，它本来与飓风毫无关系。按这种想法，你管 任何东西 都能叫飓风，只要戴上你那副特殊的“眼镜”看，它所造成的效果能叫作“大洪水和大破坏”就行了。
桑：对，你完全明白了！你认识飓风是通过它的“效果”。你可不能进入飓风，在风眼中间寻找某些虚无缥缈的“飓风的本质”“飓风的灵魂”！因为存在某种特定 模式 ——中间有一个风眼的螺旋形风暴等等——你才会说它是飓风。当然你可以坚持说，你管什么东西叫飓风，还需要有许多条件。
帕：那你不认为成为飓风的一个关键先决条件，是它得是种大气现象吗？计算机里面怎么能有风暴？要我说，模拟就是模拟就是模拟！
桑：那我猜你会认为，就连计算机的计算也是模拟的，是假装的计算。只有人才能做真正的计算。是吗？
帕：嗯，计算机能得出正确的答案，所以它们的计算不能说全是假装，但这些仍然只不过是些 模式 。这里面没有发生理解。就拿收银机来说吧，它的齿轮彼此咬合着转动的时候，你真能说你认为它在计算吗？就我理解，计算机不过是一种豪华收银机罢了。
桑：如果你的意思是收银机没有学童做算术题那样的感觉，我同意。但这就是“计算”的意思吗？这是计算必不可少的部分吗？如果说是，那和至今以来大家的想法都相反。我们要写个非常复杂的程序才能进行“真正的”计算。当然，这个程序有时也会粗心犯错，有时答案会潦草得难以辨认，偶尔还会在纸上乱写乱画……它不会比邮局职员笔算你的总金额更可靠。那现在，我突然觉得这种程序最终也能写出来。这样我们就能知道邮局职员和学童是怎么做计算的了。
帕：我认为你永远也做不到。
桑：也许能，也许不能，但这不是我要说的。你说收银机不能计算，这让我想到丹尼特的《头脑风暴》中还有一段话我特别喜欢——这段话颇为反讽，这正是我喜欢它的原因。它大概是这么说的：“收银机不能真正做计算，它只能转动齿轮。但收银机也不能真正转动齿轮，它只能遵守物理定律。”丹尼特本来是说计算机的，我改成了收银机。你也可以用同样的推理来说人：“人不能真正做计算，他们所能做的只是操作心理符号。但他们也不能真正操作心理符号，他们所做的只是按照各种模式来发放（fire）各种神经元。但他们也不能真正发放神经元，他们只能让物理定律来为自己发放神经元。”等等等等。你难道没发现，丹尼特的归谬法会引着让你得出结论说，计算不存在，飓风也不存在，任何高于粒子和物理定律层次的东西都不存在？你说计算机只是摆弄符号，并不是真正在计算，又会有什么收获？
帕：这个例子可能太极端了，不过它也支持了我的观点：真正的现象和任何对它的模拟都有很大区别。对飓风来说是这样，对人的思维来说更是这样。
桑：哎，我不想在这个问题上过多纠缠，不过让我再举个例子。如果你是个无线电爱好者，在收听另一位无线电爱好者用摩尔斯电码广播，你也用摩尔斯电码来回答他，那么你叫他“无线电另一端的那个人”是不是听起来有点搞笑呢？
帕：不，这样说没什么问题，虽说是假设另一边有个人存在。
桑：是的，但是你也不能过去看呀。你准备去辨认对方的“人之为人性”（personhood），通过的途径却相当不寻常。你不需要看到这个人的身体或听到他的声音，需要的却可以说是一种相当抽象的展示——电码。我要说的就是这个：要“看到”短嘀和长嗒背后的人，你就要做一些解码和解读工作。这不是直接的感知，而是间接的。你必须剥去一两层，才能看到隐藏其下的现实。你戴上“无线电爱好者的眼镜”才能“看到”嘀嗒声背后的那个人。就像模拟飓风一样！你不会看到它让机房变得黑沉沉——你要给机器的存储器解码。你要戴上特殊的“存储器解码眼镜”， 然后 你就看见飓风了！
帕：欸欸欸，你慢点，别想滑过去！在短波无线电这个例子里，那边是个真人，也许在斐济群岛或者其他什么地方。我坐在无线电旁边解码，就说明了那个人存在。就像看见一个影子就能推论说那边有个东西投射了这影子一样。但没人会把影子和物体混为一谈！拿飓风来说，模拟飓风的背后并没有 真的 飓风让计算机来遵循其模式。你只有一个“影子飓风”，没有真东西。我只是拒绝把影子和现实混为一谈。
桑：好吧。我不想把这一点说死。我也承认，说模拟的飓风 就是 飓风有点傻。不过我想指出，这并不像你乍看上去时以为的那么傻。当你考虑模拟思维的时候，眼前的问题可是与模拟飓风有很大区别。
帕：我看不出来为什么。在我看来头脑风暴就是一场心理飓风。不过说正经的，你必须说服我才行。
桑：好吧，为了说服你，我还要先就飓风问题再补充几点。
帕：哦不！唉，好吧好吧。
桑：没人能说清楚——用完全精确的语言说清楚——飓风究竟是什么。许多风暴都有一种共同的抽象模式，因此我们管这些风暴叫飓风。但我们不可能在飓风和非飓风之间划出清晰的分界线。风暴有龙卷风、气旋、台风、尘暴……木星上的大红斑是飓风吗？太阳黑子是飓风吗？人工风洞里有飓风吗？试管里呢？你甚至可以在想象中把“飓风”的概念扩大到中子星表面的微观风暴。
克：这倒也不是牵强附会。“地震”的概念已经扩大到了中子星上。天体物理学家说，我们有时能观察到脉冲星发出脉冲的速率会发生微小的变化，这是由于中子星表面刚刚发生了“自转突变”——星震。
桑：对，现在我想起来了。“自转突变”这个概念给我的感觉是美妙的古怪——一种发生在超现实表面上的超现实震颤。
克：你能想象吗，纯由核物质构成的一个巨大旋转球体上的板块构造？
桑：这个想法很疯狂。这么说星震和地震都可以归入一个更加抽象的新类别中。科学就是这样不断扩大我们熟悉的概念，让这些概念离我们熟悉的经验越来越远，只有某些本质保持不变。数字系统就是一个经典例子：从正数到负数，然后到有理数、实数、复数，再到什么“Z（斑马）以外”——苏斯博士的措辞。 [1]
帕：我觉得我能懂你的意思，桑迪。生物学中有许多用相当抽象的方式来建立紧密亲缘关系的例子。确定哪些物种属于哪一科，往往就要落到这些物种在某一层次上的共有模式。如果你的分类系统是根据非常抽象的模式来建立的，那么我想许多种不同的现象都能归为“同一类”，虽然从许多表面特征来看这些同类现象彼此完全不像。因此，或许我能明白——至少能明白一点——为什么你认为模拟飓风在某些有趣的意义上也能 是 一场飓风。
克：或者扩大了含义的词不是“飓风”，而是“是”！
帕：为什么？
克：如果图灵能扩大动词“思考”的含义，为什么我不能扩大动词“是”的含义？我的意思无非是说，有人故意混淆模拟的东西和真正的东西，在哲学上做了许多障目之事。这比扩大几个“飓风”之类名词的含义要严重得多。
桑：我喜欢“是”的含义被扩大了这个想法，但我认为你的“障目”诋毁太过分了。总之吧，如果你们不反对的话，关于模拟飓风我再说一点，然后就开始进入模拟心灵的话题。请你们考虑一个非常逼真的模拟飓风——我的意思是逐个原子的模拟，当然我承认这种逼真度是不可能的。我希望你们能同意，这样它就有了所有能定义“飓风类事物的本质”的抽象结构。那是什么让你不能称它为飓风呢？
帕：我以为你刚才已经从二者相同的论点上后退了！
桑：是后退了，但是后来这些例子出现了，我不得不回到我之前的论点上。不过就按我刚才说的，我后退一步，回到 思维 的问题上，这才是我们这里的真问题。与飓风相比，思维是一种更抽象的结构，是一种描述方式，用来描述某些发生在脑这个媒介中的复杂事件。不过事实上，思维可以发生在几十亿个脑中的任何一个之内。这些脑的物理结构各不相同，但都能承担“同一件事”：思考。那么，重要的就是抽象的 模式 ，而不是媒介。同样的“涡流”可以发生在任何脑中，所以没人能说自己的思考比其他人的更是“真货”。现在，如果我们设想 同样类型 的涡流也能发生在一种新型的媒介中，你还能否认其中也有思考吗？
帕：大概不能，不过你刚刚变换了问题。现在问题是，你怎么能确定发生的真是“同样类型”的涡流呢？
桑：图灵测试的妙处就是它能 告诉 你这个。
克：我一点也看不出来。你怎么知道计算机中发生的事与我心中发生的事属于同一类型？就因为它能像我一样回答问题？你只是看了它的外在表现。
桑：但是我和你说话的时候，你怎么知道 我 心中有类似于你所说的“思考”的东西？图灵测试是一个美妙的探测工具，有点像物理学中的粒子加速器。克里斯，我想你会喜欢这个类比。就像在物理学中一样，如果你想知道原子或亚原子层面上发生了什么，因为你不能直接看，所以你就把加速过的粒子发散到相关目标上，观察它们的运动方式，从中推断目标的内在属性。图灵测试把这种想法扩大到了心灵上。它把心灵当作一个“目标”，不能直接看到，但可以通过更加抽象的方法演绎出它的结构。你可以通过向心灵这个目标“发散”问题，了解它的内部运行方式，就像在物理学中一样。
克：更准确点说是，你可以去假设，有可能是哪种内部结构导致了所观察到的行为——但事实上这些内部结构可能存在也可能不存在。
桑：等等！你是在说原子核只是假设的实体？毕竟，原子的那些粒子发散了出去，它们的运动方式已经证明了——或许我应该说“暗示了”？——原子核的存在——或许我应该说“假设性的存在”？
克：在我看来，物理系统要比心灵简单得多，所得推论的确定性相应也大得多。
桑：做实验和解释实验的难度相应地也大得多。在图灵测试中，只要一个小时就能进行许多高度精微的实验。我坚持认为，人们相信别人有意识，只是因为他们一直在对别人进行外部观察——这本身就像是一个图灵测试。
帕：大体上说可能是这样的，不过这比只是通过电传打字机和人交谈要复杂一些。我们看到别人有身体，看到他们的脸和表情——我们看到他们是和我们一样的人类，所以我们认为他们会思考。
桑：在我看来，这种对思维是什么的观点似乎非常人类中心主义。这是不是意味着，与一个程序编得非常好的计算机相比，你更愿意说商店里的假人模特有思维，就因为模特看上去更像人？
帕：要让我承认一个东西有思考能力，显然不仅需要身体上与人类的外形有某些模糊的相似之处。但是不能否认，有机质（organic quality）和相同的起源，会在一定程度上提高可信度，这非常重要。
桑：这就是我们的分歧点。我觉得这简直太沙文主义了。我觉得关键问题是 内部 结构的相似性——不是身体结构、有机结构、化学结构，而是组织结构，即软件。一个东西能否思考，对我来说似乎是一个能否用特定方式描述其组织模式的问题，而且我非常愿意相信，图灵测试能探测到这种组织模式是存在还是不存在。我必须说，你以我的身体为证据来证明我是一个能思考的存在，这太肤浅了。在我看来，图灵测试要比只看外在形式深刻得多。
帕：嘿，你并没有让我更加信服。让人们相信某个东西真能思考的不仅仅是它的身体外形；就像我说的，还有共同的起源。即你我都来自DNA分子，我认为这个想法更深刻。这么说吧：人体的外形显示人类有着深刻的共同生物学渊源，是 这种 深刻让人们非常相信这样一个身体的主人能够思考。
桑：但这都是间接证据。你肯定想要一些 直接 证据吧？这就是图灵测试的目的。我认为这是测试“思维性”（thinkinghood）的 唯一 方法。
克：但你可能会被图灵测试欺骗，就像询问者可能会把男人当成女人。
桑：我承认，如果实施这个测试时太快、太浅显，我可能会被骗。但我会选择我能想到的最深入的问题。
克：我想看看这个程序是不是能看懂笑话。这才是真正的智力测验。
桑：我同意，对于一个据称有智力的程序来说，幽默大概是一场严峻考验，不过在我看来，同样重要、或许更加重要的，是测试它的情感反应。所以我会问它对某些音乐或者文学作品的反应，特别是对我最爱的那些。
克：要是它说“我不知道这首曲子”甚至“我对音乐不感兴趣”，怎么办？要是它回避所有与情感有关的问题呢？
桑：这就会让我产生怀疑了。如果它一直以特定方式回避某些特定问题，我就会严重怀疑跟我说话的是不是一个有思维的东西。
克：为什么这么说？为什么它不能是一个有思维但是没有情感的东西？
桑：你击中了敏感点。我只是不能相信情感和思维可以分离。换句话说，我认为情感是从思维能力中自动产生的副产品。思维的本性中必然蕴含情感。
克：那要是你错了呢？要是我造出来一台能思考但不会表达情感的机器呢？它的智力可能得不到承认，因为它通不过 你 那种测试。
桑：我希望你能向我指出情感问题和非情感问题的边界在哪儿。你可能想就一本伟大小说的含义发问，而这也需要理解人类的情感！这是思考，还是只是冰冷的计算？你可能想就一个微妙的措辞发问，为此你需要理解词语的言外之意。图灵在文章中举了这样的例子。你可能想问它对一个复杂的爱情关系有什么建议，这就需要了解人类的各种动机及其根源。现在如果它完不成这种任务，我就很难说它能思考。就我而言，思考能力、感受能力和意识，都是同一个现象的不同面向，没有哪一个能脱离其他面向而单独出现。
克：反正就是，为什么不可能造出一台机器，它什么也感受不到，但就是能思考、能做复杂决定？我看不出这里面有什么矛盾。
桑：我觉得矛盾。我想你说的时候想象的是一台四方形的金属机器，也许还待在一间空调房里——一个坚硬冰冷、有棱有角的物体，里面有上百万条彩色电线，一台一动不动地待在地板砖上的机器，嗡嗡作响或吱吱作响或怎么样，然后吐出纸条。这种机器能下一手好棋，我确实承认这需要做出许多决策。但我决不会说这样一台机器是有意识的。
克：怎么会？对机械论者来说，会下棋的机器不就是有了意识雏形吗？
桑：我这个机械论者不这么想。我认为，意识来自一种精确的组织模式——我们目前还没搞清楚怎么具体描述它。但是我认为我们可以逐渐理解它。在我看来，意识需要用一种特定的方式，在内部反映出外部世界，还要能根据在内部表征出来的模型对外部现实做出反应。除此之外，对一台有意识的机器来说，至关重要的是，它应该包含一个高度发达且灵活性（flexibility）强的自我模型。在这一点上，现在的所有程序，包括最好的下棋程序，都倒下了。
克：下棋程序不是能预测将来，在算下一步走法时对自己说“如果你走这儿，我就走那儿，要是你再这么走，我就那么走”吗？这不是一种自我模型吗？
桑：不算是。或者，如果你非要说它是的话，也是一种非常有限的自我模型。只有在最狭隘的意义上，才能说它是对自我的理解。比如说，一个下棋程序对自己为什么要下棋，对自己是一个程序、位于一台计算机中、有一个人类对手等等，通通没有概念。它也不知道输赢是什么——
帕： 你 怎么知道它没有这种感觉？你怎么敢说下棋程序有什么感觉或者知道些什么？
桑：噢，得了！我们都知道某些东西什么感觉都没有，什么都不知道。扔出去的石头对抛物线一无所知，旋转的风扇也完全不知道什么叫空气。我确实无法 证明 这些说法，现在我们都快说到信仰问题上了。
帕：这让我想起读过的一个道家故事。大概是这样说的。两位智者站在小溪上方的一座桥上。其中一个人对另一个人说：“真希望我是一条鱼。它们多快活！”另一个人回答说：“你怎么知道鱼快不快活？你又不是鱼。”第一个人说：“你又不是我，怎么知道我不知道鱼的感受？”
桑：太棒了！讨论意识确实需要有些限制。否则不是赶唯我论的时髦——“我是宇宙中唯一有意识的存在”，就是赶泛心论（panpsychism）的时髦——“宇宙万物都有意识”！
帕：谁知道呢？也许 确实就是 万物都有意识。
桑：有些人声称石头甚至电子之类的粒子也有某种意识，如果你要加入他们的话，我想我们就从此各走各路吧。这是神秘主义的论调，我可看不透。至于下棋程序，我碰巧知道它们是怎么运转的，我可以肯定地告诉你它们没有意识！绝对不可能有！
帕：为什么不可能？
桑：程序中只有对下棋目标的最基本知识。“下棋”这个概念被转化为反复不断地比较许多数字并选择最大的一个，这样的机械动作。下棋程序不会因为输棋而感到羞愧，也不会因为赢棋而感到骄傲。它的自我模型非常简陋。它只要花最少的力气，下棋完成任务就行了，不会多做一点事。但非常有趣的是，我们还是想谈论下棋计算机的“愿望”（desire）。我们说“它想把王放在一排卒子后面”“它喜欢早点把车走出来”或者“它以为我没有看出这步隐藏的棋路”。
帕：嗯，我们也这么说昆虫。我们在某个地方发现一只离群的蚂蚁，就会说“它想回家”或者“它想把那只死蜜蜂拖回蚁巢”。事实上，我们对什么动物都会使用这些带有感情色彩的语言，但我们并不能肯定它们能感觉到多少。我不觉得说狗或者猫高兴或悲伤、有什么愿望或相信什么等等有什么问题，但我肯定不会认为它们的悲伤像人类的悲伤一样深刻复杂。
桑：但你不会说它是“模拟的悲伤”，对不对？
帕：当然不会。我认为它是真实的。
桑：使用这种带有目的色彩或心理色彩的语言是在所难免的。我认为使用这种语言很正当，虽然也不要做得太过分吧。而且，将这些语言用于今天的下棋程序时，其意义也不像用于人时那么丰富。
克：我还是看不出为什么智力一定要包含情感。为什么你不能想象一种只有计算没有感受的智力？
桑：答案有几个！第一，任何智力都必须有动机。许多人可能认为机器的思维比人的更“客观”，但这完全不是实情。机器看到一个场面时，也必须集中注意力，按照预先设定好的范畴来过滤这一场面，就像一个人一样。这就意味着对事物要有所权衡取舍。信息处理的各个层次上都会发生这种情况。
帕：你的意思是？
桑：现在就拿我当例子吧。你可能以为我只是在提出一些智力方面的观点，不需要任何情感。但是我为什么会 关心 这些观点？为什么我特别强调“关心”这两个字？因为我在这场谈话里有情感投入！人们彼此交谈，是因为相信一些东西，而不是因为空洞机械的反射。即使是最理智的交谈，也是由某些底层的激情驱动的。每场对话中都隐藏着情感的暗流——谈话者希望获得倾听和理解，希望他所说的话获得尊重。
帕：听起来你的意思是，人们需要别人对他们说的话感兴趣，否则话就没法谈。
桑：对！如果没有兴趣驱使，我就不会费心去和谁说话。而兴趣只是各种潜意识偏好的另一总称。我说话的时候，我的所有偏好共同发挥作用，在表面这一层，你注意到的就是我的行为方式，我的人格（personality）。不过，这种行为方式来自大量小小的优先权、偏好和倾向。如果你把这上百万个相互影响的东西加起来，就能得到某种相当于各种 愿望 的东西。所有的都加进来！这也让我想起了另一个问题，关于毫无感受冷冰冰的计算。当然，无感计算是存在的：在收银机中，在袖珍计算器中。我要说，甚至今天所有的计算机程序也都是这样的。不过，如果你把足够多的无感计算组合成一个巨大的相互协调的组织，最后你就能看到另一个层面上出现了某些特性。你所能看到的——其实是你 不得不 看到的——不是一堆小小的计算，而是一个由倾向、愿望、信念等类的东西组成的系统。事情变得足够复杂之后，你就不得不改变描述的层次。在某种程度上这已经发生了，这就是为什么我们会用“想要”“思考”“试图”“希望”之类的词来描述下棋程序和机械思维在其他方面的尝试。丹尼特把这种层次转换叫作观察者“采用了意向性姿态（intentional stance）”。我想，只有程序自己对 自己 采用意向性姿态之后，人工智能方面才会发生真正有意思的事情！
克：那会是一个非常奇特的跨层次反馈回路。
桑：肯定。当然，我的观点是，对今天的程序采用完全意义上的意向性姿态，还为时过早。至少我的观点是这样。
克：对我来说，一个与之有关的重要问题是：在何种程度上对人类以外的东西采用意向性姿态是有效的？
帕：我肯定会对哺乳动物采用意向性姿态。
桑：我同意。
克：这很有意思！为什么会这样，桑迪？你肯定不会说猫狗也能通过图灵测试吧？但是你不是认为图灵测试是测试思维存在的唯一方法吗？你怎么能同时持有这两种想法？
桑：嗯……好吧。我想我必须承认，图灵测试只有对一定程度以上的意识才管用。可能有些有思维的东西也通不过测试。但另一方面来说，在我看来，只要能通过测试，就是真正有意识、能思考的东西。
帕：你怎么能认为计算机是有意识的东西？如果这听来像是刻板印象的话，那我道歉，不过当我想到有意识的东西时，我可不会把这个想法和机器联系在一起。对我来说，意识是和柔软、温暖的身体联系在一起的，虽然这听起来可能有点傻。
克：听一位生物学家这么说确实有点古怪。你们不是要用化学和物理的语言来对待生命，足以让所有神奇的东西都消失吗？
帕：也不尽然。有时化学和物理还会增加“那儿发生了些神奇事情”的感觉！反正吧我不是总能把我的科学知识和本能感觉整合在一起。
克：我想我也是这样。
帕：所以你要怎么解决像我这样的顽固偏见呢？
桑：我会试图挖掘隐藏在你的“机器”概念之下的东西，找到其中的直觉含义，这些含义看不见，但会深刻地影响你的观点。我想我们都有一种从工业革命时代残留下来的想象，觉得机器都是些笨重的钢铁装置，由某些轰轰作响的引擎驱动，笨拙地运转。说不定这甚至是计算机的发明者查尔斯·巴贝奇对人类的看法！毕竟，他把他那台有着许多齿轮的大型计算机叫作分析机（分析引擎）。
帕：哦，我当然不会认为人只是豪华型蒸汽挖掘机或电动开罐器。人有一些东西，就好像，好像——他们内心有种“火焰”，有种活的东西，有种不可预测、飘忽不定的闪光，但却是 有创造力的 东西！
桑：太好了！这就是我想听到的。这么想非常“人性”。你的火焰意象让我想起蜡烛，想起大火，想起漫天狂舞的雷电。但你是否意识到，就是这些景象，在计算机的操作台上也能看到？摇曳的光点形成众多迷人的无序闪烁图案。这与没有生命、叮当作响的金属堆有天壤之别！这就像是来自上帝的火焰！为什么你不能让“机器”这个词召唤出跳舞的光点图案，而不是什么大型蒸汽挖掘机？
克：这真是个美丽的意象，桑迪。把我对机器的理解从关注物质变成了关注景象/图案/模式。这让我试着把心中的想法——甚至就是现在的想法——想象成由脑中闪烁的小脉冲组成的巨大浪花。
桑：这些闪光组成的浪花想出了这样一幅自画像，可真是够诗意的。
克：谢谢。不过我还是不能完全相信机器就像我一样。我承认，我对机器的概念或许带有落伍潜意识的气息，不过这种根深蒂固的感觉我恐怕不可能一瞬间就改过来。
桑：至少看起来你确实算心态开放。说实话，我确实也部分理解你和帕特对机器的看法。我也有些不情愿把自己叫机器。认为一个像你我一样能去感受的存在可能只是从电路中产生的，这样的想法 确实 怪。我这话让你意外了吗？
克：确实让 我 意外。所以你还是就告诉我们——你是相信智能计算机这个想法，还是不相信？
桑：这都取决于你话的意思。我们都听说过“计算机能思考吗”这个问题。这个问题有好几种可能的解释（且不说“思考”这个词就有许多种解释）。这些解释都围绕“能”和“计算机”这两个词的不同含义。
帕：又回到文字游戏上去了……
桑：没错。首先，这个问题的意思可能是：“有没有一些当今的计算机现在就能思考？”对这个问题，我会立即大声回答：“没有。”然后，问题的意思还可能是：“某些当今的计算机，如果程序设计得当，是否有思考的潜力？”这个问题更合理点，但我仍然会回答：“大概没有。”真正的难题在于“计算机”这个词。在我看来，“计算机”唤起了我刚才描述过的形象：一间空调屋，里面有许多冰冷的四方形金属箱子。但是我猜，随着计算机结构的不断发展和公众对计算机越加熟悉，这种形象终将过时。
帕：你不认为我们所知道的这些计算机还会存在一段时间吗？
桑：当然，计算机肯定还会以今天的形象存在很长时间，不过更先进的计算机——也许不再叫计算机了——会演进变化得大不一样。或许会像活的有机体一样，它的演化树上也会出现许多分支。可能会有商务计算机，娃娃学习计算机，科学计算用计算机，系统研究用计算机，模拟任务计算机，火箭发射计算机等等。最后还会有研究人工智能的计算机。其实只有最后一种才是我感兴趣的——这些计算机灵活性极强，人们也是绞尽脑汁把它们设计得更聪明。我看不出它们有什么理由还要一成不变地保持传统形象。也许在不久的将来，它们的标准特征就是具有某些基本的感官系统——最初多半是视觉和听觉。它们要能移动，能探索。它们的身体也必须有灵活性。简而言之，它们必须变得更像动物，更加自力更生。
克：这让我想起《星球大战》中的R2D2和C3PO。
桑：事实上我想象智能机器的时候，一星半点也没想过它们。它们太傻了，太像电影设计师的凭空想象。不是说我自己有一个明确的想象，不过我认为，如果人们试图逼真地想象一个人工智能的话，就要超越今天的计算机所表现出的那种轮廓清晰的有限形象。所有机器的唯一共同之处只是底层的机械性。这听起来可能又冰冷又死板，但还有什么能（神奇地）比我们细胞中的DNA、蛋白质和细胞器的运作方式更机械？
帕：在我看来，细胞内部发生的事有一种“又湿又滑”的感觉，而机器内发生的事又干又硬。这与计算机从不犯错、只做你让它们做的事有关。至少这是我对计算机的想象。
桑：真有意思——一分钟以前你的想象还是火焰，现在就变成“又湿又滑”了。我们身上的矛盾是不是很不可思议？
帕：用不着讽刺我。
桑：我没讽刺你，我真的觉得这很不可思议。
帕：这只是人类心灵多变性的一个例子——这个例子中，就是我的心灵的多变性。
桑：没错。不过你对计算机的想象太落窠臼了。计算机当然会犯错，而且我说的不是硬件层面的错误。想想现在的计算机怎么预报天气吧。尽管程序运行得完美无缺，它也会做出错误的预报。
帕：但这只是因为输入的数据不对。
桑：不是这样。是因为天气预报太复杂了。所有这种程序都只能将就着用有限的数据（虽然这些数据完全正确）来进行推算，有时就会预测错误。这跟地里的农民看着天上的云说“我估计今晚会有小雪”没什么区别。我们在脑袋里构建模型，然后用这些模型猜测世界会怎样变化。不管这些模型有多不准确，我们也只能将就着用。如果模型太差，我们就会被演化进程淘汰——“跌落断崖”什么的。计算机也是一样。只不过人类设计者明确制定了创造人工智能这个目标，因此会加快演化进程，而自然只能误打误撞。
帕：那你认为计算机变聪明之后就会少犯错误吗？
桑：实际上恰恰相反。计算机越聪明，就越要处理现实生活中乱七八糟的事情，它们的模型就越有可能不准确。在我看来，犯错是高智能的一项标志！
帕：你这家伙，有时候还真让我吃惊啊！
桑：我猜在鼓吹机器智能的人里，我属于比较奇怪的一类。某种程度上我有点骑墙。我认为，除非机器具有某些相当于生物层面“湿滑性”的东西，否则它们不可能真正拥有像人类一样的智能。当然我不是说真的“湿”——软件倒可以“滑”，就是有灵活多变性。但是无论看上去是否像生物，智能机器无论任何还是机器。它们一定还是我们设计、建造出来的——“种”出来的！我们得明白它们如何运作，至少在某种意义上明白。可能没有任何单独一个人能真正明白机器是怎么运作的，但我们人类全体会知道。
帕：听起来你是鱼和熊掌想要兼得。
桑：也许你说得对。我的意思是，人工智能出现时，会既是机械的，同时又是有机的。它会具有惊人的灵活性，就像我们在生命机制中看到的那样。我说“机制”时意思就是“机械”。DNA和酶等等其实也都是机械的、严格的、可靠的。你不同意吗，帕特？
帕：确实如此。不过当它们一起发挥作用的时候，许多意料不到的事就发生了。这里面有非常多的复杂性和丰富的行为模式，会把所有这些机械的东西组合在一起，成为某种变动不居的东西。
桑：在我看来，从机械的分子层面到有生命的细胞层面，这种跃迁几乎不可想象。但正是它让我相信人也是机器。这个想法让我在一些方面感到不舒服，但在另一些方面，它也令人兴奋。
克：如果人就是机器，为什么说服人相信这一事实这么难呢？显然，如果我们是机器，就应该能认识到自己身上的“机器性”。
桑：必须允许这里面有情感因素。说你是机器，某种意义上就是说你只等于自己的身体部分，这会让你直面自己必有一死这件事。没人会觉得这件事容易面对。不过，除了情感方面的异议之外，要看到自己是机器，你就要从最底层的机械层面一路跳到复杂生命活动发生的层面。这里面有那么多的中间层级，它们就如同一道屏障，让我们几乎看不到自己的机械性。我想智能机器出现之后，它们在我们眼里也会是这样——甚至在它们自己眼里也是这样的！
帕：我听到过一个很好笑的想法，是关于真有了智能机器之后会发生什么的。我们试图给我们想要控制的设备输入智能时，它们的行为不会那么容易预测。
桑：也许内部会燃起一团奇异的小“火焰”？
帕：可能吧。
克：这想法有什么好笑的呢？
帕：呃，想想军用导弹。按照这个想法，它们跟踪目标用的计算机越复杂，它们的行为就越不可预测。最后导弹会决定要当个和平主义者，它们会掉头回家，轻轻落地而不爆炸。我们还会有些“聪明”的子弹，飞到半空中就会掉头回来，因为它们不想自杀！
桑：这个想法很可爱。
克：我非常怀疑这些想法。桑迪，我还想听你预测一下智能机器什么时候才会出现。
桑：大概用不了多长时间，我们就能看到某种有一点点类似人类智能水平的东西。不过对我们来说，智能依赖的物质基础，脑，还是复杂得惊人，在可预见的将来我们都无法复制它。反正这就是我的看法。
帕：你认为会有程序通过图灵测试吗？
桑：这个问题很难回答。我想所谓通过测试，也有不同程度之说，不是非黑即白的。首先这取决于询问者是谁，要是个大傻瓜，可能今天的某些程序也能完全骗过他。其次，这还取决于允许你探问多深。
帕：那么，可以有各种规模的图灵测试——1分钟的、5分钟的、1小时的等等。如果有官方组织定期为想要通过图灵测试的程序举办竞赛，就像年度计算机象棋大赛一样，这不是很有趣吗？
克：让最出色的裁判来组成评委会，把他们骗住时间最长的程序就是冠军。或许应该给第一个骗住某位著名裁判长达——比如说10分钟——的程序发个大奖。
帕：一个程序要大奖有什么用？
克：我说帕特，如果一个程序聪明得能骗过裁判，你不认为它也能享受大奖吗？
帕：当然，尤其如果大奖是参加镇上的晚会，与所有询问者跳舞的话。
桑：我很想看到举办这样的比赛。看第一批程序惨败想必很搞笑。
帕：你很怀疑是吧？那如果有一位老练的询问者，你认为今天有计算机程序能通过5分钟的图灵测试吗？
桑：我很怀疑。部分是因为没有人真正明确地在做这件事。不过，有个叫“帕里”（Parry）的程序，它的发明者声称它已经通过了一个最基本的图灵测试。帕里在一系列远程访谈中欺骗了若干名精神科医生，这些医生事先知道，和他们谈话的可能是一台计算机，也可能是一位妄想症患者。这是对一个早期版本的改进，在早期版本中，医生们只能看到简短访谈的手抄文字稿，然后要确定哪些是真正的妄想症患者，哪些是计算机模拟的。
帕：你是说他们没有机会提问？这是一个严重的不利因素，而且似乎与图灵测试的精神不符。试想如果有人要猜我的性别，却只能看到我说的只言片语的记录，这大概会很难！所以我很高兴看到实验流程有所改进。
克：你怎么让计算机表现得像妄想症患者呢？
桑：我没说它 真的 表现得像妄想症患者，只是某些精神科医生在某种不寻常的环境下认为它是妄想症患者。这个伪图灵测试中让我不安的一点，是帕里的运作方式。“他”——他们这么称呼他——表现得像妄想症患者，是因为他防卫性非常强，在交谈中回避不想回答的主题，而且大体上保持了自我控制，这样就没人真能探问“他”。这样一来，模拟一个妄想症患者就比模拟一个正常人容易得多。
帕：你不是在开玩笑吧！这让我想起一个笑话，说的是计算机程序模拟什么样的人最容易。
克：什么样的人？
帕：紧张症患者——他们连续好几天一直坐在那里什么都不干。连我都能写个这样的计算机程序！
桑：帕里还有个有趣的地方是，它不会自己造句。它只是从囤积的一大堆句子里面挑选，选出最适合的一句来回答输入的句子。
帕：这太神奇了！不过规模大了大概就不行了吧？
桑：是。要能在一场谈话中正常回答所有可能的句子，需要储存的句子是天文数字，完全不可想象。它们做起检索也会同样复杂……如果有人以为，只要设法拼凑一个程序，让它能像自动点唱机放录音那样，从存储的句子里拽几个出来，这样就能通过图灵测试，那他肯定没有认真想过这个测试。有趣的是，有些人工智能的反对者在反对图灵测试的概念时，援引的正是这种不可能实现的程序。他们想让你想象的不是真正的智能机器，而是一个又大又笨的机器人，只能用迟钝单调的声音吟出囤积的句子。他们还以为，即使机器执行任务的时候非常灵活聪明，足够令人满意，你还是能够轻而易举地看到它的机械层面。然后这些批评者会说：“你看，它仍然只是一台机器——一个机械装置，完全没有智能！”我看待事情的方式恰恰相反。如果有人给我看一台机器，我所能做到的事它也能做到——我的意思是通过图灵测试——我并不会感到受了冒犯或者威胁，我会像哲学家雷蒙德·斯穆里安一样说：“机器多了不起呀！”
克：如果在图灵测试中，你只能问计算机一个问题，你会问什么？
桑：嗯……
帕：这个问题怎么样：“如果在图灵测试中，你只能问计算机一个问题，你会问什么？”
许多人都迟疑于图灵测试的规定：要求模仿游戏的参赛者和裁判待在不同的房间里，因此裁判只能观察到他们的言辞回应。如果这规则只是室内消遣游戏中的元素，那它尚有意义，但一种正当的科学方案中怎么能包含企图故意向裁判 隐瞒事实 的部分？图灵测试把智能候选者放进“黑箱”，只用一系列受到严格限制的“外在行为”（在本例中就是打字输出的言辞）作为证据，似乎是武断将自身建立在了某种形式的行为主义（behaviourism）之上，或者更糟糕，是操作主义（operationalis），甚至还要糟糕的证实主义（verificationism）。（这三个难兄难弟的“主义”是不久之前的可怕怪物，据说已经被科学哲学家们彻底驳倒并埋葬了。但这里又是什么讨厌的声音？它们是不是还在坟墓里动弹？我们早该把木桩戳进它们的心脏！）图灵测试是否只是一例约翰·塞尔所说的“操作主义把戏”？
图灵测试当然在“对心灵来说重要的是什么”这个问题上有很强的主张。图灵提出，重要的不是候选者两耳之间有哪种灰质（如果有的话），也不是它看起来、闻起来是怎样的，而是它能否有智能地 行动 ——或行为，如果你愿意这么说的话。图灵测试中的具体游戏，即模仿游戏，并没有多么神圣不可侵犯，只不过是一个精心选择出来的测试，用来测试更为一般性的智力罢了。图灵准备提出的假设是，除非一个东西能够从事各种各样无疑需要智力的活动，否则它就不可能赢得模仿游戏，也就不可能通过图灵测试。如果他选择把赢下世界象棋冠军当作检测智力的试金石，我们倒是有许多强有力的反对理由，现在看来，我们很有可能造出一台做得到这事的机器，但这台机器 别的什么事儿也不能 做。如果他选择的测试是不用武力只身偷窃英国王室珠宝，或者不流血地解决阿以冲突，倒是很少有人会反对说，他把智能“还原为”行为或者用行为给智能下了“操作性定义”。（好吧，毫无疑问， 有些 哲学家有时也会绞尽脑汁构建一个煞费苦心但稀奇古怪的方案，让某些彻彻底底的傻瓜无意中就拿到了英国王室珠宝，“通过”测试，并借此“反驳”该测试是一个好的一般性智力测试。当然，真正的操作主义者必须承认，既然这样一个幸运的傻瓜通过了决定性的测试，那么以操作主义的眼光来看，他就是真正地具有智力——这无疑就是真正的操作主义者很难找到的原因所在。）
图灵选择的测试优于偷窃英国王室珠宝或解决阿以冲突，是因为后两个测试（一旦成功过一次之后）不可重复，过于困难（许多显然有智力的人都会在这上面完败），而且太难客观评判。图灵测试就像设计巧妙的押注：它诱人尝试，看起来公平，要求苛刻但是可能做到，而且评判时干脆客观。图灵测试也以另一种方式让人想起一场押注，其动机是用“要么下手，要么闭嘴”来制止一场无休止的无益辩论。图灵其实是在说：“与其争论心灵或智力的终极本性、实质，不妨让我们都同意，无论是什么东西，只要能通过这一测试，就 肯定 是有智力的，然后再来问怎样才能设计出能光明正大地通过测试的东西。”具有讽刺意味的是，图灵没能平息争论，只是改变了它的方向。
图灵测试是否因其“黑箱”性的思想观念（ideology）而难以抵挡批评？第一，正如侯世达在对话中指出的，我们都把
彼此
当作黑箱，我们都根据对显见的智能行为的观察来建立我们对“他心”的信念。第二，在任何情况下，黑箱思想观念也都是所有科学研究的思想观念。研究DNA分子的时候，我们用各种方法探测它，观察它的反应；我们也是如此研究癌症、地震和通货膨胀的。如果我们关注的是宏观对象，那么“往黑箱里面看”往往很有用，方法是用探测工具（如手术刀）把它“戳开”，让暴露出来的表面所散射的光子进入我们的眼睛。这只是又一个“黑箱实验”而已。
正如侯世达所说，问题不过是，哪种探测工具与我们想要回答的问题有最直接的关联。如果我们的问题是某些东西是否有智力，那我们就找不到比我们每天都在互相问的问题更直接、更有效的探测工具了。图灵的“行为主义”，只不过是把某些近乎不言而喻的东西纳入了一个简便易行、具有实验室风格的实验性测试中。
侯世达的对话中还提到了一个问题，但未加解决，就是关于表征的问题。用计算机来模拟某种东西，通常是对这种东西详尽、“自动”和多维的表征，但表征和现实之间当然有天壤之别，不是吗？正如约翰·塞尔所说：“没人会认为只要用计算机模拟泌乳和光合作用的形式性事件序列，然后运行这些模拟，我们就能生产出奶和糖……”
如果我们设计了一个在数字计算机中模拟奶牛的程序，那我们的模拟只不过是奶牛的一个表征，不管你怎么“挤奶”，它也不会产奶，最多只能产出奶的表征。无论表征有多好，无论你有多渴，你也没法喝它。
但现在，假设我们用计算机模拟了一个数学家，而且假设这模拟工作得很好。那我们会不会抱怨说，我们想要的是数学 证明 ，但是，唉，我们得到的只是证明的 表征 ？可是，证明的表征 就是 证明，不是吗？这取决于表征的优秀程度。动画片里表现科学家面对黑板沉思时，黑板上画的证明和公式通常纯是胡说八道，无论这些数字在外行看来有多“逼真”。如果模拟的数学家像在动画片中那样造出了一些装模作样的证明，它可能仍然模拟了理论上有些意味的有关数学家的 某种东西 ，如他们的言语习惯，甚或他们的心不在焉。另一方面，如果模拟是为了产生优秀数学家所能造出的数学证明的表征，那它就会像真正的数学家一样，成为生产证明的系科的宝贵“同行”。这似乎就是数学证明和歌曲之类抽象的形式产品（见下篇选文《圣美公主》）与牛奶之类具体的物质产品之间的区别。心灵属于哪一类呢？心理是像牛奶，还是像一首歌？
如果我们认为心灵的产物是某种类似“身体操控”的东西，那这一产物似乎相当抽象。如果我们认为心灵的产物是某种特殊的物质或许多种物质，比如很多很多“爱”，一两撮“痛”，一些“狂喜”，还有几盎司所有优秀棒球手都拥有的很多“愿望”……那么这一产物似乎很具体。
在争论这一问题之前，我们可能要先停下来问问：如果我们遇到了一种模拟，模拟 任何 具体事物、现象都详尽出色，那我们所要推广的上述区分抽象和具体的原则，边界是否完全清晰？任何模拟要实际运行，都要在某种具体的硬件中“实现”，表征的媒介本身也一定会在世界上产生某些影响。如果一个事物的表征在世界上所产生的影响，与这个事物本身所产生的影响完全相同，那么还坚持说它只是表征，听来就太任性了。下篇选文妙趣横生地展示了这一想法，而本书其余部分还会反复出现这一主题。
D. C. D.
[1] 苏斯博士（Dr. Seuss，1904-1991），美国儿童文学家、教育学家。《斑马以外》（ On Be yond Zebra ）是苏斯博士创作的绘本之一，该书编造了许多26个英文字母以外的字母——“斑马”英文为Zebra，首字母Z，“斑马以外”即是Z以外的字母。