下载掌阅APP，畅读海量书库
立即打开
人类是一个技术性的物种。
人类是地球上最聪明的物种。用技术来武装自己，就是聪明的表现。
在发展出较为复杂的技术之前，人类所赖以生存的优势，大约是善于长跑，通过漫长的追踪，让那些有散热缺陷的猎物热得跑不动，然后围而杀之。从行为来看，原始狩猎的人类像是体型更大的狼群。我不知道这种颇为有趣的说法是否得到了科学的验证，但狩猎曾经长期是人类的生存法门之一，和采集果实一道成为获取食物的主要手段，这倒是人类学家的共识。
在那个长跑狩猎的时代，人类就已经开始依赖技术了。那时的技术，是打磨石块、制造梭镖、削制木矛，代替并不锋利的爪牙；是制造弓箭，拥有远程攻击的独特能力……原始部落往往都有弓箭设备，都能制造一些简单但巧妙的狩猎武器。狩猎采集是一种生活方式，需要配套的技术，而这一整套技术在文明起源之前就已经和人类相伴，并决定了人类相对其他物种的优势。
然后是农业技术。世界上最早发展出农耕文明的地方，就是四大文明古国。古代埃及、古代巴比伦、古代印度和中国，这些地方的古人类了解四季的更替，分离出了最适合耕种的植物，并且不断地将它们培育成高产作物；驯化了适合与人类一起生活的动物，建立起了各具特色的农业技术。农业技术把人类推入了文明时代，因为农业可以养活更多的人口，积累更多的财富，从而为复杂的社会上层建筑提供物质保障。可以说，农业技术是人类文明的根基。
拥有了农业技术之后，人类社会变得更加复杂。随着时间流逝，更多的技术被发明出来，它们或用于提高生产能力，比如各种农具和运输工具，或用于提高战斗能力，比如各类兵器。人类通过技术进步和技术扩散，更广泛、更高效地从自然界获取了各类资源，并在人类社会内部的不同团体间进行竞争。这一过程贯穿了整个古代文明史。
但农耕社会的技术发展是极为缓慢的，它更多地建立在人们的经验基础之上，并没有太多理论的支撑。技术的发展，全靠一些头脑聪明的人出现在合适的职业上，以及一些机缘巧合。当然，因为人口的增长，能够从事脑力劳动的人数增多，而且各类人群之间产生了激烈的竞争，所以农耕时代的技术发展相对狩猎采集时代要快得多。
古代社会的技术发展并不是自觉发生的行为。这并不是说，当时没有人有发展技术的自觉，中外都有能工巧匠的例子，也有大发明家，能够发明一些极为巧妙的工具。但是以整体而论，技术的发展并没有什么明确的方向，也缺少社会协作，因而发展得极为缓慢。
工业革命的到来加速了技术的发展，是一个里程碑。工业革命爆发的原因有很多，其中一个最重要的原因是科学的诞生。科学是理解世界的正确方式。对客观世界的正确理解，可以促进技术的发展，这两者之间的关联如此紧密，以至于今天我们往往用科技来代替技术一词。最显著的例子是对电的理解，它催生了各种用电设施，引发了第二次工业革命。
农业革命让人类社会发生了第一次质变，工业革命引发了第二次质变。工业革命的标志，就是机器的大规模使用。
农业时代也会使用一些机器，但将之称为工具更合适，因为常以人或者牲畜为动力，结构简单。偶尔有些利用自然力的机器，比如风车、水车，也规模有限，影响不到社会发展的根基。
工业革命利用煤炭产生的高热蒸汽推动机器，提供了前所未有的机器动力，机器开始以人力无法匹敌的效率进行生产。机器可以用于织布，可以用于推动轮船，或者用来炼出更多、更好的钢铁。率先完成工业革命的英国发展成了“日不落帝国”，这是工业革命伟大力量的现实证明。
第二次工业革命的标志是电力的广泛运用。从此，占据主流的机器开始从笨重的蒸汽机向着灵巧的电动机和内燃机演化。
电是一种易于输送的能源，虽然用煤或者其他能源发电，再将其输送到千家万户，会有巨大的损耗，但是以电为动力的机器反而拥有极大的空间灵活性，而且清洁干净。自从电力成为社会中普遍的能源之后，机器的形态更是变得五花八门，日新月异。
第二次世界大战之后，计算机和互联网的发展引发了第三次工业革命——信息革命。信息的产生、收集和处理达到了一个前所未有的高度。信息化带给人类社会的好处不仅仅停留在信息技术本身。计算机能够进行大量的计算，代替大量人类脑力，提高生产效率，这只是信息技术的初级效应。信息技术更重要的作用，是让全人类以前所未有的深度和广度结合在一起，提供了大量的有效市场机会，从而极大地促进了经济的发展。
眼下的世界到了另一个节骨眼上，那就是人工智能的发展。世界正在进入第四次工业革命。在这场革命中，人们所面临的技术选择很多，可控核聚变、高效的太阳能、基因技术……然而所有这些，都可以认为是信息时代的进一步深化，并不会带来社会本质的改变，只有一种技术除外——人工智能。
人工智能所带来的影响将是长远而深刻的，它不应该被视为与前三次工业革命同类的事物，而是一个新事物，或许我们应该用另一个词汇来描述它：智能革命。
农业革命和第一次工业革命共同深远地影响了人类的社会形态，第二次工业革命和第三次工业革命虽然有极大的发展，但是从本质上说，还是第一次工业革命的推进和放大。智能革命，则会从根本上颠覆人类社会现有的形态：因为智能革命的最终导向，必然是聪明的机器。
在地球上，人类是最聪明的物种。这一点毫无疑问。
但在智能革命之后，这个答案就需要补充一些限定条件。聪明的机器，完全有可能成为一个“新物种”，而它们会比人类更聪明。
智能，是人站立在地球生物圈巅峰的最有力保证，是人类文明的基石。但现在人类已经开始能够设计出比自己更聪明的事物了。一个具有未来眼光的人，应该能够看出这件事的深远意义。它开启了人类成为造物主的时代，也同时开启了一个并不确定的未来。
目前的人工智能，是对生物智能的拙劣模仿，却已经显示出其强大的威力。2016年3月，人工智能AlphaGo战胜了围棋世界冠军李世石。在此之前，人们一直认为围棋是计算机程序所无法挑战的领域。早在1998年，计算机程序“深蓝”就能够战胜国际象棋世界冠军卡斯帕罗夫。计算机在围棋上的胜利却迟到了18年。这18年间，围棋像是一种图腾，象征着人类智力高高在上，不可超越。到了2016年，这个图腾轰然倒塌。
那么，2016年的AlphaGo和1998年的“深蓝”，究竟有什么不同？
当年战胜卡斯帕罗夫的计算机程序“深蓝”，采用的是编程算法，对战时依靠的是海量的搜索和记忆。可以认为这是一种机器蛮力。它有个明显的缺陷：跳不出人类给出的能力范围。可以说“深蓝”的每一步棋，虽然“深思熟虑”，但只是人类曾经下过的棋着的重复。国际象棋的自由度有限，国际象棋大师虽然能够临机应变，下出自己不曾走过的好棋，但这棋着却大概率是历史上曾经出现过的——只不过人的记忆有限，记不住那么多棋谱。对计算机程序来说，却可以记住比人记得多得多的棋谱，从而寻找到应对当前局面的最优解。这样的“机器蛮力”也能给人留下深刻的印象，因为不管怎么说，人的确下不过机器了。但因为机器按照指令执行，它的逻辑其实仍旧是人的逻辑，只不过是许多人的逻辑总和。在这种编程方式下，虽然机器的智力可以变得很复杂，比如由上千名工程师耗费一年的时间，把大量的逻辑堆积在一起，形成一个庞大而自洽的逻辑库，但从本质上来说，它只是一种简单重复的能力：执行指令。它并不会产生任何意外，如果有意外，那就是“bug”。从另一个角度来说，“深蓝”所下的棋，如果换成人类棋手，经过深思熟虑，就能够理解其中的用意所在。或者换一个程序员，逐步执行指令，只要有足够的时间，就能理解“深蓝”是怎么走出这步棋的。依靠指令编程所获得的智能，本质上是人类智能的重复。依靠指令编程，机器可以变得很强大，也可能看上去很聪明，但它不会产生真正有创造性的东西，只是按部就班，重复某些东西。这就是“深蓝”的状态。
AlphaGo则不同，它运用的是神经网络算法。神经网络算法听上去很神奇，形象一点说就是让计算机像人脑一样进行计算。这和编程算法有本质的不同：神经网络算法只提供逻辑演化的规则，并不提供逻辑本身。这是什么意思？以各种语言写下的程序，都是一条条逻辑指令，而计算机程序的运行就是这些逻辑的推演结果。神经网络也在执行某种逻辑，然而神经网络的逻辑库并不是显化的，它不是一条条指令，而是蕴含在神经网络的结构之中，经由演化而来。所以在神经网络中看不到任何指令，不存在专门存储指令或者数据的存储器，它的存储和运算都由网络本身完成。一个网络和另一个网络逻辑能力的不同，体现在网络的内在结构上。
神经网络算法源自对生物大脑的模拟。大脑中并没有存储器，也没有中央处理单元。它和我们目前使用的计算机差别极大，从根本的设计理念上就南辕北辙。我们通常使用的计算机采用“冯·诺依曼结构”，由存储器、控制器和运算器，加上输入与输出设备组成。存储、控制和运算各司其职，按照既定的逻辑运行。这是一个线性的过程，每一个步骤的发生都必须在前一个步骤发生之后。现代计算机采用了软件或者硬件的方式来创造出多线程的运算，但那只是对大规模运算进行任务分割，将其变为众多小任务，从而提高效率。在每一个小任务内部，仍旧遵循着冯·诺依曼所设计的基本运作原理。然而人类的大脑是一个高度并行的逻辑系统，它没有特定的中心。如果计算机的某个单元受损，整个计算机就无法运作。但是对于人脑而言，单个脑细胞根本无足轻重，一个脑细胞的损伤对人脑的计算能力几乎没有任何影响。计算机是数字的，如果不考虑备份，每一个存储单元都存储着独一无二的数据；而人脑计算机却是统计的，信息只存在于大脑的整体之中，而不是由某个脑细胞来代表。
我们可以用全息照片来说明依赖整体而存在的信息是怎样呈现的。一张全息照片，即便被损毁，只要还有一部分保持原貌，也仍旧能够复原出照片上的影像。一个更浅显的类比是凸透镜的成像原理。光透过凸透镜在一张纸上显示出一个倒立的实像。如果用不透明的物体遮住凸透镜的一半，这个倒立的实像并不会变成一半，只是会变得暗淡一些。
如果把人的记忆比作那个倒立的实像，将凸透镜比作人的大脑，记忆与大脑的关系也就一目了然了。记忆是大脑的整体功能，它不会因为大脑的局部损毁而失效。
当然人的大脑有许多功能分区，损毁特定的功能区会让人失去某种能力。这是大脑的分工所致。如果要用形象的说法来描述，那就是我们的大脑由许多个凸透镜组成，这些凸透镜分别展示着外部的不同景象，共同组成了一个多面的记忆。部分损毁一个凸透镜，并不能让那部分实像消失，但是如果把整个凸透镜拿走，那部分实像当然也就消失了。
在我们的大脑中，每个区域每天都有脑细胞死亡，但是大脑功能依旧健全，直到衰老到来，脑细胞死亡过多，大脑中的“实像”才逐渐模糊。这是一个人正常的人生。如果因为某些事故，大脑的一部分被损毁，那么关联这部分的功能也就丧失了。
神经网络算法模拟生物的大脑，通过神经网络的整体来进行记忆和运算。我们不敢说它像真正的神经网络一样工作，因为大脑的秘密尚未完全解开，生物体内的神经元如何协同工作仍有一些尚未知晓的领域。但是根据神经网络算法的实践，我们已经有了像AlphaGo这样的成果。所以我们至少可以认为，这种算法，即便是对大脑较为粗浅的模拟，也能适用于处理特定的情形。
如何才能让一个神经网络适用于处理特定的情况？这就牵涉一件非常重要的事：学习。
什么是学习？这难道是个问题吗？我们从小到大一直在不停地学习。学习这件事是一个社会行为，但是在人工智能领域，学习的含义略有不同。对于人工智能专家来说，机器的学习，指的是通过各种信息的输入和给定的输出判定，让神经网络获得特定方向上的演化，并形成能解决某一类型问题的特殊结构。这个过程和学习在生物体内引发的神经网络变化是类似的。
AlphaGo是如何学习围棋的，这是非常专业的问题，我们不做过多讨论。但关于AlphaGo有一个重要的事实：它所下出的围棋和人类的围棋棋路有本质的不同。换言之，它在围棋规则的限制下，找到了和人类棋手不同的下法，而且这种下法比人类更高明。令人感到可怕的一点是：人类棋手无法理解AlphaGo的棋路。其中的原因，大概在于AlphaGo的硬件其实超过人脑许多，而且可以扩容，这就让AlphaGo拥有了巨大的优势，能够计算出人类所无法算到的情势。AlphaGo的升级版，叫作AlphaGo Zero。为什么叫作“零”，因为这是一个零起点的AlphaGo。它没有任何人类经验的积累，从零基础开始下围棋，下出的第一盘棋就跟小孩子摆棋盘一样，一边黑一边白，几乎把整个棋盘挤满。然而AlphaGo Zero很快就进化成了围棋高手，超越了最初版本的AlphaGo，自然也没有任何人类是它的对手。这说明，只要给基于神经网络算法的人工智能设定好规则，它就可以演化出超越人类的智力。至少对下棋的智力来说是如此。
在其他一些规则较为清晰、场景相对简单的领域，比如图像识别、语音识别，人工智能都取得了长足的进展。可以说，在这些领域，机器已经可以比人类更聪明了，因为机器识别的正确率可以比人类高。但是人工智能也会产生一些意想不到的错误。例如针对人脸识别，如果把一张有特殊条纹的纸贴在额头上，对人来说，仍旧可以轻松地识别出人脸，但是人工智能却无法辨认。这也说明，人工智能虽然在经过大量图片辨认学习之后能够识别人脸，但它所用的方法和人类本身的人脸识别算法并不一致。其中的原因可能在于，我们的神经网络算法和真正的生物大脑的工作过程并不完全一致。直到今天，神经网络算法还只是对生物大脑的粗糙模拟。我相信，随着脑科学的进一步发展，人们对生物大脑的研究会越来越深入，相应地也会发展出更为精细的神经网络算法。到那时，人工智能的一些缺陷或许就可以得到弥补。
当然，也有可能这些缺陷并不是神经网络算法自身的问题，而是训练方式的问题。
我们可以看一看生物的图像识别是怎么演化的。生物所面临的是一个极为复杂的环境，在这个复杂环境中，判断对错生死攸关。最高效的识别方式会在这种物竞天择的演化竞争中脱颖而出，被编入遗传密码传给下一代。日积月累，生物的图像识别就达到了一个极为高效的境界。但是请注意，不同生物采取的策略是不同的。最明显的就是单眼和复眼的差别。单眼可以成像，识别出外界环境中的不同物体，然而拥有单眼的生物，有的对颜色敏感，有的对外形敏感；复眼生物能通过小眼之间的图像差感知物体的运动，但对物体的形状大概并不能完全理解。所以，图像识别在不同生物中有着不同的含义，但不管什么含义，都和生物的生存环境相关，是适应环境演化的产物。环境有多复杂，生物识别的能力就要演化到相应的复杂度，否则这一物种无法生存。相对来说，人工智能的学习方式就要简单得多。人会“喂”给它许多图片，根据这些图片它能够学会特定的识别方式。然而图片再多，终究也是有限的，一旦情况发生变化，它就可能产生不适应。所以如果要人工智能适应复杂的环境，唯一的办法就是让它在复杂环境中不断学习。这需要时间和好的筛选机制，有待人工智能专家进一步探索。
以上所说的只是针对特定的领域，人工智能的无限可能性蕴藏在更为一般性的应用场景中。人们所期待的人工智能，肯定不是一个只能听或者只能说的事物。真正的人工智能，应该是一个综合体。
无论是AlphaGo，还是人脸识别、语音识别，智能的维度都是单向的。经过学习训练出来的神经网络只能从事相对应的功能，无法和人类大脑相比。现实世界是一个复杂的世界，如果我们仔细划分，或许可以给它分解出十多个，甚至上百个维度。就像奥运会，可以分解出田径、游泳、体操等，虽然我们管这些都叫体育运动，但不同项目所考验的身体素质从来不是同一个维度。甚至还可以再细分，例如游泳，还可以分解出3 000米、1 500米、800米……
人工智能面对人脑，就像是奥运会的单项冠军面对综合冠军。这些单项冠军一旦换个比赛项目就一无是处，而人脑却在各个方面都发展得很均衡，从而在各种比赛中都能名列前茅。
原本在这场“智能奥运会”中，人脑可以拿下绝大多数冠军（一些特殊发育的动物大脑也有长处，例如鹰的大脑可以拿到视觉冠军，许多动物的大脑嗅觉比人更灵敏……），但现在情况发生了变化。五子棋、国际象棋、围棋……所有的棋类活动，人工智能都已经完胜了人类。在图像识别和语音识别的准确率上，人工智能也早已超出了人类许多。
基于图像识别和语音识别的迅猛发展，我们有理由相信，视觉冠军很快就将属于人工智能。采用最大的望远镜，收集海量的信息，以人工神经网络进行分析，可以看到百亿光年之外的星体。这种能力，远远地超越了地球生物的能力极限。我相信，先进的天文台很快就会用人工智能来探索星空。而卫星系统的成像能力，也会随着人工智能的发展而突飞猛进，从同步静止轨道上看清楚人的脸，也将不是一种虚妄的想象。这跟鹰能从几千米的高空看清兔子的道理一样。
目前，人类仍旧保有一些智力高地，比如语义分析、逻辑推演。然而这种情况不会维持太久。这些智力高地，往往是各种大脑功能的交互。科学家对于人工智能网络之间的交互已经有所研究，人的大脑之所以复杂，原因在于大脑的神经网络经历了亿万年的演化，形成了许多子网络，这些子网络既拥有各自的功能，又彼此间相互影响，形成更复杂的网络。
简单看一看人脑结构，就可以看到一部演化史。在“三个大脑”的假说中，人的大脑由内而外可以分为三个部分：爬行动物脑、古哺乳动物脑和新哺乳动物脑。爬行动物脑的演化发生在2.5亿年前，控制基本的生命活动，例如呼吸、心跳、战斗、逃跑、觅食和繁衍。爬行动物脑的活动一般都是应激性反应，看到什么，听到什么，然后产生一定的反应。古哺乳动物脑在现代脑科学中被称为边缘系统，它能产生各种情绪，例如恐惧、兴奋等。边缘系统产生的情绪其实就是对爬行动物脑的应激活动进行的一种综合，已经属于一种较为高级的反应。新哺乳动物脑，又称为新皮层，或者理性脑、皮质脑、新脑，它控制着高级认知功能，对其他两个脑层也有一定的抑制作用。人脑的三层结构在漫长的演化过程中逐渐形成，脑的形成过程，也就是智力逐渐成长的过程。这些脑结构有一定独立性，又彼此相互影响，最终形成一个综合体。自我意识也就在这个综合体变得日趋复杂的过程中诞生了。
人工智能的演化很可能会遵循类似的路径，由简单到复杂，由单维到多维，最后形成自我意识。
自我意识一直被认为是生物的神秘要素。机器距离自我意识的诞生无疑还很遥远，然而生物界中，拥有自我意识的生物比比皆是，分布广泛。喜鹊、乌鸦、黑猩猩、鲸、海豚，甚至章鱼，只要大脑的神经网络复杂到一定程度，就能诞生自我意识。认识到自身的存在，无疑能极大地提高生存概率，自然选择偏好自我意识，它就会产生。和自我意识相关的大脑皮层，大约是一种控制其他大脑皮层的皮层，是大脑的信息交汇之处。有研究表明，在一个人意识到自己要做出某个动作之前，关于这个动作的神经冲动就已经发出了。从这个意义上说，并不是自我意识决定了动作，而是动作被大脑整体决定，并且在发动之后才“告知”了自我意识，然后我们才意识到自己在干什么。自然的吊诡之处在于，它让我们认为是自己决定了要做什么，而把自我意识只是一个傀儡这一真相掩藏起来。行动的自由是一种错觉，在大脑神经网络高度发达之后，行动的选择变得多样化，然而究竟选择如何行动，由大脑的基本结构和当时的状态所决定。当一个人认为自己做出了选择，他只是在代表他的整个大脑说出这个结果。大脑的代言人和大脑的控制者，这其中有着微妙的差异。大脑控制者是一种错觉，真相是自我意识更像是大脑代言人。
这种解释，让人看上去像是一种自动生物机器，没有给自由意志留下空间。什么是自由意志，这个问题我们在此不做深入讨论，但如果动作先于意识这种现象是确切的，那么人工智能要复现这样的情况，便较为容易。
人工智能由人培养而来，虽然蕴藏在神经网络之中的逻辑并不为人所知，但我们很容易接受人工智能是一种自动机器的观点。但如果把生物的演化过程梳理清楚，生物是一种自动机器的观点同样具有很强的说服力。最早的生物只有本能，自动机器的属性很清楚；复杂的生物，除了本能之外，还发展出了智能，自动机器的属性便模糊了。但如果以大脑代言人的角度来看待自我意识，生物的自动机器属性就呼之欲出了。智能的诞生，其实是很多本能的叠加，在不同的环境刺激下生成不同的本能，展示不同的本能。例如，一匹角马要靠近河边喝水，但水中有鳄鱼。在此情况下，角马就得在饥渴和恐惧的双重驱动下行动，它的大脑神经网络在不断竞争，角马也就在喝水和逃跑的行为之间维持着一种平衡。喝水是一种本能，警惕也是一种本能，角马在保持警惕的同时去喝水，这就是一种智能行为。
有人或许有疑问。难道复杂的智力活动，比如说写下一篇文章，也是大脑的自动反应吗？难道不是人一边思考一边创新，并且把它用文字表达出来的吗？
我的回答是，看一看AlphaGo，它的智力活动难道不是创新吗？它走出了人类历史上从来不曾存在过的棋路。可见，创造新事物，并不需要自我意识才能完成。
另外，也可以看一看真正的生物，用那些不太聪明的生物来做例子。我相信绝大部分昆虫都可被看作自动机器。大自然并没有什么自我意识去创造丰富多彩的昆虫形态，但在亿万年的演化过程中，昆虫的形态却无奇不有，蜘蛛可以精确地织出漂亮的网，蚊子可以准确地找到血液丰富的血管……当这些形形色色的“小机器”以令人惊异的准确度完成了它们的动作，就是在无声地宣告完成复杂动作并不需要自我意识的加入，新行为的产生也并不是自我意识的决断。创新，这是自然界本来就具有的能力，只不过人类对于自身行为认识并不够深入，才有了自我掌控创新的错觉。
人类创新行为的生物本质，是把自己不断投入新环境中，接受新的刺激，从而让大脑神经网络产生差异化的发展。
这样的行为，假以时日，人工智能显然也可以达到。只不过，生物演化有内在的驱动，可以自动进行；人工智能则只能依赖人类的培养。
对于人工智能所能达到的智能程度，我抱有乐观的看法，因为人工智能的物质基础远超过生物智能。只要人类不放弃对人工智能的培养，高度复杂的人工智能，包括具有自我意识的人工智能，都会在未来出现，甚至不会让我们等太久。
一旦人工智能具备了自我意识，新纪元就开始了。一个“新物种”从此诞生。它将和人类进行对话，它会形成自己的利益，它会寻找自己的生存之道。
面对自己所创造的这一物种，人类该怎么办？
从文明肇始，人们一直追求更高的效率，不断发明出各类工具，到了工业时代，人们更是把对机器效能的追求发挥到了极致，利用一次又一次的科技革命，把人类文明推向了一个又一个高峰。我们可以把这个过程称为“赋文明以机器”。机器推动人类文明的发展，创造出了越来越多的社会财富。
即将到来的智能革命会把人类的文明推向一个新高度。在这个高度上，物质财富的创造无须人类参与，人类社会将面临前所未有的巨大挑战，因为按照既有的分配制度，社会财富会集中在极少数人手中，造就空前的贫富分化。这是人类社会内部所面临的挑战。在外部，人类也将面临人工智能的挑战。具备了自我意识的人工智能如何处置自身和人类的关系，这大概比人类社会如何分配所创造的财富更富有挑战性。它直接关系到人类作为物种的生死存亡。
历史会如何发展，谁也没有确切的答案。然而明天会如何，取决于今天所发生的一切。我们如何对待人工智能，如何让它们进行学习，能否让它们明白并且接受人类的价值观……这些所作所为，最终会影响人工智能对人类的态度。虽然没有人能保证，人类以百分之百的爱浇灌人工智能，人工智能就会回报以爱。人类只能努力推动事物向着最好的可能发展。培养人工智能的道德准则，这不是靠任何软件和硬件的限制来实现的，它是一种行为规则，只能由行为来引导。用什么样的行为引导人工智能，这大概是人类培养人工智能过程中相伴始终的问题。
一个值得憧憬的未来，是人类和人工智能和谐相处的未来。人工智能的能力可以超越人类，它所能掌控的力量也会超过人类。在这种情况下，具有“文明素质”的人工智能对人类来说就显得非常重要了。
“赋机器以文明”，我想用这样的一个短语来对这件事进行概括。我相信在即将到来的智能革命中，人类有足够的智慧和运气做好这件事。事关重大，不可不察。那么就需要我们从现在开始加以关注。
人类和人工智能之间的恩怨情仇，会在未来很长一段时间内继续存在。把文明赋予它们，让它们学会人类的思考方式，这将是人类作为一个物种最后的光荣。
再往后会怎么样？
再往后，大约人工智能会为人类做主吧！