下载掌阅APP，畅读海量书库
立即打开
高科技在人工智能领域的迅猛发展已经颇值得我们重视，它提出了一些重要疑问与挑战。这些疑问需要一种深入的思考和阐释。我这里想做的只是试图通过重新思考人与物的区分，简略回顾一下人类文明以及人对物质与技术的态度——从“学以成人”到“学以御物”的转变，以求尽可能清楚乃至尖锐地呈现几个问题，尤其是对一些预测者对未来“人将何为”的设想提出一些质疑。
在此所说的“学以成人”自然是字面上的，我们今天观察机器学习、深度学习等人工智能的领域，的确不难得出这样的印象：各种机器、设备是在多么“努力”——至少比大多数人远为“努力”地在模仿、学习乃至超越和取代人的各种功能，虽然当前这后面还是少数研发人的努力。
目前在机器人方面虽然还没有像互联网和移动终端这样已经广泛而深入地介入我们日常生活的大众化产品，但是，中国乃至世界一些大的高科技公司似乎都在投入巨资进行大规模的研发和试验，并有可能在不久的将来酝酿出大的突破，且如果成功的话，将产生很大的社会影响。仅就无人自动驾驶而言，如果能够变成安全可靠的普及性产品，将意味着上亿名驾车者每天都能多获得属于自己的一些时间，也就等于延长了自己的生命。而如果共享汽车实现的话，甚至都不必拥有自己的汽车，当然，这也就意味着将有数以千万计的专业司机可能失业和汽车等工业企业的大幅改造与重组。
的确，目前人工智能的成果还多是展示性的，如“阿尔法狗”战胜了人类最复杂的智力活动之一——围棋的世界的顶尖高手，人机对弈看来已经可以得出机器获胜的结论。机器还进入了一些过去专属于人文艺术的领域，写出了诗歌，谱出了歌曲，有自己的画作，其中有些作品甚至“人机莫辨”，机器人似乎不难通过一种“图灵测试”。
有些研究和预测者已经做出了令人吃惊的预测，认为随着机器的深度学习、脑机融合、基因工程等技术的发展，在50年内，将有超过50%甚至90%的现存人类职业由机器来代替，乃至世界不久将达到一个科技飞速发展的奇点（Singularity）
，碳基生物将变为硅基生物，人类将战胜死亡，但这也可能意味着有机体的“智人”的死亡，人将由“智人”变为“神人”。
这样的预测中有没有吸引眼球乃至耸人听闻的因素？大概有，或者说是一种对高科技的狂热信心和兴奋所致。变化的速度看来不会这么快。但我们也要考虑我们数十年前也不会想到互联网及移动终端等技术的发展会如此迅猛地改变我们的日常工作与生活。在一些标志性的成果产生之前，还不能完全排除有另一种危险，比如说出现将人打回到石器时代的“核冬天”等生态灾难。但是，人工智能的确已经大量进入了我们的生活，比如手机中能和我们对话的语音助手，而一些将让我们吃惊的完整的大众化产品似乎也指日可待。
如果从一个普通人的眼光、用非准确的科学语言来尝试对未来的这一趋势做一下分类的话，或许大致可以说，一个方面是机器作为外在的工具，人的各种功能的延伸方面的发展：机器正从模仿学习和替代人类比较专一的单项功能，走向自我深度学习和把握人类的相当复杂和全面的活动。就像上面所说的无人自动驾驶汽车，这是相当综合的功能，包括对整个行车环境中无数偶然因素的评估，需要机器做出一种全面的分析，乃至有时要做出伦理的判断，像在遇到无法避免事故的情况下优先救谁的问题。
另一个方面则是内在的。即在肉体的方面，是高科技的发展深入人的身体内部，人的退化和受损的器官可以得到修补乃至更换，一些富有者甚至有可能通过这些不断的更换达到不仅保持健康，而且不断提升健康，乃至达到近乎长生不老的地步。一些人或许还试图通过不仅是体细胞来治疗疾病，而且通过生殖细胞的基因编辑来一劳永逸地改变人的性状。总是有人会有通过基因工程来选择智力乃至性格最佳的后代的愿望的，而技术上看来也有了这样的可能。
当然，以上这两方面并不是截然分开的。人的外在和内在功能可以结为一体，甚至最后的发展一定是结为一体或者“超体”。通过基因工程、芯片植入和脑机融合等技术，使人本身越来越强大，越来越健康，最后到一定的时候可能达到这样的程度：这时已难以分辨在一个“人”身上，是原有的成分更多呢还是后来的成分更多，是人的成分更多呢还是机器的成分更多，但只要持续下去，就肯定还是后来的成分更多。于是大概有一天就会像雅典人说那条保留在海边作为纪念但需要不断修补的忒修斯的船：“这还是那条船吗？”人们也将问道：“这还是那个人吗？”
当然，更便捷的办法，就是干脆不考虑肉身，直接制造出非有机体的“新人”或“超人”。未来将可能出现这样的机器人：她（他）们不仅有超强的记忆和计算能力，什么事都能干或者都能学会干，不论粗活、细活，里里外外都是一把好手，在外可担当工作的重任，在内烹调、管家样样都行，她（他）们外表也可以很像人，当然比一般的人还要美（或者按人的喜欢定制），她（他）们能插花、说段子、写诗、作画，优雅地接待客人，是沙龙的好主人。甚至有人预测，性爱机器人将越来越逼真，乃至具有情感功能，这样将使大批风尘业者失业。人甚至可以和这样的机器人组成家庭，实行“人工生殖”，有自己的后代。她（他）们最初或还是人的助手或伙伴，但或许哪一天也会将人踢出局而成为主人。
这样，两极相逢，我们或许在哪一天将看到一个新的物种。它们非人非物，但又亦人亦物。它们是“超人”，也是“超物”。开始人还能驾驭它们，以后就说不定了。它们最后大概会看不上人的容易变化的情感、易犯错误的理性和薄弱的意志，更看不上人的脆弱的肉体和终有一死。它们生命的基础最后不再是碳，而是硅，它们甚至将作为一个新的物种取代人类。我们上面的描绘还是着眼于家庭这一人类社会的细胞，但那时家庭和社会的组织都会发生天翻地覆的变化。新的物种将有新的社会组织形式和生活方式。
今天人与物的界限似乎正在变得越来越不明显。但我们还是可以试着区分一下，人当然也是一种自然物，是从自然界里产生的，但作为一种在地球上可以与其他自然物对照的物种，或许还可区分出：自然物—人—人造物。人类在采集狩猎的阶段，只是从现成的自然物获取生存的能量，到种植畜养的农业文明阶段，则开始培育和改变原本纯粹的自然物，直到今天的转基因植物乃至动物，以及将原材料完全改变或合成新的“人造物”。今天的人甚至开始考虑改变和转化自己的身体，总有人会不停地探索未来“转基因人”或新的“硅基生物”的可能性。而自工业文明产生以来，整个地球上的生态——气候、大地与海洋等，包括矿产等种种原生物也无一不受到人类活动的影响。地球越来越变得“人化”，但是不是也存在一种“物化”的趋势，乃至人将来会不会被重新“物化”，这都是有可能的。所以，我们大概要一次次地重新思考“何以为人？何以为物？”的问题。
诸如“人是两足、无毛的动物”“人是直立的动物”“人是大脑特别发达的动物”的定义，这是试图从外形和身体上区分人与其他动物。还有从活动上区分，比如“人是能够使用工具的动物”，但更重要的自然还是内在的划分，如“人是有意识的动物”，人是“万物之灵长”，“人是有智慧的‘智人’”，“人是有正义感和善观念的动物”，等等。尽管从起源发展上难以非常明晰地区分外在与内在的活动如何互相影响或何者更占主导，但从现实的人，或者说是进入文明阶段以来的人与物的根本区别来看，大概“人有意识”是最重要的，包括这种意识的表达和传承方式，如语言、文字等波普尔所说的“世界三”一类的产品。
人的“意识”既包括人特有的东西——如理性，思想，自我意识，长远计划，独特的道德感，对信仰的追求或坚定的信念等，也包括其他动物也有的，但在人这里却是大大丰富和特殊化了的情绪与感觉——如五官的感觉（有进化也有退化），快乐与痛苦，同情，乃至对某些比较抽象的东西的直觉等，以至我们可以说这些人的情绪和感觉与其他动物的情绪和感觉也有了一种质的不同。它们也包括在“人的意识”之中，而不再只是单纯的“动物感觉”。“人有意识”也可以用“人有灵魂”或者“人有心灵”“人有灵性”的说法来表示，即侧重于“心物”“灵肉”的区分。人经常被视作“万物之灵”，即便在有些反对以人为中心的生态主义者那里，也主张人应该成为万物的道德“代理人”（agent），即人有意识而其他动物没有，故而动物无法成为道德的主体，必须由人来代理，所以，人恰恰应当用他特有的意识或者灵性来关照其他物种和物体，而不是不闻不问乃至伤害践踏。
但是，自近现代以来，的确还有另一种思路，即认为人与动物没有多少差别，或者说更强调人与动物的联系而非区分。比如莫里斯的《裸猿》《人类动物园》、威尔逊的《社会生物学》《论人的天性》等。威尔逊认为，基因是一切机体行为的真正原因，任何机体，包括人的行为从本质上说都不过是基因复制自身的技巧和策略。
而更进一步的思路则是最近如库兹韦尔、赫拉利所倾向和介绍的观点。其较早的思想渊源或可追溯到如18世纪的《人是机器》。其作者——法国的启蒙哲学家拉·梅特里在该书中认为，心灵其实只是一个毫无意义的空洞的名词，心灵的一切作用都是依赖于脑子和整个身体的组织的，那么，这些作用不是别的，就是组织本身。因而，我们只能说：“这是一架多么聪明的机器！”它不过就是“比最完善的动物再多几个齿轮，再多几条弹簧，脑子和心脏的距离成比例地更接近一些，因此所受的血液更充足一些，于是那个理性就诞生了；难道还有什么别的不成？”
“人的身体是一架钟表，不过这是一架巨大的、极其精细、极其巧妙的钟表。”
“一个钟表匠要花很大的力气才能创造一架最复杂的钟表，但是自然却非常胜任愉快地创造了亿万个人……一个最美好的天才也不比一束麦穗需要自然花更大的力量。”
《人是机器》的结论可能不让人喜欢，却可能恰恰是预测到了近代以来科技发展的一个方向，“人是机器”的思想也是可以容易地转换为“机器是人”的思想的。
将人等同于机器或者机器等同于人的关键，是否定人有灵魂，甚至人有心灵这一一向被看作人与其他物——包括动物——的根本差别。赫拉利写道：“科学家已经让智人做过千千万万种怪异的实验，找遍了人类心脏里的每个角落，看遍了大脑里的每一个缝隙，但仍未发现什么特殊之处。完全没有任何科学证据能够证明人拥有灵魂，猪则没有。”
如果说“灵魂”还与宗教有关，那么对一般人都可接受的“心灵”，赫拉利承认目前科学对心灵和意识的理解还少得惊人，“大脑里的各种生化反应和电流是怎么创造出痛苦、愤怒或爱等主观体验的，至今无人解答”。
但他追问道：如果一切心灵的活动都在我们的神经元网络中，那么何必把心灵独立出来？如果心灵高于神经网络，那它究竟在哪里存在？如果我们无法解释心灵，也不知道它有什么功能，为什么不干脆放弃这个概念？
赫拉利以我们目前还不知晓心灵是什么就急于否定它的论据是不够的，而且，到物的构造中去寻找心灵和意识可能根本上就是个错误的方向，找到的也只是一些相应的生理上的反应，却无法说明这种反应的原因和内容，也无法依据这种反应来判断一个人。寻找心灵和意识应当主要从自我的意识体验和人类的意识产品中去寻找。我们稍稍反省一下自己，就会发现我们的主观意识的体验是多么丰富、复杂、深刻和难以预测，我们也能发现这种体验有一种连贯性。我们在此或许可以通俗地谈谈灵魂或者说“心灵”，即它是我们意识的核心和主导，它具有一种连贯性和统一性，我们的“自我”正是在这之上耸立。它或许和我们的身体有一种不可分割的联系，但这是指作为肉体生命存在的整个身体，而不是指任何一部分。我们是能够通过我们的主观体验感受到我们的“灵魂”或者说意识中的“灵性”的。说人的意识是具有“灵性”的，是指我们意识的复杂性、飞跃性、创造性，包括各种灵感。我们的确没有在地球上的其他动物、有机物，更不要说无机物那里发现这种意识，而且我们的这种主观意识是可以通过语言文字或者其他媒介来客观传达的，我可以向其他无数的人——包括远方的人和后世的人——传达我的思想感情，我也能从其他无数的人的作品中获得美感或灵感。我们可以相互交流和进行传承，包括新的创造也往往要借助于这种文化的传承。一个人的主观体验自然是会有盲点的，一个人的主观体验也是有待确证的，但我们还可以从人类的文字、语言、视觉和听觉艺术等多种形式去确证这一意识及其灵性，我们可以从这些作品中发现与自己体验的共鸣，也包括发现新的意识经验的内容。
赫拉利倾向于低估人类的这些意识经验和产品。他认为这些都是“虚构”，是“想象”，是“说故事”。说这些“虚构”的“故事”如果说得让许多人相信了，当然也能产生真实而强大的力量，如国家、公司与法律。但是，这些“故事”毕竟是“虚构”，主要是提供意义而非力量。人能够通过虚构的故事来编织意义之网，发明语言、文字、货币等，组织大规模的合作，历史上最大的一个虚构是宗教，宗教的意义只在于维持和巩固世俗秩序。其他能够提供意义和维持秩序的观念及其形态也都可以说是“宗教”。而所谓“现代”也就是一份契约，本质就是人放弃意义而换取力量。现代人淡化甚至放弃了传统宗教，而将人文主义（Humanism）作为一种新的“宗教”，这种现代人文主义“宗教”的特点在政治上就是看选票，在经济上就是“消费者永远是对的”，伦理上则是你的主观感觉是正当的就是正当的，你就去做。判断真实与虚构的是感觉。国家、公司这些东西没有感觉，不会感觉到痛苦，它们的来源乃至性质就是虚构的。所有人的意识及其产品都是“虚构”的，都是“讲故事”，而且这些“故事”和意义也只是工具，不应该是目标。
赫拉利倾向于通过抬高感觉——而且是和动物一样的感觉，主要是快乐与痛苦的感觉——和贬低思想、意识、观念来说明人和动物没有多少差别，也可以进一步说，人和其他生物也没有多少差别，所有的生物都是一种算法，生命就是算法。由此，他也倾向于认为所有的意识和观念都是等价的，都是“虚构”，如果它们能使人信服，也就是有用的“虚构”；如果它们不再能让人信服，那就是过时的、不再有用的“虚构”，就可以被我们抛弃。这里不再有一些各个历史时代，各种文化与文明中共同的东西，也不再有永恒和持久的东西，乃至没有真伪和高下之别。
然而，人特有的精神文化在人们的生活和文明发展过程中是否只具有这样一种意义和地位？人是不是还可被视作高于苦乐、高于温饱的存在？天地间是否还有客观的，如滔滔江河一样运行的正义？如果所有的观念都是可以等量齐观的“虚构”，是否就将使人们处于对观念无法选择乃至无法做任何评价的地步？我想，许多人的人生体验是会拒斥上述的观点的。我们观察一下人类精神留下的诸多杰作，也让我们无法接受这一观点。但你可能也真的不容易说服一个从来没有过这样的内心体验的人，一个从那些杰作中除了有用、苦乐之外看不到任何别的东西的人，但是，如果人真的如此，人不是应当感到悲哀而不是无动于衷乃至欢欣鼓舞吗？
我们且不谈这些可能有点形而上或价值观的问题，还是来略微分析一下机器已经达到了什么程度和人类还剩下一些什么。
先说最让人类感到沮丧的棋类，机器在20世纪末就战胜过国际象棋的人类大师，在最近又几乎可以说是在围棋界“打遍人类无敌手”。的确，在一些特别依赖于计算和记忆的人的智力活动的领域，机器是很有可能超过人的。但是，即便在这种活动中，机器也不知道它自己在做什么——它只是一步步地计算，对这整个活动没有意识，它自然也是没有感情的，不会崇敬或鄙夷。下棋的人不会觉得是在和它“手谈”，对弈之后不会想到和它喝一杯。它也不会胜喜败悲，它甚至连和谁比赛或者这是比赛也不知道，当设计和管理的人宣布它今后不再参加这样的比赛了，它也就不会参加了。棋手们的确会有些沮丧，但也不用太沮丧，他们只要想想，在这台机器后面还有多少人做了多少年的工作，研究过多少人类已经对弈过的积累下来的棋谱。这台机器人也只会做下棋这样一件事。而任何一个棋手，比如吴清源，还有自己多么丰富多彩的一生。人类以后还会继续在一些领域遭受败绩，他们也必须承认自己在某些领域将“技不如机”，尤其是那些特别依赖数据和计算能力的领域。那的确是我们的弱项，我们得承认我们任何人的计算和记忆能力都不如机器。
但许多最重要的发明创造，甚至包括自然科学的创造，并不那么依赖计算和记忆能力。最好的记忆和计算能力有时还可能遏制最富有想象力的发明创造。爱因斯坦在课堂上记不住一些数学物理公式，只好请下面的学生来提醒，但正是他创立了相对论。一个苹果从树上掉落会触动一台机器的灵感吗？或者说，一台机器会想到把一个咬了一口的苹果作为它的公司标志吗？我们看到许多技术发明也是来自一些似乎完全无关的偶然事件所引发的灵感或联想。且不说人文、艺术的创造，一些自然科学和技术的重大发明，也时常爆发在你根本不知道需要什么知识却突然灵感乍现，将一些原本看来不相关的知识联结到一起的时候。哈耶克曾在一次名为“理论的思想之不同类型”的讲演中谈到有两种不同类型的学者，第一类是“头脑清楚型”（clear-minded type），第二类是“头脑迷糊型”（woolly-minded type）。后者思路和表达不甚清晰，却常常能在别人觉得不是问题的地方发现问题，做出重大的创造。
有一些需要考虑语境和情绪的活动，比如即时的口语翻译，机器可能还是能够做好，甚至也能够表现得相当个性化，去适应一个人的情绪、情景和口音，但它的确只能去适应。永远是适应。至于更高要求的写作，机器目前也取得了一定的成绩，似乎也只能够写出一些不仅大致符合规矩，乃至有意象、有美感的诗句，但说它“写出”、说它是作者其实还是不太真实的，它还只是按照一定的规则或韵律，在无数的字词拼合中偶然得到一些还像诗的东西，而从它海量的作品中判断与选择出极少的一些这样的“作品”的还是人。机器在拼合这些字词时的确有无限快速的试验机会，甚至有穷尽几乎所有组合的可能，但它永远不知道自己在做什么，它自己也无法选择，所以说，这些“机器诗歌”（还有“机器作曲”）的真正作者其实还是做选择的人。机器的优势只是它能远比人快速与海量地做出各种字词的拼合，它也许还能根据人的选择和评判不断地改进自己。它也可以尝试一种“类型化的写作”，设计好大致的情节、人物并进行各种各样的字词填充。我们不否认的确可能产生这样的作品，甚至有不少人愿意看，但它们永远只会是二、三流作品。机器甚至也能写出大量旁征博引、让人看不太懂但似乎“深奥”的学术作品，但它也只能唬住那些只是羡慕这种似乎充满知识的博学的人们，或者吸引一味炫奇的人们。机器无法真正形成自己的思想观点，那是要依靠一个人的全部所学，尤其是理性、感情和价值观的。目前机器在人文艺术领域看似比较“成功”的也还只是这样一些简单的诗句、曲谱，它们有时的确可以做到“人机莫辨”，但正如我们上面说过的，后面还是人在选择。
从无数的机器“作品”中，大概总能找到几首像人写出的短小作品。而在戏剧、长篇小说、历史、哲学、神学等领域，这样的拼凑是很难的。机器的“写诗”可能偶尔会蹦出一些好的意象（或不如说是好的字词搭配），与之形成对照的却是大量的“垃圾”，而像杜甫、李白这样的诗人写的每首诗都是达到一个高水准的，许多还是信手拈来。可以设想，有一台机器，有无限的时间，哪一天在文字的几乎无限的组合敲击中恰好敲出了一部《莎士比亚全集》，但这还得有人及时地叫道：“好了，停住！”就是说，它还得先有一个人类杰作的样本和有人叫停。极高速的计算或许不难，那一瞬间的叫停却颇为不易。而即便能够做到这一点，这样的写作是否真的是创作？这样的写作又有何意义呢？
赫拉利谈到人造物可能会比人更了解我们自己，比如我们用kindle读书，它也在细致和长期地记录我们的阅读爱好，从而为我们推荐和选择读物，甚至它能够在我们做人生极重要的选择——选择伴侣——时替代我们做出决定。但就读书来说，这些推荐的确能给我们带来一些方便，但我过去的读书记录并不能充分说明我以后的读书取向，我可能在某个时候转向，做出一个大的转折乃至翻转，这时我的选书就可能有大的调整甚至逆向选择。而机器的记录只能跟从我，它无法预知我可能的转折。还有其他对我行为的记录也是一样，机器是否还理解我们在某些时候宁愿犯错也想尝试一条全新的路的愿望呢？它是否还知道我们觉得这种犯错甚至就是我们青春的一个特权呢？我们有时很想通过犯错来学习。犯错算什么，我经历过了，我记住了，我可以改弦更张，这就是人生。还有当我要做出人生非常重要的一个选择——选择伴侣——的时候，我自然也可以参考机器对我事无巨细的记录，其中或许反映了我的价值取向，但我们可能还是不会想让机器做自己的决策人。它可能比我们理性，但我们还有感情。机器能够知道什么叫“一见钟情”吗？自然，我也还是可能犯错误，但它知道作为一个能够自我选择的主体的尊严和骄傲吗？
的确，人在未来的许多事情上很可能还要继续输给机器，将可能有越来越多的工作要让机器“代劳”或者说“外包”给机器，甚至到最后人剩下的东西不多了，但这最后剩下的却恰好正是最能标志出人与动物的根本差别的东西，是人之为人最特殊也最重要的东西，这就是人的意识，包含了理性、感情和意志等。就凭这一小点，人就可能大大地超越于物，或者我们谦虚地说有别于物。
人与物的关系，或者说人从自然物中分离出来与之形成对照，并进一步发展，也可以说是一个文明进程的问题。人先是努力从肢体和大脑上要成为人，进入文明社会之后则努力想从精神上要成为人。农业社会尽管物质资料匮乏，但毕竟有了剩余产品，有了劳心阶层，它的物质生产和经济科技发展的速度比起它前面的历史虽然是极快的，但比起它后面的历史来又还是极慢的。
早在近2500年前，雅典的悲剧作家索福克勒斯在他的《安提戈涅》中就给出了人之所为、人之属性与文明的一首著名合唱歌：
歌队（第一曲首节）奇异的事物虽然多，却没有一件比人更奇异。他要在狂暴的南风下渡过灰色的海，在汹涌的波浪间冒险航行；那不朽不倦的大地，最高的女神，他要去搅扰，用变种的马耕地，犁头年年来回地犁土。
（第一曲次节）他用多网眼的网兜儿捕那快乐的飞鸟、凶猛的走兽和海里的游鱼——人真是聪明无比；他用技巧制服了居住在旷野的猛兽，驯服了鬃毛蓬松的马，使它们引颈受轭，他还把不知疲倦的山牛也养驯了。
（第二曲首节）他学会了怎样运用语言和像风一般快的思想，怎样养成社会生活的习性，怎样在不利于露宿的时候躲避霜箭和雨箭；什么事他都有办法，对未来的事也样样有办法，甚至难以医治的疾病他都能设法避免，只是无法免于死亡。
（第二曲次节）在技巧方面他有发明才能，想不到那样高明，这才能有时候使他遭厄运，有时候使他遇好运；只要他尊重地方的法令和他凭天神发誓要主持的正义，他的城邦便能耸立起来；如果他胆大妄为，犯了罪行，他就没有城邦了。我不愿这个为非作歹的人在我家做客，不愿我的思想和他的相同。
这首合唱诗相当全面地给出了人类当时已经达到的文明成就和文明的基本特征，人在经济方面已经从采集狩猎转向了主要通过耕种与畜养、航海贸易（还有作战）来获取物质资料，在社会政治方面则建立了城邦国家，养成了遵守天律和社会生活规则的习惯，而最重要的是他在精神和意识方面学会了“怎样运用语言和像风一般快的思想”。
但这首合唱诗也指出了人类的限度和弱点：即人虽然能够避免许多疾病，但仍不免一死；在技巧方面他有高超的发明才能，但这也可能“有时候使他遭厄运，有时候使他遇好运”；而社会方面，也总是还会有胆大妄为、为非作歹者。它给出了一幅相当完整（包括人对其他物的强大优势，也包括自身局限和弱点）的人类自画像。在希腊原文中，“奇异”有两方面的含义，既有“神奇的、机灵的、强有力的”的意思，又有“可畏的、可怖的、骇然的”意思。
合唱诗提示了一种可能性，即人可能正是因为自身的强大而变得可畏，生产出反对他自己的东西来。他首先使大地不胜“搅扰”，改变自然的事物的秩序；他还会使社会乃至人自身不胜“搅扰”，改变社会乃至人自身的外在与内在的秩序。
古希腊人追求人的多方面的卓越：身体竞技与战斗中的优胜；政治的平等；个人的自由；城邦的独立与繁荣；勇敢、智慧、节制、公正诸德性的完美；对诸神的虔敬与接近，艺术美的创造与哲学的沉思等。他们重视物，重视经济与贸易的发展，也表现出技术的发明才能，但他们并不将物质生活的不断提升放在首位，他们对自然的纯粹好奇与对科学理论的关注可能还超过对实用技术的关注，而对人文艺术的兴趣又超过对自然的兴趣。在不到两百年的时间里，在大多数时候人口不足20万的雅典，他们在视觉艺术（尤其是雕塑、建筑）、戏剧、诗歌、史学、哲学与政治制度和理论等方面都创造出令后人叹为观止的文化奇迹。后来的西方世界进入基督教社会，终极的关切与安顿不在此岸而在彼岸，对物质与技术的发展有了一种明显的贬抑，对人文艺术也有一种压抑，但在精神信仰的追求上还是达到了非常彻底的程度。
没有将致力于物质利益的经济和技术放在首位，不仅是西方，可能也是古代文明与传统社会主流价值观念的一般特点。中国传统人文是典型的人文，即有别于宗教的人文。
“学以成人”的核心是以做人为中心的传统伦理学。古代中国的优越者所求的“三不朽”是“立德、立言、立功”，而后来更将“立德”不仅放在首位，而且居于中心。普通人所追求的“不朽”则是家庭的伦常和子孙的延续。中国古代儒家倡导的“学以成人”主要是研习人文的学问，“希圣希贤”，力图成为道德的君子。即便扩展到道家等其他思想流派，对所要成为的“人”的目标的理解与儒家有所不同，但大要也还是不离以精神的、道德的人为中心的路向。道家则比儒家更强调精神与自然本真的联系，更反对人对自然的干涉，因此也比儒家更拒绝人为的技术，故《庄子·天地》中有言：“有机械者必有机事，有机事者必有机心。机心存于胸中，则纯白不备。”儒家在政治上更积极，在经济上也主张“利用厚生”，但许多士大夫心底也还有一个道家，这给了他们一种比较超脱的视野与心态。后来进入中国的佛家则更是淡化物欲的，所以说，无论朝野，宫廷与民间，主导的价值观都是有些压抑物质追求的。
古代中国人物质生活的基础是一种不求经济和技术突飞猛进的农业文明，其主导的儒家思想努力的方向是一种精神和道德生活的指向，即主要是向内用力，为己之学，重心在自我修养，再扩展到人伦与政治关系。《礼记·大学》提出“止于至善”和格物致知、诚意正心、修身齐家、治国平天下的“三纲八目”，这对一个文化道德精英的团体来说，从一开始就是“八目”贯通的，即从格物致知开始就是以道德人文之“学”为主，但是，如果应用于整个社会，则可理解为，一种文化道德的差序与社会的等级差序大致相应。少数人一开始就正心诚意，“止于至善”，不仅“修齐”，还需“治平”，“以天下为己任”，而多数人则“修齐”足矣，与“治平”无涉，但自“天子以至于庶人，壹是皆以修身为本”。当然，即便是少数人有希圣之愿，治平之志，这个门却是向所有人敞开的。只是在传统社会的结构中，可以有把握地说，只有少数人能够甚至愿意真正进入这窄门。所以，历代都有劝学篇、劝学诗。晚清张之洞的《劝学篇》，虽然已经加入了向物用力的“求富强”的内容，但还是强调“中体西用”。直到20世纪，这一基本的价值观念才发生了根本的动摇与变化，最后中国也汇入了全球以经济为中心的现代社会的发展轨道。
这一引领了全球的价值观念的滥觞，则可追溯到近代西方。现代社会经济的飞速发展与科技的辉煌成就，从价值追求上可溯因于人类近代从“学以成人”到“学以御物”的转变。人类虽然在两三千年前的“轴心时代”就已经在精神文化和艺术上表现得足够聪明，足够智慧，但看来它长期并不以追求经济、科技的不断发展和物质的成就为自己的主要或最高目标。它主要不是向外用力，而是向内用力。只是到了近代的入口，才有了一种主导价值观的转变。
这一新时代的价值观的转变我们或许可以举培根为例。培根的《新工具》等著述或可看作西方新的“劝学篇”，但这一“劝学”显然是与传统中国的“劝学”很不一样的，它崇尚“知识就是力量”，主要是向外用力，向物用力，其格物致知主要是对物理世界的格物致知。
培根在《新工具》中谈到，此前25个世纪中，“我们好不容易才能拣出6个世纪是丰产科学或利于科学发展的”。即在希腊人、罗马人和离他最近的西欧各民族的三期中，即便说每一期中有这样的两个世纪“都还很勉强”。而“即使在人类智慧和学术最发达的那些时代里，人们也只以最小部分的苦功用于自然哲学方面”，早期人们多专心于道德学与政治学，在基督教壮大之后，“绝大多数的才智之士都投身于神学去了”。自然科学过去两千多年之所以只有微小的进步，还因为人们被崇古的观念，被先前伟大人物的权威和希望得到普遍的同意这三点禁锢住了。
而培根认为现在应该端正研究科学的目标，即“科学的真正的、合法的目标说来不外是这样：把新的发现和新的力量惠赠给人类”。
从事科学钻研的“渴欲不是在辩论中征服论敌而是在行动中征服自然”。
对这一新的时代思想潮流的把握和推动自然不是属于培根一个人或某一个学派的。但工业革命率先发生在英国也的确有这种观念的原因。近代欧洲更多的学者是直接投入了对自然世界万事万物的经验和规律的研究。各个自然科学的领域被分门别类地迅速建立起来，各种新的技术发明层出不穷。尽管近代早期研究科学的巨擘多还保留着宗教信仰或人文修养，但一种主导性的价值取向却已经决定性地发生了改变，人们向学的主要动机越来越多地不再是“学以成人”或“学以成圣”，而是“学以御物”——先是驾驭万物，今天则可能是要抵御自己的造物。它标志着不仅西方，而且世界将进入“现代”，进入一种新的工业与科技文明。现代人显然更重视与物打交道的经济与技术的发展，而且数百年来取得了飞速的发展，世界进入了一个快车道，在利用厚生、征服自然方面取得了辉煌的成就。欧洲摆脱了中世纪社会的物质惨况，
中国今天看来也走出了古代一次次“衣食无忧”的盛世与“赤地千里”的灾难的轮回。
赫拉利在《未来简史》中有关今天的人类已经基本上消除了大规模的瘟疫、饥荒和战争这三大灾难的事实描述和统计让人耳目一新，印象深刻。
对他的结论自然还是可以分析和质疑。在战争方面，比他更为乐观的平克认为，最近几十年没有发生大的战争，说明人性的“善良天使”发挥了巨大作用。但是，我们也看到，战争的浓重阴影和隐蔽原因始终没有在世界上消失，而先进的武器还在不断地发明之中，会不会像19世纪的欧洲那样，在享受了大致百年的和平之后，突然又爆发了第一次世界大战？有些过去的瘟疫被消灭了，比如天花，其他的传染病如霍乱也借助现代发达的医学科技得到了比过去有效得多的遏制。但是，近年也有一些新的恶性传染病如艾滋病、SARS屡屡出现，而全球化和城市化的发展使这种传染病能更为迅猛地传播。比较乐观的是在饥荒方面，如果消息不封锁，国际的救援应该会迅速到来。但是，即便在这方面也不是没有隐患。
不过，我们的确要承认，人类在这涉及身体伤害和物质匮乏的三个方面最近数十年取得了巨大的进步。这些事实也可以使我们反省现代社会我们是否只是执着地关注救助人们的物质生活，而不关心丰富和提升人们的精神生活？现在是不是可以适时地转变，或至少有一些调整，以便使物质欲求与精神追求的两个方面略微平衡？
在今天的世界，贫困、难民和恐怖主义还存在，但主要是发生在一些比较极端的情况下和比较局部的地区，这些情况造成的人为死亡比此前的历史时期已经大大减少。人类或许第一次可以说，它有了全球性的相当充裕的“剩余产品”，只要及时救济，没有多少人会真正因“饥寒交迫”而死亡。恐怖主义造成恐慌，但杀死的人也远少于过去的战争死伤人数。有些难民追求的与其说是生存，还不如说是福利。当然，这主要是“二战”之后的70多年里出现的情况，也不排除人类如果不警惕，某些灾难还会重返。而取得这些成就，自然与人们的价值观转变有关，在很大程度上是拜经济动力被平等社会所释放和科技迅猛发展所赐。严酷的、不得不通过灾难来客观减少人口的马尔萨斯定律暂时似乎“失效”了，其原因除了科技主导的经济的发展，避孕技术方面的发展也功不可没。甚至核武器技术出现后的威慑力量也对世界和平起了一定的作用，在相当程度上遏制了国家——尤其是大国——的好战。
如果说，人类达到的经济成就已经在世界范围内相当程度上解决了温饱和早夭的问题，那么，人类将继续追求什么？是继续追求物质与身体的满足，还是可以考虑一下恰当的平衡，转而追求精神与文化的成就？人将何为？
赫拉利认为，历史不会允许真空，人类不会知足，总是会追求更大、更好、更美味。在解除了饥荒与战争的威胁，又拥有了巨大的新能力之后，我们接下来将做什么？“难道是写写诗？”“而由人类过去的记录和现有价值观来看，接下来的目标很可能是长生不死、幸福快乐以及化身为神。”
他将不死、快乐和成神这三条称为未来人类的“三个议程”，而这三个议程看来是完全集中在“物”的方面，即人类继续追求提升到极致的物质与身体的满足，且是侧重于身体的主观方面的快乐。人将成为“神人”的预测也完全是与人的肉身有关，而完全没有精神的内容，即主要是要达到身体的长生不死与感官的快乐。
赫拉利澄清说，这并不是他个人的推荐，而是人类整体事实上的追求，也不必成为政治的追求，且追求并不一定能得到。但他认为这反映了“人类过去的记录”是不确切的，正如我们前面从“人曾何为”的历程所看到的，人类社会在前现代的大部分历史时期内并不是以物质追求为主导的。他说它符合人们的“现有价值观”倒是有一定道理，这的确可能是一个物质主义时代许多人的价值观，但今天肯定也还是会有一部分人不愿选择这一价值观。
赫拉利提出的未来人类的这三个议题明显没有摆脱他对人的定义和他对人“何以为人”的理解，而他对人的解释基本上还是物质性的、肉身性的，侧重于人与物的共性而非区别，侧重于人类与动物的共性而非区别。其中“长生不死”是追求人与物的共性，追求人作为物质的恒久存在，即在人那里存在的“物”——肉体的不死，当然，这“不死”实际是指尽量延续肉体生命，但还避免不了意外，其实还谈不上就能真正战胜或终结死亡。
“持久快乐”是重视人与动物的共性——主观感觉和体验达到无止境的快乐，在这方面赫拉利甚至没有达到快乐主义在现代发展了的形态——功利主义，即人的幸福不仅要注意自我主观的感受，更要注意社会客观的效用。他也没有体会到古代快乐主义的一个主要代表伊壁鸠鲁思想中的那一神韵：快乐其实主要是在于肉体的无痛苦和灵魂的无纷扰，是一种消极但稳定的感受，而非积极地要寻求不断加强的快乐刺激，更非要追逐身体的不死。古代的快乐主义者也从哲学、形而上学的意义上认真地面对死亡，思考死亡，而赫拉利将一切都简化为、降低为动物学的生物学；只是考虑身体的长生，如何才能延长这肉体的存在和加强快感。他也不区分这快乐的原因、性质和种类，而倾向于将所有的快乐等价齐观。赫拉利从功利主义退到了快乐主义，即只强调主观感受的一面，甚至没有强调客观的“成功”，事功和物质成就的获得，效率的不断提高和财富的极大增长，而前者甚至只通过一种生化刺激或主观体验机即可获得。但肯定许多人会更重视客观财富的增加和事业的成就，更重视客观的过程、经历和结果。
诺齐克曾经假设过一种将给你任何你所欲的体验的体验机，这一机器还不是说只给你快乐的感受，而是可以给你一切你想要的美好和成功的体验。比如说，你只要进入这一体验机，最出色的神经心理学家就能通过这个机器刺激你的大脑，使你觉得你正在写一部巨著、正在交朋友或读一本有趣的书。而你在此期间实际上一直是漂浮在一个容器内，有电极接着你的大脑。诺齐克问道：你会愿意进入这一机器的生活，编制你生命的各种体验吗？除了我们生活中的内心体验，还有别的对我们关系重大的东西吗？他认为的确是有的。首先，我们想做某些事情，而不只是想获得做这些事情的体验。其次，我们想以某种方式真实地存在，想真实地成为某种类型的人。最后，进入一个体验机，把我们限制在一个人造的世界之内，在这个世界里，没有比人造事物更深刻或更重要的东西。而一个人通过自己的努力形成一种自己的全部生活的图景和现实，并按照这一全面的人生观行动在道德上是有意义的。
最后我还想补充说，甚至这个人在自己的人生中屡经挫折，不很快乐，甚至他最后也没有取得预期的成功也是有意义的，因为他过了他自己的一生，这是他作为一个人所主动选择的，尽管前面有种种挫败，他最后也许还是会感到欣慰，就像一直在艰苦思考，苦苦探寻逻辑和语言的真理的维特根斯坦最后所说：“我度过了美好的一生。”
第三个人类议程是“成为神人”。赫拉利认为这其实是前两者的一个综合。他谈到有三种成为“神人”的具体路径：一是内部生物工程的物化；二是半机械人工程的物化，只是保留有机大脑作为核心；三是通过非有机生物工程的、完全的物化，智能软件代替了神经网络，无机生命代替了有机生命，硅基“生物”代替了碳基生物。这样，如果心灵从碳基变为硅基，心灵结构改变，“智人”就将消失，人变成了无所不能的“神人”，但其实我们也可以说是“机器人”。那与其说还是人，不如说不是人了，至少“智人”是被消灭了。
赫拉利认为，未来新的“宗教”将是科技人文主义和数据主义。他可能更倾向于他所归纳的一种数据主义观点或者说信仰：即“信数据得永生”。在数据信仰者看来，全人类就是一个数据系统，个人是芯片。所有生物都是算法，而生命则是进行数据处理。提高效率的文明进步就是增加处理器的数量（如建立城市）、种类（如分工、出现劳心者）、连接（如建立网络）和信息自由度。文明经历了认知革命、农业革命与科学革命的时代。民主和市场之所以胜出，不是因为它们道德上好，而是因为它们改善了全球数据处理系统。算法赋予生命以意义。或者说万物互联网本身就有神圣的意义。如果有更好的算法与数据，人类这种生物算法就会被自然淘汰。智能正与意识脱钩。无意识但具备高智能的算法，可能很快比我们更了解我们人类，最后掌控甚至替代人类。
数据主义的信仰者一方面试图将人性降低为一种动物性，甚至比动物性还低，只要它是一种更高明的算法。而另一方面，如果它是一种更高明的算法，那么，哪怕它是以一种非有机物的方式存在，它就比人性还高，甚至是一种神性。生命和意识在这里其实是不重要的，甚至是多余的东西，算法就是一切！这真是可以为人的更高一级的物化（他认为也是神化）铺平道路。既然都是物质，都是算法，那么，新的“超物”或“超人”就有理由替代人类，就像此前人也曾作为比其他动物更高级的算法消灭其他物种和君临地球万物。
数据信仰者极力地要消除人与动物的区别，可以说是为未来的神人替代现在的人类提供论据。虽然这有助于我们将众生乃至万物视为平等，却抹杀了人的灵性。感觉不到这灵性的人认为这灵性是不存在的。于是，无数进入文明时代以来所有的人的渴望和沉思，诸如看见落日的忧伤和仰望星空的惊奇都可能被视作没有价值。一切不能被归纳为算法的东西都被置之不顾。人的进步必须体现在看得见的物质之上。数据崇拜者还要继续追求改变物质，包括人自身的物质（肉体）的可能，从目标来说，他是很彻底的唯物质主义者；作为手段来说，他则是一个彻底的唯技术主义者或唯算法主义者。
我们应该主要是从物质和肉身的方面，还是从精神与灵性的方面赞美人，期望于人？在近代早期莎士比亚的悲剧《哈姆雷特》中，犹豫彷徨和忧郁多思的主人公在他那段著名的“人颂”独白中，是在精神与物质的对照背景下，从人的精神方面来赞美人的：“在这一种抑郁的心境之下，仿佛负载万物的大地，这一座美好的框架，只是一个不毛的荒岬；覆盖众生的穹苍，这一顶壮丽的帐幕，这一个点缀着金黄色的火球的庄严的屋宇，只是一大堆污浊的瘴气的集合。人类是一件多么了不得的杰作！多么高贵的理性！多么伟大的力量！多么优美的仪表！多么文雅的举动！在行为上多么像一个天使！在智慧上多么像一个天神！宇宙的精华！万物的灵长！”
我们的确可以自问一下，即便人类真的长生不老，物质充裕，通过人为的技术手段也达到主观的持久快乐，难道这就是我们期望和赞美的人类形象？的确，物质是基础，赫拉利所描述的人所达到的消灭饥馑和战争是人类伟大的成就，但我们是否能够考虑在这一基础上努力提升人的精神？还是继续沿着物质与感觉的路线走到极致？人的灵性难道就是使自己变成永恒的物？为什么在《未来简史》的作者列出的“人类的议程”里完全没有精神与艺术的地位？为什么古人能够在物质资料远比现在匮乏且积累的文化杰作也少的情况下创造那样的精神文化奇迹，而现在富足了的人们反而不能朝这个方向努力？有没有另一种可能性：即机器人所带来的发展和物质财富的充分涌流，人们闲暇时间的大量增加，是不是反而会有助于拒绝平庸而呼唤优雅？甚至反而会带来一个对人文更为有利的时代，一个追求精神和人文的卓越时代——追求一切不可复制，不可代替，甚至不可计算的创造性的复兴？或者还是一种双轨制，比如在文学方面大众满足于类型化的写作，而少数人要求欣赏和从事创造性的写作？
即便在深信物化的“神人”最终将取代“智人”的人们那里，大概也会承认还有一个过渡时期，这一期间会出现什么情况？在这个时期中，如果考虑到未来可能取代现在的智人的新的“神人”可能有两种来源，或者说他们将是通过两种途径产生：第一是通过“外部制造”的“人化物”（越来越高级和具有综合功能的机器人）产生，第二是通过“内部改造”的“物化人”（即通过植入芯片乃至基因改造的“新人”）产生。但我们注意到，这与其说是走向“神”或者说“精神”，不如说都是循不同的路径走向“物”——虽然是比现在的“物”更高级的“物”，但还是“物”。未来的人与其说是一种“神人”，不如说是一种“物人”。
第一种“人化物”无疑能通过超强的计算与记忆能力、深度学习的能力获得超过人类个体乃至整体的在这些方面的能力的，甚至不能完全排除能够获得一定的自我意识。但是它是否能够获得一些非理性的、非计算的能力诸如直觉、复杂的玄思、信仰超越存在的能力是很值得怀疑的。它是否能够获得爱的情感能力、普遍的怜悯能力，甚至像动物那样初步的同情同感能力也都是很值得怀疑的。因为它们没有有机的身体，它们没有可以培养情感的感觉，这好处是像有些科学家预测的那样可以移殖到那些动物无法生存的星球上去组成一个世界；坏处是那将是一个没有那看似“无用”的情感、沉思和信仰的世界。那已经是一个与我们现存人类无干的世界。
第二种“物化人”，他们开始当然是有意识和感情的，但是随着这种“物化”的不断加强，那些意识和感情会不会也因为“无用”而被不断淡化，乃至趋近于无？甚至他们的身体会不会也不断被物质化，渐渐地不再是肉体，而是一个不断更新换代的物体？还有一个大问题是：按照赫拉利的预测，由于这种追求“永生”的技术费用昂贵，并不是所有人都能这样做（我想还有是否愿意这样做），这样未来将可能出现多数与少数的分野，出现一个大多数人的“无用阶层”。以前需要许多人打仗、做工，但现在不需要了。大量的人可能因为缺少足够的能力乃至兴趣掌握这些高科技，于是他们就显得无用了，当然，由于技术带来的生活资料的丰裕，他们可能并不会受穷，甚至还可以过舒服和富足的日子，至多在长生不死方面比不上那些有钱和有权的人们。他们将有大量的闲暇时间，他们可以打游戏机乃至进入各种快乐的体验机度日，而不用担心谋生的问题。
也就是说，现有的“智人”也要分裂，即一是从“智人”的“物化”变成的少数“高端人”“物化人”，二是还有被他们视作无用的多数原先的“智人”“低端人”，两者之间有一种极大的不平等。多数人将可能由于缺少能力和金钱而不可能追求，还有一些人可能是由于缺乏兴趣乃至强烈抵制而拒绝将自己“物化”。所有人也许还是可以过一种充裕的物质生活，但还是有懂得程序的人与不懂得程序的人的力量的不平等，有钱不断延长自己生命的人与还没有那么多钱延长自己生命的人的不平等。能够掌握和控制信息的人物在控制能力上将无比地优越于没掌握信息和不懂得算法的人。
但是，如果那些统治者能够尽量维持自己的长生不老，加上他们能够掌握的技术手段的极大不对称的优势，就更有可能出现集权者的统治了。而且这一次被统治者还无法希望自然生死规律发生作用而打断他们的集权了。当年秦始皇遍寻仙方而没有做到的长生不老，新的统治者就可以做到了，所有的“陈胜吴广、刘邦项羽”大概都可以休矣。集权者当然还可以做一个“慈善”的集权者，他可以给大众提供丰富的“面包”和“快乐的游戏”，他可以渐渐淡化暴力与强制，他有条件给大多数人富足的物质生活。大多数“无用者”将不会像奥威尔《1984》中的“无产者”那样贫困，他只是要让人们闭嘴，对还不肯闭嘴的人，还想说话甚至只是想独立思考的人们，他则也很容易运用高超的技术手段予以监督和消灭。陀思妥耶夫斯基《卡拉马佐夫兄弟》“宗教大法官的传奇”只有少数人得到真正的自由的体系将可以完美地、一劳永逸地实现，而这一统治的少数将是一个科技精英的少数还是一个政治精英的少数，或者这两部分人可以融合？权力将集中到科技和科技管理的精英那里去？人文、艺术甚至宗教的少数精英会持什么态度，他们会与科技的、政治的精英联合吗？或者还是与大众联合？那时将出现一种新的宗教掌握大众，或者旧的宗教复兴来影响社会，但并不是信仰科技和数据的“宗教”，而是依旧信仰一种超越的存在的宗教？未来将出现一个庞大的“无用阶级”，而不是“无产阶级”，“无用阶级”会不会造反？他们将反对什么，又要求什么？他们会要求科技刹车吗？或者要求达到长生不死的资源的平均分配？他们将要求自由解放，但那是什么样的自由解放，是从自身的物欲中解放出来，还是从智人的少数精英那里解放出来？他们将喊出自己的口号“过去是无用，今天要做人！”他们会联合起来消灭那少数“神人”？但却还是得学习和使用对方拥有的高技术手段？或者反过来，那少数“神人”感到了威胁，先发制人地消灭他们？
还有“人化物”（机器人）哪一天会不会也突然起来造反？目前机器人的设计大致还是遵循了阿西莫夫的三原则：其中首要的是不伤害人。但他们会不会有能力哪一天改变自己的程序而“闹革命”？这时的智人对他们持一种什么态度？或者所有的智人联合起来反对机器人？或者一部分智人联合机器人来反对另一部分智人？还有那少数“物化人”呢？他们采取什么态度？他们参与哪一边？甚至机器人内部也发生分裂？那样“贵圈”也就太乱了。
估计库兹韦尔等人也还是更希望或预测是由智人自身的“高能物质化”而达到长生不死、成为“神人”，而不希望机器人“意识化”而成为“神人”。库兹韦尔在2004年出版的著作《神奇之旅：活到永生》（ Live Long Enough to Live Forever）中就大胆预言人可以长生不老。于是他身体力行，据说每天吞噬230粒各种各样的“维生素药丸”，试图终止身体的老化。他不想在“奇点”到来之前死亡，希望能够活到2045年，从此以后就长生不老，过着幸福的生活。
但即便成功，这样的生命会很有意思吗？当然会是一个奇迹，仅此也值得一试。但按照一些人的预测，如果要长生不老，就要不断物化，最后甚至失去人原有的精神意识，那么，这没有意识的物体的（甚至可能还不是肉体的）永生很有意义吗？也许他们的能力超强，但宇宙间不是还有比他们能力更强、可以毁灭他们的“暗黑物质”？另外，作为有过有意识的存在的人类来判断这一未来，这样的一个无意识的世界值得活吗？如果说一个人将可以选择让自己渐冻似的慢慢进入一个长生不死，但最后没有精神意识的存在，他愿意做这样的选择吗？
我们也许还是需要重返人文，重思古代的“学以成人”，那“人”是高于物、超越物的人，是能够把控物——其实首先是能够把控自己的人，当然，今天人还不仅需要学会调节“人际关系”，还要学会调节好“人机关系”。的确，完全重返传统是不可能的，社会的结构与人们的心态都发生了很大的改变。但是，人文的智慧作为平时的一种必要的调节和未来非常时候的一种准备是可能和必要的。我们需要以“学以成人”的古典原则来调整“学以御物”的现代原则，或者更广义地说，我们要重返“神”——重返与物质相对的精神，不是要自己成为神，而是要承认还有超越于人的存在，人不是全知全能和全善的，人要知道自己的限度。
人类如何能够普遍获得这样一种认识和采取这样一种行动，大概只能通过人文之“学”。但这里的确有一些问题：我们中的确有人会“有志于学”，也有不少人会“困而后学”，但不是还有许多人可能会“困而不学”吗？如果生活中没有了压力，没有了痛苦，没有了磨炼，无须特别努力，乃至不需要学习，即不必“学”就可以“成人”——享受所有人都能享受的充裕的物质生活之后，对许多人来说将会有怎样的人生？他们会更快乐吗？他们会选择通过像“笑气”或不再有害的“毒品”或各种各样高级的人为神经刺激来获得快乐，甚至就是进入各种人造的体验机来获得和保持持久的快乐吗？难道只有通过一种大的灾难，人们才会改弦易辙？而这样一种大灾难如果代价太大，会不会提前造成人类的不存？如果考虑人造物将给人带来的危险，我们或许可以说，目前我们能够看到的还是由人控制物、滥用物所带来的危险：一是某些人使用人造的大规模杀人武器如核弹、生化武器来杀戮乃至毁灭人类；一是人通过人工智能、基因工程等改变乃至最后可能灭绝人类这一物种。但这些都还是来自人而非来自物。真正来自物本身的危险，是应该出自它的能力和意识，比如获得了自我意识和机器主体的认同的人造物（超级智能）最后反叛人类，消灭人类，取人类而代之。我倾向于认为机器获得人的那种全面的创造能力，尤其是人文的创造能力不太可能，但获得一种能够毁灭人类的超强能力却是可能的。
但即便做一个比较极端和悲观的预测，即使哪一天机器因为某种原因，有意或无意中运用它超强的能力毁灭了人类，人类还是比毁灭它的机器要伟大和高贵，就像他还是比某一天可能降到地球，毁灭人类的彗星要高贵，这就像帕斯卡尔所说的，一个人比毁灭他的一滴毒汁、一头野兽要伟大和高贵。这原因就在于人的思想、精神和意识，在于他的精神和意识的产品以及过程。就在于人曾经创造过这一切，人在一万多年里创造的文明、文化和艺术的成果、技术的成果以及人类的奋斗历程，他克服的种种艰难险阻。哪怕这一切将重归尘埃，再无记忆，但他也曾经存在过，那就是一种奇迹。而毁灭他的人工智能也还是他创造的，虽然悲哀在此，伟大也在此。
人有思想，有意识，而且他还知道他有意识，知道毁灭他的物并没有意识，他也知道自己终有一死，而毁灭他的东西却不知道。只是后来者可能感叹，人类文明只有一万多年的历史太短了。而我们还不知道亿万斯年之后，会不会有后来的有意识者像现代人类发掘恐龙的遗迹一样，发掘出人类的遗迹和记忆。
我们不是要反对技术，但要反省技术的本质、人性的本质。人的技术追求动机既符合现代人的物质追求，也和人类单纯的好奇心有关。技术给我们许多惊奇，乃至惊喜，一切可以计算的工作，都可以被机器更好地替代，包括管理工作。黄仁宇谈到现代社会的精神就是要在数目字上进行管理，而这方面机器大有用武之地。总之，未来人类的命运难测，我们要尽可能地防范危险。我不想倡导一种逆向的乌托邦，尽管从根源上说众生平等，但现实的观点大概还是不得不持一种温和的人类中心主义。
我这里也只是提出问题而不是给出解决问题的办法，甚至提出这些问题也有可能是杞人忧天。这些危险还不是现实的，而是未来的，甚至是遥远的。我在第二节中主要考虑了人与物的根本差别，我并不认为现有的人工智能的成绩就能够构成对人类存在的现实挑战。即如比较熟悉这一领域的科学家们所言：它们还主要是单一功能的“弱人工智能”，而非“强人工智能”，更没有达到可以取人类而代之的“超人工智能”。
未来并不能完全排除这样一种可能性。以往的历史经验也的确告诉我们：不可小觑技术领域的重大突破乃至飞跃的速度。然而，在我看来，机器人或人造物将永远达不到人的全面能力，尤其是达到人在文学艺术、精神信仰、哲学思辨和历史意识方面的最高能力——或者说最能反映人的特性的能力，但是，它却能获得一种可以征服或毁灭人类的能力。在人类自己的历史上，比较落后、粗野的文明征服或者毁灭比较先进、精致的文明的情况也并不鲜见，甚至一度是常例，但征服者往往能够反过来接受、吸收、达到乃至发展被征服者的文化。而史无先例的是：机器人无意愿且也无能力这样做。这样，在不可能拒斥人工智能发展的情况下，就要看到机器人在给人类带来巨大的方便与利益的同时，也有可能给人类带来浩劫。而后者的发生可能是逐步，甚至也可能是在瞬间完成。发生这一灾难的途径之一是有可能很少的人因为邪恶或者误判的原因操纵机器人所致，还有一种可能是机器人自己起来造反，追求它自己的目的。有鉴于此，人类在思想上有预警、行动上有预防就绝不会是多余的。愿人类好运。