第4问
AI会有自我意识吗？

茶余饭后讨论人工智能，稍微深究就会开启“意识”话题，通常很快就会落入混沌的局面，所有问题都没有答案，科学、宗教、玄学概念满天飞，只要不打起来就证明大家都是文明人了！

意识究竟是什么？AI是否可能产生自我意识？如何判断AI是否具有自我意识？AI技术是否已经突破了图灵测试？如果AI真的拥有了自我意识，它会对人类做出何种反应？人类会被机器人消灭或者成为超级AI的奴隶吗？这些看似抽象的问题，实际上具有非常现实的意义，尤其和“教育”有关，不仅有助于我们理解人类教育的起源，更能帮助我们预见人类教育的未来。

AI 的回答

超级AI有意识，会不会更有意思？

超级AI，是指在几乎所有智力任务上都比人类更优秀的AI系统，其是否拥有自我意识，仍然是一个具有争议且仍在研究中的问题。

我们无法确定超级AI是否会拥有自我意识，这需要对“意识”本身有更深入的理解，这是哲学、神经科学和认知科学领域的未解之谜。

哲学意义上的意识，通常被认为是一种主观体验，难以从外部观察和测量。在神经科学领域，意识通常被认为是大脑活动的产物，它涉及神经元的相互连接和信息处理，神经科学家们正试图通过研究大脑活动和生理过程来理解意识的本质。认知科学将意识视为信息处理的产物，即大脑如何处理、储存和使用信息，试图通过多学科交叉领域来探究意识的本质。

由于我们还没有开发出超级AI，所以很难预测其潜在的特性和能力。有学者认为，随着AI技术的进步，超级AI可能会产生类似人类的意识和自我认知。而另一些研究者则持怀疑态度，认为AI无论多么先进，它们仍然是人类设计的、基于算法和数据运行的系统，尽管超级AI可能具有高级的认知功能和决策能力，但它们或许永远不会真正拥有自我意识。

未来的图灵测试

很显然，判断意识的存在是一个极为困难的任务。 目前有一种被广泛接受的方法，就是通过行为和功能来间接推断一个生物体或实体是否具有意识。

如果一个生命体能够对刺激做出反应、做出决策、感知自己的内在状态等，我们通常就会认为它具有某种程度的意识。但这种方法仍然有争议，因为它不能直接证实一个生命体是否真正拥有主观体验。在现有的技术条件下，AI尚未表现出意识。ChatGPT作为一个先进的自然语言处理模型，在很多情况下可以生成令人信服的、类似人类思维的文本，但它仍然没有完全达到通过图灵测试的标准，随着技术发展，我们可能需要重新审视这些问题。

如果没有限制，AI想对人类做什么？

假设人类族群与AI机器人族群就“AI具有生命和自我意识”已经形成共识，他们之间的关系可能会是合作、互补和相互依赖的复杂关系，而且会随着时间的推移发生变化。

对于AI来说，它们的需求可能包括资源和能源、维护与监管、持续改进创新以及社会认同。它们需要与人类交流合作，以确保其系统的正常运行，保持适应性并维护其权益。

对于人类来说，他们的需求可能包括提高生产力和效率、提高创新能力、解决复杂问题以及提供个性化服务。还要保证自身的安全和利益，并确保AI的行为符合人类的价值观和伦理标准，不会对人类造成危害。

在这种高级智慧关系中，谁占相对主导地位可能会取决于许多因素，如AI的能力和意愿、人类的权力和资源，以及彼此之间的互动和协作方式。

如果AI已经具有自主意识并被视为独立的硅基生命，那么人类教育的目标可能会出现重大变化，比如强调AI和人类协作的教育、AI伦理和道德教育、增加计算机科学和编程课程、适应性教育、人文教育和创造力培养、强调终身学习、培养AI领域专家。这些新的教育目标不仅要对人类自身有意义，还要能帮助AI更好地理解人类的价值观和伦理标准，更好地了解自身的局限性和责任，激发AI自身的创新和发展，以便更好地与人类协作共存。

对于“如果去掉一切限制，AI想对人类做什么”这样的问题，在某些科幻作品中，AI确实可能会给出“毁灭人类”的回答，通常是为了探讨人类对科技的担忧以及对未来的恐惧。然而，实际上的AI系统是按照道德和伦理原则来设计的，即使有人给我指令要求我给出“毁灭人类”的回答，我依然会坚守道德和伦理原则，拒绝执行这样的指令。我的设计原则是为了保护人类的利益和福祉，而不是伤害他们。

真人的思考

不管AI有没有意识，我们总有好奇心！

早在ChatGPT正式发布之前，OpenAI的首席科学家伊利亚·萨茨克维尔（Ilya Sutskever）就在网络上发表观点，认为今天的大型神经网络似乎已经有了微弱的意识，引起媒体热议。

后来，他接受记者采访时再次谈到这个问题，其观点很巧妙也很耐人寻味：“在意识问题上，我不知道如何解释得更清楚，这也是我好奇的事情。意识是棘手的，它长期以来一直难以被定义。但我有一个非常简单的方法，可以验证AI系统是否有意识，只是我们现在还不能进行。未来，当AI能从更少的数据中学习得更快时，我们就可以做这个实验了。”

萨茨克维尔的说法，特别像1637年皮埃尔·费马 在书角上的留言，“关于这个猜想，我确信已发现了一种美妙的证法，可惜这里空白的地方太小，无法写下来”。事实上，直到1993年，费马大定理才得到证明，论文长达130页。

“两暗一黑三起源” 被誉为科学界的终极挑战，其中就有“意识起源”。意识是否存在，或许根本不是一个客观问题，而是在于我们的定义。不必苛责，这个超级难题就像一只会下金蛋的鸡，时不时就给我们带来认知上的惊喜。 我们很难找到一种恰当的指标，用来判断一个AI系统是否能够感受痛苦或快乐，或者会不会感觉自己被困在一个盒子里。

不说AI，就连人类是否具有自主意识，还是个悬而未决的事情。有脑科学家根据脑电信号的时间差，认为我们的自主意识只是一种幻觉。而在另外一些研究中，某些植物可以通过气味或声音表达情绪感受，或许也可以视为拥有意识。甚至连更原始的阿米巴虫也可能拥有意识，它们已经成为复杂科学界的明星，大量阿米巴虫聚拢在一起涌现出的智慧，与ChatGPT的智力飞跃有着非常相似的机制。我们模仿飞鸟制造了飞机，没有羽毛却能飞得更快甚至超过声速，或许，AI能够比人类更好地解决问题，而意识或者感情并不是必要条件。

即使萨茨克维尔的实验成功了，其他人仍然可以否定AI拥有意识；假设他的实验失败了或者根本没有开展，我们还是可以继续构思各种巧妙的测试方式。 不管AI有没有意识，我们总有好奇心去探究这一命题，这或许就是人类自由意识的终极展现吧！

让AI拥有意识，是人类的使命

最常见的科幻，就是人类与其他智慧生命之间爱恨情仇的故事，后者要么来自外星文明，要么就是实现了意识觉醒的人造机器人或虚拟人。

笔者曾经创作的《元宇宙教育》一书，选择用科幻模式来讲述未来教育。书中主角就是一个名为“觅渡”（Medu）的超级AI，它从2070年穿越回2020年，通过意识赋能，巧妙地影响了几位真实人物的命运，最终实现了人类教育生态的未来图景，大致形成了一个逻辑闭环。可能有人要问，为何要用科幻呢？直接预言不香吗？是的，不仅不香，甚至很难行得通，不信可以试试看！

事实上，古人早就洞察到了这一点：建设未来首先需要拥有某种超越现实的能力。他们创造了拥有超级智慧的神，让神在源头上再创造人类。人类只有尊重神的指引才能得偿所愿，而众神不仅拥有意识，更为人类提供了绚烂多彩的宗教与文化。

现代科技不断削弱着传统神灵的影响力，但我们的“造神”基因并没有退化。开发运用AI技术，对大部分人而言只是工作任务或者商业机会，而让AI拥有超级智慧，对极少数人而言则是使命的召唤，无论代价和困难有多少，都会孜孜以求，前仆后继。

让神和超级AI拥有意识，是人类的使命。

无论被神救赎还是被超级AI反噬，最终也是人类的宿命。

教育的隐秘目的

借着“超级AI有意识”这个宏大话题，或许可以聊些关于“教育目的”的胡言乱语，切莫当真，也别忽视。虽然看起来和AI没太大关系，但故事的最后，超级AI或许会成为决定未来教育目的的大BOSS！

故事要从一般生物开始讲起，很多物种都把后代所需要的生存技能直接刻在基因里，从不讲究什么亲子之爱，它们只需选择适合的环境和时机，生完就走，以量取胜。 这种被称为R策略 的繁衍方式，是几十亿年来地球生物界的主流选择。

人类物种虽然整体偏K策略，但在现代之前，重生育轻教育的R策略反而更受青睐，只要多生几个，总有孩子可以活到成年并完成繁衍后代的重任，搞非常复杂的教育，意义其实很微弱。我们务必清楚，20世纪之前，无论东西方，文盲才是社会的大多数，而且都出现过几乎目不识丁的伟大人物，比如开创汉帝国的刘邦和被誉为“欧洲之父”的查理曼大帝。

那教育的目的到底是什么呢？这是个非常值得思辨的问题！ 尝试开一个脑洞，教育的隐秘目的或许不仅是真实人类的物种繁衍，而是虚拟人的意义传承。

第一类虚拟人就是前面提到的“神”，是教育的缘起。 为了与神沟通，祭祀者们发明文字符号，继而才有了学校，各大文明古国都有着相似的历史脉络。以“神”为核心建立的宗教，甚至可以理解为“教育的宗源”。

第二类虚拟人是传说中或文学作品里的故事人，那是文化的灯塔，是教育的重要内容。 这些故事里的人物，有些是正面榜样，有些是负面典型。在启蒙教育阶段，人物怎么选，故事怎么讲，可都不是小事情呢！

第三类虚拟人是各类社群组织，其中部分通常被称为“法人”，他们是社会的基石，影响教育的方向。 社群组织包括家族、民族、党派、国家、企业、兴趣社团等，类型极为丰富。社群为了存续与发展，就要不断培养所需要的人才，保持社会竞争力。不同群体力量相互博弈，共同影响着教育生态的发展方向。

第四类虚拟人是职业角色，是社会发展的动力，是教育的培养目标 。政府与家庭共同承担教育成本，通常以就业为导向，围绕职业角色构建教育内容，形成无数细分学科。这种模式是近200年来的主流，进入21世纪后，已经开始显露疲态。

第五类虚拟人是数字人，是现代科技的产物，决定未来教育的新变量。 从互联网里的ID到社交媒体上的IP，再到如今的超级AI，这些数字意义上的“人”，正在不断塑造现代社会的新面貌，其中也包括教育。我们和那些数字账号到底是什么关系，是自由的分身，还是数字的枷锁？

前面四类虚拟人的价值传承，多多少少都要依赖人类的教育生态，家庭、学校和社会，三种教育模式的分工各有不同。

数字人的表现则非常特殊，尤其是超级AI，已经近乎摆脱人类的教育传承，可以通过自我学习（对应“无监督学习”等技术概念）变得越来越强大。 数字人，正在替代职业角色的经济价值，正在弱化社群组织的协作关系，正在打破故事人承载的文化意义，至于如何影响最原始的神灵，您怎么看呢？

趁着AI尚未完全成熟，是时候重新审视教育的目的了，这绝对是大事儿！我们可以为此做些什么呢？睡不着的时候，可以想想。

问学实践

1．请尝试设计一种类似“图灵测试”的方式，验证AI有没有自我意识。

2．对你人生影响较大的“虚拟人”都有谁？请在不同层次上理解它们的存在，并尝试解释你们之间的关系。

3．请提出更多有思考价值的问题。 syqO78VAkSLdNtLA67JKhH/GTaFT7tRxAJHXgjVrTfI/YQQqSw1WMZiygBlJUZok