下载掌阅APP，畅读海量书库
立即打开
几十年来，科幻电影中都有人类与机器人或飞船上的计算机对话的场景。语音合成器和语音识别系统的发展使得这样的场景越来越有可能实现，而且比较僵硬的对话版本其实已经实现了。但在计算机能够理解自然会话之前，还有很多很大的问题需要克服。
最基本的问题在于，计算机的会话要依靠逻辑，而人类并非如此。当我们在使用语言时，并不是全靠字典和语法的。语言中充满了模糊性和非逻辑性，有效的语言交际依赖于说话人和听话人所拥有的共同文化背景。如果你问人类“你知道时间吗？”，可能就会得到“四点半”的答复，而计算机更可能会回答说它还有多少时间可以支配，并问你需要多少时间。即便你问得更精确一点，比如“你能告诉我时间吗？”，它也可能只会回答“能”。
当然，给一台机器编程让它们处理诸如此类的具体问题是很容易的，但语言中充满了这类模糊的说法，很难解决全部问题。理解一个人真正的意思需要了解真实的世界，这种了解要足够广泛，才足以消除语言的模糊性。而在可预见的未来，我们似乎还不太能给予计算机这样的知识。
如今，计算机下棋的本领几乎超越了所有人类，而且这个“几乎”似乎很快就会不可避免地消失。它们能更精确地预测天气，还可以做出更可靠的医学诊断。不过，这些成就都要归功于人类编程与惊人的计算速度的结合。我们知道计算机会怎么做，因为这是我们指示它们去做的；但其执行我们指令的速度和精确性比我们预期的效果更好。
但是，如果计算机能够自己编程，那又会发生什么呢？我们完全有理由把计算机设置成可以分析改善自身程序来提高效率的模式，如果这样做的话，它也许就能设计出更好的计算机，然后更好的计算机还会生产出更好的计算机，最后制造出一个超出人类理解能力的自我编程机器。
然而，一个机器能否跳出自己的操作系统，设计出一个更好的，这是一个需要好好揣摩的问题，答案则可能取决于下一代的操作系统。
从20世纪50年代开始，科学家和科幻作家就曾写到过“技术奇点”。这种奇点可能会导致世界由机器主宰，就像《终结者》和《黑客帝国》系列电影中描绘的那样。在这样的世界里，计算机的发展将远超人类智能，不仅能够达到我们无法理解的水平，还能自主做出决策，从而对人类造成威胁。
2014年，霍金曾论述过开发真正的人工智能的前景，认为其不仅能超越人类的智力，还能自行进行设计：“AI的成功研发将是人类史上的创举。但不幸的是，我们必须学会规避它带来的风险，否则它可能会成为我们最后的创举。”
不过，这个风险究竟有多大，取决于上述问题的答案。