特伦斯·谢诺沃斯基 (Terrence J.Sejnowski)
萨尔克生物研究所计算神经科学家,弗朗西斯·克里克讲席教授;合著有《骗子?情人?英雄?》( Liars, Lovers, and Heroes )
深度学习是当今机器学习领域的热门话题。神经网络学习算法兴起于20世纪80年代,但那时的计算机运算速度很慢,只能模拟几百个神经元模型,这些神经元模型是输入层与输出层之间的“隐藏单元”层。基于规则的人工智能是高劳动密集型的,基于实例的学习对于前者来说是一种很令人心动的替代方式。输入层与输出层之间的隐藏单元层越多,从训练数据中学习到的抽象特征就越多。在大脑10层深的皮层中有数十亿个神经元。当时的大问题是:随着网络规模和深度的增加,神经网络的性能可以提高多少?这不仅需要更强大的计算机性能,还需要更多的数据来训练神经网络。
经过30年的研究,计算机性能提升了100万倍,加上从互联网上得到的海量数据,我们现在知道了这个问题的答案:神经网络扩大到了12层的深度,有数十亿个联结点,它的表现超越了计算机视觉领域最好的目标识别算法,并且革新了语音识别技术。这是任何算法都难以胜任的,这表明它们可能很快就能解决更困难的问题。我们最近取得的突破,已经可以将深度学习应用于自然语言处理上。我们对拥有短期记忆的深度循环网络进行训练,训练它将英文翻译成法文,它表现出了高水平的性能;其他深度学习网络能够按照图像的内容添加标题,表现出了令人惊讶的敏锐智能,有时还十分有趣。
使用深度网络进行有监督的学习是一个进步,但仍然远未达到通用智能。它们表现出的功能与大脑皮层的一些功能类似。大脑皮层也是随着进化而扩大的,但在解决复杂的认知问题时,大脑皮层与大脑中的很多其他区域产生了相互作用。
1992年,IBM的杰拉尔德·特索罗(Gerald Tesauro)利用强化学习,训练了一个可以玩双陆棋的神经网络,达到了世界冠军的水平。这个网络会和自己下棋,它唯一得到的反馈是哪一方赢得了棋局。大脑利用强化学习对实现目标的策略进行排序,例如在不确定条件下寻找食物。在2014年被谷歌收购的DeepMind公司,利用深度强化学习来玩7个经典的雅达利(Atari)游戏。学习系统仅有的输入与人类得到的输入一样,仅仅是显示屏上的像素点和得分。这个程序在几个游戏中的表现都强于人类中的高手玩家。
这些进步在不久的将来会对我们产生什么影响?我们并不十分擅长预言一个新发明的影响,因为新发明通常需要时间来找到它的用武之地,但我们已经有一个例子,以帮助我们了解它会如何发展。1997年,当超级计算机深蓝击败国际象棋世界冠军卡斯帕罗夫时,人类棋手放弃尝试与机器对弈了吗?恰恰相反,人类使用国际象棋程序来提高自己的水平,因而国际象棋的世界水平提高了。
人类不是最快或最强的物种,却是最好的学习者。人类发明了正规的学校,在学校里学习多年,孩子们得以掌握阅读、写作、算术,并学得更多的专业技能。当教师与学生一对一互动,并为学生量身定制课程时,学生的学习效果最好。然而,教育是劳动密集型的,很少有人能负担得起单独授课。当前,绝大多数学校的大班教学是贫穷的替代品。计算机程序可以跟踪一个学生的表现,并提供一些反馈,用于纠正常见错误。但每个人的大脑都是不同的,没有人能替代一名已经与学生建立了长期合作关系的老师。是否有可能为每名学生制造一个人工导师?目前,我们已经在互联网上有了教师推荐系统,它会告诉我们:“如果你喜欢X,你可能也喜欢Y。”这是基于许多拥有类似偏好的学生的数据所给出的推荐。
在未来的某一天,每一个学生的思想都可以用个性化的深度学习系统进行跟踪。要实现对人类思想这个层次的理解,这完全超越了现在的科技水平。但Facebook公司已经开始努力了,它利用基于好友、照片等巨大的社交数据库,为地球上每个人创造了一套“思想理论”。
所以,我的预测是:随着越来越多的认知设备被发明出来,例如国际象棋程序和推荐系统,人类会变得更加聪明能干。