2.1节首先介绍了人工智能、机器学习、神经网络和深度学习这几个易混淆的概念;然后介绍了机器学习中最基本的线性回归及其训练和使用。在此基础上,2.2节介绍了最简单的神经网络——感知机的工作原理;随后扩展到两层和深层的神经网络;最后介绍了神经网络的发展历程。2.3节介绍了神经网络训练中正向传播和反向传播的计算过程。2.4节介绍了神经网络的设计原则。2.5节介绍了神经网络实验中常常出现的过拟合现象和应对过拟合的正则化手段,2.6节介绍了测试神经网络准确率时常用的交叉验证方法。了解了这些技术之后,读者可以动手做一些神经网络实验。第一次做实验往往效果不好,这时可以尝试不同的网络拓扑、激活函数、损失函数。如果神经网络效果仍然不好,出现了过拟合,可以用正则化方法来解决。
本章只是提纲挈领地介绍了神经网络相关的基础内容,感兴趣的读者可以阅读相关方向的论文来了解更具体的相关知识,包括正则化、损失函数等。