在本章中,在介绍人工神经网络的架构和各个组成部分之前,我们理解了为什么需要使用单个网络同时执行特征提取和分类。接下来,学习了如何将网络的各个层连接起来,然后进行前向传播,计算出网络当前权重对应的损失值。之后实现了通过反向传播来学习优化权重以最小化损失值的方法。而且,了解了学习率如何在实现网络最优权重方面发挥作用。此外,实现了网络的所有组成部分——前向传播、激活函数、损失函数、链式法则和梯度下降,从零用NumPy更新权重,从而为接下来的学习打下坚实的基础。
在理解神经网络工作原理的基础上,我们将在下一章中使用PyTorch实现一个神经网络,并在第3章中深入探讨可以在神经网络中调整的其他各种组件(超参数)。