PyTorch是Facebook AI试验室(Facebook's AI Research Lab, FAIR)于2016年9月发布的深度学习框架,它是自Torch移植过来的(以Lua程序语言开发),是深度学习最佳的入门框架之一,而且PyTorch官网很贴心地提供了中文版的说明文件。
本篇将介绍PyTorch的整体架构,包含下列内容:
(1)从张量(Tensor)运算,到自动微分(Automatic Differentiation),再到神经层,最后构建完整的神经网络。
(2)说明神经网络的各项函数,例如Activation Function、损失函数(Loss Function)、优化器(Optimizer)、效能衡量指标(Metrics),并介绍运用梯度下降法找到最佳解的原理与过程。
(3)示范PyTorch各项工具的使用,包含TensorBoard可视化工具、PyTorch Dataset/DataLoader、PyTorch Serve部署等。
(4)神经网络完整流程的实践。
(5)卷积神经网络(Convolutional Neural Network, CNN)。
(6)预先训练的模型(Pre-trained Model)。
(7)转移学习(Transfer Learning)。