第3章

线性代数

机器学习、深度学习的基础除了编程语言外，还有一个就是应用数学。它一般包括线性代数、概率与信息论、概率图、数值计算与最优化等。其中线性代数又是基础的基础。线性代数是数学的一个重要分支，广泛应用于科学和工程领域。大数据、人工智能的源数据在模型训练前都需要转换为向量或矩阵，而这些运算正是线性代数的主要内容。

如在深度学习的图像处理中，如果1张图由28×28像素点构成，那这28×28就是一个矩阵。在深度学习的神经网络中，权重一般都是矩阵，我们经常把权重矩阵W与输入X相乘，输入X一般是向量，这就涉及矩阵与向量相乘的问题。诸如此类，向量或矩阵之间的运算在深度学习中非常普遍，也非常重要。

本章主要介绍如下内容：

·标量、向量、矩阵和张量。

·矩阵和向量运算。

·特殊矩阵与向量。

·线性相关性及向量空间。 3sgZcRugEYFYSBrVd0UlgKV+mn0swk0yc0d15L5T9u34vznZgCBSTXS6RWjwvcwD