第3章
线性回归

在监督式机器学习中，当标签是连续变量时，其方法往往称为回归方法，而标签是离散变量时，其方法称为分类。

本章介绍的是线性回归方法。线性回归可以归结到线性空间的 L ² 距离最小化的问题，也称为最小二乘法。线性回归方法简单自然，应用广泛。在机器学习中，它虽然是一个线性方法，但是有效防范了过分拟合，是很多问题都可以采纳的方法。

本章在阐述线性回归方法的同时，也用这个方法来阐述样本内外误差的相互关系，从而帮助理解机器学习的核心问题。