模型可解释性的本质，是用通俗易懂的语言描述模型的能力和逻辑。许多传统的机器学习方法具有非常好的可解释性，比如决策树，如图3.1所示。通过查看决策树每个分支节点的决策过程，可以了解模型产生结果的细节。
图3.1 决策树模型
在模型可解释性的研究领域，可视化是非常直观的方向，其便于直观了解数据的分布情况、模型的结构、特征的分布等。本章重点介绍模型结构可视化及模型可视化分析相关的内容。 fPlVD3N59AmkGO1i+ZfUmHrhPkB5udw5lEKi1QPFNj+s608Izgf5pzVO3lrBdTWj
