下载掌阅APP，畅读海量书库
立即打开
神经网络模型具有非常大的参数量，在进行前向传播时也有很高的特征维度，因此可以可视化的对象包括参数与特征。对不同的目标进行可视化，可以从不同角度获得分析结果。
模型结构可视化：神经网络模型通过各层的连接，构成一个复杂的有向图，通过对模型的结构进行可视化，可以获得模型的完整拓扑结构，从而对层与层之间的关系有更多直观的理解，为后续模型的改进与瓶颈分析提供参考，这一点对于包含较多分支的模型尤其关键。
模型特征可视化：当前主流的神经网络都是前向模型，输入经过多层传播后输出结果，每一层的特征直接反映了计算过程，对模型特征进行可视化，可以观察数据在各层的分布情况，辅助分析是否提取了有效的信息，从而对结果做出最直观的解释。
模型参数可视化：当前在以CNN为代表的模型中，绝大部分参数都集中在卷积核，而卷积核组类似于传统图像处理中的滤波器，不同的卷积核代表了不同的滤波模式，单一的卷积核及多个卷积核的组合，实现的就是特征提取的功能，其可以反映模型学习到什么特征，这是对模型最本质的解释。
输入模式可视化：当将输入无差别地输入模型时，不同的像素值会有不同的响应，模型应该学会处理前景目标等重要内容，丢弃背景等无关内容。通过对输入模式进行可视化，可以评估模型是否真正学到高层的语义信息。