概率图模型(probabilistic graphical model)是一类用图的形式表示随机变量之间条件依赖关系的概率模型,是概率论与图论的结合,图中的节点表示一个或一组随机变量,节点之间的边表示变量间的概率相关关系。根据图中边的有向、无向性,模型可分为两类:有向图、无向图。有向图又称为贝叶斯网,无向图又称为马尔科夫网。
数据流图是深度学习框架TensorFlow、Theano等编程核心,了解概率图模型有利于理解这些深度学习框架,此外,概率图模型中很多内容在深度学习中运用非常广泛,如隐马尔可夫模型(HMM)广泛运用于语音识别、模式识别、故障诊断等方面,条件随机场(CRF)广泛应用于自然语言处理。
下面我们首先简单说明采用概率图的一些优点,然后从大家比较熟悉的监督学习入手引入生成模型及判别模型,在此基础上简单介绍一些图论基础知识,最后根据模型是否有向,把概率图分为贝叶斯网络和马尔可夫网络,并分别对这两种网络进行简单介绍。