CRF

条件随机场

条件随机场是无向图。条件随机场是给定一组输入变量条件下另一组输出随机变量的条件概率分布模型（马尔科夫随机场）。

CRF的blog

https://blog.csdn.net/dcx_abc/article/details/78319246
简单理解：举了序列标注的例子。有不同的特征函数来计算前后两个字符标注的特征值，最后将所有的特征函数对一个句子里所有的前后的字符标注的特征值相加作为score(衡量标准)。最后使用对所有的score做softmax。(通过这个softmax得到的值就是P(Y|X))。值最大的标注序列的score就是所需要的标注。
https://blog.csdn.net/weixin_41911765/article/details/82465697
很棒的blog，解释了如何推导到上篇blog提到的特征函数。并且还有之后如何通过前向和后向的方式来计算出概率。并且介绍了维特比算法如何计算出最后的最优路径。
  维特比计算简单地理解就是通过不断的迭代寻找最优路径。状态0到状态1的时候，每条路径都计算，并求出最大值。并找出该最大值情况下该状态变化的起点和终点。一路迭代到整个序列的终点。最后从终点根据不同状态的起点终点反推出一条最优路径。
通过前向和后向的算法的定义来计算条件随机场的概率。
#TODO 迭代优化法，牛顿法是真的看不懂。
学习方法：
除了以上两种方法之外，还有使用梯度下降的方法。对极大似然函数使用梯度下降，最大化极大似然概率。
#TODO CRF的概率计算也未理解（前向和后向）

CRF于HMM(隐藏马尔科夫模型)的区别

看完CRF的内容，甚是困惑，感觉CRF和HMM还有CTC都有些相似的地方。二者之间（三者）的区别又是什么呢？
就我个人理解下来，CRF有特征函数，而HMM仅仅是使用概率。HMM是有向概率图，而CRF是无向图。