自然语言处理之三:最大熵马尔科夫模型
来源:互联网 发布:苏小红c语言视频 编辑:程序博客网 时间:2024/06/01 15:02
最大熵马尔科夫,看了N遍了。终于有点眉目。
最大熵马尔科夫在建模的时候考虑的问题和ME(最大熵模型)其实是一样的。
同样是马尔科夫的三个基本问题。
问题1:给定观察序列O=O1,O2,…OT,以及模型 λ=(π, A, B), 如何计算P(O|λ)?
问题2:给定观察序列O=O1,O2,…OT以及模型λ,如何选择一个对应的状态序列 S = q1,q2,…qT,使得S能够最为合理的解释观察序列O?即argmaxss∈Q|T|P(T,S|λ).
问题3:如何调整模型参数 λ=(π, A, B) , 使得P(O|λ)最大?
1.对于第一个问题使用类似于Forward-Backward的过程来解决。
2.对于第二个问题使用类似于Viterbi的算法来解决。
3.对于第三个问题使用和ME模型训练相同的方法GIS来解决。
在建模的时候MEMM想优化的问题和ME很像。而在运用模型的时候和HMM很像。
- 自然语言处理之三:最大熵马尔科夫模型
- 自然语言处理4-最大熵马尔科夫模型(MEMM)
- 自然语言处理之seq2seq模型
- 自然语言处理之一:最大熵模型
- 自然语言处理(三)主题模型
- 机器学习与自然语言处理模型之一:最大熵模型
- 自然语言处理之二:隐马尔科夫模型
- 自然语言处理之语言模型综述
- 自然语言处理之n元语法模型
- 自然语言处理新天地(之三[1])
- 自然语言处理新天地(之三[2])
- 自然语言处理新天地(之三[3])
- 自然语言处理新天地(之三[4])
- 自然语言处理 之 语料库相关(三)
- 自然语言处理模型之GRU和LSTM网络模型总结
- 自然语言处理--信息模型
- 自然语言处理的最大熵方法 之1
- 自然语言处理系列之隐马尔可夫模型(HMM)
- 构造函数中抛出的异常
- 析构函数抛出的异常
- 多图详解 “Android UI”设计官方教程(1)
- linux c语言链接mysql
- Web缓存技术概述
- 自然语言处理之三:最大熵马尔科夫模型
- 我是新来的
- 分布式系统中要部署几台 NTP 服务器才够用?
- 一周入门WPF-Day1-创建你的第一个WPF应用程序
- Java IO (5) 漫谈IO实际应用
- 折腾win7:保护眼睛,修改资源管理器背景颜色 xp适用
- dpi
- 设置 VirtualBox 虚拟机访问局域网
- EXT打印