概率潜在语义分析的算法.pptx

  1. 1、本文档共53页,可阅读全部内容。
  2. 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多

PLSA概率潜在语义分析的算法汇报人:朱曼秦文静

Jensen不等式EM算法概率潜在语义分析的算法实例本章小结

01Jensen不等式

Jensen不等式

?

02EM算法

EM算法引入

边缘概率分布EM算法的推导

?凸函数凹函数,符号变化????=1

条件概率分布到联合概率分布P(AB)=P(A|B)P(B)

03概率潜在语义分析的算法

概率潜在语义分析的算法(生成模型)

??

??

??

???

概率潜在语义分析的算法(共现模型)

???

?E步

M步

PLSA的优缺点PLSA的优点:(1)定义了概率模型,而且每个变量以及相应的概率分布和条件概率分布都有明确的物理理解。(2)相比与LSA隐含了高斯分布假设,PLSA隐含的多项分布假设,更符合文本特性。(3)PLSA的优化目标是KL散度最小,而不依赖于最小均方误差等原则。

PLSA的缺点:(1)参数随着文档和单词个数递增,参数也会随着线性增加,容易发生过拟合问题。解决方法:降低模型参数个数(LDA)或者引入稀疏表达的方法,限制噪音的影响。(2)无法给训练集之外的文档分配文档-主题权重。(3)EM算法需要反复的迭代,计算量大

04实例

实例

05本章小结

小结

小结

小结

THANKYOU谢谢汇报人:朱曼秦文静

文档评论(0)

185****3828 + 关注
实名认证
内容提供者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档