《数据科学统计计算》PPTcha7EM算法.pdfVIP

EM 算法的步骤和原理 几个特殊分布参数的 EM 算法 混合模型的 EM 算法 . 第七章 EM 算法 . . . . . . . 第七章 1 / 62 EM 算法的步骤和原理 几个特殊分布参数的 EM 算法 混合模型的 EM 算法 提纲 .. EM 算法的步骤和原理 几个特殊分布参数的 EM 算法 混合模型的 EM 算法 . . . . . . 第七章 2 / 62 EM 算法的步骤和原理 几个特殊分布参数的 EM 算法 混合模型的 EM 算法 主要内容 .. √ EM 算法的步骤和原理 √ 几个特殊分布参数的 EM 算法 (1). 两枚硬币出现正面概率的 EM 算法 (2). 多项分布参数的 EM 算法 (3). 正态分布参数 EM 估计 √ 混合模型的 EM 算法 (1). 一般混合模型的 EM 算法 (2). 高斯混合模型的 EM 算法 . . . . . . 第七章 3 / 62 EM 算法的步骤和原理 几个特殊分布参数的 EM 算法 混合模型的 EM 算法 问题提出 .. 基于样本观测数据估计感兴趣的参数，常用的方法之一是通 过极大化观测数据的对数似然函数，得到参数的估计。但是在有 些情况下，得到的数据不是完整数据，还有一部分隐含数据没有 观测到，或者说部分数据缺失。在很多情况下，不完整数据的极 大似然函数不容易得到，无法直接极大化对数似然函数得到感兴 趣的参数。 EM 算法（Expectation-Maximization Algorithm）就是用来 解决隐含数据存在情况下的参数估计问题。该算法基础和收敛有 效性等问题在 Dempster、Laird 和 Rubin 在 1977 年的文章 “Maximum likelihood from i