多元统计分析多元统计分析 (44).ppt

应用多元统计分析第八章、因子分析第2讲、正交因子模型 设X=(X1,…,Xp)′是可观测的随机向量, E(X)=μ, D(X)=Σ. F=(F1,…,Fm)′(m<p)是不可观测的随机向量,E(F)=0,D(F)=Im 又设ε=(ε1,…,εp)′与F相互独立,且E(ε)=0, D(ε) = diag(σ21,…,σ2p ) = D(对角阵). 假定随机向量X满足以下的模型： X1-μ1=a11F1+a12F2+…+a1mFm+ε1, X2-μ2=a21F1+a22F2+…+a2mFm+ε2 , …………………………… (8.2.1) Xp-μp=ap1F1+ap2F2+…+apmFm+εp, 则称模型(8.2.1)为正交因子模型. 用矩阵表示为其中 F=(F1,…,Fm)′,F1,…,Fm称为X的公共因子; ε=(ε1,…,εp)′,ε1,…,εp称为X的特殊因子; 公共因子F1,…,Fm对X每一个分量X1 ,X2 ,…,Xp都有作用,而εi只对Xi起作用.而且各特殊因子之间以及特殊因子与所有公共因子之间都是互不相关的 . 模型中的矩阵 A=(aij)(p×m)是待估的系数矩阵,称为因子载荷矩阵. aij(i=1,…,p;j=1,…,m) 称为第i个变量在第j个因子上的载荷(简称为因子载荷)，或称为第j个因子为预测第i个变量的回归系数.这里有几个关键性的假设： 1. 公共因子Fi互不相关，且 D(F )= Im 2. 特殊因子互不相关，且 D(ε)=diag(σ21,…,σ2p ) = D 3. 特殊因子与公共因子不相关，即 COV(ε,F) = Op×m . 在主成分分析中，当讨论用前m个主成分表示原始变量的模型时，残差通常是彼此相关的. 在因子分析中，特殊因子起着残差的作用，但被定义为彼此不相关且和公因子也不相关.而且每个公因子假定至少对两个变量有贡献,否则它将是一个特殊因子. 在正交因子模型中，假定公因子彼此不相关且具有单位方差,即D(F)=Im. 在这种情况下，由 Σ=D(X)=D(AF+ε) =E[(AF+ε)(AF+ε)′] =AD(F)A′+D(ε) =AA′+D, 即 Σ-D = AA' (8.2.3) (8.2.3)称为正交因子模型的协方差结构. 由（8.2.3）可知，X符合正交因子模型意味着第j个变量和第k个变量(j≠k)的协方差σjk由下式给出: (Σ= AA' +D) σjk=aj1ak1+aj2ak2+…+ajmakm (j≠k) σjj = (aj1)2+ (aj2)2+ …+ (ajm)2+ σj 2 如果原始变量已被标准化为单位方差，在(8.2.3)式中将用相关阵代替协方差阵.在这种意义上，公共因子解释了观测变量间的相关性. 小结掌握：1、正交因子模型公共因子特殊因子因子载荷矩阵假设：(1) D(F )= Im(2) D(ε)=diag(σ21,…,σ2p )= D(3) COV(ε,F) = Op×m .2、正交因子模型的协方差结构 Σ=AA′+D,