自适应信号处理 课件 ch06线性最小二乘滤波.pptx

第六章线性最小二乘滤波新工科建设：电子信息类系列教材自适应信号处理01问题的提出问题的提出前面几章讨论了最小均方误差准则的自适应算法。本章开始将讨论最小二乘准则下的最佳线性滤波问题及其相关的自适应算法。最小均方误差准则是在统计平均的意义下使滤波器输岀与期望响应误差的平方和最小，在平稳的环境下所得的滤波器是统计意义下最优的。而最小二乘准则是对一组数据而言的，其使滤波器输出与期望响应误差的平方和最小。因此，最小均方误差准则得到的是对具有相同统计特性的一类数据的最佳滤波器，而最小二乘准则得到的是对一组给定数据的最佳滤波器。对同一类数据来说，最小均方误差准则对不同的数据组将得到同样的最佳滤波器，而最小二乘准则对不同的数据组将得到不同的最佳滤波器。因此可以说最小二乘滤波器具有确定性。本章将讨论最小二乘准则下的最佳线性滤波器及其向量空间分析法。问题的提出问题的提出问题的提出式中的求和范围有以下4种不同情况。(1)计算全部误差的平方加权和。这就意味着在已知数据段的前、后都添加了零取样值，这种方法称为自相关法。(2)计算前一部分误差的平方加权和。这就意味着只在已知数据段的前面添加了零取样值，这种方法称为前加窗法。(3)计算后一部分误差的平方加权和。这就意味着只在已知数据段的后面添加了零取样值，这种方法称为后加窗法。(4)计算中间一部分误差的平方加权和。这就意味着在已知数据段的前、后都没有添加零取样值。这种方法称为协方差法。问题的提出02线性最小二乘滤波的正则方程线性最小二乘滤波的正则方程1正则方程的推导下面以前加窗法为例来推导线性最小二乘滤波所满足的基本方程。对于上一节提出的问题，我们知道要解决的问题是确定满足最小二乘准则的横向滤波器的最佳抽头权值。对于前加窗法来说，线性最小二乘滤波的代价函数为线性最小二乘滤波的正则方程1正则方程的推导线性最小二乘滤波的正则方程1正则方程的推导线性最小二乘滤波的正则方程2正则方程的矩阵形式线性最小二乘滤波的正则方程3根据数据矩阵构建的正则方程线性最小二乘滤波的正则方程3根据数据矩阵构建的正则方程线性最小二乘滤波的正则方程3根据数据矩阵构建的正则方程03线性最小二乘滤波的性能线性最小二乘滤波的性能1正交原理的推论线性最小二乘滤波的性能1正交原理的推论线性最小二乘滤波的性能2最小平方和误差线性最小二乘滤波的性能2最小平方和误差线性最小二乘滤波的性能2最小平方和误差04线性最小二乘滤波的向量空间法分析线性最小二乘滤波的向量空间法分析1向量空间理论在自适应信号处理的研究中，向量空间相关理论最早是由LeeMorfandFriedlander（1981年）提出的。向量空间法提供了分析某些自适应算法（如RLS算法、LSL算法及FTF算法）的有力的数学工具。本节将介绍线性向量空间的一些基本概念，并利用向量空间法来认识线性最小二乘滤波器，同时为后续最小二乘自适应算法的推导奠定基础。线性最小二乘滤波的向量空间法分析1向量空间理论线性最小二乘滤波的向量空间法分析1向量空间理论线性最小二乘滤波的向量空间法分析1向量空间理论线性最小二乘滤波的向量空间法分析2线性空间的子空间线性最小二乘滤波的向量空间法分析3投影矩阵线性最小二乘滤波的向量空间法分析4线性最小二乘滤波的向量空间解释前面介绍了M阶线性横向滤波器利用N个数据u(l)，u(2)。。。。(N)对期望信号d(1)，d(2)。。。。d(N)进行最小二乘估计的基本问题。下面将讨论利用向量空间的概念如何来进一步认识线性最小二乘滤波。为了表征数据的扩充及滤波器的阶递推，这里将可变数据长度用n表示，将滤波器的阶数用m表示则相应的线性最小二乘估计问题转化为利用已测数据u(1)，u(2)。。。。。(n)对期望信号d(1)d(2)。。。。。d(n)进行最小二乘估计的问题。线性最小二乘滤波的向量空间法分析4线性最小二乘滤波的向量空间解释线性最小二乘滤波的向量空间法分析4线性最小二乘滤波的向量空间解释线性最小二乘滤波的向量空间法分析4线性最小二乘滤波的向量空间解释线性最小二乘滤波的向量空间法分析4线性最小二乘滤波的向量空间解释线性最小二乘滤波的向量空间法分析5线性最小二乘数据扩充更新关系最小二乘格型滤波器和快速横向滤波器等都需要在新的数据到来时进行更新。本小节利用向量空间的基本知识推导最小二乘数据向量空间扩充更新的通用公式。这种更新的通用公式共有三组，分别为投影矩阵、投影向量和向量内积随着数据向量空间的扩充所得的新量与相应的旧量之间的相互关系式。灵活地应用这种更新的通用公式，就能方便地得到最小二乘递推中各种参量的更新关系。线性最小二乘滤波的向量空间法分析5线性最小二乘数据扩充更新关系设目前的数据向量空间为（U），与此相应的投影矩阵为Pu，正交投影矩阵为Pu1。现在假设有一个新的数据向量u加入原数据向量