第五章 信号处理中的一些非线性问题,绪论,本章介绍非线性问题的以下几种求解方法：1.线性化（例如台劳展开并略去高阶项，同态变换）；2.迭代法计算；3.用简单表示复杂，即逼近（例如台劳展开，伏特拉展开，人工神经网络等） 非线性现象在自然界到处存在，比线性现象多得多，也复杂的多可以说，“线性”仅仅是一种，而“非线性”则是无穷多种的统称难于用统一的方法来研究在信号处理中，也存在着大量的非线性问题我们在这一章里只是有选择的介绍几种经典的方法通常，一个信号由不同的成分构成，而且构成的方式也不尽相同例如它可以是真实信号 和噪声 相加而成,5-1 同态滤波,（5-1-1）,或者更广一些，如3-3-3中所讨论的线性模型：,（5-1-2）,也可以是如例3-5-1（回声干扰）所示的卷积形式：,（5-1-3）,还可以是乘积形式：,（5-1-4）,如此等等对于线性模型（5-1-1）和（5-1-2），可用通常的线性估计的方法来进行滤波对于模型（5-1-3）和（5-1-4） ，由于是非线性的，故需用特殊的方法来消除噪声例如第三章中的最小二乘滤波和第四章的维纳滤波都可用来恢复式（5-1-3）中的 本节介绍的同态滤波方法，对于模型（5-1-3）和（5-1-4）都是适用的，而且对于不同的成分可以起到分别处理的作用。
在做精确描述之前，我们先简述同态滤波的思想方法以乘积模型（5-1-4）为例，考虑到对数能将乘积转换成相加，从而成为线性模型，于是可按照图5-1-1所示的过程进行滤波，其中 和 为根据需要而选取的参数光学原理告诉我们，一幅图像（离散的）其亮度函数 可表示为,（5-1-5）,其中 称为照明成分， 称为反射成分，它们都是取正值的函数实验表明，照明成分 主要由图像 的低频成分组成，它反映图像亮度的动态范围反射成分 主要由图像 的高频成分组成，它反映画面上物象边缘的突变部分若将此 输入到图5-1-1所示的乘积同态系统，则相应的输出为,（5-1-6）,当参数 ， 取得满足 ， 时，该乘积同态系统的滤波效果是：,一些代数概念,为了确切的叙述同态滤波，需要引进一些简单的代数概念，它们属于抽象代数的范畴设 为一给定的非空集合，如果对 中任意两个元素 和 所构成有序对,既使照明成分压缩，又使反射成分增强由此可见，此种滤波方法可以同时对照明成分和反射成分分别进行不同的处理图5-1-1 乘积同态系统,我们把线性环节 之前的环节称为该系统 的特征系统，常记为 。
这里 ，之后 的环节称为逆特征系统，记为 这里 都有 中的元素 与之对应，便称在 中定义了一种运算若该运算定义为普通的加法，则 ； 若该运算定义为普通的乘法，则 ， 如果记该运算为 ，则可以写成 例如对于普通加法， ， ；对于普通乘法， ， 在抽象代数中，如果在一个集合中定义一种（或几种）运算，且这些运算满足一定的运算规律，则常称此集合为一个代数，例如线性空间、群、环、域布尔代数等都是代数设 和 为两个非空集合如果对于 中的每一个元素 均有一个确定的规则使得 中有一个元素 与之对应，则称这种对应关系定义了一个从 到 的一个映射若记此映射为 ，则 和 对应关系记为 ，如果对于 中的任意元素 ，在 中至少有一个元素 与之对应： ，则称映射 是满射现有集合 和 分别定义有运算 和 如果从 到 的映射 都是满射，而且对于任意的 均有等式,（5-1-7）,则称 是 从 到的同态映射在信号与系统的分析中，通常涉及的 是系统 的输入信号的集合 和输出信号的集合 。
如果这时 是从 到 的同态映射，则称为同态系统，并记为 例 5-1-1,设 是双边无穷序列，其傅里叶频谱 存在这样的序列全体为 中的运算定义为序列卷积定义集合 ，其中的运算定义为普通的函数相乘，,（5-1-8）,则映射 是同态映射，因为根据卷积定理有 从而 是个同态系统5-1-9）,显然，对于卷积定理成立的变换（离散和连续的傅里叶变换、z变换等）都可以导致类似的同态系统对于如模型（5-1-3）所示的卷积型信号，易知可通过傅里叶变换或z变换环节，这样做就把卷积化成乘积相应的滤 波系统如图5-1-2所示，它称为卷积同态 滤波系统，其中，线性环节 之前有三个 环节： ， ， 表示傅里叶变换输入信号为傅里叶频谱存在的信号序列记这种序列的全体为 其中的广义加法为卷积，关于数乘，当 为自然数时， 即连续 次卷积，当 不是自然数时， 于是卷积同态系统的特征系统 由 ， ， 串联而成，它是广义线性,（当然 也是）映射卷积同态系统常用于语音处理，消除回波干扰等在实际中，卷积同态系统的线性环节常取做如下形式： 其中 为序列。
显然这是普通的线性映射，根据的取值情况，又可将分为以下几类：,图5-1-2 卷积同态滤波系统,1.低通,2.高通,3.带通,4.点阻,5.梳状,5-2 台劳展开的应用,推广的卡尔曼滤波,这一小节研究非线性卡尔曼滤波设非线性系统的动态方程和观测方程为,（5-2-1）,（ 5-2-2）,其中 为 时刻的状态向量（n维）， 为 时刻的系统噪声（p维）， 为 干扰矩阵， 为观测向量（m维）， 为观测噪声如4-7中那样，假定 和 都是零均值的白噪声这里非线性是指状态向量而言的现在假定 是差分方程,（ 5-2-3）,的解，即,（ 5-2-4）,将 和 按 作台劳展开,（ 5-2-5）,（ 5-2-6）,舍去高次项，代（5-2-1）和（ 5-2-2）， 再令 ， 并将 以 代替（ 本身是误差项，所以,这样是合理的），便得到,（ 5-2-7）,（ 5-2-8）,其中， ， 于是就化成了线性形式的动态方程和观测方程，与式（4-7-1）和（4-7-2）相比只是 和 都换成了 和 而已于是可以利用卡尔曼滤波方程（4-7-25）对 （从而对 ）进行最佳估计。
我们看到在用台劳展开进行线性化的时，都需要有一个展开的基准例如式（6-2-9）中的 ，式（6-2-13）中的 式（5-2-5）和（5-2-6）中的 对于 ，我们已经指出用迭代法来求对于 ，可以取为关于 的某种先验估计，或者关于 的预测 ，或者关于差分方程（5-2-4）的迭代值，等等 当然最好取成函数方程,,,,,,（ 5-2-9）,的解，如果其存在且可求5-3 非线性迭代,本节介绍求解非线性方程时常用的迭代格式-不动点迭代法及其有关的一些问题不动点理论是泛函分析的重要内容之一它在计算技术中有着广泛的应用设有函数 ，如果 满足 ，则称 是函数F的不动点因此求F的不动点，实际上就是求方程,（ 5-3-1）,的解，而且它可以按迭代格式,（ 5-3-2）,来进行计算，只要此迭代格式收敛当然 并不是所有形为式（5-3-2）的迭代格式都可用来解方程的例如对于代数方程,（ 5-3-3）,可化成 ,则求解方程（5-3-3）就是求 的不动点为此，设 ，利用迭代格式 ，得到 ， ， ， ，…，毫无结果。
这表明此迭代格式是无效的，然而若把方程(5-3-3)改写成,（ 5-3-4）,取 ，则利用迭代格式 可得到依次为0.58,0.64,0.68,0.71,0.73,0.74,0.75, 0.75,…，因此 是原方程(5-3-3)的一个近似解由此产生一个很自然的问题：什么情形下迭代格式 是收敛的，而且收敛于方程 的解？我们在更为广泛的情形下即巴拿赫空间进行讨论设 是巴拿赫空间， 是映 为 的算子设 是算子 的定义域中的一个子集如果存在常数 ，使得对任意的 均有,（ 5-3-5）,则称 是集合 上的压缩算子，称 为压缩 系数,压缩映像原理：设算子 映巴拿赫空间 中的闭集 为自己，且 为 上的压缩算子，压缩系数为 ，则 在 内存在唯一的不动点 ，若 为 中的任意一点，则迭代格式 收敛于 ，并有误差估计,（ 5-3-6）,仍然考察前面求解方程 的例子由于 在区间 上严格单调且 ，故 在 内有根且仅有一根。
若设 ，则由中值定理 可以看出不是 上的压缩算子，所以不能利用压缩映像原理而式（5-3-4）中的函数 有关系式 及 （其中 ），故 ，表明 是压缩算子因此迭代格式 收敛于方程 的解例 5-3-1,还可指出，这个例子可选用更为一般的迭代格式 ，其中 为 其中 为参数，它的选择应满足 ，其中 当 时就成为方程（5-3-4）的情形例 5-3-2,考察卷积方程,（ 5-3-7）,的求解问题，其中 是未知量这是个系统辨识问题将式（ 5-3-7 ）改写成,在频域对应的关系式便是,由于 ，故当 时 为压缩算子 可用迭代格式,（ 5-3-8）,进行递推计算，其中 为可调参数这里，我们没有具体指出在那个空间进行讨论，这要根据原方程（ 5-3-7 ）中的诸量为序列还是函数来定从另一个角度考虑上述问题，不难验证 差分方程（ 5-3-8）的解可表为解析形式,（ 5-3-9）,其中 ，当 时， ，当 时。
由此可知，当 时， 此即逆滤波当然，不动点迭代格式通常用于求解非线性方程卷积方程（5-3-7）是线性的这里只是用来作为一个示例例 5-3-3,（牛顿迭代法）对于通常的代数 方程,（ 5-3-10）,设其解为 任取接近于 的值 ，则有,即,因此，为了求解方程（ 5-3-10 ），可从近,似初始值 开始，按照下列迭代格式进行递 推计算 ：,（ 5-3-11）,这个方法称为牛顿迭代法它要求每次迭 代时都计算 有时为了方便，改用 下列迭代格式：,（ 5-3-12）,称为简化的牛顿迭代法一般说来，它的 收敛速度要比式（ 5-3-11 ）来的慢但因计算简单，故常被应用将方程（ 5-3-10 ）改为更复杂的形式：,（ 5-3-13）,它含有m个未知数和m个方程简记成向量 形式,（ 5-3-14）,其中 ， 这时对应于式 （ 5-3-11 ）和式（ 5-3-12 ）的迭代格式为,（ 5-3-15）,（ 5-3-16）,其中 表示雅可比矩阵,而 表示其逆矩阵，显然式（ 5-3-15 ）和式（ 5-3-16）都是形式为式（5-3-1）的迭代格式，因此要确定牛顿迭代格式的性，,可以应用压缩映像原理来研究。
其详细讨 论在此从略建议读者自己导出应该对 加以什么样的条件才能使牛顿迭代格式收敛。