函数逼近基本概念
维尔斯特拉斯定理:设
,则
使
在
上一致成立。
构造,那么
在
上一致成立,则还有
.但收敛慢,故实际中很少用。
三个基本问题:
- 选定逼近函数类型
- 按一定目标逼近:可分为插值和拟合
- 研究逼近函数的存在唯一性、收敛性及误差估计等理论问题。
插值法
牛顿插值与拉格朗日插值多项式
从阶差商到牛顿插值多项式
优点,每增加一个插值点就增加一项,便于计算。
插值多项式还可用插值基函数表示为
其中
上式被称为拉格朗日插值多项式
还可被写为
其中
截断误差表示为
上式称为插值余项,此外还有差商的表示:
比较上述两式,可以得到差商与导数的关系
实际上,当的极限就是泰勒展开的余项.
Hermite插值
除了满足函数值的要求外,还需要满足导数条件.
余项为
插值函数的收敛性与稳定性
插值点为作为插值点求出插值多项式序列
若,就称插值多项式序列
收敛于
,否则就称不收敛.
理论上已知,满足上述条件的拉格朗日插值多项式序列不是收敛的.
例如在
上按等距节点
构造的插值多项式序列
,当
时,只在
三点收敛于
.(伯恩斯坦给出的例子)
Runge给出例子:,在
上用等距节点插值得到的
,在
时也不收敛于
.
这两个例子说明,高次插值多项式不能保证它的收敛性.
下面讨论插值函数的稳定性.当有误差
时,即实际求插值函数时使用的函数表为
而精确值
.我们要研究当
充分小时,插值函数
的误差是否随
增大,这就是插值函数的稳定性问题.
是计算出来的插值函数
于是得到插值函数的总误差
第一项为截断误差,第二项为舍入误差
,即
若有界,
则插值函数就是数值稳定的.下面给出定义
定义 对任给
若
使当
就有
则称插值函数是稳定的,否则就是不稳定的。
从定义看到,插值函数稳定,则其舍入误差可以忽略不计,而插值函数是否稳定则取决于
是否有界.对于拉格朗日插值多项式
则有
是无界的,这表示高次插值多项式是不稳定的.因此从收敛性与稳定性考虑,使用高次插值多项式是不可取的,故当插值节点
较大时一般不用多项式插值,而采用分段低次插值或样条插值.
样条插值函数
在具有收敛性与稳定性的插值函数中,最常用和最重要的时样条插值函数插值,而且用样条插值函数给出的光滑插值曲线或曲面在飞机、轮船、汽车等精密机械设计中有着广泛的应用.在数值逼近、数值微积分、微分方程数值解等计算数学领域中,样条函数是重要的工具.
定义 设
上的一个剖分
,如果函数
满足条件
1.
2.在每个子区间
上是
次代数多项式.
则称是关于节点剖分
的
次样条函数.
若再给定在节点上的值
,并使
则称是
的
次样条插值函数.
通常用的比较多的是的具有二阶连续导数的三次样条插值函数.
三次样条函数在每个子区间上可用四个系数唯一确定,因此在上有
个待定参数,由于
给出个条件,加上插值条件共
个,因此还需要两个边界条件.
分为三种情况:
- 一阶导数
- 二阶导数
- 周期样条函数条件
求三次样条插值函数有多种方法,这里给出其中一种,称三弯矩法.记
,
在每个子区间
上是三次多项式,故
在
上为线性函数,可表示为
这里,对上式积分两次,并利用插值条件
便可得到,再求导,最后把一阶导条件带进去得到
其中,
.
可以写成矩阵乘法的形式.
现讨论不同的边界条件:
- 一阶导数相等带入得到
- 二阶导数相等导出
其中,
这种三对角方程的系数矩阵元素,故它是严格对角占优的,利用追赶法就可求出
.
以上讨论说明三次样条插值函数再条件的解是存在唯一的,上面求三次样条插值函数
是一个常用的算法.下面给出在计算机上求
的算法:
三次样条插值的三弯矩法:
- 输入初始数据
及
.
- 对
计算
- 对
计算
.
- 用追赶法解方程组求出
- 求出
,并根据要求计算
在若干点上的值,然后打印结果.
定理 设
,
是
满足条件的三次样条插值函数,则有估计式
其中
B样条函数
之前导出的三次样条插值函数分别在每个子区间
上有表达式,这在应用上和理论分析中不是很方便,而如果利用基样条表示往往更为方便.为此可根据定义给出的
次样条函数概念,构造
次样条函数空间的基函数.
设区间的剖分
上的
次样条函数全体组成的集合为
,它是一个线性空间,并且它的维数是
维,因为
至多有
个自由参数,由连续性条件知有
个约束条件,
的维数至多为
.
定义截幂函数为
下面证明,中的
个样条函数
在区间上线性无关,从而可得出
维数为
.
定义6 设
是节点序列,令
,函数
关于
的
阶差商
称为第个
次
样条函数,简称
样条函数。
利用差商的性质
其中.由此得到
定义中的个样条函数是线性无关的,所以组成
的一组基。这样对任何在
上关于剖分
的
次样条函数
都可以表示成
这样求得问题就归结为求系数
,实际上就是解线性方程组。例如,已知在点
上得函数值
,及
处的导数值
及
,要求三次样条插值函数
.
由上式可得方程组
求出这
个系数,则得三次样条插值函数
.
为了说明上式得系数矩阵特点并研究其解的存在唯一性,以及确定系数就必须了解
样条函数的性质。下面给出
样条函数的一些重要性质,其证明可根据
样条函数定义及差商性质得到。
性质1 递推关系
性质2 正性与局部非零性
性质3 规范性
性质4 样条的导数
当;当
(
时除
为节点外)
内积空间与正交多项式
定义7 设
为有限或无限空间,
是定义在
上的非负函数,
对
都存在,对非负
,若
则
,称
为
上的权函数。
定义8 设
,
为
上的权函数,定义
称为函数与
的内积。
由内积定义得,
称为
的加权欧式(Euclid)模或加权2-范数。当
时就是2-范数。
定理4 设
,则
在
上线性无关的充分必要条件是
,其中
其中
表示内积。
定义 若
为
上的权函数,若
则称与
在
上带权
正交。若函数序列
在
上两两正交,即
则称为正交函数族。
由于序列是线性无关的,利用正交化方法可以构造出在
上带权正交的多项式序列
:
这样构造的正交多项式序列由以下性质:
(1)是最高项系数为1的
次多项式
(2)任何次多项式均可表示为
的线性组合
(3)当时
且
与任一次数小于
的多项式正交。
正交多项式还有以下的重要性质:
定理5 在
上带权
的正交多项式序列
,若最高项
系数为1,它便是唯一的,且由以下的递推公式确定:
其中
这里
定理6 设
是在
上带权的正交多项式序列,则
的
个根都是单重实根,且都在区间
内。
勒让德多项式
在区间上权函数
的正交多项式称为勒让德多项式,其表达式为
的首项
的系数为
记
则是首项
系数为
的勒让德多项式。
勒让德多项式有许多重要的性质,特别有:
- 正交性
- 递推公式
其中.
切比雪夫多项式
在区间上权函数
的正交多项式称为切比雪夫多项式,它可表示为
若令,则
,这是
的参数表示。利用三角公式可将
展成
的一个
次多项式,故上式是
的
次多项式。下面给出
的主要性质:
- 正交性
只要对积分做变换,利用三角公式即可得到上式结果。
- 递推公式
- 奇偶性
-
在
内的
个零点为
,在
上有
个极点
-
的最高次幂
的系数为
其它正交多项式
第二类切比雪夫多项式
在区间上权函数为
的正交多项式称为第二类切比雪夫多项式,其表达式为
也可表示为,它有递推公式
其中.
的正交性为
拉盖尔多项式
在区间上,权函数
的正交多项式称为拉盖尔多项式,其表达式为
它的递推公式为
其中.正交性为
欸而米特多项式
在区间上,带权
的正交多项式称为埃尔米特多项式,其表达式为
它的递推公式为
其中正交性为
函数的最佳平方逼近
最佳平方问题及其解法
设为
上
个线性无关函数,记
,则对
有
用逼近
,使满足
其中是
上的权函数,这就是最佳平方逼近问题。若
由函数表
给出,则最佳平方逼近问题是求
使得
这里是点
处的权。
定义11 设
,若存在
使
则称为
在
中的最佳平方逼近函数。
由定义知,求解等价于求多元函数
的极小值。由于是关于参数
的二次函数,由多元函数极值必要条件得
于是有
这是关于的线性方程组,称为法方程。由于
线性无关,由定理知上式得系数矩阵非奇异,故方程组有唯一解
于是有
记,称
为最佳平方逼近误差,简称平方误差,由于
,故
作为特例,若取区间取
.此时
在
上得最佳平方逼近多项式为
此时由于
对应得中元素
.称为希尔伯特矩阵。
此时法方程为它的解为
由此则得最佳平方逼近多项式
.
由于是病态矩阵,在
时直接解法方程误差很大,因此当
时解法方程方法只适合
的情形,对
可用正交多项式作
的基求解最佳平方逼近多项式。
用正交函数族做平方逼近
如使用勒让德多项式逼近得到的多项式和由为基得到的
是一致的,但此处不用解病态法方程,且在所有系数为1 的n次多项式中,勒让德多项式在
上与零的平方误差最小
曲线拟合的最小二乘法
当是由实验或观测得到的,其函数通常是由表格
给出.若要求曲线
逼近
,通常由于观测有误差,因此
不一定成立,当只要求
就是曲线拟合的最小二乘问题。此时求
的问题等价于求多元函数
的极小值,和之前一样可以得到法方程:
只是这里内积由积分换成和式,即
周期函数逼近与快速傅里叶变换
周期函数的最佳平方逼近
当为周期函数时,用三角多项式逼近比用代数多项式更合适。
在离散点集上给出函数值
可以证明,当
时三角函数族
为离散点集
的正交函数族.于是给出此时最小二乘解的系数,
特别的,当时,则有
此时就是三角插值多项式.
更一般情形,假设是以
为周期的复值函数,
已知,令
则关于节点正交,从而由离散傅里叶正变换逆变换(Discrete Fourier Transformation, DFT)。
快速傅里叶变换(FFT)
上一节的傅里叶分析都可以归结为计算
需要次复数乘法,
次复数加法。
FFT的思想是尽量减少式子中乘法次数,注意到是
等分复平面单位圆上的一点,且
所以
只有
个不同值
,特别当
时,只有
个不同值,因此可把同一个
对应的
相加后再乘
,这就能大量减少乘法次数。
下面介绍时的算法,把
分别用二进制表示为
其中只能取0或1,相应地令
于是原式可分为层求和,即
当时,它是非快速算法运算量地
最佳一致逼近
最佳一致逼近多项式
定义12 设
称
为与
的偏差:
定义13 设,若存在
使
则称为
在
上的最佳一致逼近多项式。
定理 8 若若
使
则称是
关于
的偏差点。
若,则称
为正偏差点;
若,则称
为负偏差点。
定理8(切比雪夫)是
的最佳逼近多项式的充分必要条件是,在
上至少有
个轮流为正负的偏差点,即至少有
个点
使得
上述点称为切比雪夫交错点组。
推论1(唯一性定理) 设,则在
中的最佳逼近多项式是唯一的。
推论2 若,则其最佳逼近多项式
是
的一个拉格朗日插值多项式
切比雪夫定理从理论上给出了求最佳一致逼近多项式方法,但当时计算是很困难的,Remes给出了一种逐次逼近的算法。
设的最佳逼近多项式为
又设它的个点
为切比雪夫交错点组,最小偏差为
由定理可得方程。
这是关于的
个未知量的
个方程
(参考书本p54,这个方法也很复杂,很少用)
零偏差最小多项式及其应用
定理10 所有最高项系数为1的
次多项式中,在区间
上与零偏差最小的多项式是
这里
是最高项系数为1的切比雪夫多项式,
用切比雪夫多项式的零点作差值的插值多项式,余项具有极小化性质。
函数按切比雪夫多项式展开
由于切比雪夫多项式具有零偏差最小的性质,因此若将
直接按
展开并用它逼近
,也可得到近似的最佳逼近多项式。由于
是在
上的带权
正交函数族。
有理逼近
有理逼近与连分式
可以有效减少运算量
有理插值
设给定在
个互异节点
上的值
,要求一个有理函数
使,实际上只有
个独立参数。对有理插值,首先要研究解的存在唯一性问题,其次使如何构造插值函数,第三是误差估计问题。
构造反差商进行计算。
帕德逼近
定理11 设
,则插值问题等价于在
中求
,使
推广上述多项式插值到有理函数插值,假定在
上具有
阶导数,则有
定义16 设如果有理函数
其中互质且满足条件
则称为函数
在
处的
阶帕德逼近,记作
定理12 设是由上上式定义的,函数
令
其中,则差值条件成立的充分必要条件是
定理13 设,则有理函数
是
的
阶Pade逼近的充分必要条件是,多项式
及
的系数
及
满足下列线性方程组
其中。当
时
;
时
.