最佳平方逼近

函数逼近是使用一种简单易算的函数来近似表示一个复杂函数。

该问题可转化为求解线性方程组

$G_{n}C=F_n$

其中，系数$C=(c_0,c_1,\cdots ,c_n{)}^{\mathrm{T}},F_n=((f,{\phi }_0),(f,{\phi }_1),\cdots ,(f,{\phi }_n){)}^{\mathrm{T}}$

$G_n$是格拉姆矩阵。称该线性方程组为法方程组或正规方程组。

最佳平方逼近的解函数为${\phi }^{\ast }={\sum }_{i=0}^n{c}_i^{\ast }{\phi }_i$。

最佳平方逼近函数，继承内积，即$({\phi }^{\ast },{\phi }^{\ast })=({\phi }^{\ast },f)$。

取逼近区间[a,b]为[0,1]时，其平方误差为：
$$\parallel {\phi }^{\ast }-f{\parallel }_2^2=(f,f)-F_n^{\mathrm{T}}{C}^{\ast }={\int }_0^1{f}^2(x)\mathrm{d}x-F_n^{\mathrm{T}}{C}^{\ast }.$$

正交系

内积空间$V$上的两个元素$f$和$g$，如果有内积$(f,g)=0$，则称$f$和$g$关于内积$(\cdot ,\cdot )$正交。若内积空间上的元素系 { f i } \{f_{i}\} {fi​}满足两两正交
$$\{\begin{array}{l}(f_i,f_j)=0(i\ne j),\\ (f_i,f_i)={\gamma }_i>0,\end{array}$$
则称 { f i } \{f_{i}\} {fi​}为正交系，若有$(f_i,f_i)=1(i=0,1,2,\mathrm{3...})$，则称 { f i } \{f_{i}\} {fi​}为标准正交系。

给定一组正交基，法方程组系数矩阵$G_n$为对角矩阵，其解向量为：
$$C^{\ast }={\left(\frac{({\phi }_0,f)}{({\phi }_0,{\phi }_0)},\frac{({\phi }_1,f)}{({\phi }_1,{\phi }_1)},\cdots ,\frac{({\phi }_n,f)}{({\phi }_n,{\phi }_n)}\right)}^{\mathrm{T}}.$$
函数$f(x)$的最佳平方逼近函数为
$${\phi }^{\ast }=\frac{({\phi }_0,f)}{({\phi }_0,{\phi }_0)}{\phi }_0+\frac{({\phi }_1,f)}{({\phi }_1,{\phi }_1)}{\phi }_1+\cdots +\frac{({\phi }_n,f)}{({\phi }_n,{\phi }_n)}{\phi }_n.$$
平方误差为
$$\parallel f-{\phi }^{\ast }{\parallel }_2^2=(f,f)-\sum _{i=0}^n\frac{(f,{\phi }_i{)}^2}{({\phi }_i,{\phi }_i)}.$$