(1)参数估计问题定义
如果一个系统的参数随时间而改变,那么称它为“时变的参数”;如果系统的参数不随时间而改变,那么称它为“时不变的参数”。
对参数
(时不变)的估计问题定义如下:
其中
是第
次观测量,
是第
次观测噪声量;我们要找到一个关于
次观测
的函数
,在某种意义下作为 对
的统计量。
我们称这个函数
为
的
估计量(estimator),函数值被称为 的
估计值(estimate)。由于估计量是样本的函数,因此对于不同的样本值,估计值一般是不同的。(2)参数估计的模型
在(时不变)参数估计中,有两种常用的模型:
- 非随机变量:存在一个未知的真值 。这种方法被称为非贝叶斯或者Fisher方法。
- 随机变量:参数 是一个有着先验分布的随机变量。这种方法被称为贝叶斯方法。
贝叶斯方法
贝叶斯方法运用贝叶斯公式和先验分布来导出后验分布:
其中
是归一化常数。
非贝叶斯方法
与贝叶斯方法不同,非贝叶斯方法中待估计参数
是固定的,有真值的。所以我们定义
的分布,称之为参数的
似然函数:它表示的是给定
时,其观测值为
的概率。
(3)总结
参考资料
- Bar-Shalom Y, Li X R, Kirubarajan T. Estimation with applications to tracking and navigation: theory algorithms and software[M]. John Wiley & Sons, 2004.