区间估计的概念

对未知参数来说，我们除了关心它的点估计外，有时还需要估计出它的一个范围，以及这个范围包含参数真值的可信程度。这种范围通常用区间的形式给出，称之为置信区间。这种形式的估计就称为区间估计。

设总体 $X$ 的分布函数为 $F(x;\theta )$，$\theta$ 为未知参数，$X_1,...,X_n$ 是来自总体 $X$ 的样本。对于给定值 $\alpha (0<\alpha <1)$，若存在统计量 $\underline{\theta }(X_1,...,X_n)$ 和 $\bar{\theta }(X_1,...,X_n)$，使得 P { θ ‾ ( X 1 , . . . , X n ) < θ < θ ˉ ( X 1 , . . . , X n ) } ≥ 1 − α P\{\underline{\theta}(X_1,...,X_n)<\theta<\bar{\theta}(X_1,...,X_n)\} \ge 1-\alpha P{θ​(X1​,...,Xn​)<θ<θˉ(X1​,...,Xn​)}≥1−α 则称区间 $(\underline{\theta },\bar{\theta })$ 为参数 $\theta$ 的置信度为 $1-\alpha$ 的置信区间，$\underline{\theta }、\bar{\theta }$ 分别称为置信上、下限。

通常可按下列思路来寻求未知参数 $\theta$ 的置信区间：

1. 由未知参数 $\theta$ 的点估计量入手，构造一个仅包含样本 $X_1,...,X_n$ 和被估参数 $\theta$ 的随机函数 $G=G(X_1,...,X_n;\theta )$，其中 $G$ 的概率分布应当容易确定且不含任何未知参数（$G$ 也称为枢轴量）；
2. 对给定的置信度 $1-\alpha$，由等式 P { c < G ( X 1 , . . . , X n ; θ ) < d } = 1 − α P\{c<G(X_1,...,X_n;\theta)<d\}=1-\alpha P{c<G(X1​,...,Xn​;θ)<d}=1−α 适当的确定常数 $c,d$；
3. 把不等式 $$c<G(X_1,...,X_n;\theta )<d$$ 化为等价的不等式 $$\underline{\theta }(X_1,...,X_n)<\theta <\bar{\theta }(X_1,...,X_n)$$ 这样即可找到参数 $\theta$ 的置信度为 $1-\alpha$ 的置信区间 $(\underline{\theta },\bar{\theta })$。

上述寻求参数 $\theta$ 的置信区间的方法称为枢轴量法。

一个正态总体的情形

设总体 $X\sim N(\mu ,{\sigma }^2)$，$X_1,...,X_n$ 为总体 $X$ 的样本，$\bar{X}、S^{\ast 2}$ 分别为样本均值和修正样本方差。下面讨论 $\mu ,{\sigma }^2$ 的区间估计。

$\mu$ 的区间估计

(1) 当方差 ${\sigma }^2$ 已知时，因为 $\bar{X}$ 是 $\mu$ 的无偏估计，因此构造枢轴量 $$U=\frac{\sqrt{n}(\bar{X}-\mu )}{\sigma }\sim N(0,1)$$ $\mu$ 的置信度为 $1-\alpha$ 的置信区间为 $$\left(\bar{X}-\frac{\sigma }{\sqrt{n}}{u}_{\alpha /2},\bar{X}+\frac{\sigma }{\sqrt{n}}{u}_{\alpha /2}\right)$$

(2) 当方差 ${\sigma }^2$ 未知时，注意到 $S^{\ast 2}$ 是 ${\sigma }^2$ 的无偏估计，以 $S^{\ast }$ 替换 (1) 中枢轴量的 $\sigma$，可得枢轴量 $$T=\frac{\sqrt{n}(\bar{X}-\mu )}{S^{\ast }}\sim t(n-1)$$ $\mu$ 的置信度为 $1-\alpha$ 的置信区间为 $$\left(\bar{X}-\frac{S^{\ast }}{\sqrt{n}}{t}_{\alpha /2}(n-1),\bar{X}+\frac{S^{\ast }}{\sqrt{n}}{t}_{\alpha /2}(n-1)\right)$$

${\sigma }^2$ 的区间估计

这里只讨论 $\mu$ 未知时的 ${\sigma }^2$ 的区间估计。

因为 $S^{\ast 2}$ 是 ${\sigma }^2$ 的无偏估，因此构造枢轴量 $${\chi }^2=\frac{1}{{\sigma }^2}\sum _{i=1}^n(X_i-\bar{X}{)}^2=\frac{(n-1)S^{\ast 2}}{{\sigma }^2}\sim {\chi }^2(n-1)$$ ${\sigma }^2$ 的置信度为 $1-\alpha$ 的置信区间为 $$\left(\frac{(n-1)S^{\ast 2}}{{\chi }_{\alpha /2}^2(n-1)},\frac{(n-1)S^{\ast 2}}{{\chi }_{1-\alpha /2}^2(n-1)}\right)$$

两个正态总体的情形

设总体 $X\sim N({\mu }_1,{\sigma }_1^2)$，总体 $Y\sim N({\mu }_2,{\sigma }_2^2)$，$(X_1,...,X_{n_1}{)}^T$，$(Y_1,...,Y_{n_2}{)}^T$ 分别为来自总体 $X、Y$ 的样本，且假定两样本相互独立。记 $\bar{X},\bar{Y}$ 为两样本各自的样本均值，$S_{1n_1}^{\ast 2},S_{2n_2}^{\ast 2}$ 为两样本各自的修正方差。对给定的置信度 $1-\alpha$，要讨论 ${\mu }_1-{\mu }_2,{\sigma }_1^2/{\sigma }_2^2$ 的区间估计。

${\mu }_1-{\mu }_2$ 的区间估计

(1) ${\sigma }_1^2$ 和 ${\sigma }_2^2$ 均已知。

构造枢轴量 $$U=\frac{\bar{X}-\bar{Y}-({\mu }_1-{\mu }_2)}{\sqrt{\frac{{\sigma }_1^2}{n_1}+\frac{{\sigma }_2^2}{n_2}}}\sim N(0,1)$$ 故 ${\mu }_1-{\mu }_2$ 的置信度为 $1-\alpha$ 的置信区间为 $$\left((\bar{X}-\bar{Y})\mp u_{\alpha /2}\sqrt{\frac{{\sigma }_1^2}{n_1}+\frac{{\sigma }_2^2}{n_2}}\right)$$

(2) ${\sigma }_1^2={\sigma }_2^2={\sigma }^2$，但 ${\sigma }^2$ 未知。

构造枢轴量 $$T=\frac{\bar{X}-\bar{Y}-({\mu }_1-{\mu }_2)}{S_w\sqrt{\frac{1}{n_1}+\frac{1}{n_2}}}\sim t(n_1+n_2-2)$$ 其中 $$S_w=\sqrt{\frac{(n_1-1)S_{1n_1}^{\ast 2}+(n_2-1)S_{2n_2}^{\ast 2}}{n_1+n_2-2}}$$ 故 ${\mu }_1-{\mu }_2$ 的置信度为 $1-\alpha$ 的置信区间为 $$\left((\bar{X}-\bar{Y})\mp t_{\alpha /2}(n_1+n_2-2)S_w\sqrt{\frac{1}{n_1}+\frac{1}{n_2}}\right)$$

(3) ${\sigma }_1^2$ 和 ${\sigma }_2^2$ 均未知，但 $n_1=n_2=n$

令 $Z_i=X_i-Y_i\sim N({\mu }_1-{\mu }_2,{\sigma }_1^2+{\sigma }_2^2),i=1,2,...,n$，故 ${\mu }_1-{\mu }_2$ 的置信度为 $1-\alpha$ 的置信区间为 $$\left(\bar{Z}\mp \frac{S_Z^{\ast }}{\sqrt{n}}{t}_{\alpha /2}(n-1)\right)$$ 其中 $$\bar{Z}=\bar{X}-\bar{Y},S_Z^{\ast }=\sqrt{\frac{1}{n-1}\sum _{i=1}^n(Z_i-\bar{Z}{)}^2}$$

${\sigma }_1^2/{\sigma }_2^2$ 的区间估计

这里只讨论 ${\mu }_1,{\mu }_2$ 为未知时，${\sigma }_1^2/{\sigma }_2^2$ 的区间估计。

构造枢轴量
$$F=\frac{{\sigma }_2^2{S}_{1n_1}^{\ast 2}}{{\sigma }_1^2{S}_{2n_2}^{\ast 2}}\sim F(n_1-1,n_2-1)$$ 故 ${\sigma }_1^2/{\sigma }_2^2$ 的置信度为 $1-\alpha$ 的置信区间为
$$\left(\frac{S_{1n_1}^{\ast 2}/S_{2n_2}^{\ast 2}}{F_{\alpha /2}(n_1-1,n_2-1)},\frac{S_{1n_1}^{\ast 2}/S_{2n_2}^{\ast 2}}{F_{1-\alpha /2}(n_1-1,n_2-1)}\right)$$ 利用 $F$ 分布上侧分位数性质，可将 ${\sigma }_1^2/{\sigma }_2^2$ 的置信度为 $1-\alpha$ 的置信区间改写为
$$\left(F_{1-\alpha /2}(n_2-1,n_1-1)\frac{S_{1n_1}^{\ast 2}}{S_{2n_2}^{\ast 2}},F_{\alpha /2}(n_2-1,n_1-1)\frac{S_{1n_1}^{\ast 2}}{S_{2n_2}^{\ast 2}}\right)$$

参考文献

[1] 《应用数理统计》，施雨，西安交通大学出版社。