概率论与数理统计 第七章 参数估计

第七章 参数估计

7.1 参数的点估计

设总体 的分布函数为 其分布类型已知， 是未知参数。 是总体 的样本，对每一个未知参数 ，构造一个适当的统计量 ，作为对参数 的估计。我们称 为参数 的估计量。将观测值 带入估计量 ，就得到一个具体数值 ，即 的估计值。通常在不至混淆的情况下，对估计量和估计值不作严格区分，统称为估计，并简记为

一、矩估计法

设总体 的分布为 ，若总体的各阶矩存在，则它的矩（原点矩或中心距）是参数 的函数。以原点矩为例，总体 解原点矩为 或 用样本 阶原点矩 去估计相应的总体 阶原点矩，即构造方程组 解此方程租，其解为 ，就以 作为 的估计。

同理，若要估计 的函数 ，就用 去估计它，这样给出的估计量就是矩估计

二、最大似然估计法

对于离散型总体，事件 发生的概率为 对于离散型总体，随机样本 落在点 的边长依次为 的 维长方体邻域内的概率近似于 因为 与参数 无关，故只需考虑 我们将式 统称为参数 的似然函数，记为 。若 则称 为 的最大似然估计值，称 为参数 的最大似然估计量

因为对数函数是单增函数，所以 和 在相同点处达到最大值，为了计算方便，一般通过求解如下的似然方程组 得到未知参数的最大似然估计

7.2 估计量的优良性准则

一、无偏性

定义 设 是未知参数 的一个估计量，若对 的所有可能取值，都有 则称 是 的一个无偏估计量

一个估计量如果不是无偏的就称之为有偏估计量。称 为估计量 的偏差，在科学技术中也称为 的系统误差。由此，无偏估计的意义就在于无系统误差

二、有效性

定义 设 是未知参数 的两个无偏估计，若对 的所有可能取值，都有 则称 比 有效

设 是 的无偏估计，若对 的任何一个无偏估计 ，都有 对 的所有可能取值成立，则称 为 的最小方差无偏估计

三、相合性

定义 设 是 的估计量，若对 的所有可能取值，当 时， 以概率收敛于 ，即对任意 ，有 或 成立，则称 为 的相互估计量或一致估计量

7.3 区间估计

一、基本概念

定义 给定一个很小的数 ，若对于参数 的所有可能取值，都有 则称随机区间 是 的置信水平为 的置信区间

二、枢轴变量法构造置信区间

寻找置信区间的一般方法：

1. 找出一个关于带估计参数 的良好的估计量

2. 构造一个包含参数 及其估计量的函数 除了被估计参数 外， 不能包含其他未知数，并且 的概率分布能完全确定，与 无关，函数 称为枢轴变量

3. 对任何参数 ，不等式 可以改写成等价形式 ， 与 是不含未知参数的统计量

4. 根据 的分布，找出其上侧 分位数 和上侧 分位数 ，有 ，改写成等价的形式 ，区间 即使参数 的置信水平为 的置信区间

三、一个正态总体参数的置信区间

1. 总体均值 的置信区间

   1. 已知

      此时枢轴变量 ，置信水平为 的置信区间为

   2. 未知

      由于此时 未知， 不再构成枢轴变量，故用 代替 ，即可得到枢轴变量

得到参数 的置信水平为 的置信区间是

2. 总体方差 的置信区间

   只介绍 未知的情形

   我们知道 是 的无偏估计，根据定理 于是 可作为枢轴变量， 分布不是对称分布，可由分布表查出 和 ，即可得到 的置信水平为 的置信区间为

四、两个正态总体的区间估计

设总体 是来自正态总体 的样本；总体 是来自正态总体 的样本。两个样本相互独立， 和 分别表示两个样本的均值和方差

1. 两个正态总体均值差 的置信区间

   1. 已知

      因为 是 的无偏估计，所以 是 的无偏估计，又因为 相互独立，故 取枢轴变量为 即得 的置信水平为 的置信区间为

   2. 未知，但 由定理知

2. 两个正态总体方差比 的置信区间

   仅讨论总体均值 未知的情况，由定理知 从而确定出比值为 的置信水平为 的置信区间为 当参数 均已知时，可通过构造枢轴变量 进行方差比的区间估计

五、大样本方法构造置信区间

非正态分布而言，以中心极限定理为理论基础，利用极限分布确定枢轴变量的否是，进而构造出置信区间

有中心极限定理，当 足够大时 作为枢轴变量

若 ​ 未知，则以 作为枢轴变量，得出 的置信区间为 置信水平近似地为 ，近似的成都不仅取决于样本容量 的大小，还要看总体分布

六、单侧置信区间

置信区间有两个有限的端点称为双侧置信区间

定义 设 是来自某个总体的样本，总体分布包含未知参数 是两个统计量，若

1. 对 的一切可取的值，有 则称随机区间 为参数 的置信水平为 的单侧置信区间， 称为单侧置信下限

2. 对 的一切可取的值，有 则称随机区间 为参数 的置信水平为 的单侧置信区间， 称为单侧置信上限