概率论与数理统计 第五章 大数定律和中心极限定理

第五章 大数定律和中心极限定理

5.1 随机变量序列的收敛性

定义 设 是随机变量序列, 是一个随机变量(或为常数 ),若对任意给定正数 ,有 或等价地 则称随机变量序列 依概率收敛于 ,记为 或记为

定义 设 是随机变量序列, 为随机变量 和 分别为 的分布函数。若在 的连续点 均有 则称 依分布收敛于 ,记为

依分布收敛于 ,表明 以 的分布为极限分布

5.2 大数定律

一、切比雪夫不等式

定理(切比雪夫不等式)

设随机变量 的数学期望 和方差 均存在,则对任意常数 ,不等式 或

二、大数定律

定义 设随机变量序列 的每个数学期望 都存在,若对任意给定的正实数 ,有 则称随机变量序列 服从大数定律

定理(切比雪夫大数定理) 设 是相互独立的的随机变量序列,每个随机变量的数学期望 和方差 均存在,且方差一致有界,即存在正常数 ,使 则 服从大数定律

定理(独立同分布大数定理) 设 是相互独立且服从同一分布的随机变量序列,每个随机变量的数学期望与方差均存在,即 则 服从大数定律,即对任意 有 定理(辛钦大数定律) 设 是相互独立且服从统一分部的随机变量序列,每个随机变量的数学期望均存在,即 则 服从大数定律,即对任意正数 ,有 根据大数定律的定义可知: 的数学期望均存在,是其服从大数定律的充分条件

定理(伯努利大数定理) 设 是 重伯努利试验中 出现的次数, 是 在每次试验中发生的概率,则对任意实数 ,有 小概率实际推断原理 概率很小的事件,在一次实验中几乎不可能发生,在实际中可看成不可能事件

5.3 中心极限定理

定义 设 是相互独立的随机变量序列,其前 项和的标准化随机变量序列为 记 的分布函数为 ,若 则称随机变量序列 服从中心极限定理

即随机变量序列 依分布收敛于标准正态分布随机变量

定理(独立同分布中心极限定理) 设 是独立同分布的随机变量序列,有数学期望和方差 则随机变量序列 服从中心极限定理,即有 因此,当 很大时,可以认为 近似服从 分布,从而 近似服从 分布。or随机变量序列 的前 想的算术平均 近似服从 分布

若 是 个独立同分布的随机变量,当 充分大时,可得概率近似计算公式 定理(棣莫弗-拉普拉斯中心极限定理) 设随机变量 ,则对任意实数 有