第五章
大数定律和中心极限定理
5.1 随机变量序列的收敛性
定义 设
是随机变量序列,
是一个随机变量(或为常数 ),若对任意给定正数 ,有 或等价地 则称随机变量序列
依概率收敛于 ,记为 或记为
定义 设
是随机变量序列, 为随机变量 和 分别为 的分布函数。若在 的连续点 均有 则称
依分布收敛于 ,记为
依分布收敛于 ,表明 以 的分布为极限分布
5.2 大数定律
一、切比雪夫不等式
定理(切比雪夫不等式)
设随机变量 的数学期望 和方差 均存在,则对任意常数 ,不等式 或
二、大数定律
定义 设随机变量序列 的每个数学期望
都存在,若对任意给定的正实数
,有 则称随机变量序列
服从大数定律
定理(切比雪夫大数定理) 设
是相互独立的的随机变量序列,每个随机变量的数学期望 和方差
均存在,且方差一致有界,即存在正常数 ,使 则
服从大数定律
定理(独立同分布大数定理) 设
是相互独立且服从同一分布的随机变量序列,每个随机变量的数学期望与方差均存在,即
则
服从大数定律,即对任意 有 定理(辛钦大数定律) 设
是相互独立且服从统一分部的随机变量序列,每个随机变量的数学期望均存在,即
则
服从大数定律,即对任意正数 ,有 根据大数定律的定义可知:
的数学期望均存在,是其服从大数定律的充分条件
定理(伯努利大数定理) 设 是 重伯努利试验中 出现的次数, 是 在每次试验中发生的概率,则对任意实数
,有 小概率实际推断原理
概率很小的事件,在一次实验中几乎不可能发生,在实际中可看成不可能事件
5.3 中心极限定理
定义 设
是相互独立的随机变量序列,其前
项和的标准化随机变量序列为 记 的分布函数为 ,若 则称随机变量序列
服从中心极限定理
即随机变量序列
依分布收敛于标准正态分布随机变量
定理(独立同分布中心极限定理) 设
是独立同分布的随机变量序列,有数学期望和方差 则随机变量序列
服从中心极限定理,即有 因此,当
很大时,可以认为 近似服从 分布,从而 近似服从 分布。or随机变量序列
的前
想的算术平均
近似服从
分布
若 是
个独立同分布的随机变量,当 充分大时,可得概率近似计算公式 定理(棣莫弗-拉普拉斯中心极限定理)
设随机变量 ,则对任意实数 有