数理统计讲义

第七章 统计量及其分布

一、几个基本概念

若我们要研究某类（或某个）事物在某一方面的特性，而此特性 可以用一个随机变量的概率分布或数字特征来表示，这个随机变量就 ξ表示。

设对ξ进行n次独立观察，得到ξ的n个取值：(ξ1,ξ2,?,ξn)，此过程称为抽样。(ξ1,ξ2,?,ξn)n

今后(ξ1,ξ2,?,ξn)定：①ξ1,ξ2,?,ξn皆与ξ同分布；②ξ1,ξ2,?,ξn相互独立。

抽样之后，(ξ1,ξ2,?,ξn)的值就确定了，记为(x1,x2,?,xn)，称为样本观察值，或样本值，也简称样本。

数理统计的基本任务是：研究如何根据(x1,x2,?,xn)，对ξ的 概率分布或数字特征进行推断。

设g(ξ1,ξ2,?,ξn)是随机变量，不含任何未知参数，则称其为 统计量。其观察值记为g(x1,x2,?,xn)。

二、常用的统计量

设总体为ξ，样本为(ξ1,ξ2,?,ξn)，观察值为(x1,x2,?,xn)。

样本均值：ξ=1n1n

①∑ξi。其观察值记为：=1∑xi。

i=i=1

②样本方差：S2

=1∑n(ξξ)。观察值：s=1∑n2i?2

(xi?)2。

i=1i=1

③样本标准差

：S=

s=。 ④修正样本方差：

n

n

S*2

=

1

2

n?∑(ξ?2

i

ξ)。观察值：s*=11

i=1

n?1∑(xi?)

2

。

i=1

⑤修正样本标准差

：S*=

。观察值：s*=

。

几个重要结论：(1)S2

=1∑nξ2ξ2，s=1ni?2

2=1∑xi?2。

ii=1

(2)Eξ=Eξ。(3)Dξ=

1Dξ。(4)ES2=n?1Dξ。(5)ES*2

=Dξ。三、几种常用分布

1.χ2分布：若η=ξ222

1+ξ2+?+ξn，其中ξ1,ξ2,?,ξn相互独立，

都服从N(0,1)分布，则：η~χ2(n)。（χ2分布的可加性：见P.222） 2.t

分布：若γ=

，其中ξ与η相互独立， 且：ξ~N(0,1)，η~χ2(n)，则：γ~t(n)。 3.F分布：若γ=

ξ/m

η/n

，其中ξ与η独立， 且：ξ~χ2(m)，η~χ2(n)，则：γ~F(m,n)。

（P.224推论应知）

四、统计量的分布

1.单个正态总体的抽样分布

设ξ~N(a,σ2)，(σ>0)(ξ1,ξ2,?,ξn)是取自ξ的简单随机样本，

则：(1)ξ~N???a,σ

2??，Z1=~N(0,1)。ξ与?S2相互独立。

Zt(n?1)。(3)ZnS2(2)2=~3=σ2~χ2(n?1)。

《数理统计》讲义第1页

2.两个正态总体的抽样分布

设总体ξ与η相互独立，ξ~N(a21,σ1)，η~N(a22,σ2)，

(ξ1,ξ2,?,ξm)是取自ξ的样本，ξ是样本均值，S21是样本方差， (η1,η2,?,ηn)是取自η的样本，是样本均值，S22是样本方差，

则：

(4)Z(aa)

4=

~N(0,1)。

(5)当σ21

=σ2

2

时，Z5=??~t(m+n?2)。 （见定理7.12） 22(6)Z=

(n?1)mS1σ

2?2/S2

?2

6(m?1)nS2σ

2=

S12

1σ2σ2

~F(m?1,n?1)。 1/2

（S1?2

与S2?2

分别是两个样本的修正方差）

今后，我们将以上(1)—(6)分别称为抽样定理1、抽样定理2、……、抽样定理6。Z1、Z2、Z3、Z4、Z5、Z6也作为固定记号。

第八章 参数估计

在本章中我们用θ表示与总体ξ有关的某未知参数。θ可能是ξ 的某个数字特征，也可能是ξ的分布列或密度函数中的某未知常数。 本章的任务是：研究如何根据抽样所得到的样本值(x1,x2,?,xn)，对θ进行估计。估计θ的方法有两大类：（一）点估计：也就是估计 θ等于多少。（二）区间估计：也就是估计θ位于什么区间内。

对θ进行点估计的步骤：第一步：写出：θ?=g(ξ1,ξ2,?,ξn

)， 即建立θ的是个统计量。第二步：抽样，对ξ进行n次独立

观察，得样本观察值：(x1,x2,?,xn)，代入θ?=g(ξ1,ξ2,?,ξn

)中，求得θ

?的观察值，作为θ的 建立估计量的方法主要有矩法与极大似然法，下面分别介绍。

第一节 点估计的具体方法

一、点估计的矩法

1.基本思想：设ξ表示总体，(ξ1,ξ2,?,ξn)为简单随机样本。根据

辛钦大数定律(见P.171-172

)，可以用ξk+ξk?+ξk

12+n

估计Eξk，

即用样本的k阶原点矩估计总体的k阶原点矩。设θ表示与ξ有关的

某未知参数，按上述思想所建立的θ的估计量称为θ的矩估计量。

2.具体做法：①若θ=Eξ，则θ

?=ξ。②若θ=Dξ，则θ?=S2。 ③θ=f(Eξ)?θ

?=f(ξ)。④θ=f(Eξ,Dξ)?θ?=f(ξ,S2)。 ⑤若θ=g(m1,m2,?,mk)，其中mk表示总体的k阶原点矩，

则θ?=g(A1,A2,?,Ak)，其中Ak

表示样本的k阶原点矩。 3.典型例题：课本例8.1、8.2，习题8.1(A)组第3、4、5题。

注：θ的矩估计量可能不唯一，如例8.1。这是矩法的缺点之一。

二、点估计的极大似然法

◆基本思想：一个事件既然已经发生了，它的可能性就应该比较大。 ◆实例：设ξ~??01?

?1?θθ??

，其中0<θ<1。对ξ进行8次独立观察， 得到样本观察值：(1,1,0,1,1,0,1,0)，试根据此结果估计θ的值。 解：得到这份样本的概率是：L(θ)=(1?θ)3θ5,0<θ<1。 我们既然已得到了这份样本，就有理由认为：L(θ)比较大。 不难求出：当θ=5/8时，L(θ)最大。因此估计θ=5/8。 一般地，假设对ξ进行了n次独立观察，得样本值：(x1,x2,?,xn)， 则得到这份样本的概率是：L(θ)=P(ξ=x1)P(ξ=x2)?P(ξ=xn)

=θ

x1

(1?θ)1?x1???θ

xn(1?θ)1?x

n=θx1+?+xn(1?θ)n?x1???x

n

。 L(θ)的最大值点为：θ=x1++xn

，∴θ

?=ξ1++ξn=ξ。 《数理统计》讲义第2页

一般地，设ξ为总体，θ是待估参数，怎样用极大似然法建立θ的估计量？ 第一步：建立θ的似然函数。假设对ξ进行了n次独立观察，得到样本值

(x1,x2,?,xn)，计算得到此样本的可能性大小：L(x1,x2,?,xn;θ)。

此函数简记为L(θ)，称θ的似然函数。应明确其定义域，假设是I。 若ξ为离散型，则：L(θ)=P(ξ=x1)P(ξ=x2)?P(ξ=xn)。 若ξ为连续型，则：L(θ)=fξ(x1)?fξ(x2)???fξ(xn)。

第二步：求似然函数的最大值点。若L(θ)在区间I内的最大值点是：

θ=g(x1

,x2

,?,xn

)，则θ?=g(ξ1

,ξ2

,?,ξn

)。（θ的

例：设f=??

θxθ?1，0<x<1，

ξ(x)(θ>0)求θ的极大似然估计。 ?0，

其它，解：L(x,?,x?θ?1n?

1,x2n;θ)=θx1θ1???θxn=θ(x1x2?xn)θ1，

定义域θ>0。要求L(θ)的最大值点，只要求lnL(θ)的最大值点。

lnL(θ)=nlnθ+(θ?1)ln(x1x2?xn)，

ddθlnL(θ)=n

θ+ln(xn1x2?xn)=0?θ=?ln(x， 1x2xn故θ的极大似然估计量是：θ

?=?n)

ln(ξ。 1ξ2ξn)

例：设ξ服从区间[0,θ]上的均匀分布，求θ的极大似然估计。 解：fξ(x)=θ?1

,x∈[0,θ]。L(θ)=fξ(x1)?fξ(x2)???fξ(xn)，

即：L(θ)=θ

?n

。定义域为：θ≥max(x1,?,xn)。

当θ=max(x1,?,xn)时，L(θ)最大。故θ?=max(ξ,ξ,?,ξ)。

12n

第二节 估计量的评价标准

设ξ为总体，(ξ1,ξ2,?,ξn)为样本，ξ、S2、S*2

的含义如上章所述。

θ是与ξ有关的某未知参数，θ?=g(ξ1,ξ2,?,ξn

)是θ的一个估计量。 1.估计的无偏性：若Eθ

?=θ，则称θ?为θ的一个 注：由上章结论，Eξ=Eξ，ES2

=

n?1

Dξ，ES*2=Dξ。因此， ξ是Eξ的无偏估计，S2是Dξ的有偏估计，S*2

是Dξ的无偏估计。

另：若当n→∞时，Eθ

?→θ，则称θ?为θ的一个 2.估计的有效性：①若θ

?1与θ?2都是θ的无偏估计量，而Dθ?1<Dθ?2， 则称θ

?1较θ?2②若θ?为θ的一个无偏估计，且在θ的一切无偏 估计中，θ

?的方差是最小的，则称θ?为θ 3.估计的一致性：

若对任意ε>0，?nlim→∞

P(|θ

?θ|<ε)

=1，则称θ?为θ 注：①根据大数定律，ξ是Eξ的一致估计，S2是Dξ的一致估计。

②定理：若n→∞时，Eθ

?→θ，Dθ?→0，则θ?为θ的一致估计。

第三节 参数的区间估计

设ξ表示总体，(ξ1,ξ2,?,ξn)为样本，θ是ξ的某个未知参数，

θ?1=g1(ξ1,ξ2,?,ξn)与θ?2=g2(ξ1,ξ2,?,ξn

)都是统计量，0<α<1。 若P(θ?1<θ<θ?2)=1?α，(?) 则称(θ?1,θ?2)为θ的1?α置信区间， 1?α称为置信水平，θ?1与θ?2

分别称为置信下限与置信上限。 找到了满足(?)式的θ?1与θ?2

，便得到对θ进行区间估计的方案。 估计的可靠程度由1?α来衡量，估计的精确程度由E(θ?2?θ?1)衡量， 但两者往往难同时兼顾。通常先规定1?α再尽量缩短E(θ?2?θ?1

)。 可用枢轴量法构造θ的1?α置信区间，见P.245步骤1、2、3。 通过大量实例，人们发现，为了使得到的置信区间的长度尽可能短，

(c,d)最好是“η的等尾1?α区间”，即：P(c<η<d)=1?α, P(η≤c)=α/2，P(η≥d)=α/2。

《数理统计》讲义第3页

我们要求大家会进行正态总体参数的区间估计，主要有六类问题：

类型 已知

待估参数

1 σ>0已知

a 2 ξ~N(a,σ2) σ2未知 a 3 a未知 σ2 4 ξ与η相互独立 σ21与σ22已知 a1?

a2 5 ξ~N(a21,

σ1) σ221=σ2 a1?a2 6

η~N(a2,σ2

2)

a1与a2未知

σ21/σ22

对于以上的第i类问题(i=1,2,3,4,5,6)，可以取枢轴量Zi， 则P(c<Zi<d)=1?α，其中(c,d)是Zi的等尾1?α区间。 将上述不等式变形，便可以得到待估参数的1?

α置信区间。

第1类问题：已知ξ~N(a,σ2)，其中σ>0已知，要估计a。

方法：取枢轴

量Z1=

~N(0,

1)，利用Z1的等尾1?α区间，

可得a的1?α置信区间：??ξu，ξ??+u?

αα?。（例8.15） ?

注：N(0,1)分布的等尾1?α区间记为(?uα,uα)，见P.259图9.1。

易知：Φ(u1?α

α)=2

。于是根据α便可查正态分布表得到uα的值。

第2类问题：已知ξ~N(a,σ2)，其中σ2未知，要估计a。 方法：取枢轴量Z2=

~t(n?1)，用Z2的等尾1?α区间，

可得a的1?α置信区间：????tα,+?α（例8.16） ?

??。?注：t分布的等尾1?α区间记为(?tα,tα)，图见课本P.339右上角。 严格来说，tα应该记为tα(n)，其值可根据α及自由度，查t分布表。

第3类问题：已知ξ~N(a,σ2)，a未知，要估计σ2。

方法：取枢轴量ZnS23=σ

2

~χ2

(n?1)，利用Z3的等尾1?α区间， ?2可得σ2的1?α置信区间：?nSnS2??2,2?

?χ?。（例：P.248例8.17）

αχ?21?α

2??注：χ2分布的等尾1

?α区间记为：??χ22?

?1?α,χα??

，见P.268图9.5。

χα2的含义也可见P.341右上角的图。严格来说，χα2应记为χα2(n)。

χα2的值可以根据α及自由度，查χ2分布表得到。

以下问题皆设ξ与η相互独立，ξ~N(a1,σ21)，η~N(a2,σ22)，

(ξ1,ξ2,?,ξm)是取自ξ的样本，ξ是样本均值，S21是样本方差， (η1,η2,?,ηn)是取自η的样本，是样本均值，S22是样本方差。

第4类问题：σ21与σ22皆已知，要估计a1?a2。 方法：取枢轴量Zaa4=

~N(0,1)，用N(0,1)分布

的等尾1?α区间，可得a1?a2的1?α置信区间。（如P.254第7题）

第5类问题：σ221与σ2皆未知，但σ21=σ22，要估计a1?a2。 方法：取枢轴量Z5=??(见P.225定理7.12)~t(m+n?2)， 利用t分布的等尾1?α区间，即可得a1?a2的1?α置信区间。

《数理统计》讲义第4页

第6类问题：a221与a2皆未知，要估计σ1/σ2。

(n?1)mS222

方法：取枢轴量Z1σ2S1?2/S2?6=(m?1)nS2=22~F(m?1,n?1)，

2σ21σ1/σ2S21?与S2?2分别是两个样本的修正方差。利用Z6的等尾1?α区间，

便可以得到σ21/σ22的1?α置信区间。 （例：P.251例8.19） 注：F分布的等尾1?α区间记为(F1?α,Fα)，参阅P.270图9.6。

Fα的含义也可见P.343右上角的图。严格来说，Fα应记为Fα(m,n)。

其值可根据α及两个自由度，查表得到。Fα

(m,n)=1

Fn,m)

。 1?α(第九章 参数假设检验

先看两个实例：

（1）P.255eg1：（取α=0.05进行计算）

解：已知ξ~N(θ,1)，要检验假设：H0:Eξ=0?H1:Eξ≠0。 如果H0成立，则

：Z1=

==3ξ~N(0,1)。

设W=(?∞,?uα)?(uα,+∞)=(?∞,?1.96)?(1.96,+∞)， 则P(Z1∈W)=0.05，即Z1∈W是小概率事件。Z1的观察值是：

3×0.74=2.22。Z1∈W发生了。故拒绝H0，即认为目前Eξ≠0。

（2）P.261eg5：ξ~N(a,0.1082)，H0:Eξ=4.55?H1:Eξ<4.55。如果H0成立，则

：Z1=

=

~N(0,1)。

设W=(?∞,?u2α)=(?∞,?1.64)，则：P(Z1∈W)=0.05。

抽样结果：ξ=4.364，Z1=?3.851。小概率事件Z1∈W发生了。

因此，我们拒绝H0，即认为目前的Eξ明显地低于4.55。

假设检验的思想、概念、方法

设ξ为总体，要对ξ的参数θ进行检验。 对θ要进行的检验可能有三种：

①双边检验：H0:θ=θ0?H1:θ≠θ0。 ②左边检验：H0:θ≥θ0?H1:θ<θ0。 ③右边检验：H0:θ≤θ0?H1:θ>θ0。

基本步骤：第一步：明确已知及待检参数θ，写出对θ要进行的检验。

H0及H1都应写，这两者未必相互对立。一般来说，H0是受保护的、不想或不能轻易否定的，H1是受排斥的、不想或不能轻易接受的。 第二步：寻找统计量Z及实数集W，使H0成立时，P(Z∈W)≤α。

α是事先规定的小正数，称为检验水平。Z称检验函数，W称拒绝域。拒绝域的形状通常可由H1看出来。拒绝域的余集W称为接受域。 第 三步：计算Z的观察值，Z∈W则拒绝H0，Z∈W则接受H0。

正 态

类型 已知 待检参数θ 总

1 σ>0已知 a 体 参

2 ξ~N(a,σ2) σ2未知 a 数

3 a未知 σ

2 的 假 4 ξ与η相互独立 σ2σ21与2已知

a1?a2 设

5 ξ~N(a2

1,σ1) σ21=σ22 a1?a2 检 验

6 η~N(a2,σ22) a与a σ2212未知1/σ2 解题时，先要搞清问题类型，写出对θ需要进行的检验。 若是第i类问题，检验函数可采用Zi，需将θ换成θ0。 若对θ进行双边检验，拒绝域可以取Zi的双侧α区间。 若对θ进行左边检验，拒绝域可以取Zi的左侧α区间。 若对θ进行右边检验，拒绝域可以取Zi的右侧α区间。

《数理统计》讲义第5页