《滨州学院《概率论与数理统计》学习指导.docx》由会员分享,可在线阅读,更多相关《滨州学院《概率论与数理统计》学习指导.docx(29页珍藏版)》请在第一文库网上搜索。
1、第7章参数估计一、基本要求(1)理解参数的点估计、估计量与估计值的概念,了解评选估计量的基本标准无偏性、有效性(最小方差性)与相合性(一致性)的概念,并会证明估计量的无偏性;会比较两个无偏估计量的方差;会利用大数定律证明估计量的相合性.(2)掌握求估计量的方法矩估计法和最大似然估计法;矩估计法一般只涉及一阶和二阶矩.(3)掌握建立未知参数的(单侧或双侧)置信区间的一般方法,掌握正态总体的均值、方差、标准差和矩,以及与其相联系的特征的置信区间的求法.(4)掌握建立两个正态总体的均值差和方差比,以及与其相联系的特征的置信区间的一般求法.二、内容提要统计推断,就是由样本推断总体,是统计学的核心内容,
2、其两个基本问题是统计估计和统计检验.统计推断的众多分支、应用、方法及原理都是围绕着估计与检验建立和展开的.参数估计,就是根据样本来估计总体的未知参数,分为点估计和区间估计.评选估计量的标准点估计是用统计量的值估计未知参数的值;作估计用的统计量称为估计量;估计量是随机变量,它所取的具体值称为估计值.例如,对于任意总体X,可以分别用样本均值和样本方差2做总体的数学期望EX和方差DX的估计量.我们用统计量”=g(X,X2,X“)(有时简记为J)做未知参数。的估计量,其中g(X1,X2,X)是简单随机样本(XX2,X)的函数.同一个未知参数。一般有多个可供选择的估计量.评选估计量的标准,是对于估计量优
3、良性的要求,考试大纲要求掌握无偏性、有效性(最小方差性)、相合性.1、无偏性 称估计量。为未知参数。的无偏估计量,如果2、有效性 假设4和。都是。的无偏估计量,那么如果dAwd”,则称估计量。比。更有效.在未知参数。任何两个无偏估计量中,显然应该选更有效者方差较小者.3、相合性 称估计量。=g(X,X2,X”)为未知参数。的相合估计量,如果。依概率收敛于6.换句话说,当充分大时,相合估计量。以十分接近1的概率近似等于它所估计的未知参数即p小小1.相合性一般是大数定律的推论.求估计量的方法考试大纲要求掌握最常用的两种求估计量的方法:矩估计法和最大似然估计法.1、矩估计法 矩估计法,是用样本矩估计
4、相应的总体矩、用样本矩的函数估计总体矩相应函数的一种估计方法.矩估计法无需知道总体的分布.总体的攵阶原点矩和攵阶中心矩定义分别定义为= EXk 和 =E(XEXy(k=01,2,)考试大纲只涉及一阶矩和二阶矩.矩估计法的步骤为:(1)用k阶样本原点矩区估计攵阶总体原点矩 ,用k阶样本中心矩用估计总体的左阶中心矩例如,用一阶样本原点矩样本均值又二由估计总体的数学期望EX=%,用二阶样本中心矩未修正样本方差=为估计总体的方差DX =(2)设e = /(%,%)是一阶原点矩和二阶原点矩的函数,则。-/(i ,匿)就是0 = /(%)的矩估计量(见例7.19).(3)设为=力(%,。2)(1=1,2)
5、是一阶原点矩四和二阶原点矩附的函数,则。=力(应1自)就是d =力(4,。2)=1,2)的矩估计量(见例7.5、例7.187.20).2、最大似然估计法 最大似然估计法要求事先知道总体分布的数学表达式.我们用概率函数/(司。)表示总体X的概率分布,其中。是一维参数或。二(优招2)是二维参数.对于离散型总体X,其概率函数为()px =H吐 若不是X的可能值;0,若x不是X的可能值.对于连续型总体X,其概率函数/(x;e)就是概率密度.似然函数 设总体x的概率函数为/Q;e), (XyXz,,x)是来自总体x的简单随机样本,则称函数咐(xM/fee)/(x;e)为参数。的似然函数;称函数In L)
6、 = In f(X ;。) + In f(X2;。) + + In f(Xn 冶)为对数似然函数,亦简称似然函数.(2)最大似然估计量 对于给定的样本值(为,,与),使似然函数L)或lnL0)达到最大值的参数值称做未知参数。的最大似然估计值.对于几乎一切样本值(为,,,与),使似然函数M。)或inL(e)达到最大值的估计量称做未知参数e的最大似然估计量,即最大似然估计量A (以概率1)决定于条件:()=L(X1,X2,.-,%; 6)=喈 X”X2,,X; a).(3)似然方程 由函数有极值的必要条件,得方程峪。或di)二寸!4/(x) = ode 一白/(x) de -称做参数。的似然方程;
7、假如未知参数。=(d,)是二维的,则得似然方程(组)蛔=0,SO、蛔=0;犯如“。)弋 1矶xr0八岫一金一可洌网 加 L(e)二寸 I凯x)0迅 一 6V(x)此一在相当广泛的情形下,似然方程的解就是最大似然估计量.一般,要用微积分中判断最大值的方法来判断似然方程的解是否最大似然估计量.有时,只能用近似计算的方法求解似然方程.在有些情形下,似然函数对。的导数不存在,这时应采用其他方法求最大似然估计量(见例7.19,例7.21和例7.27).(4)最大似然估计量的函数 假设参数。的函数/= ge)有唯一反函数,而6是夕的最大似然估计量,则亍=g0是一ge)的最大似然估计量.参数的区间估计未知参
8、数。的区间估计,亦称“置信区间”,是以统计量为端点的随机区间(。,4),它以充分大的概率包含未知参数。的值,其中区间的端点。和是统计量.1、置信区间 设。是总体X的未知参数,(X1,X2,X;)是来自总体X的简单随机样本,是两个统计量,满足Pi 6 d2=-a,则称随机区间(。,2)为参数。的置信度为1-a的区间估计或置信区间,简称为。的1-a置信区间;区间的端点统计量分别称做置信下限和置信上限对于具体的样本值区,,/),(。,庆)是直线上一个普通的区间,称做置信区间的一个实现.置信度是随机区间(4,。)“包含”或“覆盖”未知参数。的值的概率.置信度一般选充分接近1的数,例如l-a=0.95.
9、直观上,如果多次使用置信度为0.95的置信区间庆)估计参数6,则该区间平均有95%的实现包含。的值,不包含,值的情形大致只有5%左右.2、单侧置信区间 设(6,)和(,初都是参数。的1-a置信区间,其中。和是已知常数或无穷大,则(。)称做下置信区间,而。上置信区间.3、置信区间的求法 设。是总体X的未知参数,X=(XX2,X”)是来自总体X的简单随机样本.建立未知参数。的1-a置信区间的一般步骤为(见例7.26和例7.27):(1)选择一个包含参数8的样本的函数7 = /(X;。),但是其分布不依赖于参数9;假设0 = g(x; T)是 T = /(X; 8)的反函数;(2)对于给定的置信度1
10、-2,根据7的概率分布选两个常数(分位数)4,4使之满足条件p/l1 T 12 = 1 6Z ;(3)利用夕= g(X; T)和T = /(X;。)之间的反函数关系,由(7.11)式可得l-a = p4 74=P84,其中,若T = /(x;,)是。的增函数,则京=g(x; 4), E=g(x; 4);若T = /(x;。)是6的减函数,则。=g(x; 4), 4=g(x; 4);由此得参数。的1一。置信区间(。,。).注 式(7.11)中4,%的选择有一定任意性,因此具有相同置信度的置信区间并不惟一.对于对称分布(如正态分布、,分布)以及偏度不大的分布(如分布和尸分布),通常按如下原则选取4
11、,4:prA2=. 正态总体参数的区间估计正态总体参数的置信区间,主要是一个正态总体均值和方差的置信区间,以及两个正态总体均值差和方差比的置信区间.1、一个正态总体参数的区间估计 假设总体XN(4,b2), (X1,X2,X)是来自总体X的简单随机样本;K是样本均值,S2是样本方差.表7T列出了 4和的J。置信区间.表7-1 和4的1 。置信区间未知参数置信区间分位数77b =cr-402未知(x-ua cr0/V , X + Ua附表2(X -ta,n- s/yn , X + tan_ s/4n)附表2附表32、两个正态总体参数的区间估计 假设XN(0b:), Y 辿4);(X”X2,X,)
12、和(X,力,,工)分别是来自总体x和y的简单随机样本,x, s:, y, s:是相应的样本均值和样本方差;S;是联合样本方差(见(6.16)式).Q 和的1一2置信区间列入表7-2.表7-2均值差a-h和方差比的1一。置信区间未知参数1。置信区间分位数已知X-Y + ua附表2未知人 J附表21/ = ? + 一 22CT?附表4三、典型例题及其分析例721设X 是从正态总体NJ,,)中抽出的样本,要求估计/和,.【解】已知 =E(X),/ = D(X) = E(X2)-E2(X).因此可用样本一阶原点矩和二阶原点矩去估计.累X,711。一心:卒Y卒【解毕】1 n实际上,不论总体服从什么分布,
13、其总体均值的矩估计量都是样本均值乂=已乂,;=|总体方差的1 n矩估计量都是二阶样本中心矩,即层=X(X,-X)2.例722设X6.X是从区间0,网上均匀分布的总体中抽出的样本,求夕的矩估计.【解】n一因此=4 =-Y x. = x.2所以。=2X,就是。的矩估计量.【解毕】例723设总体XN(,b2),样本值冷%,求4,的极大似然估计值.1 (4I【解】 总体分布密度/(x;q2)= e 2/也的2 (-一)样本的似然函数为人(斗,4;,/) = ( )口 2,12g2 /=?取对数,得对数似然函数In Ln = -ln(2) -In-)(七-)2.z=l对从4求偏导数,并令其为零,得似然方
14、程组半= Af(Xi)=。加 bd In Lnn 12六=r + r (七一)=0da22b2 2b4/1 -_21 J.其根为 = xz. =x,(y =-Y (xz-x)29n /=I2这就是与的极大似然估计值(数学上可以验证,。确实在,/处达到极大值).的极大似然估计量为【解毕】【注】此例说明了求未知参数极大似然估计的方法.例724 设总体X。0,阴,来自总体X的样本%,X求。的极大似然估计.【解】x的分布密度fxO)= e0,其他.样本X,.x的似然函数为八()n, 0x,%2 % 4(不13;8)= %1 2 w0,其他.由此式可见,要。最大,只要。最小,而由。的表达式知,当。=0*(3,马Z)时,。为最小,此时。最大.故e的极大似然估计值为0 = max(x,,而似然估计量为【解毕】e = max(X,X2 XJ例7.3.1 设X,X是从某总体中抽出的样本,则样本均值又=是总体分布均值。的无偏估计.【证明】 设总体x的分布的期望石(x)