《概率论与数理统计公式整理(超全免费版).docx》由会员分享,可在线阅读,更多相关《概率论与数理统计公式整理(超全免费版).docx(70页珍藏版)》请在课桌文档上搜索。
1、第1章随机事件及其概率(1)排列组合公式m!Pn=/一小从m个人中挑出n个人进行排列的可能数。m(m-n)!m!Cn=-77从m个人中挑出n个人进行组合的可能数。mn!(m-n)!(2)加法和乘法原理加法原理(两种方法均能完成此事):m+n某件事由两种方法来完成,第一种方法可由m种方法完成,第二种方法可由n种方法来完成,则这件事可由m+n种方法来完成。乘法原理(两个步骤分别不能完成这件事):mn某件事由两个步骤来完成,第一个步骤可由m种方法完成,第二个步骤可由n种方法来完成,则这件事可由mn种方法来完成。(3)一些常见排列重复排列和非重复排列(有序)对立事件(至少有一个)顺序问题(4)随机试验
2、和随机事件如果一个试验在相同条件下可以重复进行,而每次试验的可能结果不止一个,但在进行一次试验之前却不能断言它出现哪个结果,则称这种试验为随机试验。试验的可能结果称为随机事件。(5)基本事件、样本空间和事件在一个试验下,不管事件有多少个,总可以从其中找出这样一组事件,它具有如下性质:每进行一次试验,必须发生且只能发生这一组中的一个事件;任何事件,都是由这一组中的部分事件组成的。这样一组事件中的每一个事件称为基本事件,用3来表示。基本事件的全体,称为试验的样本空间,用Q表示。一个事件就是由。中的部分点(基本事件fD)组成的集合。通常用大写字母,B,C,表示事件,它们是C的子集。为必然事件,0为不
3、可能事件。不可能事件(0)的概率为零,而概率为零的事件不一定是不可能事件;同理,必然事件(Q)的概率为1,而概率为1的事件也不一定是必然事件。(6)事件的关系与运算关系:如果事件A的组成部分也是事件B的组成部分,(A发生必有事件B发生):A仁B如果同时有A彳二B,BnA,则称事件A与事件B等价,或称A等于B:A=BoA、B中至少有一个发生的事件:AUB,或者A+B。属于A而不属于B的部分所构成的事件,称为A与B的差,记为A-B,也可表示为A-AB或者AB,它表示A发生而B不发生的事件。A、B同时发生:n,或者AB。AnB=0,则表示A与B不可能同时发生,称事件A与事件B互不相容或者互斥。基本事
4、件是互不相容的。2011-1-1-称为事件A的逆事件,或称A的对立事件,记为A。它表示A不发生的事件。互斥未必对立。算:结合率:A(BC)=(AB)CAU(BUC)=(AUB)UC分配率:(AB)UC=(AUC)(BUC)(AUB)C=(AC)U(BC)n4=U_德摩根率:i,i.1AuB=AnB,AnB=AuB(7)概率的公理化定义设C为样本空间,A为事件,对每一个事件A都有一个实数P(八),若满足下列三个条件:lo0P()l,2oP(Q)=13对于两两互不相容的事件Ai,A2,有PUAj=LP(八),i1JiB1常称为可列(完全)可加性。则称P(八)为事件A的概率。II(8)古典概型lo=
5、i,.t122oP()=P()=.P()=12n设任一事件A,它是由co,.组成的,则有P(八)=()U()U.1u(2)=P()P()+.+P()12m12m=m=A所包含的基本事件数n基本事件总数(9)几何概型若随机试验的结果为无限不可数并且每个结果出现的可能性均匀,同时样本空间中的每一个基本事件可以使用一个有界区域来描述,则称此随机试验为几何概型。对任一事件A,P(八)=瑞。其中L为几何度量(长度、面积、体积)。(10)加法公式P(A+B)=P(八)+P(B)-P(AB)当P(AB)=O时,P(A+B)=P(八)+P(B)(11)减法公式P(A-B)=P(八)-P(AB)当BUA时,P(
6、A-B)=P(八)-P(B)当A=Q时,P(-B)=1-P(B)(12)条件概率P(AB)定义设A、B是两个事件,且P(八)0,则称为事件A发生条件下,事件B发生的条件概率,记为P(BA)=;黑。2011-1-1条件概率是概率的一也,所有概率的性质都适合于条件概率。例如P(B)=1=PCbA)=1-P(BA)(13)乘法公式乘法公式:P(AB)=P(八)P(BZA)更一般地,对事件A,A,A,若P(AA-A)0,则有P(AA12.A)n=P(八)1P(AA)21P(AAA)312P(AnlAAAQ。(14)独立性两个事件的独立性设事件A、B满足P(AB)=P(八)P(B),则称事件A、B是相互
7、独立的。若事件A、B相互独立,且P(八),则有P(B|A)=P(八)P(B)=P(B)P(八)P(八)_若事件A、B相互独立,则可得到A与B、A与Q、A与B也都相互独立。必然事件和不可能事件0与任何事件都相互独立。0与任何事件都互斥。多个事件的独立性设ABC是三个事件,如果满足两两独立的条件,P(AB)=P(八)P(B);P(BC)=P(B)P(C);P(CA)=P(C)P(八)并且同时满足P(ABC)=P(八)P(B)P(C)那么A、B、C相互独立。对于n个事件类似。(15)全概公式设事件BjB?,,Bri满足I0B2,,Bri两两互不相容,P(Bj)0(i=1,2,.jn)A仁UhB2M1
8、,则有P(八)=P(B1)P(A|B1)+P(B2)P(AB2)+.P(Bn)P(ABJ。(16)贝叶斯公式设事件B-B2,.,Bn及A满足loB1,B2,Bn两两互不相容,P(Bl)o,i=,2,,n,A仁U2。mP(八)0,则PRA)P(B)P(A/B)r(b/A)=_L.1,1=1,2,11onP(B)P(AB)jj此公药即为P斯公式。P(B),(i=1,2,,),通常叫先验概率。P(BA),(i=1,2,,n);通常称为后验概率。贝叶斯公式反映了“因果”的概率规律,并作出了“由果朔因”的推断。(17)伯努利概型我们作了n次试验,且满足令每次试验只有两种可能结果,A发生或A不发生;201
9、1-1-1令n次试验是重复进行的,即A发生的概率每次均一样;令每次试验是独立的,即每次试验A发生与否与其他次试验A发生与否是互不影响的。这种试验称为伯努利概型,或称为n重伯努利试验。用P表示每次试验A发生的概率,则A至生的概率为I-P=q,用Pn(k)表示n重伯努利试验中A出现k(0kn)次的概率,Pn(k)=Ckpkqzk=0,1,2,.,nn,o第二章随机变量及其分布(1)离散型随机变量的分布律设离散型随机变量X的可能取值为X(k=l,2,)且取各个值的概率,即事件(X=Xk)的概率为P(X=x)=p,k=l,2,则称上式片离散型随机变量X的概率分布或分布律。有时也用分布列的形式给出:XI
10、X,2Xq-P(X=k)p1,P2,.,Pk,.。显然分布律应满足下列条件:Pk=IPkNO,k=1,2,.kaiO(2)连续型随机变量的分布密度设f(X)是随机变量X的分布函数,若存在非负函数fW,对任意实数X,有F(x)=f(x)dx则称X为连续型随机变量。fW)称为X的概率密度函数或密度函数,简称概率密度。密度函数具有下面4个性质:1 。f(X)0。J板f(x)dx=12 Y(3)离散与连续型随机变量的关系P(X=x)P(xXX+dx)f(x)dx积分元f(x)dx在连续型随机变量理论中所起的作用与P(X=Xk)=Pk在离散型随机变量理论中所起的作用相类似。2011-1-1(4)分布设X
11、为随机变量,X是任意实数,则函数函数F(x)=P(Xx)称为随机变量X的分布函数,本质上是一个累积函数。P(aXb)=F(b)-F(a)可以得到X落入区间(a,b的概率。分布函数F(X)表示随机变量落入区间(-8,内的概率。分布函数具有如下性质:I00F(x)1,-X-x;2oF(X)是单调不减的函数,即xX2时,有F(x1)F(X2);3。F(-00)=IimF(X)=O,F(田)=IimF(x)=1;x-xX*X4。 F(xO)=F(X),即F(X)是右连续的;5。 P(X=x)=F(X)-F(x-O)o对于离散型随机变量,F(x)=p:kXka对于连续型随机变量,F(X)=Jf(x)dx
12、o三0o(5)八大分布0-1分布P(X=I)=P,P(X=O)=q在n重贝努里试验中,设事件A发生的概率为P。事件A发生的次数是随机变量,设为X,则X可能取值为0,1,2,,n。P(X=k)=Pk)=Ckpkq-,其中q=1-p,0p0,k=0,1,2k!则称随机变量X服从参数为入的泊松分布,记为X冗(入)或者P().泊松分布为二项分布的极限分布(np=入,n-*o)o超几何分布dzvIx55七k=0,1,2.,ICnI=mn(M,n)N随机变量X服从参数为n,XM的超几何分布,记为H(n,N,M)o几何分布P(X=k)=qk-p,k=1,2,3,其中po,q=-po随机变量X服从参数为P的几
13、何分布,记为G(p)o均匀分布设随机变量X的值只落在a,b内,其密度函数f(X)在a,b上为常数即b-af,1abf(x)=IO,其他,则称随机变量X在a,b上服从均匀分布,记为XU(a,b),分布函数为0,xbo当axxb时,X落在区间(Xi,、2)内的概率为)2P(xXX)=x?.012b-a2011-1-1指数分布cM心,x0f(X)=J1.0,x0,则称随机变量X服从参数为九的指数分布。X的分布函数为1-e,x0F(X)NI0x0o记住积分公式:jXne-Xdx=n!正态分布设随机变量X的密度函数为1(f)2f()=-7=-e-2,-xo为常数,则称随机变量X服从参数为从、的正态分布或
14、高斯(GaUSS)分布,记为XN3,02)f()具有如下性质:1。 f(X)的图形是关于X=A对称的;2。当X=H时,=为最大值;品二器2p询分布函教为寸2Y参数U=、=1时的正态分布称为标准正态分布,记为XN(O.I),其密2度函数记为()=e22,-QCX)=a(7)函数分布离散型已知X的分布列为XIp2,*,Xn,P(X=Xj)h,p2,PnjY=g()的分布列(y=g()互不相等)如下:g(j,g(j,,g(r),:续露4(4附目等?2则成将对面的P和加作为g(.)的概率。连续型先利用X的概率密度f(x)写出Y的分布函数F(y)=P(g(X)XYy),再利用变上下限积分的求导公式求出f
15、(y)oY第三章二维随机变量及其分布(1)联合分布离散型如果二维随机向%(X,Y)的所有可能取值为至多可列个有序对(,y),则称匕为离散型随机量。设之=(X,Y)的所有可能取值为(x,y)(i,j=1,2,.),且事件匕二(,y.)的概率为P.,称ijP(X,Y)=(x,y)=p(i,j=1,2,.)ijU为之=(X,Y)的分布律或称为X和丫的联合分布律。联合分布有时也用下面的概率分布表来表示:y1y2yX1P11P12PUX2P21p22p2j*XPilPij这里P具有1(1)P0:面两个性质:i,j=l,2,);P=1.ij2011-1-1连续型对于二维随机向量匕=(X,Y),如果存在非负
16、函数f(X,y)(-8X+8,-8yV+8),使对任意一个其邻边分别平行于坐标轴的矩形区域D,即D=(X,Y)axb,cyX()x,彳时,有F(x,y)F(x,y);F(x,y)分别对x和y是看连续的:F(,y)=F(x+0,y),F(x,y)=F(x,y+0);(4)F(-00,-o)=F(-co,y)=F(x,-Qo)=0,F(,+o)=1.(5)对于Xx,yvy,1212F(x,y)-F(x,y)-F(x,y)+F(x,y)0.22211211(4)离散型与连续型的关系P(X=x,Y=y)P(xXx+dx,y0,f(u)二件(博0.u0.我们称随机变量W服从自由度为n的X2分布,记为wX
17、2(n),其中r()=j*wTe-XdX(2)O所谓自由度是指独立正态随机变量的个数,它是随机变量分布中的一个重要参数。X2分布满足可加性:设Y-X三(n)j则Z=XkYX2(n+n+.+n).i12ki=12011-1-1t分布设X,是两个相互独立的随机变量,且XN(0,1),YX2(n),可以证明函数T=Yn的概率密度为f(t)=(II(I+:)(-Wt0Iryru)I2o1yf(x)dx矩对于正整数k,称随机变量X的k次基的数学期望为X的k阶原点矩,记为V,即V=E(Xk)=ZXkp,kiik=l,2,.对于正整数k,称随机变量X与E(X)差的k次塞的数学期望为X的k阶中心矩,记为Ll,
18、k即=E(X-E(X)kk=Z(X-E(X)kp,iik=l,2,.对于正整数k,称随机变量X的k次幕的数学期望为X的k阶原点矩,记为V,即kV=E(Xk)=(PHXkf(X)d,k-CDk=l,2,.对于正整数k,称随机变量X与E(X)差的k次累的数学期望为X的k阶中心矩,记为口,即k=E(X-E(X)kk二r(x-E(X)kf(x)dx,k=l,2,.2011-1-1切比雪夫不等式殳随机变量X具有数学期望E(X)=Il,方差D(X)=。2,则对于任意正数,有下列切比雪夫不等式p(k-山lc)共吃C2切比雪夫不等式给出了在未知X的分布的情况下,对概率P(IX-山Ic)的一种估计,它在理论上有
19、重要意义。(2)期望的性质(1) E(C)=C(2) E(CX)=CE(X)(3) E(XY)=E(X)+E(Y),E(XnCX)=XnCE(X)iiiii=1i=1(4) E(XY)=E(X)E(Y),充分条件:X和丫独立;充要条件:X和丫不相关。(3)方差的性质(1) D(C)=O;E(C)=C(2) D(aX)=a2D(X);E(aX)=aE(X)(3) D(aX+b)=a?D(X);E(aX+b)=aE(X)+b(4) D(X)=E(Xz)-Ez(X)(5) D(XY)=D(X)+D(Y),充分条件:X和丫独立;充要条件:X和丫不相关。)(XY)=D(X)+D(Y)2E(X-E(X)(
20、Y-E(Y),无条件成立。而E(X+Y)=E(X)+E(Y),无条件成立。(4)常见分布的期望和方差期望方差0-1分布B(1,p)PP(I-P)二项分布B(n,P)npP(1-P)泊松分布P(入)入入几何分布G(P)1PLlP.P2超几何分布H(n,M,N)nMTTnM(1_M)(N-n)N(N)(N-1)均匀分布U(a,b)a+b(b-a)212指数分布e(入)1入1F2011-1-1正态分布N(H,02)2*分布n2nt分布0n(n2)n-2(5)二维随机变量的数字特征期望E(X)=npii.i=1E(Y)=ypjii=1E(X)=卜x(x)d-OeE(Y)=yf(y)dy三co函数的期望
21、EG(X,Y)=G(x,y)pjjiiEG(X,Y)=入入G(x,y)f(x,y)ddy-UC-UO方差D(X)=x-E(X)2iPD(Y)=X-E(Y)2,jP.JD(X)=r-E(X)2f(x)dxD(Y)=xy-E(Y)2f(y)dy-CC协方差J对于随机变量X与Y,称它们的二阶混合中心矩U为X与Y的协方11差或相关矩,记为。或CoV(X,Y),即XY=E(X-E(X)(Y-E(Y).XY11与记号OXY相对应,X与Y的方差D(X)与D(Y)也可分别记为OXX与。YY2011-1-1相关系数对于随机变量X与Y,如果D(X)0,D(Y)O,则称幸vpcjv(j为X与丫的相关系数,记作P(有
22、时可简记为P)oXYPlWL当IPl=I时,称X与丫完全相关:P(X=aY+b)=1(正相关,当P=I时(a0),完全相关负相关,当P=7时值0),而当P=O时,称X与丫不相关。以下五个命题是等价的:P=0;XYcov(X,Y)=0;E(XY)=E(X)E(Y);D(X+Y)=D(X)+D(Y);D(X-Y)=D(X)+D(Y).协方差矩阵(xJ)YXYY混合矩对于随机变量X与Y,如果有E(XkYl)存在,则称之为X与丫的k+1阶混合原点矩,记为V;k+1阶混合中心矩记为:klU=E(X-E(X)k(Y-E(Y)1.kl(6)协方差的性质(i) Cov(X,Y)=cov(Y,X);(ii) C
23、ov(aX,bY)=abcov(X,Y);(iii) cov(X+X.,Y)=cov(X,Y)+cov(X,Y);(iv) cov(X;Y)=E(XY)-E(X)E(Y).(7)独立和不相关(i) 若随机变量X与丫相互独立,则P=0;反之不真。XY(ii) 若(X,Y)-N(山,山,幸2,幸2,p),1212则X与丫相互独立的充要条件是X和Y不相关。第五章大数定律和中心极限定理2011-1-1(1)大数定律切比雪设随机变量X,X,相互独立,均具有有限方差,且被同一X)P夫大数定律常数C所界:D(XIimP(Kw特殊情形:若X则上式成为IimP(KIX-P11wn-i)c(i=l,2,),则对于
24、任意的正数,有XjJE(X)t)=1.Sll,X,具有相同的数学期望E(X)=I1,2It)=i伯努利设U是n次独立试验中事件发生的次数,P是事件A在大数定律每次试验中发生的概率,则对于任意的正数J有IimP(IE-pP=0.n)w(n)这就以严格的数学形式描述了频率的稳定性。辛钦大数定律设X,X,,X,(X)JP,则知于nIimP(Xj-Pnw,1!是相互独立同分布的随机变量序列,且E任意的正数有t)l=i(2)中心极限定列维一设随机变量X,X,相互独立,服从同一分布,且具有理林德伯相同的数学期望和方差:X)N(p,Jn格定理E(X)=P,D(X)=装2丰0(k=1,2,.),则随机变量kk
25、nx-叩kY=44n、n装的分布函数F(x)对任意的实数X,有X-nplk_l1:gIimF(x)=IimP三X=Je2dt.加n/融:Tj-wJ此定理也称为独立同分布的中心极限定理。2011-1-1棣莫弗一拉普拉斯定理设随机变量X为具有参数n,p(0pwlnP(I-P)JFrj-w(3)二项定理若当N)wl,M)p(n,k不变),则NC*C0-*、cIA“N-M)Cpk(1-p)11-k(N)W).C11nN超几何分布的极限分布为二项分布。(4)泊松定理若当n)w时,np)入0,则入kCkPk(I-p)11-k)_e-入(n)W).nk!其中k=0,1,2,,n,。二项分布的极限分布为泊松分
26、布。第六章样本及抽样分布(1)数理统计的基本概念总体在数理统计中,常把被考察对象的某一个(或多个)指标的全体称为总体(或母体)。我们总是把总体看成一个具有分布的随机变量(或随机向量)。个体总体中的每一个单元称为样品(或个体)。样本我们把从总体中抽取的部分样品X,X,X称为样本。样本12n中所含的样品数称为样本容量,一般用n表示。在一般情况下,总是把样本看成是n个相互独立的且与总体有相同分布的随机变量,这样的样本称为简单随机样本。在泛指任一次抽取的结果时,X,X,X表示n个随机变量(样本);在具体的一次12n抽取之后,x,x,X表示n个具体的数值(样本值)。我们12n称之为样本的两重性。样本函数
27、和统计量设X,X,X为总体的一个样本,称12np=p(X,X,X)12n为样本函数,其中P为一个连续函数。如果P中不包含任何未知参数,则称P(X,X,x)为一个统计量。12n2011-1-1常见统计量及其性质样本均值=-n.nii=1样本方差S2=1?(X_X)2.n-1ii=1样本标准差s=LrZrl(X-x)2.n-1i=1样本k阶原点矩M=-Xk,k=1,2,.k11ii=1样本k阶中心矩M,=L?(X-x)k,k=2,3,.k11ii=1E(-)=,D(JC)=Zi,nE(S2)=2,E(S*2)=吧2,n其中S*2=L(X-X)2,为二阶中心矩。nii=1(2)正态总体下的四大分布正
28、态分布设X,X,x为来自正态总体N(,2)的一个样本,则样12n本函数U当XUN(0,1).t分布设X,X,X为来自正态总体N(,2)的一个样本,则样12n本函数t四Xft(n-1),S7其中t(nT)表示自由度为nT的t分布。2011-1-1Z2分布设x,x,x为来自正态总体N(,2)的一个样本,则样12n本函数def(n-1)S2一,W-.L二2(n-1),02其中2(n1)表示自由度为11T的三2分布。F分布设x,x,x为来自正态总体N(,b2)的一个样本,而12n1y,y,,y为来自正态总体N(,b2)的一个样本,则样本12n2函数F-f/0:F(n-In-1),S2/021222其中
29、S2=_L,(-x)2,S2=_n2(y-y)2;1 n_1i2n_111=12=1F(n-1,n-1)表示第一自由度为n-1,第二自由度为121n-1的F分布。2(3)正态总体下分布的性质X与S2独立。第七章参数估计2011-1-1点估计矩估计设总体X的分布中包含有未知数9,9,9,则其分布函数可以表成12mF(x;9,9,9).它的k阶原点矩V=E(Xk)(k=1,2,m)中也12mk包含了未知参数9,9,9,即V=V(9,9,9)。又设12mkk12mX,X,,X为总体X的11个样本值,其样本的k阶原点矩为12n2Znk(k=1,2,.,m).nii=1这样,我们按照“当参数等于其估计量
30、时,总体矩等于相应的样本矩”的原则建立方程,即有v(9=2,12nniV(夕0.,21211n日V(99.,9j=Jnm.m12rnni1-1由上面的m个方程中,解出的m个未知参数(9,9,,9即为参数12m(9,9,9)的矩估计量。12m若。为9的矩估计,g(x)为连续函数,则g(歹)为g(9)的矩估计。2011-1-1极大似当总体X为连续型随机变量时,设其分布密度为然估计f(x;9,9,.”9),其中9,9,9为未知参数。又设12m12mX,X,X为总体的一个样本,称12n1.(9,9,.,9)=Vnf(;9,9,9)12mI12mi=1为样本的似然函数,简记为L.当总体X为离型随“机变量
31、时,设其分布律为P=p(x;9,9,.,9),则称12m1.(x,X,.,X;9,9,.,9)=Vnp(;9,9,.,9)12n12mi12mi=1为样本的似然函数。若似然函数L(x,x,x;9,9,9)在01,比,.,兀处取12n12m1m到最大值,则称01,92,.”。.分别为9,9,,9的最大似然估计值,12m12m相应的统计量称为最大似然估计量。?lnLa.=0,i=1,2,.,m?9i9II若8为9的极大似然估计,g()为单调函数,则g()为g(9)的极大似然估计。(2)估计量的评选标准无偏性设=(x,X,X)为未知参数9的估计量。若E(O)=9,则称12n为9的无偏估计量。E(X)=E(X),E(S三)=D(X)有效性设=0(,X,X)和。=G(x,X,X)是未知参数91112n2212n的两个无偏估计量。若D(O)e)=0jn)w则称q为9的一致估计量(或相合估计量)。若。为9的无偏估计,且D(