haihongyuan.com
海量文库 文档专家
全站搜索:
您现在的位置:首页 > 幼儿教育 > 少儿英语少儿英语

probability11

发布时间:2014-01-06 14:01:13  

§2 方差,相关系数,矩
?

均值:

E( X ) ?

??

?

xdF ( x )

方差: D(X)= E(X-EX)2

例:

(b ? a) 均匀分布: X ~ U (a, b), D( X ) ? 12 1 指数分布: X ~ e(? ), D( X ) ? 2 ?

2

随机变量的标准化P203
设随机变量X的数学期望E(X),方差D(X) 均存在,且D(X) >0,定义一个新的随机 变量

X ? E( X ) X* ? DX
则 EX*=0,DX*=1。 称X*是随机变量X的标准化了的随机变量。
2014-1-6 2

均值和方差的应用
?

? ?

信号-噪声模型 X=S+N,N~(0,?2) 样本 X1,…,Xn,求平均后可以提高 功率比 石油勘探 测重

均值和方差的应用
?

无偏估计 样本 X1,…,Xn,估计参数θ 统计量

? ? ? =? ( X1 ,?, Xn )

?

? 无偏性: E? =? 有效估计 所有无偏估计中方差最小者

均值和方差的应用
?

Monte-Carlo 法的方差

? ? I n ~ B? N, ? M (b ? a ) ? ?

nM (b ? a ) ? I? N ? EI ? I

I ( M (b ? a ) ? I ) ? DI ? Npq ? N

定义4.2.2 协方差
设(X,Y)为二维的随机变量, Cov(X,Y)=E{[X?E(X)][Y?E(Y)]}. 称为X与Y的协方差 协方差的计算式为: Cov(X, Y)=E(XY)-E(X)E(Y).

E ( XY ) ? ?? xyp( x , y )dxdy
D
2014-1-6 6

协方差的性质
设 X,Y,Z 为r.v. a,b为常数,则 (1) Cov(X,Y) =Cov(Y,X) (2) Cov(X,a) =0 (3) Cov(aX,bY)=abCov(X,Y) (4) Cov(X+Y,Z)=Cov(X,Z)+Cov(Y,Z) (6) 若X与Y独立,则Cov(X,Y)=0

(5) D(X ? Y) ? D(X)+D(Y) ? 2Cov(X,Y)

2014-1-6

7

随机向量的协方差阵
r .v .? ? (? 1 , ? 2 ,...,? n ), 称B ? [bij ]n?n 为?的协方差阵,其中bij ? cov( ? i , ? j )

() 若 对 i ? j成 立? i , ? j 相 互 独 立 , 1 ? 则 B是 对 角 阵 ; (2 B非 负 定 的 ) (3 tr ( B ) ? ? D(? i ) )
2014-1-6

i

8

标准化以后的随机变量协方差 X ? EX Y ? EY * * Cov( X , Y ) ? Cov( , ) DX DY X ? c1 Y ? c2 * * Cov( X , Y ) ? Cov( , ) d1 d2 1 1 * * Cov( X , Y ) ? . Cov( X , Y ) d1 d 2
2014-1-6 9

相关系数
定义4.2.3 若随机变量 X,Y的方差和 协方差均存在, 且DX>0,DY>0,则

r ? rXY

cov( X , Y ) ? DX DY

称为X与Y的相关系数. 记作:

R( X , Y ),或r, 或? , 或rXY , 或? XY
r ? 0,正相关;r ? 0,负相关;r =0,不相关
2014-1-6 10

例1
例:设(X,Y)服从区域 D:0<x<1,0<y<x上的均匀分布,求 X与Y的相关系数 解:

?2 ( x, y) ? D p( x, y) ? ? 其它 ?0
x 0

x=y D
1

pX ( x ) ? ? 2dy ? 2 x,0 ? x ? 1
2014-1-6

11

例1
pY ( y ) ? ? 2dx ? 2(1 ? y ),0 ? y ? 1
1 y

E( X ) ? ?

1

0

2 x ? 2 xdx ? 3

1 E (Y ) ? ? y ? 2(1 ? y )dy ? 0 3 1 1 2 2 E ( X ) ? ? x ? 2 xdx ? 0 2
1

1 D( X ) ? E ( X ) ? ( EX ) ? 18
2 2
2014-1-6

12

例1
E ( XY ) ? ?? xy ? 2dxdy ? ? ? ? 2 xydy? dx ? 0 ? 0 ? ? D
1 x

=1/4

1 COV ( X , Y ) ? E ( XY ) ? E ( X ) E (Y ) ? 36

? XY

COV ( X , Y ) ? ? D( X ) D(Y )

1 2
13

2014-1-6


相关系数的性质
定理 (1)R(X,Y)=R(Y,X) (2)|R(X,Y)|≤1

(3)|R(X,Y)|=1的充要条件为:存在常 数a,b,且a≠0,使得P(Y=aX+b)=1 特别地,若a>0,可得R(X,Y)=1,称为 正线性相关;反之,称为负线性相关;
2014-1-6 14

证明:(2)|R(X,Y)|≤1

?t , D(Y ? tX ) ? 0 D(Y ? tX ) ? DY ? t DX ? 2t cov(X , Y ) 令 2 ? f ( t ) ? t DX ? 2t cov( X , Y ) ? DY
2

f(t)是关于t的一元二次方程,对任意t都有

f (t ) ? t DX ? 2t cov(X ,Y ) ? DY ? 0 2 ? ? ? 4 cov( X ,Y ) ? 4DXDY ? 0 2 ? cov(X ,Y ) ? DXDY
2
2014-1-6 15

Cauchy-Schwarz inequality
如 果 只 考 虑 ( t ) ? E ( tX ? Y ) ? 0, u 我们可以得到下列不式: 等
2

| E ( XY ) | ? EX . EY 等式成立当且仅当 P (Y ? t 0 X ) ? 1
2 2
2014-1-6

2

16

课堂练习

( X , Y )有密度 ?cx , 0 ? x ? y ? 1, y ? 0 p( x , y ) ? ? ?0, 其它 1)求系数c 2)求E ( X ), D( X ), D(Y ) 3)求Cov ( X , Y ) 4)问X , Y 是否相关,是否独立?
2014-1-6 17

独立与不相关
X,Y独立时,可以推出Cov(X,Y)=0, 因而可以推出R(X,Y)=0,即不相关; 反之不一定成立; 也就是说,X,Y不相关不能说明X,Y独立.
?

2014-1-6

18

例2
X 与 Y 的分布律:
Y

X 0
1

-1

0

1 1/3

1/3 0 0

1/3 0

易知 , X , Y 不独立,但 Cov( X , Y ) ? E ( XY ) ? E ( X ) E (Y ) ? 0 显然 D( X ) ? 0 D(Y ) ? 0 从而 R( X , Y ) ? 0

二维正态分布
?




( X ,Y ) ~ N ( ?1 , ?2 ;? , ? ; r )
2 1 2 2

X ~ N ( ?1 ,? ),Y ~ N ( ?2 ,? )
2 1 2 2

可见,二维正态分布前4个参数分 别表示随机变量X,Y的期望和方差 。 下面说明参数r的统计意义。
2014-1-6 20

r表示X与Y的相关系数
R( X ,Y ) ? Cov( X ,Y ) ? E( X Y )
* * * *

? X ? ?1 Y ? ? 2 ? ? E ?( )?( )? ?2 ? ? ?1 x ? ?1 y ? ?2 ? ?? ( )?( ) p( x , y )dxdy
??? r ?
2014-1-6 21

R 换元

2

?1

?2

性质4 对于二元正态分布,不相关性与 独立性是等价的; 注意:边缘分布是正态分布而联合分布 不一定是多元正态分布. 性质5 对于二值随机变量, 不相关性与 独立性是等价的;
2014-1-6 22


定义4.2.5 对正整数k,称 为k阶原点矩

mk ? E?

k

定义4.2.6 对正整数k,称 为k阶中心矩

ck ? E(? ? E? )

k

2014-1-6

23

例3

X ~ N (0,1)
k ?? ??

ck ? mk ? E? ? ? k 为奇数,mk ? 0 k 为偶数, mk ? ?

x

k

1 e 2?

x2 ? 2

dx

? ?
2

2

??

0

x e

k

x2 ? 2

dx ?

2

?

?2

k ?1 2

?

??

0

z

k ?1 2

e dz

?z

?

?2

k ?1 2

? k ?1 ? ??? ? ? (k ? 1)(k ? 3)? 3 ?1 ? 2 ?

偏度(Skewness)
c3 ? X ? EX ? Skew( X ) ? ? 1 ? E ? ? ? 3 ? ? ? ?
3

?1 ? 0

?1 ? 0

峰度(Kurtosis)
c4 ? X ? EX ? Kurt ( X ) ? ? 2 ? E ? ? ?3 ? 4 ?3 ? ? ? ?
4

? 2 ? 0, 比标准正态分布更陡 ? 2 ? 0,

比标准正态分布更平坦


网站首页网站地图 站长统计
All rights reserved Powered by 海文库
copyright ©right 2010-2011。
文档资料库内容来自网络,如有侵犯请联系客服。zhit326@126.com