数学期望

1. 离散型随机变量的数学期望

   \(P(X=x_k)=p_k\)

   若\(\sum_{k=1}^\infin x_kp_k\)绝对收敛,那么期望 \(E(X) = \sum_{k=1}^\infin x_kp_k\)

2. 连续型随机变量的数学期望

   设连续型随机变量\(X\)的概率密度函数为\(f(x)\),若积分\(\int_{-\infin}^{+\infin}xf(x)dx\)绝对收敛,则称该积分值为\(X\)的数学期望,或均值,并记为

   \(E(X) = \int_{-\infin}^{+\infin}xf(x)dx\)

并非任何随机变量都存在数学期望; 对于离散型随机变量,必须级数收敛; 对于连续型随机变量,必须积分收敛

3. 随机变量函数的数学期望

   设\(X\)是一维随机变量,讨论\(X\)的函数\(Y=g(X)\)的数学期望

   设\(y=g(x)\)是连续函数,\(Y\)是随机变量\(X\)的函数,\(Y=g(X)\)

   • 若\(X\)是离散型随机变量,其概率分布为\(P(X=x_k)=p_k,k=1,2,...\),且级数\(\sum_k^{\infin}g(x_k)p_k\)绝对收敛,则有

     \(E(Y)=E(g(X)) = \sum_k^{\infin}g(x_k)p_k\)

   • 若\(X\)是连续型随机变量,其概率密度函数为\(f(x)\),且积分\(\int_{-\infin}^{+\infin}g(x)f(x)dx\)绝对收敛,则有

     \(E(Y)=E(g(X)) = \int_{-\infin}^{+\infin}g(x)f(x)dx\)

4. 数学期望的性质

   • 常量C的数学期望为常量C , 即 \(E(C)=C\)

   • 若C为常量,X是任一随机变量,则 \(E(CX)=CE(X)\)

   • 设X,Y是任意两个随机变量,则\(E(X+Y)=E(X)+E(Y)\)

     可以推广到有限个情形

   • 若随机变量X与Y相互独立,则有\(E(XY)=E(X)E(Y)\)

     可以推广到有限个情形(验证任意两个相互独立)

   • 设X,Y为两个随机变量,若\(E(X^2),E(Y^2)\)存在,则\([E(XY)^2] \leq E(X^2)E(Y^2)\) 称为柯西不等式

方差

1. 方差的概念

数学期望体现了随机变量取值的平均水平,它是随机变量的重要数字特征,但仅知道均值是不够的,还需要知道随机变量取值的波动程度,即随机变量所取的值与它的数学期望的偏离程度

**定义: **设\(X\)为随机变量,如果\(E[X-E(X)]^2\)存在,则称之为\(X\)的方差,记为\(D(X),\)即\(D(X) = E[X-E(X)]^2 = E(X^2)-E(X)^2\).

方差等于平方的期望-期望的平方

\(\sqrt{DX}\)称作标准差

对于离散型随机变量,若\(P(X=x_k)=p_k\),则

\[D(X)= \sum_k^{\infin}[x_k-E(X)]^2p_k \]

对于连续型随机变量,若\(X\)的密度函数为\(f(x)\),则

\[D(X) = \int_{-\infin}^{+\infin}[X-E(X)]^2f(x)dx \]

求方差: 看作求随机变量函数\(g(x)=[x-E(x)]^2\)的期望

2. 方差的性质

   • 常量的方差等于0

   • 设C为常量,则\(D(CX)=C^2D(X)\)

   • 设\(X,Y\)是相互独立的随机变量,则\(D(X\pm Y)=D(X) + D(Y)\)

     若\(X,Y\)不相互独立,则\(D(X\pm Y) = D(X) + D(Y) \pm 2 Cov(X,Y)\)

3. 常用分布的期望方差表

二维随机变量函数的期望

设\(X,Y\)为随机变量,\(g(X,Y)\)为\(X,Y\)的函数

• 若\(X,Y\)为离散型随机变量,其联合分布为\(p_{ij} = P(X=x_i,Y=y_i)\)

  若级数\(\sum_i\sum_jg(x_i,y_j)p_{ij}\)绝对收敛,则定义\(E[g(X,Y)]=\sum_i\sum_jg(x_i,y_j)p_{ij}\)

• 若\(X,Y\)为连续型随机变量,其概率密度为\(f(x,y),\)若积分\(\int_{-\infin}^{+\infin}\int_{-\infin}^{+\infin}g(x,y)f(x,y)dxdy\)绝对收敛,则定义

  \(E[g(X,Y)]= \int_{-\infin}^{+\infin}\int_{-\infin}^{+\infin}g(x,y)f(x,y)dxdy\)

协方差与相关系数

1. 协方差与相关系数的概念

   协方差和相关系数是用来描述X和Y之间相互关系的数字特征

   **定义: **

   设二维随机变量\((X,Y)\),若\(E\{[X-E(X)][Y-E(Y)]\}\)存在,则称它为随机变量\(X\)与\(Y\)的协方差,记作\(Cov(X,Y)\)或\(\sigma_{XY}\),即

   \[Cov(X,Y)=E\{[X-E(X)][Y-E(Y)]\} \]

   即协方差满足为随机变量X减去X的期望,乘以随机变量Y减去Y的期望,所形成的二维随机变量函数的期望

   又若 \(D(X)\neq 0,D(Y)\neq 0\),则称

   \[\rho_{XY} = \frac{Cov(X,Y)}{\sqrt{D(X)}\sqrt{D(Y)}} \]

   为随机变量\(X\)与\(Y\)的相关系数

   如果记\(\sigma_X = \sqrt{D(X)},\sigma_Y=\sqrt{D(Y)}\),则相关系数可以写成\(\rho_{XY}=\frac{\sigma_{XY}}{\sigma_X\sigma_Y}\)

   当(X,Y)分别是离散型和连续型随机变量时,协方差的计算公式分别为

   \(Cov(X,Y)=\sum_i\sum_j[x_i-E(X)][y_i-E(Y)]p_{ij}\)

   \(Cov(X,Y) = \int_{-\infin}^{+\infin}\int_{-\infin}^{+\infin}[x-E(X)][y_E(Y)f(x,y)]dxdy\)

   计算协方差时,还常用公式\(Cov(X,Y)=E(XY)-E(X)E(Y)\)

公式推导

\[\begin{align} Cov(X,Y) = & E(X-EX)(Y-EY) \\ = & E(XY-XEY-EXY-EXEY)\\ = & E(XY) - EXEY - EYEX - EXEY\\ = & E(XY) - EXEY \end{align} \]

我们回顾之前一维随机变量方差的概念\(D(X) = E(X^2)-(EX)^2\)

发现,实际上\(D(X) = Cov(X,X)\)

2. 协方差及相关系数的性质

   • 对称性

     \(Cov(X,Y) = Cov(Y,X), \rho_{XY} = \rho_{YX}\)

     \(Cov(X,X)=DX,\rho(X,X)=1\)

   • 线性性

     \(Cov(X,c)=0,Cov(aX+b,Y)=aCov(X,Y)\)

     \(Cov(X_1+X_2,Y)=Cov(X_1,Y)+Cov(X_2,Y)\)

     这两条组合可以扩展到有限个

   • 相关系数有界性

     \(\rho_{XY} \leq 1\)

   • 线性关系下的相关系数

     如果\(Y=aX+b,\)则若\(a>0\),\(\rho_{XY}=1;\)若\(a<0,\rho_{XY}=-1\)

3. 其他性质

   • 如果X与Y独立,则X,Y不相关; 反之不然
   • 如果(X,Y)服从二维正态分布,则有 \(X,Y\)独立\(\iff\)X,Y不相关
   • 如果\(X,Y\)相关,则\(X,Y\)不独立

如果问独立性,要落脚到\(F(X,Y)=F(X)*F(Y)\)或\(f(X,Y)=f(X)*f(Y)\)或\(P_{ij}=P_{i*}P_{*j}\)上

如果问相关性,要落脚到\(\rho_{XY}\)上

标签：期望,未完结,Cov,sum,infin,XY,概率论,随机变量
来源： https://www.cnblogs.com/popodynasty/p/14094582.html