宋浩概率论与数理统计笔记——第七章

7.1.1 矩估计法

总体的矩 ← 代 替 \leftarrow ^{代替} ←代替 样本的矩

一阶 E X EX EX ← 代 替 \leftarrow ^{代替} ←代替 一阶 X ˉ = 1 n ∑ x i \bar X=\frac{1}n\sum x_i Xˉ=n1​∑xi​

二阶 E X 2 EX^2 EX2 ← 代 替 \leftarrow ^{代替} ←代替 二阶 A 2 = 1 n ∑ x i 2 A_2 = \frac{1}{n}\sum x_i^2 A2​=n1​∑xi2​

例： X ∼ N ( μ , σ 2 ) , ( X 1 , . . . , X n ) 是 样 本 ， 求 μ , σ 2 的 矩 估 计 X\sim N(\mu,\sigma^2),(X_1,...,X_n)是样本，求\mu,\sigma^2的矩估计 X∼N(μ,σ2),(X1​,...,Xn​)是样本，求μ,σ2的矩估计

E X = μ , X ˉ = 1 n ∑ i = 1 n x i 总 体 的 一 阶 矩 E X ， X ˉ 样 本 的 一 阶 矩 ， 用 样 本 的 代 替 总 体 的 即 ： μ ^ = X ˉ EX=\mu,\bar X=\frac{1}n\sum_{i=1}^{n} x_i\\总体的一阶矩EX，\bar X样本的一阶矩，用样本的代替总体的即：\\\hat\mu=\bar X EX=μ,Xˉ=n1​∑i=1n​xi​总体的一阶矩EX，Xˉ样本的一阶矩，用样本的代替总体的即：μ^​=Xˉ

E ( X 2 ) = D ( X ) + ( E X ) 2 = σ 2 + μ 2 , A 2 = 1 n ∑ i = 1 n x i 2 σ ^ 2 = A 2 − μ ^ 2 = 1 n ∑ i = 1 n x i 2 − X ˉ 2 = 1 n ∑ i = 1 n ( X i − X ˉ ) 2 = B 2 E(X^2)=D(X)+(EX)^2=\sigma^2+\mu^2,\\A_2=\frac{1}{n}\sum_{i=1}^{n}x_i^2\\\hat\sigma^2=A_2-\hat\mu^2=\frac{1}{n}\sum_{i=1}^{n}x_i^2-\bar X^2=\frac{1}{n}\sum_{i=1}^{n}(X_i-\bar X)^2=B_2 E(X2)=D(X)+(EX)2=σ2+μ2,A2​=n1​∑i=1n​xi2​σ^2=A2​−μ^​2=n1​∑i=1n​xi2​−Xˉ2=n1​∑i=1n​(Xi​−Xˉ)2=B2​

无论总体是什么分布，总体均值和总体方差都可以用样本均值和二阶中心矩来估计

例： X ∼ P ( λ ) , ( X 1 , . . . , X n ) 是 样 本 , 求 λ 的 矩 估 计 X\sim P(\lambda),(X_1,...,X_n)是样本,求\lambda的矩估计 X∼P(λ),(X1​,...,Xn​)是样本,求λ的矩估计

E X = λ , λ ^ = X ˉ EX=\lambda,\hat\lambda=\bar X EX=λ,λ^=Xˉ一阶

λ ^ = B 2 \hat\lambda = B_2 λ^=B2​二阶

例： X X X是 [ θ 1 , θ 2 ] [\theta_1,\theta_2] [θ1​,θ2​]的均匀分布, ( X 1 , . . . , X n ) (X_1,...,X_n) (X1​,...,Xn​)为样本,求 θ 1 、 θ 2 \theta_1、\theta_2 θ1​、θ2​的矩估计

E X = X ˉ = 1 2 ( θ 1 + θ 2 ) EX=\bar X=\frac1 2(\theta_1+\theta_2) EX=Xˉ=21​(θ1​+θ2​)一阶

D X = 1 12 ( θ 2 − θ 1 ) 2 D X = E X 2 − ( E X ) 2 E X 2 = 1 12 ( θ 2 − θ 1 ) 2 + 1 4 ( θ 1 + θ 2 ) 2 = A 2 = 1 n ∑ i = 1 n X i 2 DX=\frac{1}{12}(\theta_2-\theta_1)^2\\DX=EX^2-(EX)^2\\EX^2=\frac{1}{12}(\theta_2-\theta_1)^2+\frac{1}{4}(\theta_1+\theta_2)^2=A_2=\frac{1}{n}\sum_{i=1}^{n}X_i^2 DX=121​(θ2​−θ1​)2DX=EX2−(EX)2EX2=121​(θ2​−θ1​)2+41​(θ1​+θ2​)2=A2​=n1​∑i=1n​Xi2​

θ ^ 1 = X ˉ − 3 B 2 θ ^ 2 = X ˉ + 3 B 2 \hat\theta_1 = \bar X-\sqrt{3B_2}\\\hat\theta_2 = \bar X+\sqrt{3B_2} θ^1​=Xˉ−3B2​ ​θ^2​=Xˉ+3B2​ ​

例：

总体:

X	1	2	3
P	θ 2 \theta^2 θ2	2 θ ( 1 − θ ) 2\theta(1-\theta) 2θ(1−θ)	( 1 − θ ) 2 (1-\theta)^2 (1−θ)2

样本{1,2,1}

估计 θ \theta θ

E X = 1 × θ 2 + 2 × 2 θ ( 1 − θ ) + 3 × ( 1 − θ ) 2 EX=1\times \theta^2+2\times 2\theta(1-\theta)+3\times (1-\theta)^2 EX=1×θ2+2×2θ(1−θ)+3×(1−θ)2

X ˉ = 1 + 2 + 1 3 = 4 3 \bar X=\frac{1+2+1}{3}=\frac{4}{3} Xˉ=31+2+1​=34​

1 × θ 2 + 2 × 2 θ ( 1 − θ ) + 3 × ( 1 − θ ) 2 = 4 3 1\times \theta^2+2\times 2\theta(1-\theta)+3\times (1-\theta)^2=\frac{4}{3} 1×θ2+2×2θ(1−θ)+3×(1−θ)2=34​

θ ^ = 5 6 \hat \theta = \frac{5}{6} θ^=65​

7.1.2极大似然估计

100个球，黑99，白1，摸到黑的概率0.99，白0.01

100个球，黑球数量=99个或1个，白球数量=1个或99个（总体未知）

只摸一次，摸了一个黑球，黑球数量更可能是99个

学生掌握知识8:2，会：不会8:2 或者 会：不会2:8，提问3个问题，都不会，会：不会是2：8的概率更大

概率大的事件比概率小的事件更容易发生

将使事件A发生的概率最大的参数值作为估计值

模板：

1.总体的概率/密度函数

2.写似然函数 L ( λ ) L(\lambda) L(λ)

3.两边取 log ⁡ \log log

4.两边求导(偏导)，令导数等于0

---

例：总体 X ∼ P ( λ ) X\sim P(\lambda) X∼P(λ)， X 1 , X 2 , . . . , X n X_1,X_2,...,X_n X1​,X2​,...,Xn​是样本，求 λ \lambda λ的极大似然估计

总体的概率函数为： P ( X = k ) = λ k k ! e − λ ( k = 0 , 1 , 2 , . . . ) P(X=k)=\frac{\lambda ^k}{k!}e^{-\lambda}(k=0,1,2,...) P(X=k)=k!λk​e−λ(k=0,1,2,...)

则 λ \lambda λ的似然函数为：

​ L ( λ ) = ∏ i = 1 n λ X i X i ! e − λ = λ X 1 + . . . + X n ∏ i = 1 n x i ! e − n λ L(\lambda)=\prod_{i=1}^{n}\frac{\lambda^{X_i}}{X_i!}e^{-\lambda}=\frac{\lambda^{X_1+...+X_n}}{\prod_{i=1}^{n}x_i!}e^{-n\lambda} L(λ)=∏i=1n​Xi​!λXi​​e−λ=∏i=1n​xi​!λX1​+...+Xn​​e−nλ

两边取 ln ⁡ \ln ln

​ ln ⁡ L ( λ ) = − ln ⁡ ∏ i = 1 n X i ! + ( X 1 + . . . + X n ) ln ⁡ λ − n λ \ln L(\lambda) = -\ln\prod_{i=1}^{n}X_i!+(X_1+...+X_n)\ln\lambda-n\lambda lnL(λ)=−ln∏i=1n​Xi​!+(X1​+...+Xn​)lnλ−nλ

两边对 λ \lambda λ求导

​ d ln ⁡ λ d λ = X 1 + . . . + X n λ − n = 0 \frac{d\ln\lambda}{d\lambda}=\frac{X_1+...+X_n}{\lambda}-n=0 dλdlnλ​=λX1​+...+Xn​​−n=0

​ λ ^ = X 1 + . . . X n n = X ˉ \hat\lambda=\frac{X_1+...X_n}{n}=\bar X λ^=nX1​+...Xn​​=Xˉ←样本的均值

---

例：总体是 λ \lambda λ的指数分布， X 1 , X 2 , . . . , X n X_1,X_2,...,X_n X1​,X2​,...,Xn​是样本，求 λ \lambda λ的极大似然估计

总体的密度函数为： f ( x ; λ ) = {   λ e − λ x x > 0 0 x ≤ 0 f(x;\lambda)= \left\{ \begin{array}{rcl} \ \lambda e^{-\lambda x}& x > 0 \\ 0 & x\leq 0 \end{array}\right. f(x;λ)={ λe−λx0​x>0x≤0​

则 λ \lambda λ的似然函数为：

​ L ( λ ) = ∏ i = 1 n λ e − λ x i = λ n e ( x 1 + . . . + x n ) L(\lambda)=\prod_{i=1}^{n}\lambda e^{-\lambda x_i}=\lambda^{n}e^{(x_1+...+x_n)} L(λ)=∏i=1n​λe−λxi​=λne(x1​+...+xn​)

两边取 ln ⁡ \ln ln:

​ ln ⁡ L ( λ ) = n ln ⁡ λ − λ ( x 1 + . . . + x n ) \ln L(\lambda)=n\ln\lambda - \lambda(x_1+...+x_n) lnL(λ)=nlnλ−λ(x1​+...+xn​)

两边对 λ \lambda λ求导：

​ d ln ⁡ L ( λ ) d λ = n λ − ( x 1 + . . . x n ) = 0 \frac{d\ln L(\lambda)}{d\lambda}=\frac{n}{\lambda}-(x_1+...x_n)=0 dλdlnL(λ)​=λn​−(x1​+...xn​)=0

​ λ ^ = n x 1 + . . . x n = 1 X ˉ \hat\lambda = \frac{n}{x_1+...x_n}=\frac{1}{\bar X} λ^=x1​+...xn​n​=Xˉ1​

---

例：总体是 X ∼ N ( μ , σ 2 ) X\sim N(\mu,\sigma^2) X∼N(μ,σ2)， x 1 , x 2 , . . . , x n x_1,x_2,...,x_n x1​,x2​,...,xn​是样本，求 μ , σ 2 \mu,\sigma^2 μ,σ2的极大似然估计

总体的密度函数为： f ( x ; μ , σ 2 ) = {   1 2 π σ e − ( x − μ ) 2 2 σ 2 x > 0 0 x ≤ 0 f(x;\mu,\sigma^2)= \left\{ \begin{array}{rcl} \ \frac{1}{\sqrt{2\pi}\sigma} e^{-\frac{(x-\mu)^2}{2\sigma^2}}& x > 0 \\ 0 & x\leq 0 \end{array}\right. f(x;μ,σ2)={ 2π ​σ1​e−2σ2(x−μ)2​0​x>0x≤0​

则 λ \lambda λ的似然函数为：

​ L ( λ ) = ∏ i = 1 n 1 2 π σ e − ( x − μ ) 2 2 σ 2 = ( 1 2 π σ ) n e − ( x 1 − μ ) 2 + . . . + ( x n − μ ) 2 2 σ 2 L(\lambda)=\prod_{i=1}^{n}\frac{1}{\sqrt{2\pi}\sigma} e^{-\frac{(x-\mu)^2}{2\sigma^2}}=(\frac{1}{\sqrt{2\pi}\sigma})^n e^{-\frac{(x_1-\mu)^2+...+(x_n-\mu)^2}{2\sigma^2}} L(λ)=∏i=1n​2π ​σ1​e−2σ2(x−μ)2​=(2π ​σ1​)ne−2σ2(x1​−μ)2+...+(xn​−μ)2​

两边取 ln ⁡ \ln ln:

​ ln ⁡ L ( λ ) = n ln ⁡ 1 2 π − n 2 ln ⁡ σ 2 − ( x 1 − μ ) 2 + . . . + ( x n − μ ) 2 2 σ 2 \ln L(\lambda)=n\ln \frac{1}{\sqrt{2\pi}}-\frac{n}{2}\ln \sigma^2-\frac{(x_1-\mu)^2+...+(x_n-\mu)^2}{2\sigma^2} lnL(λ)=nln2π ​1​−2n​lnσ2−2σ2(x1​−μ)2+...+(xn​−μ)2​

两边对 λ \lambda λ求导：

​ d ln ⁡ L ( λ ) d λ = n λ − ( x 1 + . . . x n ) = 0 \frac{d\ln L(\lambda)}{d\lambda}=\frac{n}{\lambda}-(x_1+...x_n)=0 dλdlnL(λ)​=λn​−(x1​+...xn​)=0

​ λ = n x 1 + . . . x n = 1 X ˉ \lambda = \frac{n}{x_1+...x_n}=\frac{1}{\bar X} λ=x1​+...xn​n​=Xˉ1​

对 μ \mu μ求偏导：

​ KaTeX parse error: Undefined control sequence: \part at position 7: \frac{\̲p̲a̲r̲t̲\ln L(\mu,\sigm…

​ μ ^ = x 1 + . . . + x n n = x ˉ \hat\mu=\frac{x_1+...+x_n}{n}=\bar x μ^​=nx1​+...+xn​​=xˉ

对 σ 2 \sigma^2 σ2求偏导：

​ KaTeX parse error: Undefined control sequence: \part at position 7: \frac{\̲p̲a̲r̲t̲\ln L(\mu,\sigm…

​ σ ^ 2 = ( x 1 − μ ) 2 + . . . + ( x n − μ ) 2 n = B 2 \hat\sigma^2=\frac{(x_1-\mu)^2+...+(x_n-\mu)^2}{n}=B_2 σ^2=n(x1​−μ)2+...+(xn​−μ)2​=B2​

---

例： X ∼ U [ θ 1 , θ 2 ] ， X\sim U[\theta_1,\theta_2]， X∼U[θ1​,θ2​]， x 1 , x 2 , . . . , x n x_1,x_2,...,x_n x1​,x2​,...,xn​是样本，求 θ 1 , θ 2 \theta_1,\theta_2 θ1​,θ2​的极大似然估计

均匀分布的密度函数： f ( x ) = {   1 θ 2 − θ 1 x ∈ [ θ 1 , θ 2 ] 0 e l s e f(x)= \left\{ \begin{array}{rcl} \ \frac{1}{\theta_2-\theta_1} & x \in[\theta_1,\theta_2] \\ 0 & else \end{array}\right. f(x)={ θ2​−θ1​1​0​x∈[θ1​,θ2​]else​

则似然函数为

​ L ( θ 1 , θ 2 ) = ∏ i = 1 n 1 θ 2 − θ 1 = 1 ( θ 2 − θ 1 ) n L(\theta_1,\theta_2)=\prod_{i=1}^{n}\frac{1}{\theta_2-\theta_1}=\frac{1}{(\theta_2-\theta_1)^n} L(θ1​,θ2​)=∏i=1n​θ2​−θ1​1​=(θ2​−θ1​)n1​

要求 L ( θ 1 , θ 2 ) L(\theta_1,\theta_2) L(θ1​,θ2​)的最大值，就要使 θ 2 − θ 1 \theta_2-\theta_1 θ2​−θ1​最小，即 θ 1 , θ 2 \theta_1,\theta_2 θ1​,θ2​的值越近越好。因此 θ ^ 1 = min ⁡ { X 1 , . . . , X n } θ ^ 2 = max ⁡ { X 1 , . . . , X n } \hat \theta_1=\min\{X_1,...,X_n\}\\\hat \theta_2=\max\{X_1,...,X_n\} θ^1​=min{X1​,...,Xn​}θ^2​=max{X1​,...,Xn​}

7.2 点估计的优良性准则

无偏性: E ^ θ = θ \hat E\theta=\theta E^θ=θ

(1)总体 X X X, E X = μ , D X = σ 2 , ( X 1 , . . . , X n ) EX=\mu,DX=\sigma^2,(X_1,...,X_n) EX=μ,DX=σ2,(X1​,...,Xn​)为样本

① X ˉ \bar X Xˉ是 μ \mu μ的无偏估计, E X ˉ = μ E\bar X=\mu EXˉ=μ

②样本方差 S 2 S^2 S2是 σ 2 \sigma^2 σ2的无偏估计, E S 2 = σ 2 ES^2=\sigma^2 ES2=σ2

S 2 = 1 n − 1 [ ( X 1 − X ˉ ) 2 + . . . + ( X n − X ˉ ) 2 ] S^2=\frac{1}{n-1}[(X_1-\bar X)^2+...+(X_n-\bar X)^2] S2=n−11​[(X1​−Xˉ)2+...+(Xn​−Xˉ)2]

当 n → ∞ n\rightarrow\infty n→∞时， S 2 S^2 S2与 S 0 2 S^2_0 S02​是 σ 2 \sigma^2 σ2的渐进无偏估计

③未修正的样本方差 S 0 2 S_0^2 S02​是 σ 2 \sigma^2 σ2的有偏估计

S 0 2 = 1 n [ ( X 1 − X ˉ ) 2 + . . . + ( X n − X ˉ ) 2 ] S^2_0=\frac{1}{n}[(X_1-\bar X)^2+...+(X_n-\bar X)^2] S02​=n1​[(X1​−Xˉ)2+...+(Xn​−Xˉ)2]

上面三个结论与总体分布无关，永远成立

θ ^ \hat\theta θ^是 θ \theta θ的无偏估计， g ( θ ^ ) g(\hat \theta) g(θ^)不一定是 g ( θ ) g(\theta) g(θ)的无偏估计

S 2 S^2 S2是 σ 2 \sigma^2 σ2的无偏估计， S S S不一定是 σ \sigma σ的无偏估计

上面↑例：函数为开根号

∵ D X = E X 2 − ( E X ) 2 \because DX=EX^2-(EX)^2 ∵DX=EX2−(EX)2

∴ D S = E S 2 − ( E S ) 2 = σ 2 − ( E S ) 2 E S = σ 2 − D S ≤ σ \therefore DS=ES^2-(ES)^2=\sigma^2-(ES)^2\\ES=\sqrt{{\sigma}^2-DS}\leq\sigma ∴DS=ES2−(ES)2=σ2−(ES)2ES=σ2−DS ​≤σ

(2) μ = E X , ( X 1 , . . . , X n ) \mu=EX,(X_1,...,X_n) μ=EX,(X1​,...,Xn​)为样本

令 μ ^ = C 1 X 1 + . . . + C n X n \hat \mu = C_1X_1+...+C_nX_n μ^​=C1​X1​+...+Cn​Xn​

C 1 + . . . + C n = 1 C_1+...+C_n=1 C1​+...+Cn​=1

E μ ^ = C 1 μ + . . . + C n μ = μ E\hat \mu = C_1\mu+...+C_n\mu=\mu Eμ^​=C1​μ+...+Cn​μ=μ

则 E μ ^ = μ E\hat \mu=\mu Eμ^​=μ无偏，但 C 1 , . . . , C n C_1,...,C_n C1​,...,Cn​的不固定，导致 μ \mu μ的改变，故无偏性有局限

有效性: D ( θ ^ 1 ) ≤ D ( θ ^ 2 ) D(\hat\theta_1)\leq D(\hat \theta_2) D(θ^1​)≤D(θ^2​),方差越小越有效

例：

总体 X X X, E X = μ , D X = σ 2 , μ = {   X 1 E X 1 = μ D X 1 = σ 2   X ˉ D X ˉ = σ 2 n EX=\mu,DX=\sigma^2,\mu=\left\{ \begin{array}{rcl} \ X_1 &EX_1=\mu &DX_1=\sigma^2\\ \ \bar X & & D\bar X=\frac{\sigma^2}{n} \end{array}\right. EX=μ,DX=σ2,μ={ X1​ Xˉ​EX1​=μ​DX1​=σ2DXˉ=nσ2​​

∵ D X ˉ ≤ D X 1 ∴ X ˉ 更 有 效 \because D\bar X\leq DX_1\\\therefore \bar X更有效 ∵DXˉ≤DX1​∴Xˉ更有效

例：

{   a 1 X 1 + . . . + a n X n a 1 + . . . + a n = 1   X ˉ \left\{ \begin{array}{rcl} \ a_1X_1+...+a_nX_n & a_1+...+a_n = 1\\ \ \bar X \end{array}\right. { a1​X1​+...+an​Xn​ Xˉ​a1​+...+an​=1

D X ˉ = σ 2 n D\bar X=\frac{\sigma^2}{n} DXˉ=nσ2​

D θ ^ = a 1 2 D X 1 + . . . + a n 2 D X n = σ 2 ( a 1 2 + . . . + a n 2 ) ≥ σ 2 n D\hat\theta=a_1^2DX_1+...+a_n^2DX_n=\sigma^2(a_1^2+...+a_n^2)\geq \frac{\sigma^2}{n} Dθ^=a12​DX1​+...+an2​DXn​=σ2(a12​+...+an2​)≥nσ2​

即需要证明 a 1 2 + . . . + a n 2 ≥ 1 n a_1^2+...+a_n^2\geq \frac{1}{n} a12​+...+an2​≥n1​

$ 1 = (a_1+…+a_n)^2 …\leq n(a_1^2+…+a_n2)$

柯西不等式↑↓

小例子: ( a 1 + a 2 + a 3 ) 2 = a 1 2 + a 2 2 + a 3 2 + 2 a 1 a 2 + 2 a 1 a 3 + 2 a 2 a 3 ≤ a 1 2 + a 2 2 + a 3 2 + a 1 2 + a 2 2 + a 1 2 + a 3 2 + a 2 2 + a 3 2 = 3 ( a 1 2 + a 2 2 + a 3 2 ) (a_1+a_2+a_3)^2\\=a_1^2+a_2^2+a_3^2+2a_1a_2+2a_1a_3+2a_2a_3\\\leq a^2_1+ a^2_2 +a^2_3 +a^2_1+a^2_2+a^2_1+a^2_3+a^2_2+a^2_3\\=3(a_1^2+a_2^2+a_3^2) (a1​+a2​+a3​)2=a12​+a22​+a32​+2a1​a2​+2a1​a3​+2a2​a3​≤a12​+a22​+a32​+a12​+a22​+a12​+a32​+a22​+a32​=3(a12​+a22​+a32​)

相合性（一致性）: lim ⁡ n → ∞ P ( ∣ θ ^ − θ ∣ < ϵ ) = 1 \lim_{n\rightarrow\infty}P(|\hat\theta-\theta|<\epsilon)=1 limn→∞​P(∣θ^−θ∣<ϵ)=1

7.3.1 置信区间

区间估计

P ( θ ^ 1 ≤ θ ≤ θ ^ 2 ) = 1 − α P(\hat\theta_1\leq\theta\leq\hat\theta_2)=1-\alpha P(θ^1​≤θ≤θ^2​)=1−α

区间 [ θ ^ 1 , θ ^ 2 ] [\hat\theta_1,\hat\theta_2] [θ^1​,θ^2​], 1 − α 1-\alpha 1−α是置信度

置信度是 [ θ ^ 1 , θ ^ 2 ] [\hat\theta_1,\hat\theta_2] [θ^1​,θ^2​]能套住 θ \theta θ的概率

枢轴变量

定义： I = I ( T , θ ) , θ 是 未 知 的 , T 是 已 知 的 , I 的 分 布 F 必 须 是 已 知 的 且 与 θ 无 关 I=I(T,\theta),\theta是未知的,T是已知的,I的分布F必须是已知的且与\theta无关 I=I(T,θ),θ是未知的,T是已知的,I的分布F必须是已知的且与θ无关

给定 1 − α 1-\alpha 1−α,确定F的上 α 2 \frac{\alpha}{2} 2α​分位数,上 ( 1 − α 2 ) (1-\frac{\alpha}{2}) (1−2α​)分位数 → U 1 − α 2 \rightarrow U_{1-\frac{\alpha}{2}} →U1−2α​​

P ( U 1 − α 2 ≤ I ( T , θ ) ≤ U α 2 ) = 1 − α P(U_{1-\frac{\alpha}{2}}\leq I(T,\theta)\leq U_{\frac{\alpha}{2}})=1-\alpha P(U1−2α​​≤I(T,θ)≤U2α​​)=1−α

7.3.2 一个正态总体的期望和方差的区间估计

① σ 2 \sigma^2 σ2已知，估计 μ \mu μ

枢轴变量 U = n ( x ˉ − μ ) σ ∼ N ( 0 , 1 ) U=\frac{\sqrt{n}(\bar x-\mu)}{\sigma}\sim N(0,1) U=σn ​(xˉ−μ)​∼N(0,1)

n 为 样 本 个 数 , x ˉ 是 样 本 均 值 n为样本个数,\bar x 是样本均值 n为样本个数,xˉ是样本均值

给定 1 − α 1-\alpha 1−α，令 P ( U > U α 2 ) = α 2 , Φ 0 ( U α 2 ) = 1 − α 2 P(U>U_{\frac{\alpha}{2}})=\frac{\alpha}{2},\Phi_0(U_{\frac{\alpha}{2}})=1-\frac{\alpha}{2} P(U>U2α​​)=2α​,Φ0​(U2α​​)=1−2α​

P ( − U α 2 ≤ n ( x ˉ − μ ) σ ≤ U α 2 ) = 1 − α x ˉ − σ U α 2 n ≤ μ ≤ x ˉ + σ U α 2 n P(-U_{\frac{\alpha}{2}} \leq\frac{\sqrt{n}(\bar x - \mu)}{\sigma}\leq U_{\frac{\alpha}{2}})=1-\alpha\\\bar x-\frac{\sigma U_{\frac{\alpha}{2}}}{\sqrt{n}}\leq\mu\leq\bar x+\frac{\sigma U_{\frac{\alpha}{2}}}{\sqrt{n}} P(−U2α​​≤σn ​(xˉ−μ)​≤U2α​​)=1−αxˉ−n ​σU2α​​​≤μ≤xˉ+n ​σU2α​​​

例：5个灯泡,1650,1700,1680,1820,1800, X ∼ N ( μ , 9 ) X\sim N(\mu,9) X∼N(μ,9), α = 0.05 \alpha=0.05 α=0.05

n = 5 , X ˉ = 1730 , σ 2 = 9 , σ = 3 n=5,\bar X =1730 ,\sigma^2=9,\sigma=3 n=5,Xˉ=1730,σ2=9,σ=3

U 0.025 = 1.96 U_{0.025}=1.96 U0.025​=1.96←查表

− 1.96 ≤ n ( x ˉ − μ ) σ ≤ 1.96 -1.96\leq\frac{\sqrt{n}(\bar x - \mu)}{\sigma}\leq 1.96 −1.96≤σn ​(xˉ−μ)​≤1.96

− 1732.63 ≤ μ ≤ 1732.63 -1732.63\leq\mu\leq1732.63 −1732.63≤μ≤1732.63

② σ 2 \sigma^2 σ2未知,估计 μ \mu μ

T = n ( X ˉ − μ ) S ∼ t ( n − 1 ) , S 为 样 本 标 准 差 T=\frac{\sqrt{n}(\bar X-\mu)}{S}\sim t(n-1),S为样本标准差 T=Sn ​(Xˉ−μ)​∼t(n−1),S为样本标准差

− t α 2 ( n − 1 ) ≤ n ( X ˉ − μ ) S ≤ t α 2 ( n − 1 ) -t_{\frac{\alpha}{2}}(n-1)\leq\frac{\sqrt{n}(\bar X-\mu)}{S}\leq t_{\frac{\alpha}{2}}(n-1) −t2α​​(n−1)≤Sn ​(Xˉ−μ)​≤t2α​​(n−1)

X ˉ − S n t α 2 ( n − 1 ) ≤ μ ≤ X ˉ + S n t α 2 ( n − 1 ) \bar X-\frac{S}{\sqrt n}t_{\frac{\alpha}{2}}(n-1)\leq\mu\leq\bar X+\frac{S}{\sqrt n}t_{\frac{\alpha}{2}}(n-1) Xˉ−n ​S​t2α​​(n−1)≤μ≤Xˉ+n ​S​t2α​​(n−1)

方差的区间估计

① μ \mu μ已知，对 σ 2 \sigma^2 σ2的区间估计

1 σ 2 ∑ i = 1 n ( X i − μ ) 2 ∼ χ 2 ( n ) \frac{1}{\sigma^2}\sum_{i=1}^{n}(X_i-\mu)^2\sim \chi^2(n) σ21​∑i=1n​(Xi​−μ)2∼χ2(n)

χ 1 − α 2 2 ( n ) ≤ 1 σ 2 ∑ i = 1 n ( X i − μ ) 2 ≤ χ α 2 2 ( n ) \chi^2_{1-\frac{\alpha}{2}}(n)\leq\frac{1}{\sigma^2}\sum_{i=1}^{n}(X_i-\mu)^2\leq\chi^2_{\frac{\alpha}{2}}(n) χ1−2α​2​(n)≤σ21​∑i=1n​(Xi​−μ)2≤χ2α​2​(n)

∑ i = 1 n ( X i − μ ) 2 χ α 2 2 ( n ) ≤ σ 2 ≤ ∑ i = 1 n ( X i − μ ) 2 χ 1 − α 2 2 ( n ) \frac{\sum_{i=1}^{n}(X_i - \mu)^2}{\chi^2_{\frac{\alpha}{2}}(n)}\leq \sigma^2\leq \frac{\sum_{i=1}^{n}(X_i - \mu)^2}{\chi^2_{1-\frac{\alpha}{2}}(n)} χ2α​2​(n)∑i=1n​(Xi​−μ)2​≤σ2≤χ1−2α​2​(n)∑i=1n​(Xi​−μ)2​

② μ \mu μ未知，估计 σ 2 \sigma^2 σ2

χ 2 = ( n − 1 ) S 2 σ 2 ∼ χ 2 ( n − 1 ) ， 给 定 1 − α \chi^2=\frac{(n-1)S^2}{\sigma^2}\sim\chi^2(n-1)，给定1-\alpha χ2=σ2(n−1)S2​∼χ2(n−1)，给定1−α

( n − 1 ) S 2 χ α 2 2 ( n − 1 ) ≤ σ 2 ≤ ( n − 1 ) S 2 χ 1 − α 2 2 ( n − 1 ) \frac{(n-1)S^2}{\chi^2_{\frac{\alpha}{2}}(n-1)}\leq \sigma^2\leq \frac{(n-1)S^2}{\chi^2_{1-\frac{\alpha}{2}}(n-1)} χ2α​2​(n−1)(n−1)S2​≤σ2≤χ1−2α​2​(n−1)(n−1)S2​

估计		分布	区间估计
μ \mu μ	σ 2 \sigma^2 σ2已知	n ( x ˉ − μ ) σ ∼ N ( 0 , 1 ) \frac{\sqrt{n}(\bar x-\mu)}{\sigma}\sim N(0,1) σn ​(xˉ−μ)​∼N(0,1)	x ˉ − σ U α 2 n ≤ μ ≤ x ˉ + σ U α 2 n \bar x-\frac{\sigma U_{\frac{\alpha}{2}}}{\sqrt{n}}\leq\mu\leq\bar x+\frac{\sigma U_{\frac{\alpha}{2}}}{\sqrt{n}} xˉ−n ​σU2α​​​≤μ≤xˉ+n ​σU2α​​​
μ \mu μ	σ 2 \sigma^2 σ2未知	n ( X ˉ − μ ) S ∼ t ( n − 1 ) \frac{\sqrt{n}(\bar X-\mu)}{S}\sim t(n-1) Sn ​(Xˉ−μ)​∼t(n−1)	X ˉ − S n t α 2 ( n − 1 ) ≤ μ ≤ X ˉ + S n t α 2 ( n − 1 ) \bar X-\frac{S}{\sqrt n}t_{\frac{\alpha}{2}}(n-1)\leq\mu\leq\bar X+\frac{S}{\sqrt n}t_{\frac{\alpha}{2}}(n-1) Xˉ−n ​S​t2α​​(n−1)≤μ≤Xˉ+n ​S​t2α​​(n−1)
σ 2 \sigma^2 σ2	μ \mu μ已知	1 σ 2 ∑ i = 1 n ( X i − μ ) 2 ∼ χ 2 ( n ) \frac{1}{\sigma^2}\sum_{i=1}^{n}(X_i-\mu)^2\sim \chi^2(n) σ21​∑i=1n​(Xi​−μ)2∼χ2(n)	∑ i = 1 n ( X i − μ ) 2 χ α 2 2 ( n ) ≤ σ 2 ≤ ∑ i = 1 n ( X i − μ ) 2 χ 1 − α 2 2 ( n ) \frac{\sum_{i=1}^{n}(X_i - \mu)^2}{\chi^2_{\frac{\alpha}{2}}(n)}\leq \sigma^2\leq \frac{\sum_{i=1}^{n}(X_i - \mu)^2}{\chi^2_{1-\frac{\alpha}{2}}(n)} χ2α​2​(n)∑i=1n​(Xi​−μ)2​≤σ2≤χ1−2α​2​(n)∑i=1n​(Xi​−μ)2​
σ 2 \sigma^2 σ2	μ \mu μ未知	χ 2 = ( n − 1 ) S 2 σ 2 ∼ χ 2 ( n − 1 ) \chi^2=\frac{(n-1)S^2}{\sigma^2}\sim\chi^2(n-1) χ2=σ2(n−1)S2​∼χ2(n−1)	( n − 1 ) S 2 χ α 2 2 ( n − 1 ) ≤ σ 2 ≤ ( n − 1 ) S 2 χ 1 − α 2 2 ( n − 1 ) \frac{(n-1)S^2}{\chi^2_{\frac{\alpha}{2}}(n-1)}\leq \sigma^2\leq \frac{(n-1)S^2}{\chi^2_{1-\frac{\alpha}{2}}(n-1)} χ2α​2​(n−1)(n−1)S2​≤σ2≤χ1−2α​2​(n−1)(n−1)S2​

标签：bar,frac,宋浩,mu,数理统计,theta,概率论,sigma,lambda
来源： https://blog.csdn.net/Snakewood/article/details/120627670