数理统计的基本概念
考点定位
- 大纲位置:数理统计 · 总体、简单随机样本、统计量、样本均值、样本方差和样本矩的概念及性质;χ2 分布、t 分布、F 分布的定义及性质;分位数的概念;正态总体的常用抽样分布(数一、数三公共考点;数二不考)
- 常见题型:抽样分布的判定与构造("给一个样本函数,问服从什么分布",选择题最高频);由分位数定义反求常数;三大分布的性质辨析(可加性、对称性、倒数关系);正态总体四大抽样分布定理的正用与逆用;求 E(S2)、D(S2) 等
- 考查频率:高。数一概率解答题中"统计量 + 抽样分布"是固定命题区(2020 年前后多次直接考 χ2、t 构造),也是第 7、8 章推断统计的全部地基
- 前置知识:随机变量及其分布(正态分布、标准正态分布、分布函数);多维随机变量及其分布(独立性、独立随机变量和的分布);随机变量的数字特征(期望、方差的运算性质);大数定律与中心极限定理(样本均值收敛的理论背景)
- 定位:本章完成从"概率论"(已知分布求概率)到"数理统计"(已知数据推断分布)的转向。类比工程:总体是"生产环境的真实参数",样本是"线上采集的日志",统计量是"聚合函数(如 avg)",抽样分布是"聚合函数自身的分布"——没有抽样分布,后面所有置信区间与假设检验都无从谈起。正态总体的四大抽样分布定理是第 7 章参数估计与第 8 章假设检验的地基,必须达到条件反射。
核心讲解
总体与样本
定义(总体与个体):研究对象的全体称为总体(母体),组成总体的每个元素称为个体。数理统计中关心的是对象的某个数量指标,因此总体本质上是指该数量指标 X 取值的全体——即一个随机变量,其分布函数 F(x) 称为总体分布。"总体 X∼N(μ,σ2)"这类说法就是在这个意义上使用的。
定义(简单随机样本):从总体 X 中抽取的 n 个个体 X1,X2,…,Xn 称为容量为 n 的简单随机样本(简称样本),若它满足两条性质:
- 代表性(与总体同分布):每个 Xi 都与总体 X 同分布;
- 独立性(相互独立):X1,X2,…,Xn 相互独立。
一次抽样完成后得到的具体数值 x1,x2,…,xn 称为样本观测值(样本值)。注意符号约定:大写 Xi 是随机变量(抽样之前),小写 xi 是具体数值(抽样之后);统计量的理论推导用大写,代入计算用小写。
由两性质立刻得到样本的联合分布(求统计量分布的出发点):
F∗(x1,…,xn)=∏i=1nF(xi);连续型: f∗(x1,…,xn)=∏i=1nf(xi);离散型: p∗=∏i=1nP{Xi=xi}.
工程直觉:简单随机样本就是"独立同分布(i.i.d.)采样"——这恰是软件工程里"无偏随机采样"的数学抽象。
统计量与常用统计量
定义(统计量):设 X1,…,Xn 是来自总体 X 的样本,g(X1,…,Xn) 是样本的函数。若 g 中不含任何未知参数,则称 g(X1,…,Xn) 为统计量。统计量是随机变量;代入样本值后得到的 g(x1,…,xn) 称为统计量的观测值。
判断要点:只看"是否含未知参数"。例如总体 X∼N(μ,σ2),μ 未知时 n1∑Xi 是统计量,而 σ/nXˉ−μ 不是统计量(含未知参数 μ,σ);但若 μ,σ 均已知,它就是统计量。
常用统计量(Xˉ 读作 X-bar):
关键恒等式(化简与求期望的核心工具):
∑i=1n(Xi−Xˉ)2=∑i=1nXi2−nXˉ2,从而S2=n−11(∑i=1nXi2−nXˉ2).
样本均值与样本方差的期望、方差(总体仅设 E(X)=μ,D(X)=σ2 存在,不需正态):
E(Xˉ)=μ,D(Xˉ)=nσ2,E(S2)=σ2.
其中 E(S2)=σ2(样本方差是总体方差的无偏估计)的推导:
E[∑(Xi−Xˉ)2]=E[∑Xi2]−nE(Xˉ2)=n(σ2+μ2)−n(nσ2+μ2)=(n−1)σ2,
故 E(S2)=n−1(n−1)σ2=σ2。这也解释了分母为何取 n−1 而非 n(详见参数估计 · 无偏性)。
三大抽样分布:χ2、t、F
三大分布都是从标准正态总体出发构造出来的,它们的定义本身就是考点——"抽样分布判定题"全靠对构造来源的条件反射。
χ2 分布
定义:设 X1,X2,…,Xn 相互独立且均服从 N(0,1),则称
χ2=X12+X22+⋯+Xn2
服从自由度为 n 的 χ2 分布,记作 χ2∼χ2(n)。自由度即"独立标准正态变量的个数"。
密度形状:取值范围 [0,+∞)(平方和必非负);密度曲线单峰、右偏(右侧拖着长尾);n 越大峰越往右移且越对称,n 很大时接近正态。n>2 时密度在 x=n−2 处达到最大值。
性质:
- 期望与方差:E[χ2(n)]=n,D[χ2(n)]=2n(每个 Xi2 期望为 1、方差为 2,再相加);
- 可加性:若 χ12∼χ2(m),χ22∼χ2(n),且两者相互独立,则 χ12+χ22∼χ2(m+n)(由"独立标准正态平方和"的定义直接看出);
- 与样本方差定理的联系:正态总体下 σ2(n−1)S2∼χ2(n−1)(见下节)。
分位点:对 α∈(0,1),χα2(n) 满足 P{χ2(n)>χα2(n)}=α。注意定义是右侧尾概率为 α,故 α 越小分位点越大:χ0.952(n)<χ0.052(n)。
t 分布
定义:设 X∼N(0,1),Y∼χ2(n),且 X 与 Y 相互独立,则称
t=Y/nX
服从自由度为 n 的 t 分布,记作 t∼t(n)。
密度形状:定义域全实轴、关于 y 轴对称、单峰钟形;与标准正态密度相比略矮略胖(尾部更厚);n→∞ 时 t(n) 密度趋于 N(0,1) 密度,实用上 n>30 即可用标准正态近似。
性质:
- E[t(n)]=0 (n>1);D[t(n)]=n−2n (n>2)(注意 n=1 时期望不存在,n≤2 时方差不存在;n>2 时方差大于 1,印证"更胖");
- 极限:n→∞limt(n) 的密度 =φ(x)(标准正态密度);
- 与样本均值定理的联系:正态总体下 S/nXˉ−μ∼t(n−1)(见下节)。
分位点:P{t(n)>tα(n)}=α。由对称性得负分位点公式(高频考点):
t1−α(n)=−tα(n).
F 分布
定义:设 X∼χ2(m),Y∼χ2(n),且 X 与 Y 相互独立,则称
F=Y/nX/m
服从自由度为 (m,n) 的 F 分布,记作 F∼F(m,n)(m 为分子(第一)自由度,n 为分母(第二)自由度,顺序不可交换)。
密度形状:取值范围 (0,+∞);单峰、右偏,形态与 χ2 类似(事实上 F1∼F(n,m),两者互为倒数关系)。
性质:
- 倒数关系(最常考):若 F∼F(m,n),则 F1∼F(n,m);
- 与 t 分布的联系:若 t∼t(n),则 t2∼F(1,n)(把 t=Y/nX 平方即得分子为 χ2(1));
- 分位点倒数公式(查表核心,F 表通常只给 α≤0.1 的分位点,其余靠它换算):
F1−α(m,n)=Fα(n,m)1.
推导:P{F>F1−α(m,n)}=1−α⇔P{F1<F1−α(m,n)1}=1−α⇔P{F1≥F1−α(m,n)1}=α,而 F1∼F(n,m),其上 α 分位点为 Fα(n,m),故 F1−α(m,n)1=Fα(n,m)。
三大分布性质速查表:
(F 分布的期望方差了解即可,重点在倒数关系。)
正态总体的抽样分布定理(推断统计的地基)
设 X1,X2,…,Xn 是来自正态总体 N(μ,σ2) 的简单随机样本,Xˉ 为样本均值,S2 为样本方差(分母 n−1)。
定理一(样本均值的分布):
Xˉ∼N(μ, nσ2),即标准化后σ/nXˉ−μ∼N(0,1).
证明思路:独立正态变量的线性组合仍为正态。E(Xˉ)=μ;由独立性 D(Xˉ)=n21∑D(Xi)=nσ2,正态性由 Xi 的联合密度(多元正态)在线性变换下保持正态得到。
定理二(样本方差的分布):
σ2(n−1)S2=σ21∑i=1n(Xi−Xˉ)2∼χ2(n−1).
定理三(Xˉ 与 S2 独立):正态总体下,Xˉ 与 S2 相互独立。
证明思路(定理二、三合并):核心是一个正交变换("旋转变换"):取正交矩阵第一行为 (n1,…,n1),令 Y=AX。由于 X1,…,Xn 独立同正态,Y1,…,Yn 仍相互独立正态,且 Y1=nXˉ,同时 ∑i=1nYi2=∑i=1nXi2 保持不变,从而
∑i=1n(Xi−Xˉ)2=∑i=2nYi2,
即"离差平方和被完整搬到 Y2,…,Yn 上",而 Y1 与 Y2,…,Yn 独立 ⇒ Xˉ 与 S2 独立(定理三);且各 σYi∼N(0,1) 独立,平方和服从自由度 n−1 的 χ2 分布(定理二,自由度减 1 是因为只有 n−1 个变量 Y2,…,Yn)。这一推导即为通行教材(如浙大版《概率论与数理统计》正态总体抽样分布定理)的标准证明,考试只需会用定理,但建议把"n−1 来自旋转后剩余维度"这一图像记住——它解释了为什么是 n−1 而不是 n。
定理四(Xˉ 与 S2 联合的 t 构造):
S/nXˉ−μ=n−1(n−1)S2/σ2(Xˉ−μ)/(σ/n)∼t(n−1).
证明思路:分子由定理一 ∼N(0,1);分母根号内由定理二 ∼χ2(n−1);由定理三分子与分母独立——恰好凑成 t 分布定义。
四大定理的逻辑链:
两个正态总体的抽样分布(数一认识结论即可,用于第 8 章两样本比较):设 X∼N(μ1,σ12)、Y∼N(μ2,σ22),X 的样本容量 n1、Y 的样本容量 n2,两样本独立,记两样本均值 Xˉ,Yˉ 与样本方差 S12,S22,则:
- n1σ12+n2σ22Xˉ−Yˉ−(μ1−μ2)∼N(0,1)(由定理一与独立性);
- S22/σ22S12/σ12∼F(n1−1, n2−1)(由定理二与独立性;当 σ12=σ22 时 S22S12∼F(n1−1,n2−1));
- 当 σ12=σ22=σ2 时,记合并方差 Sw2=n1+n2−2(n1−1)S12+(n2−1)S22,则
Swn11+n21Xˉ−Yˉ−(μ1−μ2)∼t(n1+n2−2).
例题
例 1(t 构造判定,模拟题):设 X1,…,X6 是来自总体 N(0,1) 的简单随机样本。求常数 c,使 T=cX32+X42+X52+X62X1+X2 服从 t 分布,并指出自由度。
解析:对照 t 分布的定义"标准正态除以 χ2/自由度"分两步组装:
第一步(分子):X1+X2∼N(0,2),标准化得 2X1+X2∼N(0,1);
第二步(分母):X32+X42+X52+X62 是 4 个独立 N(0,1) 的平方和,∼χ2(4)。
按定义组装:
t(4)=4X32+X42+X52+X622X1+X2=2X32+⋯+X622(X1+X2)=2X32+⋯+X62X1+X2.
故 c=2,T∼t(4)。要点:X1+X2 的方差是 2,忘除 2 是此类题的第一大错因。
例 2(抽样分布综合,模拟题):设 X1,…,X10 是来自正态总体 N(μ,σ2) 的样本。判定下列统计量的分布:
(1)σ210Xˉ2 中 σ/10Xˉ−μ 的分布;
(2)σ2(10−1)S2 的分布;
(3)S/10Xˉ−μ 的分布。
解析:
(1)由定理一,σ/10Xˉ−μ∼N(0,1)(进而其平方 σ210(Xˉ−μ)2∼χ2(1))。
(2)由定理二,σ29S2∼χ2(9)。
(3)由定理四,S/10Xˉ−μ∼t(9)。
三个统计量分别对应"均值已知方差时的标准化""方差的标准化""方差未知时均值的标准化"——第 7、8 章的全部检验统计量就由这三个原型变出来。
例 3(利用 χ2 分布求 D(S2),模拟题):设 X1,…,Xn 来自 N(μ,σ2),求 D(S2);并求 n=10、σ2=4 时的值。
解析:由定理二,σ2(n−1)S2∼χ2(n−1),而 χ2 分布方差为自由度的 2 倍:
D[σ2(n−1)S2]=2(n−1)⟹σ4(n−1)2D(S2)=2(n−1)⟹D(S2)=n−12σ4.
代入 n=10,σ2=4:D(S2)=92×16=932。
要点:求矩(期望、方差)不要硬算 S2 的展开式,先认出"谁的函数服从已知分布",再利用该分布的数字特征(方差公式 D(aY)=a2D(Y))。
例 4(分位数关系,模拟题):查表得 t0.05(10)=1.812,F0.05(9,10)=3.02。求 t0.95(10) 与 F0.95(10,9)。
解析:
由 t 分布对称性:t0.95(10)=−t0.05(10)=−1.812。
由 F 分位点倒数公式:F0.95(10,9)=F0.05(9,10)1=3.021≈0.331。
要点:F 公式中分子分母的自由度要同时交换,只取倒数不换自由度是典型错误。
常见坑
- S2 的分母是 n−1:考研语境下样本方差默认 S2=n−11∑(Xi−Xˉ)2。若题目给出 n1 版本,先换算 B2=nn−1S2 再套定理。
- "独立 + 同分布正态"才保证 Xˉ⊥S2:Xˉ 与 S2 独立是正态总体专属结论,非正态总体(如指数总体)不成立;同理定理二、四也仅对正态总体成立。
- 自由度数错:σ2(n−1)S2 自由度 n−1(一个线性约束 ∑(Xi−Xˉ)=0 消耗一个自由度);但 σ21∑(Xi−μ)2(用真值 μ 而非 Xˉ)自由度是 n。两种写法要分清。
- t 构造中忘标准化分子:分子必须先化成 N(0,1);X1+⋯+Xk∼N(0,k),要除 k。
- F 自由度顺序:F(m,n) 分子自由度在前。t2∼F(1,n) 而不是 F(n,1)。
- 分位点定义方向:三大分布的上 α 分位点统一约定为右侧尾概率 α,即 P{X>xα}=α;χ2 区间估计中出现 χ1−α/22(左分位点),端点顺序与倒数关系极易搞反(详见参数估计公式表)。
- 统计量判定:含未知参数即不是统计量;Xˉ、S2、Ak、Bk 都是统计量,但 σ/nXˉ−μ 在 μ,σ 未知时不是。
自测
- 设 X1,…,X10 来自 N(1,4),写出 Xˉ 的分布,并求 P{Xˉ>2}(用 Φ 表示)。
- 判断对错:(a)χ2(4)+χ2(6)=χ2(10);(b)若 t∼t(8),则 t2∼F(1,8);(c)若 F∼F(5,8),则 F1∼F(8,5)。
- 设 X1,…,X5 来自 N(0,1),问 W=X32+X42+X52X1−X2 乘以什么常数后服从什么分布?
- 设 X1,…,Xn 来自 N(μ,σ2),求 E(S2) 与 D(S2)(用 n,σ 表示)。
- 设 X∼N(0,1),Y∼χ2(5) 且 X 与 Y 独立;又 Z∼χ2(4) 且与 X,Y 独立。写出 Y/5X 与 Z/4Y/5 各服从什么分布。
自测答案
- Xˉ∼N(1,104)=N(1,0.4)。P{Xˉ>2}=1−Φ(0.42−1)=1−Φ(0.6321)=1−Φ(1.58)。
- (a)错——可加性要求两个 χ2 变量相互独立,随机变量相等相加没有意义/不保证独立;(b)对;(c)对。
- X1−X2∼N(0,2),2X1−X2∼N(0,1);X32+X42+X52∼χ2(3)。故 2X32+X42+X523(X1−X2)∼t(3),即 W 乘 23 后服从 t(3)。
- E(S2)=σ2(无偏性,任意总体成立);D(S2)=n−12σ4(用定理二:σ2(n−1)S2∼χ2(n−1),方差 2(n−1))。
- Y/5X∼t(5);Z/4Y/5∼F(5,4)。