条件化、贝叶斯推断与抽样误差
引入| English | 释义 | 拼音 |
|---|---|---|
| standard error/ˈstændəd ˈerə/ | 标准误 | biāo zhǔn wù |
| sensitivity/ˌsensɪˈtɪvɪti/ | 灵敏度 | líng mǐn dù |
| specificity/ˌspesɪˈfɪsɪti/ | 特异度 | tè yì dù |
阳性测试与罕见条件
- 某模型检测灵敏度为 90%,特异度为 95%;人群中患病率为 2%。在检测结果为阳性的人中,仅有约 27% 真正患病。高检出率回答的是另一个问题,而非阳性结果正确的概率。
- 我们将追踪条件化后的人群,然后区分观测值的分布与其均值的标准误 标准误。以下检验率仅为假设性的数学输入。
条件化改变分母
- 对于事件 $A,B$ 且 $P(B)>0$,定义 $P(A\mid B)=\dfrac{P(A\cap B)}{P(B)}$。分母将注意力限制在 $B$ 上;分子保留同时也满足 $A$ 的结果。基本公式并不定义对零概率事件的条件化。
- 掷一枚均匀骰子。令 $A=\{4,5,6\}$ 和 $B=\{2,4,6\}$。则 $P(A\cap B)=2/6$ 和 $P(B)=3/6$,得出 $P(A\mid B)=2/3$。无条件概率 $P(A)=1/2$ 使用全部六个结果。
$P(A \cap B) = 0.12$ and $P(B) = 0.3$. Find $P(A \mid B)$.
难度 2/5 · 今日首次完成可获 140 金币及少量额外奖励
P(A | B) = P(A ∩ B) / P(B) = 0.12 / 0.3 = 0.4.
沿条件路径相乘
- 重新排列定义可得 $P(A\cap B)=P(B)P(A\mid B)$。对于三个事件,从 $P(A)$ 开始,然后乘以 $P(B\mid A)$ 和 $P(C\mid A\cap B)$。每个条件事件都必须具有正概率。
- 从标准 52 张牌的牌组中不放回地抽取两张牌。抽到两张A的概率为 $\dfrac4{52}\cdot\dfrac3{51}=\dfrac1{221}$。在抽出一张A之后,剩余 51 张牌中仅剩三张A。若两个概率保持不变直接相乘,则会假设不存在于实际情况中的独立性。
A first card drawn from a standard 52-card deck is an ace and is not replaced. Find the probability the second is an ace, to three decimal places.
难度 2/5 · 今日首次完成可获 140 金币及少量额外奖励
Three aces remain among 51 cards, so the conditional probability is 3/51=1/17≈0.059.
独立性是精确的等式
- 当 $P(A\cap B)=P(A)P(B)$ 时,事件相互独立。若 $P(B)>0$,这与 $P(A\mid B)=P(A)$ 等价。即使任一事件的概率为零,乘积定义仍然适用。
- 结合 $P(A)=0.4$、$P(B)=0.5$ 和 $P(A\cap B)=0.3$,条件概率为 $0.6$,因此事件是相关的。相比之下,边缘概率 $0.5$ 和 $0.4$ 与交集 $0.2$ 恰好满足独立性。
If $P(A) = 0.5$, $P(B) = 0.4$ and $P(A \cap B) = 0.2$, then $A$ and $B$ are independent.
难度 1/5 · 今日首次完成可获 100 金币及少量额外奖励
True. A and B are independent exactly when P(A ∩ B) = P(A)P(B), and 0.5 × 0.4 = 0.2.
互斥不代表独立
- 互斥事件的 $A\cap B=\varnothing$ 为零。若两者均有正概率,则它们不可能独立:交集概率为零,但乘积为正。在公平骰子中,“奇数”和“偶数”既互斥又相关。
- 每对独立的联合未必意味着相互独立。对于两次公平独立的抛硬币实验,设 $A$ 表示第一次正面朝上,$B$ 表示第二次正面朝上,$C$ 表示两次结果一致。任意一对的交集概率均为 $1/4$。三者的联合概率为 $1/4$,而相互独立性要求其为 $1/8$。
Two disjoint events, each with positive probability, can be independent.
难度 1/5 · 今日首次完成可获 100 金币及少量额外奖励
Their intersection has probability zero but the product of their probabilities is positive.
For a fair die, let $A=\{4,5,6\}$ and $B=\{2,4,6\}$. Find the intersection and both conditional probabilities. Are the events independent or disjoint?
对照模型检查条件组、假设及算术运算。
沿完整划分进行加法运算
- 若事件 $B_1,\ldots,B_k$ 互斥、覆盖样本空间且每个均有正概率,则 $P(A)=\sum_i P(B_i)P(A\mid B_i)$。每一项都是进入 $A$ 的一条互斥路径;没有遗漏或重复计数任何结果。
- 一家工厂从生产线 1 获取 60% 的零件,从生产线 2 获取 40% 的零件。它们的次品率分别为 1% 和 3%。总体次品概率为 $0.6(0.01)+0.4(0.03)=0.018$,而非未加权的平均值 $0.02$。
谨慎命名检验率
- 设 $D$ 表示存在该状况,$+$ 表示结果为阳性。灵敏度(Sensitivity)为 $P(+\mid D)$;特异度(Specificity)为 $P(-\mid\bar D)$。假阳性率为 $P(+\mid\bar D)=1-\text{specificity}$。
- 阳性预测值为 $P(D\mid +)$,其条件是针对另一组人群。仅凭灵敏度或特异度无法得出此概率,基础率 $P(D)$ 同样重要。
构建所有四个单元格
- 在一个 10,000 的模拟人群中,2% 的基础率意味着有 200 个病例和 9,800 个非病例。灵敏度 90% 产生 180 个真阳性和 20 个假阴性。特异度 95% 产生 9,310 个真阴性和 490 个假阳性。
- 共有 $180+490=670$ 个阳性结果和 $20+9310=9330$ 个阴性结果。因此 $P(D\mid +)=180/670\approx26.9\%$。检测率 90% 为 $180/200$,使用的是不同的分母。
已知条件改变分母所对应的群体
$P(A\mid B)=n(A\cap B)/n(B),\quad n(B)>0$
用本课的表格比较条件概率、反向条件概率和全体概率。高亮群体对应分母。
贝叶斯定理反转条件
- 写出 $u=P(D)P(+\mid D)$ 和 $v=P(\bar D)P(+\mid\bar D)$。全概率公式给出 $P(+)=u+v$。若其为正值,贝叶斯定理给出 $P(D\mid +)=\dfrac{u}{u+v}$。
- 若基础率为 10%,敏感度为 80%,特异度为 90%,则两个阳性路径分别为 $u=0.10(0.80)=0.08$ 和 $v=0.90(0.10)=0.09$。后验概率为 $0.08/0.17=8/17\approx0.471$,而非敏感度 $0.8$。
这是哪种概率?
指出该陈述所描述的条件概率名称。
Prevalence 10%, sensitivity 80%, specificity 90%. Find $P(D \mid +)$ to three decimal places.
难度 2/5 · 今日首次完成可获 140 金币及少量额外奖励
The positive routes are 0.10×0.80=0.08 and 0.90×0.10=0.09, so the posterior is 0.08/(0.08+0.09)=8/17≈0.471.
改变基础率,保持测试不变
- 保持敏感性 90% 和特异性 95% 不变,但将基础率从 2% 提高到 20%。根据 10,000 人计算,阳性结果变为 1,800 个真阳性和 400 个假阳性。此时 $P(D\mid +)=1800/2200\approx81.8\%$。
- 该测试的两个条件概率保持不变;人群构成发生了变化。反之,若基础率为 2%,将特异性提高至 99% 可使假阳性减少至 98,从而得到 $180/278\approx64.7\%$。
In a hypothetical batch, 4% of parts are defective. A checker flags 95% of defective parts and 2% of nondefective parts. Build a table for 10,000 parts and find the probability a flagged part is defective.
对照模型检查条件组、假设及算术运算。
阴性结果与重复结果
- 在原始 2% 的模型中,结果为 $P(D\mid -)=20/9330\approx0.00214$。其补集为 $P(\bar D\mid -)$,而非 $P(D\mid +)$:补集中的两个概率必须针对同一事件进行条件化。
- 重复测试并不会自动使其错误率平方。要使假阳性率平方,两次结果必须在无该条件时相互独立;同理,敏感性的相乘也要求在存在该条件时满足条件独立性。共享的错误来源可能破坏这些假设。
In the original hypothetical 2% model, 20 of the 9,330 negative results have the condition. Find the probability of the condition given a negative result, to six decimal places.
难度 2/5 · 今日首次完成可获 140 金币及少量额外奖励
The negative result defines the denominator: 20/9330≈0.002144. This is not the false-negative rate 20/200.
When can two test false-positive rates of 0.05 be multiplied to obtain a joint false-positive rate of 0.0025?
难度 1/5 · 今日首次完成可获 100 金币及少量额外奖励
The multiplication is within the group without the condition, so independence must hold conditional on absence, with each conditional rate 0.05. Merely using the same test or a new day does not establish it.
均值拥有自身的分布
- 在抽样之前,观测值 $X_1,\ldots,X_n$ 及其均值 $\bar X$ 均为随机变量。重复抽样过程可得到可能均值的抽样分布。其标准差即为均值的标准误。
- 若每个观测值的均值均为 $\mu$,由线性性质可得 $E(\bar X)=\mu$;此期望无需独立性假设即可成立。实际观测到的样本均值 $\bar x$ 仅是其中的一个数值,而非整个抽样分布。
推导标准误
- 设 $\bar X=\frac1n\sum_iX_i$。假设观测值相互独立且每个方差有限为 $\sigma^2$。其和的方差为 $n\sigma^2$;取平均后除以 $n^2$。因此 $\operatorname{Var}(\bar X)=\sigma^2/n$,开方得 $\operatorname{SE}(\bar X)=\dfrac{\sigma}{\sqrt n}$。
- 相互独立同分布且具有有限方差的观测值满足上述假设,但正态性并非方差恒等式所必需。对于不相等的独立方差,应在开平方根前使用其总和除以 $n^2$ 的结果。
观测值离散度与均值离散度
- 当 $\sigma=12$ 已知时,36 个独立观测值的均值标准误为 $2$,144 个观测值的均值标准误为 $1$。单个观测值仍具有标准差 $12$。更大的样本量稳定了均值,而非使各观测值变异性降低。
- 若 $\sigma$ 未知,可用 $s/\sqrt n$ 估计标准误,其中 $s$ 为样本标准差。对于 $s=18$ 和 $n=81$,该估计值为 $2$。这是基于数据的估计值,而非已知的总体参数。
个体的离散程度与样本均值的离散程度
$\mathrm{SD}(\bar X)=\sigma/\sqrt n$
样本量n改变标准误,不改变总体标准差。计算正态概率需要明确的分布模型。
Each of 100 independent observations has standard deviation $\sigma=20$. What is the standard error of their mean?
难度 2/5 · 今日首次完成可获 140 金币及少量额外奖励
The standard error of the mean is σ/√n = 20/√100 = 20/10 = 2.
For an iid sample of size $81$ with sample standard deviation $s=18$, estimate the standard error of the sample mean.
难度 2/5 · 今日首次完成可获 140 金币及少量额外奖励
Use s/√n=18/9=2. This estimates the unknown population SE.
规划样本量
- 保持观测值方差及抽样假设不变,将样本量 $n$ 乘以 $k$,标准误(SE)将乘以 $1/\sqrt k$。将样本量增至四倍可使标准误减半;将标准误降至三分之一需增加九倍的观测值数量。
- 为使标准误不超过 $e>0$ 且已知总体标准差 $\sigma$,需满足 $n\ge(\sigma/e)^2$ 并向上取整为整数。给定标准差 $\sigma=10$ 和目标标准误 $3$,计算得出 $n\ge100/9$,因此最小样本量为 $12$,而非 $11$。
Holding the common observation variance fixed for independent observations, multiplying the sample size by 4 changes the mean standard error by a factor of
难度 1/5 · 今日首次完成可获 100 金币及少量额外奖励
√4 = 2 in the denominator.
Independent observations have common standard deviation $\sigma=10$. What is the smallest integer sample size giving mean SE at most $3$?
难度 2/5 · 今日首次完成可获 140 金币及少量额外奖励
n must be at least (10/3)²=100/9≈11.111; round up to 12. At n=11 the SE is still larger than 3.
Two independent observations have the same mean $\mu$ and variances $9$ and $16$. Find the mean and standard error of their average. Explain why a common-$\sigma$ shortcut is inappropriate.
对照模型检查条件组、假设及算术运算。
精确离散度不等于精确正态性
- 独立的正态观测值在任何样本量下均产生正态分布的样本均值。对于具有独立同分布且具有限正方差的观测值,中心极限定理仅在 $n$ 增大时给出近似正态化的标准化均值;这并不会使原始观测值本身呈正态分布。
- 均值$n$个独立的伯努利观测值只能取$n+1$种取值,因此并不完全服从正态分布。标准误公式仍然适用。不存在能保证所有总体正态近似都准确的通用样本量。
The mean of any finite iid sample with finite variance has an exactly normal distribution.
难度 1/5 · 今日首次完成可获 100 金币及少量额外奖励
For Bernoulli observations a finite sample mean is discrete. The standard error identity can be exact while a normal approximation is only approximate.
相关性与偏差需分别检验
- 对于相关的观测值,方差包含协方差项。对于两个方差为$\sigma^2$、协方差为$c$的观测值,其均值的方差为$(\sigma^2+c)/2$。若第二个观测值与第一个完全重复,则$c=\sigma^2$:对它们取平均无法降低方差。
- 小的标准误仅衡量抽样离散程度,而非偏差。若传感器始终在原本无偏的读数上增加$3$,则均值存在$3$的偏差,无论样本量多大。增加重复读数并不能消除这种系统偏移或修正非代表性样本。
哪个量发生了变化?
区分观测变异、抽样变异和偏差。
Suppose $X_i=\mu+3+Z+\varepsilon_i$, where $Z$ has mean zero and variance 4, the $\varepsilon_i$ are independent with mean zero and variance 9, and $Z$ is independent of every error. Find the mean and variance of $\bar X$ and describe what increasing $n$ can fix.
对照模型检查条件组、假设及算术运算。
复习要点
- 灵敏度:在条件存在时检测结果为阳性的概率。
- 特异度:在条件不存在时检测结果为阴性的概率。
- 标准误:统计量抽样分布的标准差。对于独立同方差样本均值,其为 $\sigma/\sqrt n$;当 $\sigma$ 未知时,由 $s/\sqrt n$ 估计。需分别检查依赖关系、近似假设和偏差。