‘결과’를 보고 ‘원인’의 확률을 거꾸로 추정하는 방법이다. 검사가 양성일 때 실제로 병에 걸렸을 확률, 스팸 메일 판별, 인공지능의 학습이 모두 베이즈 정리를 쓴다.
핵심 정리
- 전확률 공식: $B_1,\dots,B_n$이 표본공간을 빈틈없이 나누는 배반사건이면
$$P(A)=\sum_{i=1}^nP(B_i)P(A\mid B_i)$$
- 베이즈 정리:
$$P(B_i\mid A)=\frac{P(B_i)P(A\mid B_i)}{\sum_jP(B_j)P(A\mid B_j)}$$
증명 보기
전확률 공식. $A=(A\cap B_1)\cup\cdots\cup(A\cap B_n)$이고 이들은 서로 배반이므로 $P(A)=\sum P(A\cap B_i)$이다. 곱셈정리로 각 항을 $P(B_i)P(A\mid B_i)$로 바꾸면 된다.
베이즈 정리. 조건부확률의 정의와 곱셈정리에 의해
$$P(B_i\mid A)=\frac{P(A\cap B_i)}{P(A)}=\frac{P(B_i)P(A\mid B_i)}{P(A)}$$
이고, 분모에 전확률 공식을 넣으면 된다. $\blacksquare$
예제 (검사의 역설)
유병률이 $1\%$인 질병에 대해, 환자는 $99\%$ 양성, 건강한 사람도 $5\%$ 양성이 나오는 검사가 있다. 양성일 때 실제 환자일 확률은
$$\frac{0.01\times0.99}{0.01\times0.99+0.99\times0.05}=\frac{0.0099}{0.0594}\approx0.167$$
약 $17\%$에 불과하다. 건강한 사람이 훨씬 많아서, 그중 $5\%$의 위양성만으로도 진짜 양성보다 많아지기 때문이다. 이처럼 사전확률(유병률)을 무시하면 판단을 크게 그르친다.
확인 문제
공장 A, B가 제품의 $70\%$, $30\%$를 만들고 불량률은 각각 $2\%$, $5\%$이다. 불량품 하나를 골랐을 때 공장 B의 제품일 확률은?
풀이 보기
$P(\text{불량})=0.7\times0.02+0.3\times0.05=0.014+0.015=0.029$이므로 $P(B\mid\text{불량})=\frac{0.015}{0.029}=\frac{15}{29}\approx0.52$이다.
정리
- 결과에서 원인으로: $P(B\mid A)=\frac{P(B)P(A\mid B)}{P(A)}$
- 사전확률이 작으면 증거가 강해도 사후확률이 작을 수 있다.
