統計学の復習 第3章 §3.4 ★★★ 条件付き確率の定義から乗法定理・全確率の公式・Bayes の定理を導く。2級でも1級でも計算の型として出る
条件付き確率とは
定義 3.20(条件付き確率)
P(A)>0 である事象 A に対して、
P(B∣A)=P(A)P(A∩B)(3.13)
を、A が起こったという条件のもとでの B の条件付き確率と呼ぶ。
高校の教科書では同じ量を PA(B) と書く。2つの記法の対応は「添字の A を、縦棒の右へ移す」だけで、どちらでも分母に来るのはすでに起こったと分かっている事象(条件)である。P(B∣A) は「A が与えられたときの B の確率」と読む。
定義の意味は等確率の場合に見るとはっきりする。(3.6) を代入すると
P(B∣A)=#A/#Ω#(A∩B)/#Ω=#A#(A∩B).
A が起こったと分かったあとは、A の外側の根元事象はもう起こりえないので考えから外し、A を新しい標本空間とみなす。その中で B にも属する根元事象の割合が条件付き確率である。図3.1 でいえば、左の円の中だけを全体と見たときの、真ん中の部分の割合にあたる。
条件付き確率 P(⋅∣A) は、B の関数として (P1)〜(P3) をみたす(確認テスト 3.4-4)。したがって、余事象の公式 P(Bc∣A)=1−P(B∣A) や加法定理は、条件を付けたままでも成り立つ。
条件付き確率と独立
命題 3.21(独立の言い換え)
P(A)>0 のとき、A と B が独立であることと、P(B∣A)=P(B) は同値である。P(A)>0、P(Ac)>0 のときは、これらはP(B∣A)=P(B∣Ac) とも同値である。
証明
前半:(3.13) の両辺に P(A) を掛けると P(A∩B)=P(A)P(B∣A) である。したがって P(B∣A)=P(B) と P(A∩B)=P(A)P(B) は同値である。
後半:B を A∩B と Ac∩B に排反に分けると
P(B)=P(A)P(B∣A)+P(Ac)P(B∣Ac).
P(A)+P(Ac)=1 なので、P(B) は P(B∣A) と P(B∣Ac) の重み付き平均である。P(B∣A)=P(B∣Ac) ならこの平均は共通の値に等しく、P(B∣A)=P(B) となる。逆に P(B∣A)=P(B) なら、上の式から P(Ac){P(B∣Ac)−P(B)}=0 となり、P(Ac)>0 より P(B∣Ac)=P(B) である。
命題3.21 は、独立を「A が起こったかどうかを知っても B の確率が変わらない」と読めることを示している。それでも定義には積の形 (3.7) を使う。積の形は A と B について対称であり、P(A)=0 の場合にも意味を持つからである。
3つ以上の事象の独立は、どの2つの組についても積の形が成り立つだけでは足りない。
定義 3.22(3つの事象の独立)
事象 A,B,C が
P(A∩B)=P(A)P(B),P(B∩C)=P(B)P(C),P(C∩A)=P(C)P(A),P(A∩B∩C)=P(A)P(B)P(C)
の4つをすべてみたすとき、A,B,C は(互いに)独立であるという。最初の3つだけをみたすときは2つずつ独立であるという。
2つずつ独立だが独立でない
1・2・3・4の番号を書いた4枚のカードから1枚を無作為に引く。A={1,2}、B={1,3}、C={1,4} とすると、P(A)=P(B)=P(C)=1/2 で、どの2つの積事象も {1} なので確率は 1/4=(1/2)2 である。したがって2つずつ独立である。ところが P(A∩B∩C)=P({1})=1/4 で、P(A)P(B)P(C)=1/8 と一致しない。A と B がともに起こったと分かれば、引いたカードは1と決まり、C も確実に起こる。2つずつの関係を見ただけでは、3つの事象の間の関係は分からない。
乗法定理
定理 3.23(乗法定理と全確率の公式)
- (乗法定理)P(A)>0 なら P(A∩B)=P(A)P(B∣A)。3つの事象では、P(A∩B)>0 なら
P(A∩B∩C)=P(A)P(B∣A)P(C∣A∩B).(3.14)
2. (全確率の公式)事象 H1,…,Hk が互いに排反で H1∪⋯∪Hk=Ω、かつ各 P(Hi)>0 であるとき、任意の事象 B について
P(B)=i=1∑kP(Hi)P(B∣Hi).(3.15)
証明
前半は (3.13) の分母を払ったものである。後半は前半を2回使う。A∩B を1つの事象とみてP(A∩B∩C)=P(A∩B)P(C∣A∩B) とし、P(A∩B)=P(A)P(B∣A) を代入する。
B=(B∩H1)∪⋯∪(B∩Hk) で、右辺の事象は Hi が互いに排反なので互いに排反である。(P3) を繰り返し使うとP(B)=∑iP(B∩Hi) となり、各項に乗法定理 P(B∩Hi)=P(Hi)P(B∣Hi) を使う。
乗法定理は、試行が段階的に進むときの確率を「各段階の条件付き確率の積」として求める式である。非復元抽出(取り出した玉を戻さない)では、2回目の確率が1回目の結果で変わるので、独立な試行の積の公式を使うことはできない。乗法定理を使えば、各段階で「それまでに何が起こったか」を条件にした確率を掛ければよい。全確率の公式は、B の確率を直接求めにくいときに、原因 Hi で場合分けして足す式である。
例題 3.6 くじを引く順番と当たりの確率 ★★★
オリジナル10本中3本が当たりのくじがある。まず A が1本引き、引いたくじを戻さずに、続いて B が1本引く。
- A が当たり B も当たる確率を求めよ。
- B が当たる確率を求めよ。
- B が当たったと分かったとき、A が当たっていた確率を求めよ。
解答
A が当たるという事象を A、B が当たるという事象を B とする。P(A)=3/10 である。A が当たった場合、残り9本中の当たりは2本なのでP(B∣A)=2/9、A がはずれた場合は残り9本中の当たりは3本なので P(B∣Ac)=3/9 である。
- 乗法定理から
P(A∩B)=P(A)P(B∣A)=103⋅92=906=151.
2. A と Ac で場合分けして全確率の公式 (3.15) を使う。
P(B)=103⋅92+107⋅93=906+21=9027=103.
B が当たる確率は A と同じ 3/10 で、引く順番によらない。くじに番号をつけて10本の並び 10! 通りを等確率とみれば、2番目の位置に当たりが来る並びの割合は1番目に当たりが来る割合と同じであることからも分かる。3. 定義 (3.13) から
P(A∣B)=P(B)P(A∩B)=27/906/90=92.
B が当たったと分かれば、A が引いたのは「B が引いた当たり以外の9本」のどれかと考えられ、そのうち当たりは2本である。この読み方とも一致する。(3) は、あとから起こった事象を条件にして前の事象の確率を求めており、次の Bayes の定理と同じ形の計算である。
ベイズの定理
定理 3.24(Bayes の定理)
事象 H1,…,Hk が全確率の公式の仮定をみたし、P(B)>0 であるとき、
P(Hi∣B)=∑j=1kP(Hj)P(B∣Hj)P(Hi)P(B∣Hi)(i=1,…,k).(3.16)
証明
定義から P(Hi∣B)=P(Hi∩B)/P(B)。分子に乗法定理 P(Hi∩B)=P(Hi)P(B∣Hi) を、分母に全確率の公式 (3.15) を代入する。
Bayes の定理は、条件付けの向きを逆にする式である。Hi を「原因」、B を「観測された結果」と読むと、各原因のもとで結果が出る確率 P(B∣Hi) から、結果を見たあとで原因を推し量る確率 P(Hi∣B) を求めている。P(Hi) を事前確率、P(Hi∣B) を事後確率と呼ぶ。P(B∣Hi) は、B を固定して Hi の関数とみると尤度と呼ばれる。1級では原因 Hi が連続的な母数 θ に置き換わり、(3.16) の和が積分になったものが事後分布の式になる(数理統計の解説 第10章 §10.4 のベイズ推定)。
(3.16) の分母は i によらないので、事後確率は「事前確率 × 尤度」に比例する。原因が H と Hc の2つしかないときは、比をとると分母が消えて、次の形になる。
命題 3.25(オッズの形の Bayes の定理)
0<P(H)<1、P(B∣Hc)>0 のとき
P(Hc∣B)P(H∣B)=P(Hc)P(H)×P(B∣Hc)P(B∣H).(3.17)
左辺を事後オッズ、右辺の第1因子を事前オッズ、第2因子を尤度比と呼ぶ。
証明
(3.16) を H1=H、H2=Hc について書き、2式の比をとると共通の分母が約分される。

図 3.2 例題3.7 の樹形図。枝の数は条件付き確率、右端の数は乗法定理で求めた積事象の確率。陽性の2つの葉の和 0.019+0.098=0.117 が P(+) で、そのうち病気の葉の割合が陽性的中率 P(D∣+) である。
例題 3.7 検査の陽性的中率と再検査 ★★★
オリジナルある病気の有病率は 2% である。この病気の検査は、病気の人を陽性と判定する確率(感度)が 0.95、健康な人を陰性と判定する確率(特異度)が 0.90 である。
- 無作為に選んだ人が検査で陽性になる確率を求めよ。
- 陽性と判定された人が実際に病気である確率(陽性的中率)を求めよ。また、陰性と判定された人が実際に健康である確率(陰性的中率)を求めよ。
- 陽性だった人が同じ検査をもう一度受け、再び陽性だった。病気である確率を求めよ。ただし、病気かどうかが決まれば、2回の検査の結果は互いに独立とする。
解答
病気である事象を D、陽性の事象を +、陰性の事象を − とする。与えられた値は P(D)=0.02、P(+∣D)=0.95、P(−∣Dc)=0.90 で、余事象から P(+∣Dc)=0.10、P(−∣D)=0.05 である。樹形図は図3.2 のとおり。
- 全確率の公式で D と Dc に場合分けする。
P(+)=P(D)P(+∣D)+P(Dc)P(+∣Dc)=0.02×0.95+0.98×0.10=0.019+0.098=0.117.
2. Bayes の定理から
P(D∣+)=0.1170.019≈0.1624,P(Dc∣−)=P(−)P(Dc)P(−∣Dc)=0.8830.882≈0.9989.
陰性的中率の分母には P(−)=1−P(+)=0.883 を使った。感度・特異度がともに9割以上でも、陽性の人のうち病気の人は約16% にとどまる。健康な人が全体の98% を占めるので、その1割の誤判定(0.098)が、病気の人の正しい判定(0.019)の約5倍になるからである。3. 2回の検査をまとめて1つの観測 B=「2回とも陽性」とみる。仮定(病気かどうかを条件とした独立)から
P(B∣D)=0.952=0.9025,P(B∣Dc)=0.102=0.01.
オッズの形 (3.17) を使うと、事前オッズは 0.02/0.98、尤度比は 0.9025/0.01=90.25 なので
P(Dc∣B)P(D∣B)=0.980.02×90.25=0.981.805≈1.8418,P(D∣B)=1+1.84181.8418≈0.6481.
1回目の事後確率 0.1624 を新しい事前確率として、2回目の陽性で Bayes の定理をもう一度使っても同じ値になる。1回の陽性の尤度比は 0.95/0.10=9.5 で、事前オッズに 9.5 を2回掛けることと、2回分の尤度比 90.25=9.52 を1回掛けることは同じだからである。なお、2回の結果が病気かどうかを条件にしても独立でない場合(同じ体質の人が毎回同じ誤判定をする場合など)は、この計算は成り立たない。
P(D∣+) と P(+∣D) を取り違えない
感度 P(+∣D)=0.95 は「病気の人のうち陽性になる割合」で、陽性的中率 P(D∣+)≈0.16 は「陽性の人のうち病気の人の割合」である。分母が異なる別の量であり、有病率が小さいほど両者の差は大きくなる。問題文の数字がどちらの条件付き確率かを、縦棒の右(分母)に来る事象で判別してから式に入れる。
確認テスト
オリジナル
- 3.4-1 P(A)=0.4、P(B)=0.25、P(A∩B)=0.1 とする。P(B∣A) と P(A∣B) を求め、A,B が独立かどうかを判定せよ。また PA(B) と書いたときの記号の対応を答えよ。
- 3.4-2 ある部品を工場 X・Y・Z が 50%・30%・20% の割合で生産しており、不良率はそれぞれ 1%・2%・4% である。全体から無作為に選んだ部品が不良品であったとき、それが工場 Z の製品である確率を求めよ。
- 3.4-3 赤玉5個と白玉7個の入った袋から、1個ずつ戻さずに3個取り出す。(a) 赤・白・赤の順に出る確率を乗法定理で求めよ。(b) 取り出した3個のうち赤玉がちょうど2個である確率を求め、(a) との関係を説明せよ。
- 3.4-4 P(A)>0 のとき、Q(B)=P(B∣A) で定めた Q が (P1)〜(P3) をみたすことを示せ。
- 3.4-5 2枚の公正な硬貨を投げる。A=「1枚目が表」、B=「2枚目が表」、C=「表の枚数が偶数(0枚または2枚)」とする。A,B,C が2つずつ独立であるが、独立ではないことを示せ。
AI(Claude)が書いた教材を、木下が勉強しながら公開しています。式と数値は検算していますが、誤りが残っているかもしれません。誤りのご指摘・削除のご依頼をいただければ直します。 連絡先:support@tecktom.com