この章のまとめ

確率論入門　第4章 §4.5

この章では、2つ以上の事象や確率変数のあいだの関係を述べる言葉を2つ用意した。

条件付き確率 $P(A\mid B)=P(A\cap B)/P(B)$ は、$B$ が起きたと分かったときに、確率をその事象の中だけで測り直す規則である。それ自体がまた確率測度になる。これを積の形に書き直したものが乗法公式で、標本空間を分割して場合分けしたものが全確率の公式、さらに条件の向きを入れ替えたものが Bayes の定理である。例題 4.1 のように、事前確率が小さいと $P(A\mid B)$ と $P(B\mid A)$ は大きく食い違う。

独立性は、条件付けても確率が変わらないという性質を、積の等式 $P(A\cap B)=P(A)P(B)$ で定めたものである。この形なら条件の確率が0の場合も含む。3つ以上の事象では、すべての部分族で積の等式を要求する必要があった。確率変数の独立は、それぞれが生成する σ加法族の独立として定めた。

この定義はすべての Borel 集合の組についての等式を要求するが、Dynkin の定理によって、$\Omega$ を含む π系の上で積の等式を確かめれば十分であることを示した（定理 4.10）。その帰結として、独立性は同時分布関数が周辺分布関数の積になることで判定でき、独立な確率変数を重ならない組に分けて関数をとってもやはり独立になる（まとめ方の補題）。

確率ベクトルの言葉では、独立とは同時分布が周辺分布の積測度に等しいことであり、密度がある場合は同時密度が周辺密度の積に分かれることと同値である。ただし密度の値が正になる範囲が長方形でないと、式の見かけが単純でも独立にはならない。

事象の列については、無限回起こる事象を上極限事象として書き、Borel–Cantelli の補題を示した。確率の和が有限なら依存関係によらず有限回しか起こらず、独立で確率の和が発散すれば無限回起こる。この2つを組み合わせると、指数分布の列の最大の増え方 $\limsup X_n/\log n=1$ のような、ほとんど確実に成り立つ主張を両側から証明することができる。

次の第5章では期待値を Lebesgue 積分として構成する。そこで、独立な確率変数について $E[XY]=E[X]E[Y]$ が成り立つことを、この章の「独立なら同時分布は積測度」から示す。第7章の畳み込みと第9章の「独立和の特性関数は積」も同じ事実から出発する。

Borel–Cantelli の補題は第11章で概収束と確率収束の関係を調べるときと、第12章で強法則を示すときの主要な道具になる。条件付き確率は第14章で、マルコフ連鎖の遷移確率 $p_{ij}=P(X_{n+1}=j\mid X_n=i)$ を定める言葉として再び現れる。