この章のまとめ

確率論入門　第12章 §12.5

この章では、独立な確率変数の標本平均が期待値に近づくことを、2つの意味で示した。弱法則の出発点は、無相関なら $V[\bar X_n]=\sigma^2/n$ となる分散の計算である。Chebyshev の不等式を使うと、これは次の形になる。

$$P(\left\vert \bar X_n-\mu\right\vert \ge\varepsilon )\le\frac{\sigma^2}{n\varepsilon ^2}$$

この証明に使うのは $V[S_n]/n^2\to0$ という1つの事実だけである。よって相関が番号の差とともに減る列にも同じ結論が成り立つ。独立同分布なら、切断によって期待値の有限性だけで足りる（Khinchin の弱法則）。

強法則は1本の見本路の収束を主張する。4次モーメントを仮定すると、$E[(S_n-n\mu)^4]\le3n^2K$ から外れる確率の和が有限になる。あとは Borel–Cantelli の第1補題で証明が終わる。仮定を弱めるには、独立な確率変数の級数の理論を使った。

1. Kolmogorov の不等式から「分散の和が有限なら級数は収束する」が出る。3級数定理によって、収束の必要十分条件が得られる。
2. Kronecker の補題を使って、級数の収束を平均の収束に読み替える。
3. 切断と組み合わせて、独立同分布なら $E[\left\vert X_1\right\vert ]<\infty$ が強法則の必要十分条件であること（Kolmogorov の強法則）を示した。

期待値が無限の場合に強法則が崩れることは、Borel–Cantelli の第2補題から出た。

応用として、積分を乱数の平均で近似する Monte Carlo 法が強法則によって正当化され、その誤差が次元によらず $\sigma/\sqrt n$ であることを見た。経験分布関数については、各点での強法則と分布関数の単調性を組み合わせ、一様収束（Glivenko–Cantelli の定理）を導いた。

大数の法則は $\bar X_n-\mu\to0$ だけを述べる。ずれの大きさが $\sigma/\sqrt n$ の程度であることと、その分布の形には触れない。

第13章では、第8章の特性関数の展開と Lévy の連続性定理から、中心極限定理を示す。$\sqrt n(\bar X_n-\mu)/\sigma$ の分布が標準正規分布に近づくという定理である。Monte Carlo 法の信頼区間 $\hat I_n\pm1.96\,\hat\sigma_n/\sqrt n$ は、その結果から得られる。

第15章 §15.4 では、独立でないマルコフ連鎖の時間平均についての強法則（エルゴード定理）を扱う。再生の構造を使って、この章の強法則に帰着させる。