独立な確率変数の級数の収束

$m<n$ について、次が成り立つ。

$$E[(S_n-S_m)^2]=\sum_{k=m+1}^nV[X_k]$$ $n\to\infty$ で $S_n-S_m\to S-S_m$ a.s. である。よって Fatou の補題（第5章 §5.2）から

$$E[(S-S_m)^2]\le\liminf_nE[(S_n-S_m)^2]=\sum_{k>m}V[X_k]\to0\qquad(m\to\infty)$$

である。

(i) と Borel–Cantelli の第1補題から、確率 1 で有限個の番号を除いて $\left\vert X_n\right\vert \le A$ となる。つまり $X_n=Y_n$ となる。

切断した列は独立な確率変数の関数なので独立である。(ii) と (iii) から、系 12.8 により $\sum_nY_n$ はほとんど確実に収束する。2つの級数は有限個の項しか違わないので、もとの級数も同じ標本点で収束する。

部分和を $u_n=\sum_{k=1}^nx_k/b_k$ と置き、$u_0=0$ とする。その極限を $u$ とする。$x_k=b_k(u_k-u_{k-1})$ を足し合わせて、和の順序を組み替える（Abel の総和法）。すると

$$\sum_{k=1}^{n}x_k=\sum_{k=1}^{n}b_ku_k-\sum_{k=1}^{n}b_ku_{k-1}=b_nu_n-\sum_{k=1}^{n-1}(b_{k+1}-b_k)u_k$$

となる（2つ目の和で $j=k-1$ と置き直し、$u_0=0$ を使った）。両辺を $b_n$ で割ると

$$\frac{1}{b_n}\sum_{k=1}^{n}x_k=u_n-\frac{1}{b_n}\sum_{k=1}^{n-1}(b_{k+1}-b_k)u_k$$

である。右辺の第2項が $u$ に近づくことを示せばよい。重み $c_k=b_{k+1}-b_k\ge0$ の和は $\sum_{k=1}^{n-1}c_k=b_n-b_1$ だから

$$\frac{1}{b_n}\sum_{k=1}^{n-1}c_ku_k-u=\frac{1}{b_n}\sum_{k=1}^{n-1}c_k(u_k-u)-\frac{b_1}{b_n}u$$

と書ける。正の数 $\eta$ に対し、番号 $K$ を、それより先でずれがこの数未満となるように選ぶ。和を $K$ の前と後に分ける。

• 前の部分は、番号 $n$ によらない有限の値を $b_n\to\infty$ で割ったものなので、0 に近づく。
• 後ろの部分は、次で抑えられる。

$$\frac{1}{b_n}\sum_{k=K}^{n-1}c_k\eta\le\eta$$

最後の項も 0 に近づくので、上極限は $\eta$ 以下になる。$\eta$ は任意だから、第2項は $u$ に近づく。よって $\frac1{b_n}\sum_{k\le n}x_k\to u-u=0$ である。

$Z_n=(X_n-E[X_n])/n$ と置く。これは独立で、次を満たす。

$$E[Z_n]=0,\qquad\sum_nV[Z_n]=\sum_n\frac{V[X_n]}{n^2}<\infty$$

定理 12.7 から、$\sum_nZ_n$ はほとんど確実に収束する。その標本点ごとに、Kronecker の補題を $x_n=X_n(\omega)-E[X_n]$、$b_n=n$ で使う。すると $\frac1n\sum_{k\le n}(X_k-E[X_k])\to0$ を得る。

$\mu=E[X_1]$ とし、$Y_k=X_k\mathbf 1_{\{\left\vert X_k\right\vert \le k\}}$ と置く。切断した列は独立である。

(a) もとの列と切断した列は、ほとんど確実に有限個の添字でしか違わない。実際、(2) の証明の冒頭と同じ不等式

$$\sum_{k\ge1}P(\left\vert X_1\right\vert >k)\le E[\left\vert X_1\right\vert ]<\infty$$

が成り立つ（$t\in[k-1,k)$ で $P(\left\vert X_1\right\vert >t)\ge P(\left\vert X_1\right\vert >k)$ を裾の公式に使う）。同分布性から次が成り立つ。

$$\sum_kP(X_k\neq Y_k)=\sum_kP(\left\vert X_1\right\vert >k)<\infty$$

よって Borel–Cantelli の第1補題が使え、$\frac1n\sum_{k\le n}(X_k-Y_k)\to0$ a.s. である。

(b) 優収束定理から $E[Y_k]=E[X_1;\left\vert X_1\right\vert \le k]\to\mu$ である。その Cesàro 平均も $\mu$ に近づく（系 12.3 の証明の Cesàro 平均の議論と同じ）。

(c) $\sum_kV[Y_k]/k^2<\infty$ を示す。分散は $V[Y_k]\le E[Y_k^2]=E[X_1^2\mathbf 1_{\{\left\vert X_1\right\vert \le k\}}]$ を満たす。よって Tonelli の定理（非負の和と期待値の交換）から

$$\sum_{k\ge1}\frac{V[Y_k]}{k^2}\le E\Bigl[X_1^2\sum_{k\ge\max(1,\left\vert X_1\right\vert )}\frac1{k^2}\Bigr]$$

である。$m\ge1$ について、次が成り立つ。

$$\sum_{k\ge m}\frac1{k^2}\le\frac1{m^2}+\int_m^\infty x^{-2}\,\mathrm{d} x\le\frac2m$$

和の始まりの整数 $m$ は $\max(1,\left\vert X_1\right\vert )$ 以上である。よって括弧の中は次以下である。

$$X_1^2\cdot\frac2{\max(1,\left\vert X_1\right\vert )}\le2\left\vert X_1\right\vert$$

最後の不等式は、$\left\vert X_1\right\vert \ge1$ なら等号である。$\left\vert X_1\right\vert <1$ なら $2X_1^2\le2\left\vert X_1\right\vert$ による。よって和は $2E[\left\vert X_1\right\vert ]<\infty$ 以下である。

3つを合わせる。

1. (c) と系 12.11 から、$\frac1n\sum_{k\le n}(Y_k-E[Y_k])\to0$ a.s. である。
2. (b) と合わせて、$\frac1n\sum_{k\le n}Y_k\to\mu$ a.s. である。
3. さらに (a) と合わせて、$\bar X_n\to\mu$ a.s. を得る。