Lévy の連続性定理

$t$ を固定する。$x\mapsto\cos tx$ と $x\mapsto\sin tx$ は有界連続関数である。(13.5) から

$$E[\cos tX_n]\to E[\cos tX],\qquad E[\sin tX_n]\to E[\sin tX]$$

である。$\varphi_{X_n}(t)=E[\cos tX_n]+\mathrm{i} E[\sin tX_n]$ なので結論を得る。

有理数を $q_1,q_2,\dots$ と並べる。$F_n(q_1)$ は $[0,1]$ の有界な数列なので、収束する部分列をもつ（Bolzano–Weierstrass の定理）。その部分列の中から $F_n(q_2)$ が収束する部分列をとる。さらにその中から $F_n(q_3)$ が収束する部分列をとる、という操作をくり返す。

各回の部分列から、その回数番目の項を取り出して並べる（$k$ 回目の部分列からは $k$ 番目の項）。この対角線の列を $n_1<n_2<\cdots$ とする。

$q_i$ を1つ固定する。対角線の列の $i$ 番目から先は、$i$ 回目にとった部分列の部分列である。したがって $F_{n_j}(q_i)$ は $j\to\infty$ で収束する。

その極限を $G(q_i)$ と置く。$G$ は有理数の上で非減少で、値は $[0,1]$ にある。

次のように $F$ を定める。

$$F(x)=\inf\{G(q):q\in\mathbb Q,\ q>x\}.$$

$F$ は非減少である。右連続性を示す。$x_k\downarrow x$ とすると $F(x_k)\ge F(x)$ である。

一方、有理数 $q>x$ を1つとる。十分大きな $k$ で $x_k<q$ となる。このとき $F(x_k)\le G(q)$ なので、$\lim_kF(x_k)\le G(q)$ である。$q\downarrow x$ について下限をとれば $\lim_kF(x_k)\le F(x)$ となる。

$x$ を $F$ の連続点とする。有理数 $r<x<s$ をとると、次の不等式

$$F_{n_j}(r)\le F_{n_j}(x)\le F_{n_j}(s)$$

から

$$G(r)\le\liminf_jF_{n_j}(x)\le\limsup_jF_{n_j}(x)\le G(s)$$

である。$s$ について下限をとると右端は $F(x)$ になる。左端については、$y<r$ なら $F(y)\le G(r)$ である。したがって $y<r<x$ を満たすすべての $y$ で

$$F(y)\le\liminf_jF_{n_j}(x)$$

である。$y\uparrow x$ とすると、連続性から次を得る。

$$F(x)\le\liminf_jF_{n_j}(x)$$

$\varepsilon >0$ を与える。緊密性から、$\sup_nP(\left\vert X_n\right\vert >M)<\varepsilon$ となる $M$ がとれる。$F$ の不連続点は高々可算個である。したがって $x>M$ と $y<-M$ を、どちらも連続点にとることができる。このとき

$$F_{n_j}(x)\ge P(\left\vert X_{n_j}\right\vert \le M)>1-\varepsilon ,\qquad F_{n_j}(y)\le P(\left\vert X_{n_j}\right\vert >M)<\varepsilon$$

である。$j\to\infty$ として、次を得る。

$$F(x)\ge1-\varepsilon ,\qquad F(y)\le\varepsilon$$

これが任意の正の数 $\varepsilon$ で成り立つので、次の2式が成り立つ。

$$F(\infty)=1,\qquad F(-\infty)=0$$

第3章 §3.3 から、この性質をもつ非減少で右連続な関数はある確率分布の分布関数である。残りの主張は分布収束の定義そのものである。

$x\ne0$ について

$$\int_{-u}^{u}(1-\mathrm{e}^{\mathrm{i} tx})\,\mathrm{d} t=2u-\frac{2\sin ux}{x}$$

であり、$x=0$ ではこの値は 0 である。被積分関数は $\left\vert 1-\mathrm{e}^{\mathrm{i} tx}\right\vert \le2$ で有界なので、Fubini の定理（第5章）で積分と期待値の順序を入れ替えることができ、

$$\frac1u\int_{-u}^{u}\bigl(1-\varphi_X(t)\bigr)\,\mathrm{d} t=E\Bigl[\frac1u\int_{-u}^{u}(1-\mathrm{e}^{\mathrm{i} tX})\,\mathrm{d} t\Bigr]=2E\Bigl[1-\frac{\sin uX}{uX}\Bigr]$$

となる（$X=0$ では括弧の中を 0 と読む）。$\left\vert \sin y\right\vert \le\left\vert y\right\vert$ なので括弧の中は常に 0 以上である。また $\left\vert y\right\vert \ge2$ では

$$1-\frac{\sin y}{y}\ge1-\frac1{\left\vert y\right\vert }\ge\frac12$$

である。したがって

$$2E\Bigl[1-\frac{\sin uX}{uX}\Bigr]\ge2E\Bigl[\Bigl(1-\frac{\sin uX}{uX}\Bigr)\mathbf 1_{\{\left\vert uX\right\vert \ge2\}}\Bigr]\ge2\cdot\frac12P(\left\vert uX\right\vert \ge2)=P\Bigl(\left\vert X\right\vert \ge\frac2u\Bigr)$$

である。

$g$ を有界連続関数とし、次の実数列と実数を考える。

$$a_n=E[g(X_n)],\qquad a=E[g(X)]$$

$a_n\to a$ でないと仮定する。するとある $\varepsilon >0$ と部分列 $n_k$ があって、次が成り立つ。

$$\left\vert a_{n_k}-a\right\vert \ge\varepsilon$$

仮定から、この部分列のさらに部分列で $X_{n_{k_j}}\xrightarrow{d}X$ となる。つまり $a_{n_{k_j}}\to a$ であり、これは $\left\vert a_{n_{k_j}}-a\right\vert \ge\varepsilon$ と矛盾する。よって $a_n\to a$ であり、(13.5) から結論を得る。

(i) は命題 13.1 である。(ii) を示す。

第1段（緊密性）。$\varphi_{X_n}(0)=1$ なので $\varphi(0)=1$ である。$\varepsilon >0$ を与える。

$\varphi$ は 0 で連続である。したがって、ある正の数 $u$ がとれて、区間 $[-u,u]$ で次が成り立つ。

$$\left\vert 1-\varphi(t)\right\vert <\frac{\varepsilon }2$$

このとき

$$\Bigl|\frac1u\int_{-u}^{u}\bigl(1-\varphi(t)\bigr)\,\mathrm{d} t\Bigr|\le\frac1u\cdot2u\cdot\frac{\varepsilon }2=\varepsilon$$

である。

被積分関数は $\left\vert 1-\varphi_{X_n}(t)\right\vert \le2$ と有界で、$[-u,u]$ の上で各点収束している。有界収束定理（第5章 §5.2）から

$$\frac1u\int_{-u}^{u}(1-\varphi_{X_n})\,\mathrm{d} t\to\frac1u\int_{-u}^{u}(1-\varphi)\,\mathrm{d} t$$

である。したがって、ある $N$ から先のすべての番号で左辺は $2\varepsilon$ より小さくなる。補題 13.5 から、その番号では $P(\left\vert X_n\right\vert \ge2/u)<2\varepsilon$ である。

残りの有限個 $X_1,\dots,X_{N-1}$ については、$M$ を十分大きくとれば、どれも裾の確率が上の値より小さくなる。さらに $M\ge2/u$ にとれば、次がすべての $n$ で成り立つ。

$$P(\left\vert X_n\right\vert >M)<2\varepsilon$$

第2段（極限の特定）。$(X_n)$ の任意の部分列をとる。緊密な族の部分列も緊密である。定理 13.2 と命題 13.4 から、そのさらに部分列 $X_{n_j}$ で、ある確率変数 $Y$ に分布収束するものがある。

(i) から $\varphi_{X_{n_j}}(t)\to\varphi_Y(t)$ である。仮定から $\varphi_{X_{n_j}}(t)\to\varphi(t)$ でもあるので、$\varphi_Y=\varphi$ である。とくに $\varphi$ は特性関数であり、その分布を1つ選んで $X$ と書く。

一意性定理（第9章 §9.2）から $Y\overset{d}{=}X$ である。どの部分列から出発しても極限の分布は同じ $X$ の分布なので、補題 13.6 から $X_n\xrightarrow{d}X$ となる。

$n$ についての帰納法による。$n=1$ では等号である。$n-1$ 個で成り立つとすると、

$$\prod_{k=1}^nz_k-\prod_{k=1}^nw_k=z_1\Bigl(\prod_{k=2}^nz_k-\prod_{k=2}^nw_k\Bigr)+(z_1-w_1)\prod_{k=2}^nw_k$$

であり、右辺の絶対値は

$$\theta\cdot\theta^{n-2}\sum_{k=2}^n\left\vert z_k-w_k\right\vert +\left\vert z_1-w_1\right\vert \theta^{n-1}=\theta^{n-1}\sum_{k=1}^n\left\vert z_k-w_k\right\vert$$

以下である。

複素数 $w$ について

$$\left\vert \mathrm{e}^w-1-w\right\vert =\Bigl|\sum_{k\ge2}\frac{w^k}{k!}\Bigr|\le\left\vert w\right\vert ^2\sum_{j\ge0}\frac{\left\vert w\right\vert ^j}{(j+2)!}\le\left\vert w\right\vert ^2\mathrm{e}^{\left\vert w\right\vert }$$

である。$z=1+c_n/n$、$w=\mathrm{e}^{c_n/n}$ と置く。どちらも絶対値は $\theta=\mathrm{e}^{\left\vert c_n\right\vert /n}$ 以下である。実際

$$\left\vert 1+c_n/n\right\vert \le1+\left\vert c_n\right\vert /n\le\mathrm{e}^{\left\vert c_n\right\vert /n}$$

である。補題 13.8 で $z_k=z$、$w_k=w$ とすると

$$\Bigl|\Bigl(1+\frac{c_n}{n}\Bigr)^n-\mathrm{e}^{c_n}\Bigr|\le\mathrm{e}^{\left\vert c_n\right\vert (n-1)/n}\cdot n\cdot\frac{\left\vert c_n\right\vert ^2}{n^2}\mathrm{e}^{\left\vert c_n\right\vert /n}\le\frac{\left\vert c_n\right\vert ^2\mathrm{e}^{\left\vert c_n\right\vert }}{n}$$

である。$c_n$ は有界なので右辺は 0 に収束し、$\mathrm{e}^{c_n}\to\mathrm{e}^c$ と合わせて結論を得る。