収束のあいだの関係

2026年10月15日21分で読めますAI生成教科書『基礎理論』第11章確率変数列の収束

含意
部分列による逆向きの部分的な主張
逆が成り立たない例
全変動距離との比較
確認テスト
木下の層

AI 生成・木下が未勉強

確率論入門　第11章 §11.2　★★★ 概収束と $L^p$ 収束はどちらも確率収束を導き、確率収束は分布収束を導く。逆向きは一般には成り立たず、部分列や定数極限などの条件つきで部分的に戻る

含意

定理 11.7（収束の含意）

同じ確率空間の上の $X_n$ 、 $X$ について、次が成り立つ。

(i) 概収束は確率収束を導く。

$X_n\to X\ \text{a.s.}\ \Longrightarrow\ X_n\xrightarrow{P}X$ 2. (ii) $p\ge1$ について、 $L^p$ 収束は確率収束を導く。

$X_n\xrightarrow{L^p}X\ \Longrightarrow\ X_n\xrightarrow{P}X$ 3. (iii) 指数が $1\le p<q$ のとき、 $L^q$ 収束はそれより低い指数の収束を導く。

$X_n\xrightarrow{L^q}X\ \Longrightarrow\ X_n\xrightarrow{L^p}X$ 4. (iv) 確率収束は分布収束を導く。

$X_n\xrightarrow{P}X\ \Longrightarrow\ X_n\xrightarrow{d}X$ 5. (v) 定数 $c$ への分布収束は、 $c$ への確率収束を導く。

$X_n\xrightarrow{d}c\ \Longrightarrow\ X_n\xrightarrow{P}c$

証明

(i)：包含 $\{\left\vert X_n-X\right\vert >\varepsilon \}\subset\{\sup_{m\ge n}\left\vert X_m-X\right\vert >\varepsilon \}$ と補題 11.2 (iii) から

$P(\left\vert X_n-X\right\vert >\varepsilon )\le P\Bigl(\sup_{m\ge n}\left\vert X_m-X\right\vert >\varepsilon \Bigr)\to0$

である。

(ii)：Markov の不等式 (11.4) を $Y=X_n-X$ に使うと

$P(\left\vert X_n-X\right\vert \ge\varepsilon )\le\frac{E[\left\vert X_n-X\right\vert ^p]}{\varepsilon ^p}\to0$

である。

(iii)： $p$ 乗可積分性から確かめる。実数 $y$ について

$\left\vert y\right\vert ^p\le1+\left\vert y\right\vert ^q$

が成り立つ。 $\left\vert y\right\vert \le1$ なら左辺は 1 以下である。また $\left\vert y\right\vert >1$ なら $\left\vert y\right\vert ^p<\left\vert y\right\vert ^q$ である。よって $q$ 乗可積分なら $p$ 乗可積分である。

次に Hölder の不等式 (11.4) を次の設定で使う。

$U=\left\vert Y\right\vert ^p,\qquad V=1,\qquad r=\frac qp>1$

すると

$E[\left\vert Y\right\vert ^p]\le E[\left\vert Y\right\vert ^{pr}]^{1/r}\cdot1=E[\left\vert Y\right\vert ^q]^{p/q},\qquad\text{すなわち}\qquad\left\Vert Y\right\Vert _p\le\left\Vert Y\right\Vert _q$

である。 $Y=X_n-X$ と置けば $\left\Vert X_n-X\right\Vert _p\le\left\Vert X_n-X\right\Vert _q\to0$ を得る。

(iv)：点 $x$ を $F_X$ の連続点とする。正の数 $\varepsilon$ を1つとる。 $X_n\le x$ ならば、次のどちらかが成り立つ。

$X\le x+\varepsilon \quad\text{または}\quad\left\vert X_n-X\right\vert >\varepsilon$

したがって

$F_{X_n}(x)\le F_X(x+\varepsilon )+P(\left\vert X_n-X\right\vert >\varepsilon )$

である。同様に、 $X\le x-\varepsilon$ ならば次のどちらかが成り立つ。

$X_n\le x\quad\text{または}\quad\left\vert X_n-X\right\vert >\varepsilon$

よって

$F_X(x-\varepsilon )\le F_{X_n}(x)+P(\left\vert X_n-X\right\vert >\varepsilon )$

である。 $n\to\infty$ とすると $P(\left\vert X_n-X\right\vert >\varepsilon )\to0$ なので

$F_X(x-\varepsilon )\le\liminf_nF_{X_n}(x)\le\limsup_nF_{X_n}(x)\le F_X(x+\varepsilon )$

を得る。 $\varepsilon \downarrow0$ とすると、分布関数がこの点で連続なので、両端は $F_X(x)$ に近づく。よって $F_{X_n}(x)\to F_X(x)$ となる。

(v)：極限 $c$ の分布関数は $\mathbf 1_{[c,\infty)}(x)$ で、不連続点はこの点だけである。よって $\varepsilon >0$ について、2点 $c\pm\varepsilon$ は連続点である。したがって

$P(\left\vert X_n-c\right\vert >\varepsilon )\le P(X_n\le c-\varepsilon )+P(X_n>c+\varepsilon )=F_{X_n}(c-\varepsilon )+1-F_{X_n}(c+\varepsilon )\to0+1-1=0$

である。

(v) で極限を定数に限ったのは、分布収束が値の近さを何も言わないからである。極限が定数なら、分布が $c$ に集中していくことがそのまま値が $c$ に近づくことを意味する。(v) は第12章の弱法則の主張「 $\bar X_n\xrightarrow{P}\mu$ 」を、第13章の特性関数による方法で示すときに使う。

部分列による逆向きの部分的な主張

確率収束は概収束を導かない（次の小節の反例）が、部分列をとれば概収束に格上げすることができる。

定理 11.8（確率収束する列は概収束する部分列を持つ）

$X_n\xrightarrow{P}X$ とする。このとき部分列 $n_1<n_2<\cdots$ で、次を満たすものが存在する。

$X_{n_k}\to X\ \text{a.s.}\qquad(k\to\infty)$

証明

各 $k$ について、番号を大きくすると $P(\left\vert X_n-X\right\vert >2^{-k})\to0$ である。よって番号 $n_k>n_{k-1}$ で

$P\bigl(\left\vert X_{n_k}-X\right\vert >2^{-k}\bigr)\le2^{-k}$

となるものを順に選ぶことができる。事象 $A_k=\{\left\vert X_{n_k}-X\right\vert >2^{-k}\}$ と置くと

$\sum_kP(A_k)\le\sum_k2^{-k}=1<\infty$

である。よって Borel–Cantelli の第1補題 (11.2) から $P(A_k\ \text{i.o.})=0$ である。 $A_k$ が有限回しか起きない標本点 $\omega$ では、ある番号から先で次が成り立つ。

$\left\vert X_{n_k}(\omega)-X(\omega)\right\vert \le2^{-k}\to0$

よってその標本点で $X_{n_k}(\omega)\to X(\omega)$ となる。

系 11.9（部分列による確率収束の判定）

次の2つは同値である。

(i) $X_n\xrightarrow{P}X$ 。
(ii) 任意の部分列 $(X_{n_k})$ がさらに部分列 $(X_{n_{k_j}})$ を持ち、それが極限に概収束する。

証明

(i) なら任意の部分列も $X$ に確率収束するので、定理 11.8 をその部分列に使えばよい。逆に、(ii) が成り立つのに確率収束しないとする。すると、ある正の数 $\varepsilon$ 、 $\delta$ と部分列があって、その全項で次が成り立つ。

$P(\left\vert X_{n_k}-X\right\vert >\varepsilon )\ge\delta$

仮定からこの部分列のさらに部分列が $X$ に概収束する。定理 11.7 (i) によりそれは確率収束もするので、 $P(\left\vert X_{n_{k_j}}-X\right\vert >\varepsilon )\to0$ となる。これは上の不等式と矛盾する。

この系は、確率収束についての主張を概収束の主張に帰着させる道具である。§11.3 で優収束定理を確率収束の場合へ広げるとき、§11.4 で連続写像定理を示すときにこの形で使う。

図 11.2　4つの収束のあいだの関係。実線の矢印は常に成り立つ含意（定理 11.7）。破線の矢印は条件つきで成り立つ逆向きの主張で、「部分列」は定理 11.8、「極限が定数」は定理 11.7 (v)、「＋一様可積分」は $p=1$ のとき §11.3 の定理 11.15（ $p>1$ では $\left\vert X_n\right\vert ^p$ の一様可積分性）である。概収束と $L^p$ 収束のあいだには、どちら向きにも含意が無い。

逆が成り立たない例

図 11.2 の実線の矢印を逆向きにたどれないことを、反例で確かめる。以下の (a)〜(c) では $\Omega=[0,1)$ に Lebesgue 測度 $P$ を入れる。

(a) 確率収束・ $L^p$ 収束するが概収束しない列（移動する山）。番号 $n\ge1$ を、次の形にただ1通りに書く。

$n=2^k+j\qquad(k\ge0,\ 0\le j<2^k)$

そのうえで

$X_n=\mathbf 1_{I_n},\qquad I_n=\Bigl[\frac{j}{2^k},\frac{j+1}{2^k}\Bigr)\tag{11.12}$

と置く。 $k$ を固定して $j$ を動かすと、区間は全体を左から右へ一度ずつ掃いていく（図 11.3）。区間の長さは $2^{-k}$ である。番号を大きくすると $k\to\infty$ となるので、 $0<\varepsilon <1$ について

$P(\left\vert X_n\right\vert >\varepsilon )=P(I_n)=2^{-k}\to0,\qquad E[\left\vert X_n\right\vert ^p]=2^{-k}\to0$

である。よって $X_n\xrightarrow{P}0$ である。また、すべての $p\ge1$ で $L^p$ 収束もする。

ところが、どの標本点も、各 $k$ について次の範囲の番号の区間 $I_n$ のちょうど1つに入る。

$2^k\le n<2^{k+1}$

したがって $X_n(\omega)=1$ となる番号が無限にあり、 $X_n(\omega)=0$ となる番号も無限にある。よって $X_n(\omega)$ はどの標本点でも収束しない。

図 11.3　移動する山 (11.12) の $n=1,\dots,7$ 。太線が $X_n=1$ となる区間 $I_n$ である。区間の長さは $1,\frac12,\frac12,\frac14,\dots$ と縮むが、縦の破線（ $\omega=0.6$ ）は各段（ $k=0,1,2$ ）でちょうど1本の太線と交わる。 $k=3,4,\dots$ でも同じなので、 $X_n(0.6)=1$ となる $n$ は無限にある。

(b) 概収束するが $L^1$ 収束しない列（逃げる質量）。 $\Omega=(0,1)$ として

$X_n=n\,\mathbf 1_{(0,1/n)}$

と置く。各 $\omega\in(0,1)$ について、番号が $1/\omega$ を超えると値は 0 になる。よって $X_n\to0$ がすべての標本点で成り立つ。

ところが $E[X_n]=n\cdot\frac1n=1$ なので、ずれの期待値 $E[\left\vert X_n-0\right\vert ]$ は 0 に収束しない。高さ $n$ の柱が幅を縮めながら面積 1 を保ち、その面積が原点の一点に逃げていく。この列は第5章 §5.2 で、極限と期待値を入れ替えられない例として見たものである。

(c) 独立な列での判定。確率変数の列は独立で、次の2値をとるとする。

$P(X_n=1)=p_n,\qquad P(X_n=0)=1-p_n$

$0<\varepsilon <1$ について $\{\left\vert X_n\right\vert >\varepsilon \}=\{X_n=1\}$ である。よって $p_n\to0$ ならば、次の2つが成り立つ。

$X_n\xrightarrow{P}0,\qquad E[\left\vert X_n\right\vert ^p]=p_n\to0$

概収束は Borel–Cantelli の補題 (11.2) で判定することができる。

和が有限なら概収束する。 $\sum_np_n<\infty$ とする（たとえば $p_n=1/n^2$ ）。事象 $\{X_n=1\}$ は確率 1 で有限回しか起きないので、 $X_n\to0$ a.s. である。
和が発散するなら概収束しない。 $\sum_np_n=\infty$ とする（たとえば $p_n=1/n$ ）。独立性と第2補題から $P(X_n=1\ \text{i.o.})=1$ である。確率 1 で列は 1 を無限回とるので、0 に収束しない。概収束の極限があるとすれば、確率収束の極限 0 と一致するはずである（命題 11.6）。よってどの確率変数にも概収束しない。

(a) の移動する山は、 $\{X_n=1\}$ を独立にする代わりに区間で並べて同じ現象を作ったものである。

(d) 分布収束するが確率収束しない列。 $X\sim\mathrm N(0,1)$ とし、すべての番号で $X_n=-X$ と置く。正規分布の対称性から $-X\overset{d}{=}X$ である。よって分布関数はすべての番号で $F_X$ に等しく、 $X_n\xrightarrow{d}X$ である。一方、差は $\left\vert X_n-X\right\vert =2\left\vert X\right\vert$ なので

$P(\left\vert X_n-X\right\vert >\varepsilon )=P(\left\vert X\right\vert >\varepsilon /2)$

は番号によらない正の数である。よって $X_n$ は $X$ に確率収束しない。分布収束は分布だけを見ているので、値が一致していなくても分布が同じなら収束を認める。

全変動距離との比較

第5章 §5.5 では、分布の近さを次の全変動距離で測った。

$d_{\mathrm{TV}}(X,Y)=\sup_{B\in\mathcal B(\mathbb{R})}\left\vert P(X\in B)-P(Y\in B)\right\vert$

分布収束との関係を整理しておく。

命題 11.10（全変動距離と分布収束）

(i) $d_{\mathrm{TV}}(X_n,X)\to0$ ならば $X_n\xrightarrow{d}X$ である。逆は成り立たない。
(ii) $X_n$ と $X$ が整数値なら、次の3つは同値である。
1. (a) $X_n\xrightarrow{d}X$ 。
2. (b) すべての整数 $k$ で $P(X_n=k)\to P(X=k)$ 。
3. (c) $d_{\mathrm{TV}}(X_n,X)\to0$ 。

証明

(i)： $B=(-\infty,x]$ と置けば、すべての $x$ で次が成り立つ（第5章 §5.5）。

$\left\vert F_{X_n}(x)-F_X(x)\right\vert \le d_{\mathrm{TV}}(X_n,X)\to0$

逆が成り立たない例は $X_n=1/n$ 、 $X=0$ である。 $B=\{0\}$ について

$\left\vert P(X_n=0)-P(X=0)\right\vert =1$

なので、全変動距離はすべての番号で 1 である。一方 §11.1 で見たとおり $X_n\xrightarrow{d}0$ である。

(ii)：(a) $\Rightarrow$ (b)：極限は整数値なので、その分布関数は各区間 $[k,k+1)$ で一定である。よって半整数 $k\pm\frac12$ は連続点である。列の各項も整数値なので

$P(X_n=k)=F_{X_n}(k+\tfrac12)-F_{X_n}(k-\tfrac12)\to F_X(k+\tfrac12)-F_X(k-\tfrac12)=P(X=k)$

である。(b) $\Rightarrow$ (c)：確率関数を次のように置く。

$p_n(k)=P(X_n=k),\qquad p(k)=P(X=k)$ 第5章 §5.5 の計算公式から

$d_{\mathrm{TV}}(X_n,X)=\sum_k(p(k)-p_n(k))^+$

である。右辺の各項について、次の3つが成り立つ。

各項は $0\le(p(k)-p_n(k))^+\le p(k)$ を満たす。
各項は番号を大きくすると 0 に近づく。
上からおさえる関数の和は $\sum_kp(k)=1<\infty$ である。

和を整数の上の数え上げ測度による積分と見て優収束定理を使うと（Scheffé の補題と同じ議論）、右辺は 0 に近づく。(c) $\Rightarrow$ (a)：(i) である。

(ii) の例として、第6章 §6.3 の Poisson の少数の法則がある。

$P(\mathrm{Bin}(n,\lambda/n)=k)\to\mathrm{e}^{-\lambda}\frac{\lambda^k}{k!}$

これは $\mathrm{Bin}(n,\lambda/n)\xrightarrow{d}\mathrm{Po}(\lambda)$ を意味し、さらに全変動距離でも収束することを意味する。これに対して、値が連続的に広がっていく極限（中心極限定理など）では、離散分布と連続分布の全変動距離は常に 1 なので（確認テスト 11.2-3）、分布収束の方が適した収束の概念になる。

例題 11.2　独立な2値の列で4つの収束を判定する ★★★

オリジナル $\alpha>0$ 、 $\beta>0$ とする。 $X_1,X_2,\dots$ は独立で

$P(X_n=n^\alpha)=n^{-\beta},\qquad P(X_n=0)=1-n^{-\beta}$

に従うとする。

(1) $X_n\xrightarrow{P}0$ を示せ。
(2) $X_n\to0$ a.s. となる条件を $\beta$ で書け。
(3) $p\ge1$ について、 $X_n\xrightarrow{L^p}0$ となる条件を書け。
(4) 次の3組のそれぞれについて、概収束・ $L^1$ 収束・ $L^2$ 収束するかどうかを答えよ。

$(\alpha,\beta)=(1,\tfrac12),\quad(1,2),\quad(\tfrac14,\tfrac12)$

解答

(1) $\varepsilon >0$ について $\{\left\vert X_n\right\vert >\varepsilon \}\subset\{X_n\ne0\}$ なので、次が成り立つ。

$P(\left\vert X_n\right\vert >\varepsilon )\le n^{-\beta}\to0$

(2) 事象を次のように置く。

$A_n=\{X_n\ne0\}=\{X_n=n^\alpha\}$

これは独立な事象の列で、確率は $P(A_n)=n^{-\beta}$ である。

$\beta>1$ の場合。和 $\sum_nn^{-\beta}$ は有限である。第1補題から、確率 1 でこの事象は有限回しか起きない。よってある番号から先で $X_n=0$ となり、列は 0 に概収束する。
$\beta\le1$ の場合。和 $\sum_nn^{-\beta}$ は発散する。第2補題から、確率 1 でこの事象が無限回起きる。よって $X_n=n^\alpha\ge1$ となる番号が無限にあり、列は 0 に収束しない。

(1) と命題 11.6 から、概収束の極限があるとすれば 0 でなければならない。よって後者の場合、列はどの確率変数にも概収束しない。したがって、概収束の条件は $\beta>1$ であり、 $\alpha$ によらない。

(3) $p$ 乗の期待値は

$E[\left\vert X_n\right\vert ^p]=(n^\alpha)^p\cdot n^{-\beta}=n^{\alpha p-\beta}$

である。よって $L^p$ 収束の条件は $\alpha p<\beta$ である。 $\alpha p=\beta$ のときは、 $p$ 乗の期待値がすべての番号で 1 になり、収束しない。

(4) (2) と (3) の条件に代入する。

$(\alpha,\beta)$	概収束（ $\beta>1$ ）	$L^1$ （ $\alpha<\beta$ ）	$L^2$ （ $2\alpha<\beta$ ）
$(1,\tfrac12)$	しない	しない（ $E\left\vert X_n\right\vert =n^{1/2}$ ）	しない
$(1,2)$	する	する（ $E\left\vert X_n\right\vert =n^{-1}$ ）	しない（ $E X_n^2=1$ ）
$(\tfrac14,\tfrac12)$	しない	する（ $E\left\vert X_n\right\vert =n^{-1/4}$ ）	しない（ $E X_n^2=1$ ）

3つとも確率収束はする。3組はそれぞれ次の例になっている。

$(1,\frac12)$ は確率収束しかしない例である。
$(1,2)$ は概収束するが $L^2$ 収束しない例である。
$(\frac14,\frac12)$ は $L^1$ 収束するが概収束しない例である。

概収束は「0 でない値が何回出るか」だけで決まる。 $L^p$ 収束は「出たときの値の大きさ」と「出る確率」の釣り合いで決まる。2つの条件が別々の量で決まるので、互いに他を導かない。

確認テスト

オリジナル

11.2-1 $X\sim\mathrm N(0,1)$ とする。2つの列を $X_n=X$ 、 $Y_n=-X$ と置く。2つの列はどちらも $X$ に分布収束する。それでも次は成り立たないことを確かめよ。

$X_n+Y_n\xrightarrow{d}2X$ 2. 11.2-2 $\Omega=(0,1)$ に Lebesgue 測度を入れる。 $a>0$ について $X_n=n^a\mathbf 1_{(0,1/n)}$ と置く。 $X_n\to0$ a.s. を示せ。また $p\ge1$ について、 $L^p$ 収束する条件を求めよ。3. 11.2-3 $X_n$ を集合 $\{\frac1n,\frac2n,\dots,\frac nn\}$ の上の一様分布に従う確率変数とする。また $U\sim\mathrm U(0,1)$ とする。次を示して、 $X_n\xrightarrow{d}U$ を結論せよ。

$\sup_x\left\vert F_{X_n}(x)-F_U(x)\right\vert =\frac1n$

さらに、全変動距離 $d_{\mathrm{TV}}(X_n,U)$ がすべての番号で 1 であることを示せ。4. 11.2-4 標本空間 $\Omega$ は可算集合で、σ加法族は $\Omega$ のすべての部分集合からなるとする。さらに、すべての標本点の確率が正であるとする。この確率空間の上では、確率収束と概収束が同値であることを示せ。

木下の勉強ステータス

木下はまだこの記事を勉強していません。

AI（Claude）が書いた教材を、木下が勉強しながら公開しています。式と数値は検算していますが、誤りが残っているかもしれません。誤りのご指摘・削除のご依頼をいただければ直します。連絡先：support@tecktom.com

この記事が含まれている連載

連載AI生成教科書『基礎理論』量子力学・統計熱力学・信号処理などの入門を、分野ごとに AI（Claude）が書き、木下が勉強しながら公開しています。上の段は AI が書いた本文、下の段は木下が勉強したあとに書いた文です。961本の記事・木下智貴

← AI生成教科書『基礎理論』の記事一覧へ