tecktom.com

収束定理

2026年10月15日12分で読めますAI生成教科書『基礎理論』第5章 期待値と Lebesgue 積分
目次
  1. 単調収束定理
  2. Fatou の補題
  3. 優収束定理
  4. 期待値の中での微分
  5. 確認テスト
  6. 木下の層

AI 生成・木下が未勉強

確率論入門　第5章 §5.2　★★★ 極限と期待値を入れ替えてよい条件。単調収束・Fatou・優収束の3つは確率論のあらゆる極限操作の根拠になる

確率変数の列が各点で Xn→XX_n\to X となっても、E[Xn]→E[X]E[X_n]\to E[X] とは限らない。例として、Ω=(0,1)\Omega=(0,1)（Lebesgue 測度）の上で次のように置く。

Xn=n 1(0,1/n)X_n=n\,\mathbf 1_{(0,1/n)}

n>1/ωn>1/\omega から先は Xn(ω)=0X_n(\omega)=0 である。よって各点で Xn→0X_n\to0 である。ところが E[Xn]=n⋅1n=1E[X_n]=n\cdot\frac1n=1 である。

XnX_n が正になる区間は 0 の方へ縮み、その分だけ値が大きくなる。そのため面積 1 を保ったまま、各点では 0 に近づく（図 5.2）。この節では、期待値と極限を入れ替えてよい十分条件を3つ示す。

単調収束定理

定理 5.9（単調収束定理 ★★★）

0≤X1≤X2≤⋯0\le X_1\le X_2\le\cdots が各点で XX に増加収束するとする。このとき [0,∞][0,\infty] の値として E[Xn]↑E[X]E[X_n]\uparrow E[X] である。

証明

XX は確率変数の各点極限なので確率変数である（第3章 §3.1）。単調性から E[Xn]≤E[Xn+1]≤E[X]E[X_n]\le E[X_{n+1}]\le E[X] なので、lim⁡nE[Xn]≤E[X]\lim_nE[X_n]\le E[X] である。

逆向きを示す。各 XnX_n の標準近似列を s1(n)≤s2(n)≤⋯s^{(n)}_1\le s^{(n)}_2\le\cdots とし、

tk=max⁡(sk(1), sk(2), …, sk(k))t_k=\max\bigl(s^{(1)}_k,\,s^{(2)}_k,\,\dots,\,s^{(k)}_k\bigr)

と置く。tkt_k は単関数で（有限個の単関数の最大値は有限個の値しかとらない）、次の3つが成り立つ。

  • tk≤tk+1t_k\le t_{k+1}。各 sk(n)≤sk+1(n)s^{(n)}_k\le s^{(n)}_{k+1} であり、tk+1t_{k+1} は最大をとる範囲も広いからである。
  • tk≤Xkt_k\le X_k。n≤kn\le k なら sk(n)≤Xn≤Xks^{(n)}_k\le X_n\le X_k だからである。
  • すべての nn で lim⁡ktk≥Xn\lim_kt_k\ge X_n。k≥nk\ge n なら tk≥sk(n)t_k\ge s^{(n)}_k である。k→∞k\to\infty で、右辺は XnX_n に収束するからである。

2つ目と3つ目から Xn≤lim⁡ktk≤XX_n\le\lim_kt_k\le X である。n→∞n\to\infty として tk↑Xt_k\uparrow X となる。定理 5.5 と2つ目の不等式から

E[X]=lim⁡kE[tk]≤lim⁡kE[Xk]E[X]=\lim_kE[t_k]\le\lim_kE[X_k]

を得る。

単調収束定理を部分和に使うと、非負の項の級数について和と期待値を入れ替えてよいことがわかる。

系 5.10（非負の級数の項別積分）

Yk≥0Y_k\ge0 なら、[0,∞][0,\infty] の値として次が成り立つ。

E[∑k=1∞Yk]=∑k=1∞E[Yk]E\Bigl[\sum_{k=1}^\infty Y_k\Bigr]=\sum_{k=1}^\infty E[Y_k]

証明

部分和 Xn=∑k≤nYkX_n=\sum_{k\le n}Y_k は非負の増加列で、∑kYk\sum_kY_k に収束する。(5.7) から E[Xn]=∑k≤nE[Yk]E[X_n]=\sum_{k\le n}E[Y_k] であり、単調収束定理から結論を得る。

Fatou の補題

単調性を仮定しない非負の列については、片側の不等式だけが成り立つ。

定理 5.11（Fatou の補題 ★★★）

Xn≥0X_n\ge0 なら E[lim inf⁡nXn]≤lim inf⁡nE[Xn]E\bigl[\liminf_{n}X_n\bigr]\le\liminf_{n}E[X_n]。

証明

Yk=inf⁡n≥kXnY_k=\inf_{n\ge k}X_n と置く。YkY_k は非負の増加列で、Yk↑lim inf⁡nXnY_k\uparrow\liminf_nX_n である。n≥kn\ge k なら Yk≤XnY_k\le X_n である。よって E[Yk]≤E[Xn]E[Y_k]\le E[X_n] である。n≥kn\ge k について下限をとって

E[Yk]≤inf⁡n≥kE[Xn]E[Y_k]\le\inf_{n\ge k}E[X_n]

となる。k→∞k\to\infty とすると、左辺は単調収束定理により E[lim inf⁡Xn]E[\liminf X_n] に収束する。右辺は lim inf⁡E[Xn]\liminf E[X_n] に収束する。

冒頭の Xn=n1(0,1/n)X_n=n\mathbf 1_{(0,1/n)} では、左辺が E[0]=0E[0]=0、右辺が 1 である。不等号は等号にならない。不等号の向きは「極限をとると期待値が減ることはあっても増えることはない」と読むと覚えやすい。

優収束定理

定理 5.12（優収束定理 ★★★）

次の2つを仮定する。

  • Xn→XX_n\to X a.s.
  • すべての番号で ∣Xn∣≤Y\left\vert X_n\right\vert \le Y a.s. となる、可積分な YY が存在する。

このとき XX は可積分で

E[∣Xn−X∣]→0,とくにE[Xn]→E[X].E\bigl[\left\vert X_n-X\right\vert \bigr]\to0,\qquad\text{とくに}\qquad E[X_n]\to E[X].

証明

仮定が破れる点の集合を NN とする。これは、Xn↛XX_n\not\to X の点と、∣Xn∣>Y\left\vert X_n\right\vert >Y となる番号がある点の和である。可算個の確率 0 の集合の和なので、NN の確率は 0 である。NN の上で Xn,X,YX_n,X,Y をすべて 0 に置き換えても、命題 5.8 により期待値は変わらない。

そこで各点で Xn→XX_n\to X、∣Xn∣≤Y\left\vert X_n\right\vert \le Y としてよい。極限をとって ∣X∣≤Y\left\vert X\right\vert \le Y なので、XX は可積分である。

∣Xn−X∣≤∣Xn∣+∣X∣≤2Y\left\vert X_n-X\right\vert \le\left\vert X_n\right\vert +\left\vert X\right\vert \le2Y である。よって Zn=2Y−∣Xn−X∣Z_n=2Y-\left\vert X_n-X\right\vert は非負で、Zn→2YZ_n\to2Y である。Fatou の補題から

E[2Y]=E[lim inf⁡nZn]≤lim inf⁡nE[Zn]=E[2Y]−lim sup⁡nE[∣Xn−X∣]E[2Y]=E[\liminf_nZ_n]\le\liminf_nE[Z_n]=E[2Y]-\limsup_nE\bigl[\left\vert X_n-X\right\vert \bigr]

となる。E[2Y]<∞E[2Y]<\infty なので両辺から引くことができ、lim sup⁡nE[∣Xn−X∣]≤0\limsup_nE[\left\vert X_n-X\right\vert ]\le0 を得る。最後に ∣E[Xn]−E[X]∣≤E[∣Xn−X∣]\left\vert E[X_n]-E[X]\right\vert \le E[\left\vert X_n-X\right\vert ] を使う。

確率測度では定数が可積分である。よって定数 cc で ∣Xn∣≤c\left\vert X_n\right\vert \le c なら、優収束定理が使える（有界収束定理）。これは確率測度に特有の便利な点で、Lebesgue 測度の R\mathbb{R} 全体では定数は可積分でない。

図

図 5.2　Xn=n 1(0,1/n)X_n=n\,\mathbf 1_{(0,1/n)}（n=1,2,4,8n=1,2,4,8）。どれも面積（期待値）は 1 だが、各点では 0 に収束する。sup⁡nXn\sup_nX_n は 1/ω1/\omega と同じ程度の大きさで可積分でないので、優収束定理の仮定を満たす YY は存在しない。

優収束定理の仮定を確かめる順序

  • 優関数 YY は nn によらない1つの確率変数でなければならない。∣Xn∣≤Yn\left\vert X_n\right\vert \le Y_n で E[Yn]E[Y_n] が有界というだけでは足りない。図 5.2 の例では Yn=XnY_n=X_n でよく、E[Yn]=1E[Y_n]=1 だが結論は成り立たない。
  • 候補は sup⁡n∣Xn∣\sup_n\left\vert X_n\right\vert で、これが可積分かどうかを最初に調べる。これが可積分でなければ、ほかの優関数も存在しない。
  • 単調な列なら優関数を探さずに単調収束定理を使う。単調収束定理は期待値が ∞\infty の場合も含めて成り立つ。

期待値の中での微分

優収束定理の代表的な使い道は、パラメータを含む期待値の微分である。第8章で積率母関数や特性関数を微分してモーメントを取り出すとき、この形を使う。

系 5.13（期待値の中での微分 ★★）

開区間 II の各点 tt に、可積分な確率変数が1つずつ与えられているとする。これを XtX_t と書き、次の2つを仮定する。

  • 各点で、t↦Xt(ω)t\mapsto X_t(\omega) が II 上で微分可能である。
  • 可積分な YY が存在する。すべての t∈It\in I と各点で ∣∂tXt(ω)∣≤Y(ω)\left\vert \partial_tX_t(\omega)\right\vert \le Y(\omega) である。

このとき t↦E[Xt]t\mapsto E[X_t] は II 上で微分可能で

ddtE[Xt]=E[∂tXt].\frac{d }{d t}E[X_t]=E\bigl[\partial_tX_t\bigr].

証明

t∈It\in I を固定する。t+hn∈It+h_n\in I を満たす 0 でない列 hn→0h_n\to0 をとる。差分商

Dn=Xt+hn−XthnD_n=\frac{X_{t+h_n}-X_t}{h_n}

は各点で ∂tXt\partial_tX_t に収束する。

平均値の定理から、各点で Dn(ω)=∂tXs(ω)D_n(\omega)=\partial_tX_s(\omega) となる ss がとれる。その点は tt と t+hnt+h_n のあいだにある。よって ∣Dn∣≤Y\left\vert D_n\right\vert \le Y である。

∂tXt\partial_tX_t は可測関数の列 DnD_n の各点極限なので確率変数である。優収束定理から E[Dn]→E[∂tXt]E[D_n]\to E[\partial_tX_t] となる。

E[Dn]=(E[Xt+hn]−E[Xt])/hnE[D_n]=(E[X_{t+h_n}]-E[X_t])/h_n である。よってどの列 hn→0h_n\to0 でも差分商が同じ値に収束し、結論を得る。

例題 5.2　級数の項別積分と単調な極限 ★★

オリジナルΩ=(0,1)\Omega=(0,1) に Lebesgue 測度 PP を入れる。X(ω)=−log⁡ωX(\omega)=-\log\omega と置く。

  1. (1) 展開 −log⁡ω=∑k=1∞(1−ω)k/k-\log\omega=\sum_{k=1}^\infty(1-\omega)^k/k を使って、E[X]=1E[X]=1 を示せ。
  2. (2) Zn=nlog⁡(1+X/n)Z_n=n\log(1+X/n) と置く。lim⁡n→∞E[Zn]=1\lim_{n\to\infty}E[Z_n]=1 を示せ。
解答

(1) 0<ω<10<\omega<1 では 0<1−ω<10<1-\omega<1 である。−log⁡(1−x)=∑k≥1xk/k-\log(1-x)=\sum_{k\ge1}x^k/k に x=1−ωx=1-\omega を入れて、展開が成り立つ。各項 (1−ω)k/k(1-\omega)^k/k は非負なので、系 5.10 により項別に期待値をとってよい。各項の期待値は、多項式の Riemann 積分

E[(1−ω)k]=∫01(1−ω)k dω=1k+1E[(1-\omega)^k]=\int_0^1(1-\omega)^k\,\mathrm{d}\omega=\frac1{k+1}

である（有界な連続関数の Riemann 積分と Lebesgue 積分が一致することは §5.3 で示す）。したがって

E[X]=∑k=1∞1k(k+1)=∑k=1∞(1k−1k+1)=1E[X]=\sum_{k=1}^\infty\frac{1}{k(k+1)}=\sum_{k=1}^\infty\Bigl(\frac1k-\frac1{k+1}\Bigr)=1

である。この XX は非有界なので、Riemann 積分の範囲では ∫01(−log⁡ω) dω\int_0^1(-\log\omega)\,\mathrm{d}\omega は広義積分として扱うことになる。単調収束定理を使うと、広義積分を経由せずに値が求まる。

(2) y>0y>0 で h(y)=log⁡(1+y)/yh(y)=\log(1+y)/y と置く。hh は減少関数である。実際

h′(y)=1y2(y1+y−log⁡(1+y))<0h'(y)=\frac{1}{y^2}\Bigl(\frac{y}{1+y}-\log(1+y)\Bigr)<0

である。括弧の中が負であることは、u(y)=log⁡(1+y)−y1+yu(y)=\log(1+y)-\frac{y}{1+y} が次を満たすことからわかる。

u(0)=0,u′(y)=y(1+y)2>0u(0)=0,\qquad u'(y)=\frac{y}{(1+y)^2}>0

Zn=X h(X/n)Z_n=X\,h(X/n) である。X/nX/n は番号とともに減少するので、ZnZ_n は増加する。lim⁡y→0h(y)=1\lim_{y\to0}h(y)=1 なので、Zn↑XZ_n\uparrow X となる。単調収束定理から E[Zn]↑E[X]=1E[Z_n]\uparrow E[X]=1 である。

別の方法もある。log⁡(1+y)≤y\log(1+y)\le y から 0≤Zn≤X0\le Z_n\le X である。XX は (1) により可積分である。よって優収束定理からも同じ結論を得る。

確認テスト

オリジナル

  1. 5.2-1 0<P(A)<10<P(A)<1 とする。奇数番目は Xn=1AX_n=\mathbf 1_A、偶数番目は Xn=1AcX_n=\mathbf 1_{A^c} と置く。E[lim inf⁡Xn]E[\liminf X_n] と lim inf⁡E[Xn]\liminf E[X_n] を求め、Fatou の補題の不等号が等号にならないことを確かめよ。
  2. 5.2-2 Ω=(0,1)\Omega=(0,1) に Lebesgue 測度を入れる。(a) E[nω(1−ω)n]=n(n+1)(n+2)E[n\omega(1-\omega)^n]=\dfrac{n}{(n+1)(n+2)} を示せ。有界収束定理からも極限が 0 であることを確かめよ。(b) E[n2ω(1−ω)n]E[n^2\omega(1-\omega)^n] の極限を求め、各点極限の期待値と一致しない理由を述べよ。
  3. 5.2-3 Ω=(0,1)\Omega=(0,1) に Lebesgue 測度を入れる。展開 11−ω/2=∑k≥0(ω/2)k\dfrac{1}{1-\omega/2}=\sum_{k\ge0}(\omega/2)^k と系 5.10 を使う。これにより E[1/(1−ω/2)]=2log⁡2E\bigl[1/(1-\omega/2)\bigr]=2\log2 を示せ。
  4. 5.2-4 X1≥X2≥⋯≥0X_1\ge X_2\ge\cdots\ge0 が XX に減少収束するとする。さらに E[X1]<∞E[X_1]<\infty とする。このとき E[Xn]↓E[X]E[X_n]\downarrow E[X] を示せ。また E[X1]=∞E[X_1]=\infty のときに結論が成り立たない例を挙げよ。

木下の勉強ステータス

木下はまだこの記事を勉強していません。

AI（Claude）が書いた教材を、木下が勉強しながら公開しています。式と数値は検算していますが、誤りが残っているかもしれません。誤りのご指摘・削除のご依頼をいただければ直します。 連絡先：support@tecktom.com

目次

この記事が含まれている連載

連載AI生成教科書『基礎理論』量子力学・統計熱力学・信号処理などの入門を、分野ごとに AI（Claude）が書き、木下が勉強しながら公開しています。上の段は AI が書いた本文、下の段は木下が勉強したあとに書いた文です。961本の記事・木下 智貴
← AI生成教科書『基礎理論』の記事一覧へ