確率論入門 第11章 §11.4 ★★★ 分布収束を有界連続関数の期待値の収束で言い換え、連続関数を通しても、確率収束する定数の因子を掛けても、分布収束が保たれることを示す。中心極限定理から使える近似を作るときの道具
第13章の中心極限定理は、独立同分布で平均 μ、分散 σ2 の和について、次を主張する。
Zn=σn(Xˉn−μ)dN(0,1)
しかし実際のデータでは標準偏差 σ が分からないことが多い。そこで、それを推定値に置き換えた量の分布が知りたくなる。
また Zn2 や eZn のように、収束する量の関数の分布も知りたくなる。この節の2つの定理は、こうした操作で分布収束が保たれることを保証する。証明の道具として、まず分布収束する列を概収束する列で表す Skorokhod の表現を示す。
Skorokhod の表現
分布収束は別々の確率空間の上の確率変数についても意味を持つが、同じ空間の上で値として近づいている方が扱いやすい。第3章 §3.5 の逆変換法を使うと、分布を変えずに値を近づけることができる。
定理 11.16(Skorokhod の表現(1次元))
XndX とする。確率空間 ((0,1),B((0,1)),Leb) の上に、次の3つを満たす確率変数の列と極限が存在する。
Yn=dXn,Y=dX,Yn→Y a.s.
具体的には、分布関数を Fn=FXn、F=FX と書き、その一般化逆関数を使って次のように置けばよい。
Yn(u)=Fn−1(u),Y(u)=F−1(u)
証明
区間 (0,1) の上の恒等写像 U(u)=u は、一様分布に従う。逆変換法から、Yn=Fn−1(U) の分布関数は Fn である。同様に Y=F−1(U) の分布関数は F である。示すべきことは、F−1 が連続な点 u のすべてで、次が成り立つことである。
Fn−1(u)→F−1(u)
F−1 は非減少関数なので、不連続点は高々可算個である(各不連続点で跳び上がる区間に有理数が1つずつとれる)。可算集合の Lebesgue 測度は 0 だから、これで Yn→Y a.s. を結論することができる。以下、F−1 が点 u∈(0,1) で連続であるとする。その値を x と置く。
下からの評価:y<x を F の連続点とする。
- F−1(u)≤y ではない。よって (11.3) から、u≤F(y) ではなく F(y)<u である。
- Fn(y)→F(y) なので、十分大きな番号で Fn(y)<u となる。再び (11.3) から Fn−1(u)>y である。
- よって liminfnFn−1(u)≥y である。F の連続点は稠密なので、y をこの点にいくらでも近くとることができる。したがって次を得る。
nliminfFn−1(u)≥x
上からの評価:u<u′<1 をとる。y>F−1(u′) を F の連続点とする。
- (11.3) から u′≤F(y) である。よって F(y)>u である。
- 十分大きな番号で Fn(y)>u となる。(11.3) から Fn−1(u)≤y である。
- よって limsupnFn−1(u)≤y である。y↓F−1(u′) として次を得る。
nlimsupFn−1(u)≤F−1(u′)
4. F−1 はこの点で連続なので、u′↓u として次となる。
nlimsupFn−1(u)≤F−1(u)=x
例題 11.1 の Yn=n(1−Mn) の表現
分布関数は次のとおりである。
Fn(x)=1−(1−nx)n(0≤x≤n)
これは連続で狭義に増加するので、一般化逆関数は普通の逆関数である。u=Fn(x) を x について解いて
Fn−1(u)=n(1−(1−u)1/n)
を得る。展開
(1−u)1/n=exp(n1log(1−u))=1+n1log(1−u)+O(n−2)
から、各 u∈(0,1) で Fn−1(u)→−log(1−u) である。これは Ex(1) の分布関数 1−e−x の逆関数である。たとえば u=21 では次のようになる。
F10−1(21)=10(1−2−1/10)≈0.6697,極限は log2≈0.6931
有界連続関数による言い換え
定理 11.17(分布収束の言い換え)
XndX であることと、すべての有界連続関数 g:R→R について
E[g(Xn)]→E[g(X)](11.17)
が成り立つことは同値である。
証明
⇒:定理 11.16 の表現 Yn,Y をとる。期待値 E[g(Xn)] は分布だけで決まる(第5章 §5.3 の変数変換公式)。よって
E[g(Xn)]=E[g(Yn)],E[g(X)]=E[g(Y)]
である。g は連続なので、g(Yn)→g(Y) a.s. である。さらに ∣g∣≤C なので、有界収束定理(第5章 §5.2)から E[g(Yn)]→E[g(Y)] である。
⇐:点 x を極限の分布関数の連続点とする。正の数 ε を1つとる。関数 g を次のように定める。
- (−∞,x] で 1 とする。
- [x+ε,∞) で 0 とする。
- そのあいだでは直線的に減少させる。
すると g は有界連続で
1(−∞,x]≤g≤1(−∞,x+ε]
を満たす。左の不等式から FXn(x)≤E[g(Xn)] である。右の不等式から E[g(X)]≤FX(x+ε) である。よって
nlimsupFXn(x)≤nlimE[g(Xn)]=E[g(X)]≤FX(x+ε)
である。次に、g を ε だけ左にずらした関数を使う。これは (−∞,x−ε] で 1、[x,∞) で 0 となる関数である。同様に次を得る。
nliminfFXn(x)≥FX(x−ε)
ε↓0 として、この点での連続性から FXn(x)→FX(x) となる。
注意
- 多次元への拡張。(11.17) は分布関数を使わないので、Rd 値の確率ベクトルにもそのまま意味を持つ。Rd 値の列については、すべての有界連続関数 g:Rd→R で次が成り立つことを、分布収束の定義とする。
E[g(Xn)]→E[g(X)]
第13章 §13.3 の多変量の中心極限定理は、この意味の分布収束を主張する。
- なめらかな関数に限ってよい。定理の「⇐」の証明が示すように、g はなめらかな関数に限っても同値性は保たれる。たとえば何回でも微分可能で、導関数がすべて有界なものでよい。証明の関数の傾きの部分を、滑らかな曲線に置き換えればよいからである。
- 有界性は外せない。有界でない連続関数 g(x)=x については、(11.17) は一般に成り立たない(確認テスト 11.4-5)。モーメントの収束には §11.3 の一様可積分性が要る(命題 11.22)。
連続写像定理
定理 11.18(連続写像定理)
h:R→R を Borel 可測関数とし、それが連続でない点の集合を Dh とする(これが Borel 集合になることは示せる。ここでは認める)。さらに P(X∈Dh)=0 とする。このとき次が成り立つ。
- (i) 概収束は保たれる。
Xn→X a.s. ⟹ h(Xn)→h(X) a.s.
2. (ii) 確率収束は保たれる。
XnPX ⟹ h(Xn)Ph(X)
3. (iii) 分布収束は保たれる。
XndX ⟹ h(Xn)dh(X)
証明
(i):事象 {Xn→X}∩{X∈/Dh} は確率 1 である。その上では h が X(ω) で連続なので、次が成り立つ。
h(Xn(ω))→h(X(ω))
(ii):系 11.9 を使う。任意の部分列 (Xnk) について、確率収束から、概収束するさらに部分列 Xnkj がとれる。
(i) から h(Xnkj)→h(X) a.s. である。こうして h(Xn) の任意の部分列が、概収束する部分列を持つ。系 11.9 から h(Xn)Ph(X) である。
(iii):定理 11.16 の表現 Yn、Y をとる。
- 極限は同分布なので、P(Y∈Dh)=P(X∈Dh)=0 である。
- (i) から h(Yn)→h(Y) a.s. である。定理 11.7 (i)(iv) から、次が成り立つ。
h(Yn)dh(Y)
3. 同分布の確率変数を同じ Borel 関数に通すと、同分布になる。よって
h(Yn)=dh(Xn),h(Y)=dh(X)
であり、h(Xn)dh(X) を得る。
連続写像定理の使い方
- 2乗。ZndN(0,1) とし、Z∼N(0,1) とする。関数 h(x)=x2 は連続なので、次が成り立つ。
Zn2dZ2
Z2 の分布は、第7章 §7.1 で求めた自由度 1 のカイ2乗分布、すなわち Ga(21,21) である。
- 逆数。0 でない点では h(x)=1/x とし、h(0)=0 と定める。この関数の不連続点は原点だけである。よって XndX で P(X=0)=0 なら、次が成り立つ。
Xn1dX1たとえば X∼N(0,1) ならこの条件が成り立つ。
落とし穴
極限が h の不連続点に確率をもつと、結論は成り立たない。次の設定で確かめる。
Xn=n1,X=0,h=1(0,∞)
列はすべての意味で極限に収束する。ところが、すべての番号で h(Xn)=1 であり、h(X)=0 に収束しない。ここでは不連続点の集合が Dh={0} で、P(X∈Dh)=1 である。
Slutsky の定理
まず、分布収束する列は「確率的に有界」であることを示す。
補題 11.19(分布収束する列の緊密性)
XndX とする。任意の ε>0 について、ある M>0 が存在して、すべての番号で次が成り立つ。
P(∣Xn∣>M)<ε
証明
極限の分布関数 F=FX は、左の端で 0、右の端で 1 に近づく。また連続点は稠密である。よって、2点 ±M0 がともに連続点で、次を満たす M0 がとれる。
F(−M0)<4ε,1−F(M0)<4ε
FXn(±M0)→F(±M0) なので、ある N から先の番号で次が成り立つ。
FXn(−M0)<2ε,1−FXn(M0)<2ε
よって
P(∣Xn∣>M0)≤FXn(−M0)+1−FXn(M0)<ε
である。残りの有限個 X1,…,XN−1 を考える。各項は実数値なので、M→∞ で P(∣Xn∣>M)→0 である。よって M≥M0 を大きくとれば、すべての番号で P(∣Xn∣>M)<ε となる。
補題 11.20
- (i) Xn が補題 11.19 の結論を満たすとする。ZnP0 ならば、XnZnP0 である。
- (ii) XndX とする。ZnP0 ならば、Xn+ZndX である。
証明
(i):ε,η>0 を与える。supnP(∣Xn∣>M)<η となる M をとる。∣XnZn∣>ε ならば、次のどちらかが成り立つ。
∣Xn∣>Mまたは∣Zn∣>Mε
よって
P(∣XnZn∣>ε)≤η+P(∣Zn∣>ε/M)
である。番号を大きくすると第2項は 0 に近づく。よって limsupnP(∣XnZn∣>ε)≤η であり、η は任意である。
(ii):定理 11.7 (iv) の証明と同じ議論を使う。点 x を FX の連続点とする。さらに、2点 x±ε も連続点となる ε>0 をとる。
不連続点は高々可算なので、そうした ε はいくらでも小さくとれる。次の2つが成り立つ。
- Xn+Zn≤x ならば、次のどちらかである。
Xn≤x+εまたは∣Zn∣>ε
- Xn≤x−ε ならば、次のどちらかである。
Xn+Zn≤xまたは∣Zn∣>ε
よって
FXn(x−ε)−P(∣Zn∣>ε)≤P(Xn+Zn≤x)≤FXn(x+ε)+P(∣Zn∣>ε)
である。n→∞ として次を得る。
FX(x−ε)≤nliminfP(Xn+Zn≤x)≤nlimsupP(Xn+Zn≤x)≤FX(x+ε)
あとは ε↓0 とすればよい。
定理 11.21(Slutsky の定理)
XndX とする。定数 c について YnPc とする(2つの列は同じ確率空間の上にあるとする)。このとき
- (i) Xn+YndX+c、
- (ii) YnXndcX、
- (iii) c=0 なら Xn/YndX/c。ただし Yn=0 となる標本点では、比を 0 などと任意に定める。
証明
(i):分布関数は FXn+c(x)=FXn(x−c) を満たす。ずらした分布関数の連続点 x は、もとの分布関数の連続点 x−c にちょうど対応する。よって Xn+cdX+c である。さらに次のように分ける。
Xn+Yn=(Xn+c)+(Yn−c),Yn−cP0
補題 11.20 (ii) から結論を得る。
(ii):YnXn=cXn+(Yn−c)Xn と分ける。h(x)=cx は連続なので、連続写像定理 (iii) から cXndcX である。補題 11.19 から、Xn は確率的に有界である。Yn−cP0 なので、補題 11.20 (i) から次が成り立つ。
(Yn−c)XnP0
補題 11.20 (ii) から YnXndcX となる。
(iii):0 でない点では h(y)=1/y とし、h(0)=0 と定める。この関数は点 c=0 で連続である。連続写像定理 (ii) を定数への確率収束に使って、1/YnP1/c を得る。(ii) を 1/Yn に使えば、Xn/YndX/c となる。
落とし穴
Yn の極限が定数でなければ、Slutsky の定理は成り立たない。確認テスト 11.2-1 の列で確かめる。標準正規分布に従う確率変数を1つとり、それ自身の列と、符号を反転した列を並べた例である。
どちらの列も X に分布収束する。しかし和 Xn+Yn=0 は 2X に分布収束しない。2つの列の和の分布は、それぞれの分布だけでは決まらず、同時分布によって決まるからである。極限が定数なら同時分布の問題が起きないことが、定理の仮定の意味である。
モーメントの収束
分布収束から期待値の収束を引き出すには、§11.3 の一様可積分性を Skorokhod の表現と組み合わせる。
命題 11.22(分布収束とモーメントの収束)
XndX とし、ある r>0 について次を仮定する。
nsupE[∣Xn∣r]<∞
このとき 0<p<r について E[∣X∣p]<∞ で、
E[∣Xn∣p]→E[∣X∣p]
である。さらに k<r を満たす正の整数について、その次数のモーメントも収束する。
証明
定理 11.16 の表現 Yn→Y a.s. をとり、Wn=∣Yn∣p と置く。
- 一様可積分である。Wn→∣Y∣p a.s. である。また E[Wnr/p]=E[∣Xn∣r] は番号について有界である。r/p>1 なので、命題 11.14 (iii) から {Wn} は一様可積分である。
- 前半。Vitali の定理(概収束は確率収束を導く)から、E∣Y∣p<∞ かつ E[Wn]→E[∣Y∣p] である。同分布から E[Wn]=E[∣Xn∣p]、E[∣Y∣p]=E[∣X∣p] なので、前半を得る。
- 後半。Ynk→Yk a.s. である。Ynk=∣Yn∣k は同じ理由で一様可積分である。よって Vitali の定理から E[Ynk]→E[Yk] となる。
例題 11.1 の Yn=n(1−Mn) のモーメント
最大値の1からのずれの密度は、区間 (0,1) の上で次のとおりである。
n(1−t)n−1
よって
E[(1−Mn)k]=n∫01tk(1−t)n−1dt=(n+k)!k!n!
である。したがって
E[Yn]=n+1n→1,E[Yn2]=(n+1)(n+2)2n2→2
である。これは極限 Ex(1) の1次と2次のモーメント(1 と 2)に一致する。命題の仮定は、P(Yn>x)=(1−x/n)n≤e−x と裾の公式(第5章 §5.3)から確かめられる。すべての r>0 で次が成り立つからである。
E[Ynr]=∫0∞rxr−1P(Yn>x)dx≤∫0∞rxr−1e−xdx=Γ(r+1)
例題 11.4 最大値の対数を Slutsky の定理で扱う ★★
オリジナル例題 11.1 の記号を使う(Mn=max(U1,…,Un)、Yn=n(1−Mn)dEx(1))。
- (1) Wn=−nlogMn の分布をすべての n について正確に求めよ。
- (2) (1) を使わずに、Slutsky の定理と連続写像定理から WndEx(1) を導け。
- (3) Vn=n(Mn1−1) について VndEx(1) を示せ。
解答
(1) x≥0 について
P(Wn>x)=P(logMn<−x/n)=P(Mn<e−x/n)=(e−x/n)n=e−x
である。よって Wn はすべての番号で正確に Ex(1) に従う。これは、−logUi∼Ex(1) の最小値が Ex(n) に従うことの言い換えでもある。
(2) 次の関数を置く。
h(m)=1−m−logm(0<m<1),h(1)=1
m→1 では次の展開が成り立つ。
−logm=(1−m)+21(1−m)2+⋯
よって h(m)→1 であり、関数 h は点 1 で連続である。Mn∈(0,1) のとき、次のように書ける(Mn が 0 または 1 となる確率は 0)。
Wn=n(1−Mn)⋅h(Mn)=Ynh(Mn)
例題 11.1 (1) と定理 11.7 (i) から、MnP1 である。連続写像定理 (ii) から h(Mn)Ph(1)=1 である。Slutsky の定理 (ii) を、分布収束する列 Yn と定数 1 に確率収束する列 h(Mn) に使う。すると次となる。
Wnd1⋅Ex(1)
これは (1) の正確な結果と一致する。
(3) 次のように書ける。
Vn=nMn1−Mn=MnYn
分母は MnP1=0 を満たす。よって Slutsky の定理 (iii) から、次となる。
VndEx(1)/1=Ex(1)
例題 11.5 比率の推定と分散の置き換え ★★★
オリジナルSn∼Bin(n,p)(0<p<1)とする。標本比率を p^n=Sn/n と置く。第13章 §13.2 で示す中心極限定理の特別な場合
Zn=np(1−p)Sn−npdN(0,1)
を認める。
- (1) Markov の不等式(p=2 の場合、Chebyshev の不等式)を使って p^nPp を示せ。
- (2) 次のように置く。
Tn=⎩⎨⎧p^n(1−p^n)/np^n−pZn(p^n∈(0,1))(それ以外)
TndN(0,1) を示せ。3. (3) n=400 で、p^n=0.3 が観測されたとする。近似 P(∣Tn∣≤1.96)≈0.95 から、p の範囲を求めよ。
解答
(1) 平均と分散は E[p^n]=p、V[p^n]=p(1−p)/n である。(11.4) を Y=p^n−p、指数 2 として使うと
P(∣p^n−p∣≥ε)≤ε2E[(p^n−p)2]=nε2p(1−p)→0
である。
(2) 次の関数を置く。
h(q)=q(1−q)p(1−p)(q∈(0,1)),h(q)=1(q∈{0,1})
この関数は点 p で連続で、h(p)=1 である。p^n∈(0,1) のとき
Tn=p(1−p)/np^n−p⋅p^n(1−p^n)p(1−p)=Znh(p^n)
である。p^n∈{0,1} のときも Tn=Zn=Znh(p^n) である。よって常に Tn=Znh(p^n) である。
(1) と連続写像定理 (ii) から h(p^n)P1 である。Slutsky の定理 (ii) から、次を得る。
Tnd1⋅Z=N(0,1)
(3) 条件 ∣Tn∣≤1.96 は、次と同じである。
∣p^n−p∣≤1.96p^n(1−p^n)/n
0.3×0.7/400=0.000525≈0.02291 なので、右辺は約 0.0449 である。よって
0.2551≤p≤0.3449
が近似的に確率 0.95 で成り立つ範囲である。分母の p(1−p) を観測値 p^n(1−p^n) で置き換えても、極限の分布は変わらない。これを保証しているのが、(2) の Slutsky の定理である。
確認テスト
オリジナル
- 11.4-1 XndN(0,1) とする。P(Xn2≤1) の極限を求めよ。数値 Φ(1)≈0.8413 を使ってよい。
- 11.4-2 Xn∼Po(n) とし、第13章の結果 (Xn−n)/ndN(0,1) を認める。次のように置く。
Rn={(Xn−n)/Xn0(Xn>0)(Xn=0)
RndN(0,1) を示せ。3. 11.4-3 定理 11.16 の逆関数 Fn−1(u) を、次の2つの列について求めよ。極限の逆関数に収束しない点があるかどうかを調べよ。(a) Xn∼U(0,1+n1) と極限 U(0,1)。(b) n≥3 で次の分布と、極限 P(X=1)=P(X=0)=21。
P(Xn=1)=21+n1,P(Xn=0)=21−n1
4. 11.4-4 同じ確率空間の上で XnPX、YnPY とする。次の2つを示せ。
Xn+YnPX+Y,XnYnPXY
5. 11.4-5 列の分布を次で定める。
P(Xn=n)=n1,P(Xn=0)=1−n1
Xnd0 であるが E[Xn]→0 であることを確かめよ。命題 11.22 の仮定のどこが成り立たないかを述べよ。
AI(Claude)が書いた教材を、木下が勉強しながら公開しています。式と数値は検算していますが、誤りが残っているかもしれません。誤りのご指摘・削除のご依頼をいただければ直します。 連絡先:support@tecktom.com