確率論入門 第8章 §8.3 ★★★ すべての分布に存在する Fourier 変換。一様連続で正定値、モーメントの次数まで微分でき、0 のまわりの Taylor 展開が中心極限定理の出発点になる
複素数値の確率変数の期待値
積率母関数の弱点は、裾の重い分布で無限大になることだった。指数の肩を純虚数 itX にすると eitX=1 となり、期待値はどの分布でも有限になる。そのために、まず複素数値の確率変数の期待値を定めておく。
U,V を可積分な実数値の確率変数とする。W=U+iV の期待値を次で定める。
E[W]:=E[U]+iE[V]
この期待値は複素数の係数について線型で、E[W]=E[W] を満たす。さらに次の2つが成り立つ。
補題 8.13(複素数値の期待値の基本性質)
- ∣E[W]∣≤E[∣W∣] である。
- X,Y が独立で、g,h が有界な複素数値の Borel 関数なら、次が成り立つ。
E[g(X)h(Y)]=E[g(X)]E[h(Y)]
証明
(1) 期待値が0なら明らかである。そうでないとき、ρ>0 として E[W]=ρeiθ と極形式で書く。すると
∣E[W]∣=e−iθE[W]=E[e−iθW]=ReE[e−iθW]=E[Re(e−iθW)]≤E[e−iθW]=E[∣W∣]
となる。3つ目の等号は左辺が実数であることによる。4つ目は定義、不等号は Rew≤∣w∣ による。
(2) g=g1+ig2、h=h1+ih2 と実部・虚部に分ける。積を展開すると、E[gj(X)hk(Y)] の形の4つの項になる。各項に (8.2) を使い、まとめ直せばよい。
定義 8.14(特性関数)
確率変数 X に対して、
φX(t):=E[eitX]=E[costX]+iE[sintX](t∈R)(8.14)
を X の特性関数と呼ぶ。
∣costX∣≤1、∣sintX∣≤1 なので、特性関数はすべての確率変数とすべての実数で定まる。変数変換公式 (8.1) から
φX(t)=∫ReitxPX(dx),密度があればφX(t)=∫−∞∞eitxf(x)dx
であり、特性関数は分布 PX の Fourier 変換である。物理や工学の Fourier 変換は e−iωt を使う流儀が多く、指数の符号が逆になる。
非負整数値の X では φX(t)=GX(eit) である。eit=1 なので、(8.3) の級数はこの点でも絶対収束する。
基本性質
定理 8.15(特性関数の基本性質)
任意の確率変数 X の特性関数 φ=φX について、次が成り立つ。
- φ(0)=1 である。また、すべての実数で ∣φ(t)∣≤1 である。
- φ(−t)=φ(t) である。とくに φ−X=φX である。
- 実数 a,b について、φaX+b(t)=eibtφX(at) である。
- φ は R の上で一様連続である。
- φ は正定値である。すなわち、任意の個数の実数 t1,…,tn と複素数 c1,…,cn について
j=1∑nk=1∑ncjckφ(tj−tk)≥0.(8.15)
証明
(1) φ(0)=E[1]=1 である。補題 8.13 (1) から ∣φ(t)∣≤E[eitX]=1 である。
(2) e−itX=eitX と E[W]=E[W] による。φ−X(t)=E[eit(−X)]=φX(−t) だから、後半も従う。
(3) eit(aX+b)=eibtei(at)X の期待値をとればよい。
(4) 実数 t,h をとる。補題 8.13 (1) から
∣φ(t+h)−φ(t)∣=E[eitX(eihX−1)]≤E[eihX−1]
となる。右辺は t を含まない。h→0 のとき、各点で eihX−1→0 である。また中身は2以下である。
優収束定理により、右辺は0に収束する。右辺が t によらないので、収束は t について一様である。
(5) 二重和の中身は
j,k∑cjckei(tj−tk)X=(j∑cjeitjX)(k∑ckeitkX)=j∑cjeitjX2≥0
であり、この期待値が (8.15) の左辺に等しい。非負の確率変数の期待値なので非負である。
(4) の一様連続性は、どんなに不規則な分布から作られても、特性関数は関数としての滑らかさの最低限を備えていることを示している。(5) の正定値性は、逆向きの主張と組になっている。
定理 8.16(Bochner の定理(主張))
関数 ψ:R→C が次の3つを満たすとする。
- (i) 原点で連続である。
- (ii) ψ(0)=1 である。
- (iii) 正定値 (8.15) である。
このとき ψ は、ある確率変数の特性関数である。
証明の筋を3段で書く。完全な証明は測度論・調和解析の本に譲る。
- 正定値性を和から積分に移すと、各 T>0 について次の関数が非負になる。
x↦2πT1∫0T∫0Tψ(u−v)e−i(u−v)xdudv
2. これを整理すると、ψ に三角形の重み(Fejér 核)を掛けて Fourier 逆変換した、非負の関数が得られる。それが確率密度 fT になる。3. この密度の特性関数は、T→∞ で ψ に各点収束する。第13章 §13.1 の Lévy の連続性定理から、極限の分布の特性関数が ψ となる。
分布が原点について対称(X=d−X)とする。性質 (2) から φX=φ−X=φX となり、特性関数は実数値で偶関数になる。逆に、特性関数が実数値なら分布は対称である。ただしこれは φX=φ−X から分布の一致を結論することなので、第9章 §9.2 の一意性定理を必要とする。
独立和については、補題 8.13 (2) を g(x)=eitx、h(y)=eity に使う。X,Y が独立のとき
φX+Y(t)=φX(t)φY(t)(8.16)
が成り立つ。確率母関数・積率母関数と同じ形である。この式を一意性定理と組み合わせて分布の再生性を示す議論は、第9章 §9.3 で扱う。
モーメントと微分
特性関数を微分してモーメントを取り出すには、積率母関数の場合と違って、Taylor 展開の剰余を精密に評価する必要がある。
補題 8.17(eix の Taylor 剰余)
n を0以上の整数とする。すべての実数 x について
eix−k=0∑nk!(ix)k≤min((n+1)!∣x∣n+1, n!2∣x∣n).(8.17)
証明
左辺の絶対値の中身を Rn(x) と書く。R−1(x):=eix と置くと、0以上の n で
Rn(x)=i∫0xRn−1(s)ds
が成り立つ。実際、右辺を微分すると iRn−1(x) である。左辺の導関数も
ieix−k=1∑n(k−1)!ikxk−1=iRn−1(x)
で一致し、両辺とも原点で0である。∣R−1∣=1 から始めて、帰納的に次を得る。
∣Rn(x)∣≤∫0xn!∣s∣nds=(n+1)!∣x∣n+1
n=0 では ∣R0(x)∣≤∣x∣ である。これが第1の評価である。
第2の評価は、次の2つから従う。
Rn(x)∣Rn−1(x)∣=Rn−1(x)−n!(ix)n,≤n!∣x∣n(n−1 についての第1の評価)
これらから ∣Rn(x)∣≤n!∣x∣n+n!∣x∣n となる。n=0 では eix−1≤2 である。
x が小さいときは第1の評価が、大きいときは第2の評価が良い。第2の評価は ∣x∣n の程度にしか増えない。したがって E[∣X∣n]<∞ だけを仮定して、期待値をとることができる。
定理 8.18(特性関数とモーメント)
ある n≥1 について E[∣X∣n]<∞ とする。このとき次が成り立つ。
- φX は n 回連続微分可能である。k≤n について、次が成り立つ。
φX(k)(t)=E[(iX)keitX],φX(k)(0)=ikE[Xk]
2. t→0 のとき
φX(t)=k=0∑nk!(it)kE[Xk]+o(∣t∣n).(8.18)
より詳しく、剰余の絶対値は次の量以下である。
E[min((n+1)!∣tX∣n+1, n!2∣tX∣n)]
証明
(1) k についての帰納法で示す。k≤n とし、1つ手前の階数まで正しいとする(k=1 のときは定義そのもの)。h=0 について
hφX(k−1)(t+h)−φX(k−1)(t)=E[(iX)k−1eitXheihX−1]
である。補題 8.17 の n=0 の場合から、eihX−1≤∣hX∣ である。したがって期待値の中身の絶対値は ∣X∣k 以下である。∣x∣k≤1+∣x∣n から E[∣X∣k]≤1+E[∣X∣n]<∞ なので、これは可積分である。
h→0 のとき、中身は各点で (iX)keitX に収束する。0に収束する任意の数列 hm に優収束定理を使えば、
φX(k)(t)=E[(iX)keitX]
を得る。最高階の導関数の連続性も、∣X∣n を優関数として優収束定理を使えば示せる。
(2) 補題 8.17 を x=tX(ω) に使って期待値をとる。補題 8.13 (1) から剰余の評価を得る。これを ∣t∣n で割ると
∣t∣n1φX(t)−k=0∑nk!(it)kE[Xk]≤E[min((n+1)!∣t∣∣X∣n+1, n!2∣X∣n)]
となる。右辺の中身は n!2∣X∣n 以下で可積分である。また t→0 で、各点について0に収束する(∣X∣n+1 は有限の値)。優収束定理から右辺は0に収束し、(8.18) を得る。
剰余の評価で、1つ上の次数のモーメントを使わずに済んでいることが要点である。n+1 次のモーメントが無限大でも、(8.18) は成り立つ。
中心極限定理で使う形
E[X]=0 かつ E[X2]=σ2<∞ なら、定理 8.18 を2次まで使って
φX(t)=1−2σ2t2+o(t2)(t→0)(8.19)
である。3次のモーメントを仮定しない。第13章 §13.2 では、独立同分布の和を n で割ったものの特性関数 φX(t/n)n に、この式を代入する。そして次を示す。
(1−2nσ2t2+o(1/n))n→e−σ2t2/2
定理 8.18 の逆向きは偶数次について成り立つ。2次の場合を示しておく。
命題 8.19(2階微分可能ならば分散は有限)
φX が原点で2回微分可能なら、E[X2]<∞ である。さらに E[X2]=−φX′′(0) である。
証明
φX(h)+φX(−h)=2E[coshX] だから
h22−φX(h)−φX(−h)=E[h22(1−coshX)]
である。φX が0で2回微分可能なので、Peano 型の剰余をもつ Taylor の定理から
φX(±h)=1±φX′(0)h+21φX′′(0)h2+o(h2).
したがって、左辺は h→0 で −φX′′(0) に収束する。右辺の中身は非負である。1−cosu=2u2+o(u2) なので、刻みを0に近づけると、中身は各点で X2 に収束する。Fatou の補題から
E[X2]≤h→0liminfE[h22(1−coshX)]=−φX′′(0)<∞
となる。2次のモーメントが有限と分かったので、定理 8.18 から φX′′(0)=−E[X2] である。
奇数次では逆が成り立たない
- φX′(0) が存在しても、E[∣X∣]<∞ とは限らない。そのような分布の例が知られている(密度が遠方で 1/(x2log∣x∣) 程度で減るもの)。
- Cauchy 分布の特性関数 e−∣t∣ は原点で微分できない。これは平均が存在しないことと整合している。
例題 8.5 正規分布の特性関数 ★★★
オリジナルZ∼N(0,1) とする。
- φZ′(t)=−tφZ(t) を示せ。これから φZ(t)=e−t2/2 を導け。
- X∼N(μ,σ2) の特性関数を求めよ。
- 特性関数の原点のまわりの展開から、E[Z2] と E[Z4] を読み取れ。
解答
- E[∣Z∣]<∞ なので、定理 8.18 から
φZ′(t)=E[iZeitZ]=2πi∫−∞∞xe−x2/2eitxdx
である。xe−x2/2=−dxde−x2/2 を使って部分積分する。境界項 [−e−x2/2eitx]−∞∞ は0だから
∫−∞∞xe−x2/2eitxdx=∫−∞∞e−x2/2⋅iteitxdx=it2πφZ(t)
となる(実部と虚部に分けて実数の部分積分を使えばよい)。よって
φZ′(t)=i⋅itφZ(t)=−tφZ(t).
すると次の微分は0である。
dtd(et2/2φZ(t))=et2/2(tφZ(t)+φZ′(t))=0
したがって et2/2φZ(t) は定数で、原点での値から1に等しい。よって φZ(t)=e−t2/2 である。2. X=μ+σZ と書けるので、定理 8.15 (3) から
φX(t)=eiμtφZ(σt)=exp(iμt−21σ2t2).
3. 次の2つの展開を比べる。
e−t2/2φZ(t)=1−2t2+8t4−⋯,=1+2!(it)2E[Z2]+4!(it)4E[Z4]+⋯((8.18) の形)
t2 の係数から −2E[Z2]=−21 である。t4 の係数から 24E[Z4]=81 である。したがって E[Z2]=1、E[Z4]=3 を得る。積率母関数から得た値(§8.2 の例)と一致する。
Laplace 分布(密度 21e−∣x∣)の特性関数を求める。指数分布 Ex(1) の特性関数は 1−it1 である(確認テスト 8.3-3)。Laplace 分布の特性関数は、これと符号を反転したものの平均として
φ(t)=21(1−it1+1+it1)=1+t21
となる。
Cauchy 分布の特性関数 e−∣t∣ は、次の積分を留数定理で計算して得られる。
∫−∞∞π(1+x2)eitxdx
t>0 なら上半平面で積分路を閉じる。極 x=i での留数は 2πie−t である。これを 2πi 倍すればよい。
第9章 §9.1 の反転公式を Laplace 分布に使っても、同じ結果が得られる。Laplace 分布と Cauchy 分布は、密度と特性関数の形を入れ替えた関係にある。

図 8.3 標準正規分布(太線)、Cauchy 分布(細線)、一様分布 U(−1,1)(破線)の特性関数。どれも対称な分布なので実数値である。Cauchy 分布の特性関数は t=0 で尖っていて微分できず、平均が存在しないことに対応する。一様分布の特性関数は t=kπ で0になり、密度の跳びを反映してゆっくり減衰する。
格子分布と ∣φ∣=1 となる点
∣φ(t)∣≤1 の等号がどこで成り立つかは、分布が格子の上に乗っているかどうかを表す。
命題 8.20(∣φ∣=1 と格子)
t0=0 とする。∣φX(t0)∣=1 であるための必要十分条件は、ある実数 b について次が成り立つことである。
P(X∈b+t02πZ)=1
証明
十分性を示す。整数値の K を使って X=b+t02πK と書けるとする。このとき
eit0X=eit0be2πiK=eit0b
は定数で、∣φX(t0)∣=1 である。
必要性を示す。φX(t0)=eiθ と書くと、E[ei(t0X−θ)]=1 である。実部をとると E[1−cos(t0X−θ)]=0 となる。
中身は非負なので、ほとんど確実に cos(t0X−θ)=1 である。つまり t0X−θ∈2πZ である。b=θ/t0 と置けばよい。
整数値の確率変数では、t0=2π で ∣φ∣=1 となる。このとき特性関数は周期 2π の関数になる。たとえば ±1 を確率1/2ずつとる確率変数では、特性関数は cost である。整数値の確率変数については、第9章 §9.1 の反転公式が確認テスト 8.3-5 の簡単な形になる。
確認テスト
オリジナル
- 8.3-1 X が1と −1 を確率1/2ずつとるとする。φX(t)=cost を示せ。また X が1を確率3/4、−1 を確率1/4でとるとする。このときの φX と φ−X を書け。それを使って φ−X=φX を確かめよ。
- 8.3-2 X∼Po(λ) の特性関数を求めよ。原点での1階・2階の微分係数から、E[X] と V[X] を求めよ。
- 8.3-3 X∼Ex(λ) の特性関数 φX(t)=λ−itλ を積分から導き、その実部と虚部を書け。また ∣t∣→∞ で ∣φX(t)∣→0 となることを確かめよ。
- 8.3-4 関数 ψ(t)=e−t4 は、どの確率変数の特性関数でもないことを示せ。
- 8.3-5 X が整数値の確率変数なら、すべての整数 k について次が成り立つことを示せ。
P(X=k)=2π1∫−ππe−iktφX(t)dt
AI(Claude)が書いた教材を、木下が勉強しながら公開しています。式と数値は検算していますが、誤りが残っているかもしれません。誤りのご指摘・削除のご依頼をいただければ直します。 連絡先:support@tecktom.com