独立増分過程

確率論入門　第14章 §14.2　★★★ 重ならない区間の増分が独立な過程。Poisson 過程と Brown 運動が代表で、まとめて Lévy 過程という枠に入る

独立増分と定常増分

ランダムウォーク $S_n=\xi_1+\cdots+\xi_n$ で、時刻 $m<n$ のあいだの増分を考える。

$$S_n-S_m=\xi_{m+1}+\cdots+\xi_n$$

これは時刻 $m$ までの値と独立である。重ならない時間区間の増分が独立であるという性質を、連続時間の過程にも要求する。

独立増分を持ち $X_0=0$ である過程では、有限次元分布は増分の分布だけで決まる。実際、$t_0=0$ と置くと、$(X_{t_1},\dots,X_{t_n})$ は独立な増分のベクトルに行列を掛けたものである。その行列は下三角で、対角成分がすべて 1 である。

$$X_{t_k}=\sum_{l=1}^{k}\bigl(X_{t_l}-X_{t_{l-1}}\bigr)\qquad(k=1,\dots,n).$$

$X_0$ が定数（たとえば 0）のとき、独立増分は次のように言い換えることができる。

• 時刻 $s$ 以後の増分 $X_t-X_s$ の全体が、その時刻までの値の全体と独立である。

これを確かめる。有限個の時刻 $s_1<\cdots<s_m\le s$ と $s\le t_1<\cdots<t_n$ をとる。

• $(X_{s_1},\dots,X_{s_m})$ は、時刻 $s$ までの増分の関数である。
• $(X_{t_1}-X_s,\dots,X_{t_n}-X_s)$ は、時刻 $s$ 以後の増分の関数である。

したがって第4章 §4.2 のまとめ方の補題により、両者は独立である。有限個の時刻で決まる事象の全体は Ω を含む π系をなすので、第4章 §4.2 の π系による判定から σ加法族どうしが独立になる。

$$\sigma\bigl(X_t-X_s:t\ge s\bigr)\ \text{と}\ \mathcal F^X_s\ \text{は独立}.\tag{14.4}$$

この性質が「過去と独立に新しく足される」という独立増分過程の性格であり、§14.4 のマルコフ性の原型になっている。

Poisson 過程

$N_t$ は「時刻 $t$ までに起きた事象の回数」を表す。客の到着、放射性原子核の崩壊、電話の着信のように、互いに無関係な多数の原因から1回ずつ起きる事象の回数の模型である。(P3) から定常増分を持ち、$E[N_t]=V[N_t]=\lambda t$ である。$\lambda$ は単位時間あたりの平均回数を表す。

第6章 §6.3 の Poisson の少数の法則から、この定義の意味が分かる。区間 $(0,t]$ を $n$ 等分する。各小区間で独立に、確率 $\lambda t/n$ で1回だけ事象が起きるとする。

起きた回数は $\mathrm{Bin}(n,\lambda t/n)$ に従い、分割を細かくすると $\mathrm{Po}(\lambda t)$ に近づく。小区間ごとの独立性が、極限では独立増分 (P2) になる。

共分散は独立増分から計算することができる。$s<t$ なら $N_t=N_s+(N_t-N_s)$ と書ける。第2項は $N_s$ と独立なので

$$\mathrm{Cov}(N_s,N_t)=V[N_s]+\mathrm{Cov}(N_s,N_t-N_s)=\lambda s=\lambda\min\{s,t\}\tag{14.5}$$

となる。到着の時刻と間隔の分布は §14.3 で調べる。

Brown 運動

花粉から出た微粒子が水の中で不規則に動く現象（Brown 運動）の模型として、連続な見本路を持つ独立増分過程を考える。

(B2)(B3) から有限次元分布が決まる。$0<t_1<\cdots<t_n$ のとき、$(B_{t_1},\dots,B_{t_n})$ は独立な正規分布に従う増分の1次変換である。したがって第6章 §6.2 の多変量正規分布 $\mathrm N_n(\bm 0,\Sigma)$ に従う。共分散は Poisson 過程の (14.5) と同じ計算で

$$\mathrm{Cov}(B_s,B_t)=\min\{s,t\},\qquad \Sigma_{kl}=\min\{t_k,t_l\}\tag{14.6}$$

となる。

証明の筋は2通りある。

1. 拡張定理と連続性定理。共分散 (14.6) を持つ正規分布の族は両立条件を満たす。Kolmogorov の拡張定理（定理 14.3）から、(B2)(B3) を満たす過程 $X$ を作る。増分のモーメントは次のように評価できる。

$$E\bigl[(X_t-X_s)^4\bigr]=3(t-s)^2$$

この評価から、Kolmogorov の連続性定理によって、連続な見本路を持つ版 $B$ を取り出す。版とは、各時刻 $t$ で $P(B_t=X_t)=1$ となる過程のことである。2. Lévy の構成。独立な標準正規の列を、区間の2進分割の各段に割り当てる。折れ線の和の一様収束で、直接連続関数を作る。

完全な証明は確率過程論の本に譲る。

Brown 運動は、ランダムウォークの時間と空間を同時に縮めた極限として現れる。対称単純ランダムウォーク $S_k$ を考え、時刻 $t$ の値を次のように定める。

$$\frac{S_{\lfloor nt\rfloor}}{\sqrt n}$$

第13章の中心極限定理から、これは各時刻で $\mathrm N(0,t)$ へ分布収束する。増分の独立性も極限で保たれ、有限次元分布が Brown 運動のものに収束する。見本路全体の分布の収束（Donsker の不変原理）は主張だけにとどめる。

見本路の性質

Brown 運動の見本路は連続だが、極めて不規則である。その不規則さを3つの性質で表す。

証明

3条件を順に確かめる。

• (B1)。$W_0=0$ である。連続関数 $t\mapsto B_{ct}$ の定数倍は連続である。
• (B2)。$t_0<t_1<\cdots<t_n$ に対し、$W$ の増分は次のように書ける。

$$W_{t_k}-W_{t_{k-1}}=c^{-1/2}(B_{ct_k}-B_{ct_{k-1}})$$

これは $B$ の重ならない区間 $(ct_{k-1},ct_k]$ の増分の定数倍なので、独立である。

• (B3)。増分の分布は次のとおりである。

$$\mathrm N\bigl(0,c^{-1}\cdot c(t_k-t_{k-1})\bigr)=\mathrm N(0,t_k-t_{k-1})$$

時間を $c$ 倍に引き伸ばすと、値は $\sqrt c$ 倍にしか広がらない。逆に時間を細かく見ると、幅 $h$ の時間での変化は $\sqrt h$ の程度で、幅そのものよりずっと大きい。この「変化が $\sqrt h$」という性質から、次の2つが出る。

証明

$h_k=t_k-t_{k-1}$、$D_k=B_{t_k}-B_{t_{k-1}}$ と置く。(B3) から $D_k\sim\mathrm N(0,h_k)$ で、2乗の期待値は $h_k$ である。標準正規 $Z$ の4次モーメント $E[Z^4]=3$（第6章 §6.2）を使うと

$$V[D_k^2]=E[D_k^4]-\bigl(E[D_k^2]\bigr)^2=3h_k^2-h_k^2=2h_k^2.$$

期待値は $E[Q_\Delta]=\sum_kh_k=t$ である。(B2) から $D_1^2,\dots,D_n^2$ は独立なので、分散は和に分かれる。

$$E\bigl[(Q_\Delta-t)^2\bigr]=V[Q_\Delta]=\sum_{k=1}^n2h_k^2\le2\left\vert \Delta\right\vert \sum_{k=1}^nh_k=2t\left\vert \Delta\right\vert .$$

右辺は $\left\vert \Delta\right\vert \to0$ で 0 に近づく。

滑らかな関数 $f$ では、次の不等式が成り立つ。

$$\sum_k\bigl(f(t_k)-f(t_{k-1})\bigr)^2\le\max_k\left\vert f(t_k)-f(t_{k-1})\right\vert \cdot\sum_k\left\vert f(t_k)-f(t_{k-1})\right\vert$$

右辺の第1因子は 0 に、第2因子は全変動（有限）に近づく。したがって2次変動は 0 である。Brown 運動の2次変動が正の値 $t$ であることは、見本路が滑らかな関数とはまったく違うことを示している。

証明

$t>0$ を固定する。区間を $2^m$ 等分する分割を $\Delta_m$ とする。定理 14.12 から

$$E[(Q_{\Delta_m}-t)^2]\le\frac{2t^2}{2^m}$$

で、右辺は $m$ について和が有限である。Chebyshev の不等式（第10章 §10.1）から、任意の $\varepsilon >0$ について次が成り立つ。

$$\sum_mP(\left\vert Q_{\Delta_m}-t\right\vert >\varepsilon )<\infty$$

第4章 §4.4 の概収束の十分条件から、$Q_{\Delta_m}\to t$ a.s. である。一方、見本路の全変動を $V(\omega)$ とすると

$$Q_{\Delta_m}\le\max_k\left\vert B_{t_k}-B_{t_{k-1}}\right\vert \cdot\sum_k\left\vert B_{t_k}-B_{t_{k-1}}\right\vert \le\max_k\left\vert B_{t_k}-B_{t_{k-1}}\right\vert \cdot V(\omega).$$

連続関数は閉区間で一様連続なので、$\max_k\left\vert B_{t_k}-B_{t_{k-1}}\right\vert \to0$ である。$V(\omega)<\infty$ なら右辺は 0 に近づく。これは $Q_{\Delta_m}\to t>0$ と矛盾する。

したがって $Q_{\Delta_m}\to t$ となる標本点（確率 1）では、$V(\omega)=\infty$ である。$t$ を正の有理数全体にわたらせても、零集合の可算和は零集合である。

証明

$h_n=1/n$ として、差分商 $R_n=(B_{t+h_n}-B_t)/h_n$ を考える。分子は $\mathrm N(0,h_n)$ に従う。したがって $R_n$ は $\mathrm N(0,n)$ に従う。$Z\sim\mathrm N(0,1)$ とすると、$M>0$ について

$$P(\left\vert R_n\right\vert >M)=P\bigl(\left\vert Z\right\vert >M/\sqrt n\bigr)\longrightarrow1\qquad(n\to\infty).$$

事象 $A_n=\{\left\vert R_n\right\vert >M\}$ の上極限について、第1章 §1.4 の連続性から次が成り立つ。

$$P\Bigl(\limsup_nA_n\Bigr)=\lim_m P\Bigl(\bigcup_{n\ge m}A_n\Bigr)\ge\limsup_nP(A_n)=1$$

したがって確率 1 で、$\left\vert R_n\right\vert >M$ が無限個の番号で起きる。つまり $\limsup_n\left\vert R_n\right\vert \ge M$ となる。$M=1,2,\dots$ の可算個の事象の共通部分をとると、確率 1 で $\limsup_n\left\vert R_n\right\vert =\infty$ である。時刻 $t$ で微分可能なら $R_n$ は有限の値に収束するので、その事象の確率は 0 である。

命題 14.14 は時刻を固定した主張で、「確率 1 で、どの時刻でも微分可能でない」という強い主張とは異なる。非可算個の時刻の零集合を合併すると、零集合とは限らないからである。

後者も正しく、Paley–Wiener–Zygmund の定理と呼ばれる。その証明には、ある時刻で微分可能なら近くの増分が連続して小さくなる確率を見積もる議論が要る。完全な証明は確率過程論の本に譲る。

Lévy 過程

Poisson 過程と Brown 運動に共通する性質を抜き出すと、次の定義になる。

(L3) は「決まった時刻に跳ぶことはない」という条件である。Poisson 過程は跳ぶが、跳ぶ時刻はランダムなので、決まった時刻で跳ぶ確率は 0 である。実際

$$P(\left\vert N_{t+h}-N_t\right\vert >\varepsilon )\le P(N_{t+\left\vert h\right\vert }-N_{t-\left\vert h\right\vert }\ge1)=1-\mathrm{e}^{-2\lambda\left\vert h\right\vert }\to0$$

から (L3) を満たす。Lévy 過程は、見本路が右連続で左極限を持つ版を常にとることができる（主張のみ）。

Lévy 過程の時刻 1 の値は、次のように独立同分布の $n$ 個の和に書ける。

$$X_1=\sum_{k=1}^n\bigl(X_{k/n}-X_{(k-1)/n}\bigr)$$

特性関数（第8章）で言えば

$$\varphi_{X_1}(u)=\bigl(\varphi_{X_{1/n}}(u)\bigr)^n\qquad(n=1,2,\dots)\tag{14.7}$$

で、どの $n$ についても「何かの分布の $n$ 乗」になっている。この性質を持つ分布を無限分解可能と呼ぶ。

正規・Poisson・ガンマ・Cauchy の各分布は無限分解可能である。無限分解可能な分布の特性関数の一般形は Lévy–Khintchine の公式で書かれる。Lévy 過程はその公式の3つの成分（ドリフト・Brown 運動・跳び）の和に分解される。ここでは名前だけを挙げる。

確認テスト

オリジナル

1. 14.2-1 $0<s<t$ とする。$V[B_t+B_s]$ を求めよ。
2. 14.2-2 $P(B_1>0,\ B_2>0)=\frac38$ を示せ。（ヒント：$X=B_1$ と $Y=B_2-B_1$ の組の回転不変性。）
3. 14.2-3 強度 3 の Poisson 過程について、次の2つを求めよ。

$$P(N_1=2,\ N_2=5),\qquad P(N_1=2\mid N_2=5)$$ 4. 14.2-4 強度 $\lambda$ の Poisson 過程 $N$ をとる。それと独立な独立同分布の列 $\xi_1,\xi_2,\dots$ をとり、複合 Poisson 過程 $Y_t=\sum_{k=1}^{N_t}\xi_k$ を作る。

1. (a) 次を示せ。

$$E[\mathrm{e}^{\mathrm{i} uY_t}]=\exp\bigl(\lambda t(\varphi_{\xi_1}(u)-1)\bigr)$$ 2. (b) $\lambda=3$、$t=2$ とする。$\xi_k$ は 1 と 2 を半々の確率でとるとする。$E[Y_t]$ と $V[Y_t]$ を求めよ。5. 14.2-5 $[0,1]$ を $n$ 等分した分割について、次の期待値を求めよ。

$$E\Bigl[\sum_{k=1}^n\left\vert B_{k/n}-B_{(k-1)/n}\right\vert \Bigr]$$

$n\to\infty$ で発散することを確かめ、2次変動の期待値と比べよ。