確率過程の定義とフィルトレーション

確率論入門　第14章 §14.1　★★★ 確率過程は同じ確率空間の上の確率変数の族。時刻 $t$ までの情報は σ加法族の増大列で表す

第13章までは、確率変数を1つずつ、あるいは独立な列としてまとめて扱ってきた。大数の法則と中心極限定理は、独立な確率変数の和 $S_n=X_1+\cdots+X_n$ が、項の数を増やしたときにどう振る舞うかを述べる定理だった。この章では、添字 $n$ を「時刻」と読み、時刻とともに値が変わっていく偶然の対象そのもの、すなわち確率過程を扱う。

この章で作るものは3つある。

1. 確率過程の一般的な枠組み（§14.1）。確率変数の族、有限次元分布、時刻 $t$ までに得られる情報を表す σ加法族の増大列（フィルトレーション）、未来を見ずに決められる時刻（停止時刻）を定義する。
2. 独立増分過程（§14.2・§14.3）。重なりのない時間区間での増え方が互いに独立な過程で、Poisson 過程と Brown 運動がその代表である。Poisson 過程については、到着の間隔・間引き・重ね合わせを証明する。
3. マルコフ連鎖（§14.4・§14.5）。「現在の状態が分かれば、過去は未来の予測に役立たない」という性質を持つ離散時間の過程で、遷移確率行列で記述される。状態のあいだの到達可能性で状態空間をクラスに分け、閉集合と周期を定義する。

前の章から借りる結果を式の形で先に書いておく。第4章 §4.1 の乗法公式

$$P(A_0\cap A_1\cap\cdots\cap A_n)=P(A_0)\,P(A_1\mid A_0)\,P(A_2\mid A_0\cap A_1)\cdots P(A_n\mid A_0\cap\cdots\cap A_{n-1})\tag{14.1}$$

と全確率の公式は、マルコフ連鎖の同時分布を計算するときの基本の道具になる。第4章 §4.2 の「重ならない組の σ加法族は独立」（まとめ方の補題）は、独立増分を扱うときに繰り返し使う。

第6章の分布の名前とパラメータはそのまま使う。とくに次の4つを使う。

• Poisson 分布 $\mathrm{Po}(\lambda)$。
• 指数分布 $\mathrm{Ex}(\lambda)$。密度は $\lambda\mathrm{e}^{-\lambda x}$ である。
• ガンマ分布 $\mathrm{Ga}(n,\lambda)$。$n$ が自然数のときは Erlang 分布と呼ぶ。
• 多変量正規分布 $\mathrm N_d(\bm\mu,\Sigma)$。

第7章 §7.4 からは、Poisson 個の Bernoulli 試行の成功数と失敗数が独立な Poisson 分布に従うこと（間引き）を借りる。Lebesgue 測度は第2章にならって $\mathrm{Leb}$ と書く。

この章の結果は第15章で直接使う。第15章では、マルコフ連鎖が長い時間のあとにどう振る舞うか（再帰と過渡・定常分布・エルゴード定理）を調べる。その議論は、この章で定める遷移確率行列、Chapman–Kolmogorov 方程式、強マルコフ性、クラス分け、周期の上に組み立てられる。

確率過程と見本路

時間とともに変わる偶然の量を、例を2つ挙げて考える。

• 公正な硬貨を繰り返し投げ、表なら1歩進み、裏なら1歩戻る点を考える。時刻 $n=0,1,2,\dots$ での位置 $S_n$ は、各時刻ごとに確率変数である。
• ある窓口に客が来た回数を、時刻 $t\ge0$ まで数えた値を $N_t$ とする。これは連続な時刻ごとに確率変数である。

どちらの例でも、1つの標本点 $\omega$ を固定すると、時刻の関数が1本決まる。

$$n\mapsto S_n(\omega),\qquad t\mapsto N_t(\omega)$$

偶然によって「関数が1本選ばれる」と見ることもできる。

この章の状態空間は次のどちらかである。

• 実数全体 $\mathbb{R}$。σ加法族は $\mathcal B(\mathbb{R})$ をとる。
• 整数の集合のような可算集合 $S$。σ加法族は $S$ のすべての部分集合をとる。

可算集合の場合は、すべての $i\in S$ で $\{X_t=i\}\in\mathcal F$ が成り立てば可測になる。どの部分集合 $B\subset S$ についても、次のように可算和で書けるからである。

$$\{X_t\in B\}=\bigcup_{i\in B}\{X_t=i\}$$

有限次元分布と Kolmogorov の拡張定理

1つの時刻 $t$ の分布 $P_{X_t}$ だけでは、過程の性質はほとんど分からない。たとえば次の2つの過程を比べる。

• $X_t=tY$（上の例）。
• 各時刻で独立に $\mathrm N(0,t^2)$ に従う値をとる過程。

2つはどの時刻でも同じ分布を持つが、見本路の形はまったく異なる。そこで、有限個の時刻での値を同時に見る。

有限次元分布の族は、次の2つの両立条件を自動的に満たす。

1. (i) 並べ替え。$(t_1,\dots,t_n)$ を置換 $\sigma$ で並べ替えると、分布も座標を同じように並べ替えたものになる。
2. (ii) 周辺化。時刻を1つ増やしてから、その座標について全体を積分すると元に戻る。

$$\mu_{t_1\cdots t_n t_{n+1}}(B\times\mathbb{R})=\mu_{t_1\cdots t_n}(B)$$

(ii) は次の事象の等式から明らかである。

$$\{(X_{t_1},\dots,X_{t_n})\in B\}=\{(X_{t_1},\dots,X_{t_{n+1}})\in B\times\mathbb{R}\}$$

逆に、両立条件を満たす分布の族が与えられたとき、それを有限次元分布に持つ過程が存在するかが問題になる。これに答えるのが次の定理である。

証明の筋を述べる。

1. 筒集合。有限個の時刻での値だけで決まる次の形の集合を、筒集合と呼ぶ。

$$C=\{\omega:(\omega(t_1),\dots,\omega(t_n))\in B\}$$

筒集合の全体は有限加法族をなし、$\mathcal F$ を生成する。2. 値の割り当て。筒集合に $P(C)=\mu_{t_1\cdots t_n}(B)$ と値を割り当てる。同じ筒集合を別の時刻の組で表しても、両立条件により値は変わらない。3. 拡張。この $P$ が筒集合の上で可算加法的であることを示せばよい。そうすれば第2章 §2.2 の Carathéodory の拡張定理から、$\mathcal F$ 上の確率測度に延びる。一意性は第2章 §2.3 の Dynkin の定理から従う。

可算加法性の証明には、$\mathbb{R}^n$ 上の確率測度がコンパクト集合で内側から近似できること（内部正則性）を使う。完全な証明は測度論の本に譲る。

離散時間の過程では拡張定理を使わずに済むことが多い。独立同分布の列は第4章 §4.2 で $[0,1)$ 上に具体的に作った。§14.4 のマルコフ連鎖も、独立な一様乱数の列から具体的に作る。

フィルトレーションと適合

時刻が進むにつれて、観測者が知っている情報は増えていく。第1章と第3章で見たように、σ加法族は「その事象が起きたかどうかを判定できる事象の全体」と読むことができる。この読み方を時刻ごとに使う。

$\mathcal F_t$ の元は「時刻 $t$ までの観測で、起きたかどうかが判定できる事象」である。包含 $\mathcal F_s\subset\mathcal F_t$ は、一度得た情報は失われないことを表す。ランダムウォークでは次のようになる（確認テスト 14.1-3）。

$$\mathcal F^S_n=\sigma(S_0,\dots,S_n)=\sigma(\xi_1,\dots,\xi_n)$$

この σ加法族の元は、最初の $n$ 回の硬貨の結果だけで決まる事象の全体である。

停止時刻

第7章 §7.4 の Wald の等式では、次の性質をもつ回数 $N$ が現れた。

• $n$ 回目を行うかどうかが、$n-1$ 回目までの結果だけで決まる。

これをフィルトレーションの言葉で定める。

(14.2) は「時刻 $n$ の時点で、もう止まったかどうかを、そこまでの情報だけで判定できる」ことを述べている。離散時間では、(14.2) は

$$\{\tau=n\}\in\mathcal F_n\qquad(n=0,1,2,\dots)\tag{14.3}$$

と同値である。両向きを確かめる。

• (14.2) を仮定すると、次の差の両方の項が $\mathcal F_n$ に入る（$\mathcal F_{n-1}\subset\mathcal F_n$）。

$$\{\tau=n\}=\{\tau\le n\}\setminus\{\tau\le n-1\}$$

• (14.3) を仮定すると、次の和の各項が $\mathcal F_k\subset\mathcal F_n$ に入る。

$$\{\tau\le n\}=\bigcup_{k=0}^n\{\tau=k\}$$

停止時刻の最も重要な例は、ある集合に初めて入る時刻である。

証明

$\tau_A$ については

$$\{\tau_A=n\}=\{X_0\notin A\}\cap\cdots\cap\{X_{n-1}\notin A\}\cap\{X_n\in A\}$$

である。時刻 $k\le n$ の値 $X_k$ は、その時刻の σ加法族について可測である。さらに $\mathcal F_k\subset\mathcal F_n$ なので、右辺の各事象は $\mathcal F_n$ に入る。

$T_A$ も、上の式の共通部分を時刻 1 から始めれば同じである。時刻 0 では $\{T_A=0\}=\emptyset$ である。(14.3) により、どちらも停止時刻である。

$T_A$ は時刻 0 を数えない到達時刻である。$X_0\in A$ のときは「いったん出てから戻ってくる時刻」になる。§14.5 と第15章では、1点 $A=\{j\}$ への到達時刻 $T_j=T_{\{j\}}$ を使う。

これに対し、「最後に $A$ にいた時刻」は一般に停止時刻ではない。最後かどうかは、その後の値を見なければ判定できないからである。例題 14.1 でこの違いを具体的に確かめる。

確認テスト

オリジナル

1. 14.1-1 例題 14.1 の $S_n$ と $\mathcal F_n$ について、次のうち停止時刻であるものをすべて選び、理由を1行ずつ述べよ。$\tau$ は例題の到達時刻である。

   1. (a) $\inf\{n\ge0:S_n=-3\}$
   2. (b) $\tau+2$
   3. (c) $\tau-1$（$\tau\ge1$ である。したがって値は $\mathbb{N}_0\cup\{\infty\}$ に入る）
   4. (d) $\min\{\tau,5\}$

2. 14.1-2 対称単純ランダムウォークについて、確率 $P(S_2=0,\ S_4=2)$ と共分散 $\mathrm{Cov}(S_2,S_4)$ を求めよ。

3. 14.1-3 ランダムウォーク $S_n=\xi_1+\cdots+\xi_n$ について、次を示せ。

$$\sigma(S_1,\dots,S_n)=\sigma(\xi_1,\dots,\xi_n)$$ 4. 14.1-4 $\tau,\sigma$ を同じフィルトレーション $(\mathcal F_n)$ の停止時刻とする。次の3つがどれも停止時刻であることを示せ。

$$\min\{\tau,\sigma\},\qquad\max\{\tau,\sigma\},\qquad\tau+\sigma$$ 5. 14.1-5 $U\sim\mathrm U(0,1)$ とし、$t\in[0,1]$ について次のように置く。

$$X_t=0,\qquad Y_t=\mathbf 1\{U=t\}$$

$X$ と $Y$ の有限次元分布が一致することを示せ。しかし $X$ の見本路はすべて連続で、$Y$ の見本路はすべて不連続であることも示せ。