分布の分類

確率論入門　第3章 §3.4　★★ 分布は離散・絶対連続・特異連続の3種の混合に一意に分かれる。特異連続の代表は Cantor 分布

離散分布と絶対連続分布

分布関数の形から、分布を3つの基本型に分ける。以下、区間の長さを測る Lebesgue 測度を $\mathrm{Leb}$ と書く。

離散分布の確率はすべて確率関数から計算できる。σ加法性から、$B\in\mathcal B(\mathbb{R})$ について

$$P(X\in B)=P\bigl(X\in B\cap D\bigr)=\sum_{x\in B\cap D}p(x),\qquad F(x)=\sum_{y\in D,\ y\le x}p(y)$$

となる。分布関数は原子のところで跳ぶだけの階段状の関数である。

二項分布 $\mathrm{Bin}(n,p)$ や Poisson 分布 $\mathrm{Po}(\lambda)$ はこの型であり、第6章で詳しく扱う。原子の集合 $D$ は、有理数全体のように稠密でもよい。その場合の $F$ は、「階段」の段がいたるところに詰まった関数になる。

積分は第5章で Lebesgue 積分として整える。この章の例では $f$ が区分的に連続なので、Riemann 積分（必要なら広義積分）で計算できる。(3.13) は半直線での確率を決めているだけだが、定理 3.12 の一意性から、すべての Borel 集合 $B$ について

$$P(X\in B)=\int_B f(t)\,\mathrm{d} t\tag{3.14}$$

が従う。右辺も $B$ の関数として $\mathbb{R}$ 上の確率測度であり、2つの確率測度が半直線の上で一致するからである。

密度について知っておくべき事実を3つ挙げる。

1. 密度は一意ではない。$f$ を Lebesgue 測度 0 の集合（有限個の点など）の上で変えても、積分 (3.13) は変わらない。
2. 連続点では $F'=f$ である。密度が点 $x$ で連続なら、微分積分学の基本定理からその点で $F'(x)=f(x)$ である。より一般に、$F'=f$ はほとんどすべての点で成り立つ。つまり Lebesgue 測度 0 の集合を除いて成り立つ（Lebesgue の微分定理。証明は測度論の本に譲る）。
3. 絶対連続分布には原子がない。実際 (3.14) で $B=\{x\}$ とする。1点の Lebesgue 測度は 0 なので、$P(X=x)=0$ となる。

絶対連続という名前は、次の同値な条件に由来する。$P_X$ が密度をもつことと、

$$\mathrm{Leb}(N)=0\ \Rightarrow\ P_X(N)=0\qquad(N\in\mathcal B(\mathbb{R}))\tag{3.15}$$

が成り立つことは同値である（Radon–Nikodym の定理。$\Rightarrow$ は (3.14) から従い、$\Leftarrow$ の証明は測度論の本に譲る）。(3.15) を「$P_X$ は Lebesgue 測度に関して絶対連続である」と言う。

特異連続分布と Cantor 分布

原子がない（$F$ が連続）なら密度があると考えたくなるが、これは正しくない。

特異連続分布は、各点には確率をもたないのに、長さ 0 の集合に確率 1 が集中している。このとき $F$ は連続だが、ほとんどすべての点で $F'=0$ であり、(3.13) のような積分で書くことはできない。もし密度 $f$ があれば、(3.14) から次が出て、$P(X\in N)=1$ に反するからである。

$$P(X\in N)=\int_N f=0$$

代表例を構成する。$\xi_1,\xi_2,\dots$ を、それぞれ確率 $\frac12$ ずつで 0 か 1 をとる独立な確率変数の列とする（独立性の定義は第4章で与える。ここでは「最初の $n$ 個がどの 0, 1 の列になる確率も $2^{-n}$」という性質だけを使う）。

$$X\coloneqq\sum_{k=1}^\infty\frac{2\xi_k}{3^k}\tag{3.16}$$

とおく。$X$ は、3進展開の各桁が 0 か 2 で、桁ごとに公平な硬貨で決めた数である。級数は $\sum 2/3^k=1$ で抑えられるので収束し、$X\in[0,1]$ である。$X$ の分布を Cantor 分布、その分布関数 $F_{\mathrm C}$ を Cantor 関数と呼ぶ。

証明

(a) 最初の $n$ 桁 $(\xi_1,\dots,\xi_n)$ を固定する。このとき $X$ のとりうる値は区間

$$I(\xi_1,\dots,\xi_n)=\Bigl[s_n,\ s_n+3^{-n}\Bigr],\qquad s_n=\sum_{k=1}^n\frac{2\xi_k}{3^k}\tag{3.17}$$

に入る。残りの桁の寄与が 0 以上 $\sum_{k>n}2/3^k=3^{-n}$ 以下だからである。

異なる $(\xi_1,\dots,\xi_n)$ に対応する区間どうしは、端点を除いて重ならない。最初に食い違う第 $k$ 桁では、一方が 0、他方が 2 である。よって両者の $s_n$ はその桁で $2\cdot3^{-k}$ 以上離れ、残りの寄与ではこの差を埋められない。したがって、点 $x$ が入りうる区間は各 $n$ で高々2個であり、

$$P(X=x)\le P\bigl(X\ \text{が}\ x\ \text{を含む区間に入る}\bigr)\le 2\cdot 2^{-n}\xrightarrow[n\to\infty]{}0$$

となる。$P(X=x)=0$ と (3.11) から $F_{\mathrm C}$ は連続である。

(b) (3.17) の区間を $(\xi_1,\dots,\xi_n)$ のすべての選び方について集める。それがちょうど $C_n$ を作る $2^n$ 個の閉区間である。3進展開の言葉で言えば、第 $k$ 段で取り除く中央の区間は「第 $k$ 桁が 1」の数に対応する。

$X$ は必ずどれか1つの区間に入るので $P(X\in C_n)=1$ である。長さは $\mathrm{Leb}(C_n)=2^n\cdot3^{-n}=(2/3)^n$ である。

(c) $C_n$ は減少列なので、連続性 (3.1) から次が成り立つ。

$$P(X\in C)=\lim_{n\to\infty} P(X\in C_n)=1$$

包含 $C\subset C_n$ より、すべての $n$ で次が成り立つ。

$$\mathrm{Leb}(C)\le(2/3)^n$$よって $\mathrm{Leb}(C)=0$ である。(a) と合わせて定義 3.15 の条件が成り立つ。

Cantor 関数の値は、3進展開と2進展開の対応で具体的に計算できる。$x=\sum_k 2b_k/3^k$（各 $b_k\in\{0,1\}$）と書ける点では

$$F_{\mathrm C}\Bigl(\sum_{k=1}^\infty\frac{2b_k}{3^k}\Bigr)=\sum_{k=1}^\infty\frac{b_k}{2^k}\tag{3.18}$$

が成り立つ。理由は次の3点である。

1. $X\le x$ となるのは、硬貨の列が数列 $(b_k)$ と辞書式の順で等しいか小さいときである。3進の桁が 0 と 2 だけなので、桁の大小がそのまま数の大小になる。
2. 一方、$U\coloneqq\sum_k\xi_k/2^k$ は一様分布 $\mathrm U(0,1)$ に従う。どの2進区間 $[j2^{-n},(j+1)2^{-n})$ にも確率 $2^{-n}$ で入るので、定理 3.12 の一意性から従う。同じ辞書式の比較は、$U\le\sum_k b_k/2^k$ と同値である。
3. 2進展開が2通りある点は可算個しかなく、確率 0 なので計算に影響しない。

Lebesgue 分解

3種の型はすべての分布の部品になっている。

証明（離散部分は完全に、連続部分は筋だけ）

離散部分の分離。命題 3.11 により、$F$ の跳びの点の集合 $J$ は高々可算である。跳びの大きさを $p(x)=F(x)-F(x-)$ とし、

$$G_{\mathrm d}(x)\coloneqq\sum_{y\in J,\ y\le x}p(y),\qquad \alpha_{\mathrm d}\coloneqq\sum_{y\in J}p(y)$$

とおく。跳びの点の有限個 $y_1<\dots<y_k$ をとると、事象 $\{X=y_i\}$ は互いに素である。よって $\sum p(y_i)\le 1$ であり、したがって $\alpha_{\mathrm d}\le1$ である。

残りを $G_{\mathrm c}\coloneqq F-G_{\mathrm d}$ とおく。$x<y$ のとき、区間 $(x,y]$ にある原子の確率の和は、その区間の確率を超えない。よって

$$G_{\mathrm c}(y)-G_{\mathrm c}(x)=\bigl(F(y)-F(x)\bigr)-\sum_{z\in J,\ x<z\le y}p(z)\ge0$$

となり、$G_{\mathrm c}$ は非減少である。

$G_{\mathrm d}$ は右連続である。$h\downarrow0$ のとき、次の増分は区間 $(x,x+h]$ にある跳びの和である。

$$G_{\mathrm d}(x+h)-G_{\mathrm d}(x)$$

これは収束級数のうち $h$ とともに減っていく部分の和なので、0 に近づく。また、各点での $G_{\mathrm d}$ の跳びはちょうど $p(x)$ である。したがって $G_{\mathrm c}$ は右連続で、どの点でも跳びが $p(x)-p(x)=0$ となり、連続である。$\alpha_{\mathrm d}>0$ なら、$F_{\mathrm d}=G_{\mathrm d}/\alpha_{\mathrm d}$ は離散な分布関数である。

連続部分の分離（筋）。連続で非減少な $G_{\mathrm c}$ は、Lebesgue の微分定理によってほとんどすべての点で微分可能である。そこで次のようにおく。

$$G_{\mathrm{ac}}(x)\coloneqq\int_{-\infty}^x G_{\mathrm c}'(t)\,\mathrm{d} t,\qquad G_{\mathrm{sc}}\coloneqq G_{\mathrm c}-G_{\mathrm{ac}}$$

すると $G_{\mathrm{sc}}$ は非減少・連続で、ほとんどすべての点で導関数が 0 になる。後者が Lebesgue 測度 0 の集合に集中することは、測度の Lebesgue 分解（Radon–Nikodym の定理と同じ議論）から従う。

それぞれを全体の重さで割れば $F_{\mathrm{ac}}$、$F_{\mathrm{sc}}$ を得る。一意性は、原子の集合・密度・Lebesgue 測度 0 の台がそれぞれの成分から決まることによる。完全な証明は測度論の本に譲る。

物理や工学で現れる分布は、ほとんどが離散と絶対連続の混合（$\alpha_{\mathrm{sc}}=0$）である。特異連続成分は、自己相似な構造（フラクタル）の上に重さが乗る場合に現れる。

確認テスト

オリジナル

1. 3.4-1 次の確率変数の分布が、離散・絶対連続・特異連続・それらの混合のどれに当たるかを答えよ。混合なら係数 $\alpha_{\mathrm d},\alpha_{\mathrm{ac}},\alpha_{\mathrm{sc}}$ も答えよ。

   • (a) $\mathrm{Po}(\lambda)$ に従う $N$。
   • (b) $U\sim\mathrm U(0,1)$ に対する $\min(U,\frac12)$。
   • (c) $U\sim\mathrm U(0,1)$ に対する $U^2$。

2. 3.4-2 信号は赤60秒・青40秒の周期100秒で切り替わる。周期の中の一様にランダムな時刻に交差点に着いたときの待ち時間を $W$ 秒とする（青なら $W=0$、赤なら青になるまで待つ）。$W$ の分布関数を求め、Lebesgue 分解の係数を答えよ。また $P(W>30)$ を求めよ。

3. 3.4-3 Cantor 分布に従う $X$ について、次の3つを求めよ。

$$P(X\le\tfrac19),\qquad P(X\le\tfrac29),\qquad P(X\le\tfrac1{10}).$$ 4. 3.4-4 確率変数 $X$ の密度が、ある定数で上から抑えられるとする（$0\le f\le M$）。次の不等式を示し、$F$ が連続で原子がないことを確かめよ。

$$\left\vert F(y)-F(x)\right\vert \le M\left\vert y-x\right\vert$$