確率関数と確率密度関数

数理統計　第2章 §2.2　★★ 規格化条件で定数を決め、密度を積分して確率と分布関数を出す。ハザード関数から分布を戻す操作も扱う

確率関数

確率関数は $p(x)\ge0$ と $\sum_kp(x_k)=1$ を満たす。逆に、この2条件を満たす関数は確率関数になる。分布関数とは次の式で互いに書き換えることができる。

$$F(x)=\sum_{x_k\le x}p(x_k),\qquad p(x_k)=F(x_k)-F(x_k-)$$

例えば成功確率 $p$ の試行を独立に繰り返し、初めて成功するまでの回数を $X$ とする。この回数は

$$P(X=k)=p(1-p)^{k-1}\qquad(k=1,2,\dots)\tag{2.4}$$

に従う。$k-1$ 回失敗したあと成功する確率なので、独立性から各回の確率の積になる。等比級数の和から

$$\sum_{k\ge1}p(1-p)^{k-1}=\frac{p}{1-(1-p)}=1$$

で、確率関数の条件を満たす。これを幾何分布と呼ぶ（失敗の回数 $X-1$ を幾何分布と呼ぶ流儀もあるので、答案では台を明記する）。

確率密度関数

密度は次の2条件を満たす。逆に、この2条件を満たす関数は密度になる。

$$f\ge0,\qquad \int_{-\infty}^\infty f(x)\,\mathrm{d} x=1$$

第2の条件を規格化条件と呼ぶ。密度が $f(x)=Cg(x)$ の形で与えられ、定数 $C$ が未知のときは、規格化条件から

$$C=1\Big/\int g(x)\,\mathrm{d} x$$

と決まる。1級ではこの計算が大問の最初の小問として繰り返し出る。

式 (2.5) から、$f$ が連続な点では微分積分学の基本定理により $F'(x)=f(x)$ である。区間の確率は

$$P(a<X\le b)=F(b)-F(a)=\int_a^bf(x)\,\mathrm{d} x$$

である。分布関数は連続なので1点の確率は0で、区間の端を含むかどうかで確率は変わらない。

密度の値 $f(x)$ 自体は確率ではなく、1を超えることもある。これは「点 $x$ の近くの短い区間に入る確率が、およそ密度×区間の長さ」という意味の確率の密度で、次のように読む。

$$P(x<X\le x+h)=f(x)h+o(h)$$

密度は分布によって一意には決まらない。有限個の点で値を変えても積分は変わらないからである。このため「密度が $x=0$ で何の値か」を問う意味は無い。答案では台の内部で密度を書き、台の外を0とすれば十分である。

ハザード関数

寿命の分布を表すとき、密度の代わりに次の関数を使うことがある。

ハザード関数は「時刻 $x$ まで生き残った条件の下で、直後の短い時間 $\Delta$ に故障する確率」を、その時間で割った極限である。実際、

$$P(x<X\le x+\Delta\mid X>x)=\frac{F(x+\Delta)-F(x)}{\bar F(x)}=\frac{f(x)\Delta+o(\Delta)}{\bar F(x)}$$

である。$\bar F'(x)=-f(x)$ なので

$$h(x)=-\frac{\mathrm{d} }{\mathrm{d} x}\log\bar F(x)$$

である。両辺を0から $x$ まで積分し、$\bar F(0)=1$ を使うと

$$\bar F(x)=\exp\Bigl(-\int_0^xh(t)\,\mathrm{d} t\Bigr)\tag{2.7}$$

を得る。ハザード関数から分布関数が戻るので、ハザード関数も分布を1つに決める。

ハザードが定数 $\lambda$ のとき、式 (2.7) から $\bar F(x)=e^{-\lambda x}$ である。つまり $X\sim\mathrm{Ex}(\lambda)$ である。このとき $s,t>0$ について

$$P(X>s+t\mid X>s)=\frac{e^{-\lambda(s+t)}}{e^{-\lambda s}}=e^{-\lambda t}=P(X>t)\tag{2.8}$$

が成り立つ。すでに $s$ だけ生き残ったという条件を付けても、その後の寿命の分布は変わらない。この性質を無記憶性と呼ぶ。

逆に、連続型で無記憶性を持つ分布は指数分布だけである。$g(t)=\bar F(t)$ とおくと、無記憶性は

$$g(s+t)=g(s)g(t)$$

と書ける。生存関数が単調で $0<g<1$ なら、この関数方程式の解は $g(t)=e^{-\lambda t}$ の形に限られるからである。離散型では幾何分布 (2.4) が同じ性質を持つ（確認テスト 2.2-4）。

確認テスト

オリジナル

1. 2.2-1 $p(k)=c/\{k(k+1)\}$（$k=1,2,\dots$）が確率関数になるように、定数を定めよ。
2. 2.2-2 密度 $f(x)=C/(1+x)^3$（$x>0$）について、定数・分布関数・中央値を求めよ。
3. 2.2-3 寿命 $X\ge0$ のハザード関数が $h(x)=2x$ である。分布関数と密度を求め、$P(X>1)$ と $P(X>2\mid X>1)$ を計算せよ。無記憶性は成り立つか。
4. 2.2-4 幾何分布 (2.4) について、正の整数 $m,n$ に対し次を示せ。

$$P(X>m+n\mid X>m)=P(X>n)$$