変数変換

数理統計　第2章 §2.5　★★★ 分布関数法と単調変換の公式 $f_Y=f_X(g^{-1})\lvert \mathrm{d} g^{-1}/\mathrm{d} y\rvert$。台の変換と、単調でない変換の分け方まで

確率変数 $X$ の分布が分かっているとき、変換した $Y=g(X)$ の分布を求める。この操作は、統計量の分布（第5章）・枢軸量（第8章）・尤度の再母数化（第6章）のすべてに現れる。多変数の変換（ヤコビアン）は第4章で扱い、本節では1変数に限る。

離散型の変換

$X$ が離散型なら $Y=g(X)$ も離散型で、

$$P(Y=y)=\sum_{k:\,g(x_k)=y}P(X=x_k)$$

である。変換が1対1なら右辺は1項だけで、そうでなければ同じ値に移る点の確率を足し合わせる（確認テスト 2.5-1）。

分布関数法

連続型の場合に、どんな変換にも使える基本の方法は、変換後の分布関数をもとの確率変数の確率に書き直すことである。

$$F_Y(y)=P(g(X)\le y)=P\bigl(X\in\{x:g(x)\le y\}\bigr)\tag{2.21}$$

右辺の集合を $x$ の区間として書き表し、もとの分布関数で確率を計算する。$F_Y$ が求まれば、微分して密度 $f_Y=F_Y'$ を得る。集合 $\{x:g(x)\le y\}$ を正しく書くことがすべてで、図を描いて確認するのが確実である（図 2.2）。

単調変換の公式

証明

増加の場合。事象 $g(X)\le y$ は $X\le g^{-1}(y)$ と同値である。よって $F_Y(y)=F_X(g^{-1}(y))$ で、微分すると連鎖律から

$$f_Y(y)=f_X(g^{-1}(y))\cdot\frac{\mathrm{d} }{\mathrm{d} y}g^{-1}(y)$$

となる。増加関数の逆関数の導関数は非負なので、絶対値を付けても同じである。

減少の場合。事象 $g(X)\le y$ は $X\ge g^{-1}(y)$ と同値なので

$$F_Y(y)=1-F_X(g^{-1}(y))$$

となる（連続型なので等号の有無は関係しない）。微分すると

$$f_Y(y)=-f_X(g^{-1}(y))\cdot\frac{\mathrm{d} }{\mathrm{d} y}g^{-1}(y)$$

で、今度は導関数が非正なので、これも絶対値の形に一致する。

絶対値の付いた微分係数は、幅 $\mathrm{d} x$ が幅 $\mathrm{d} y$ に伸び縮みする比率である。変換で保たれるのは確率

$$f_X(x)\lvert \mathrm{d} x\rvert =f_Y(y)\lvert \mathrm{d} y\rvert$$

だと読めば、式 (2.22) を覚え直す必要は無い。答案では次の4段を省かずに書く。

1. (i) 逆関数 $x=g^{-1}(y)$ を書く。
2. (ii) $\mathrm{d} x/\mathrm{d} y$ を計算する。
3. (iii) 代入して整理する。
4. (iv) 変換後の台を書く。

(iv) を落とすと、得た密度が規格化されているかを確かめることができなくなる。

位置と尺度の変換 $Y=a+bX$（$b\ne0$）では、逆関数と微分係数が

$$g^{-1}(y)=(y-a)/b,\qquad \mathrm{d} x/\mathrm{d} y=1/b$$

なので

$$f_Y(y)=\frac1{\lvert b\rvert }f_X\Bigl(\frac{y-a}b\Bigr)\tag{2.23}$$

である。$Z\sim\mathrm{N}(0,1)$ から、$X=\mu+\sigma Z$ の密度

$$\frac1{\sqrt{2\pi}\sigma}e^{-(x-\mu)^2/(2\sigma^2)}$$

が出るのはこの式による。1つの密度 $f$ から式 (2.23) で作られる分布の集まりを位置尺度族と呼ぶ。

単調でない変換

変換が単調でなくてもよい。台をいくつかの区間 $I_1,I_2,\dots$ に分け、各区間の上で狭義単調なら、各区間からの寄与を足して

$$f_Y(y)=\sum_{j:\,y\in g(I_j)}f_X\bigl(g_j^{-1}(y)\bigr)\Bigl|\frac{\mathrm{d} }{\mathrm{d} y}g_j^{-1}(y)\Bigr|\tag{2.24}$$

となる。$g_j^{-1}$ は、区間 $I_j$ に制限した変換の逆関数である。和は、その値に移る点が存在する区間についてだけ取る。

最も多く使うのは $Y=X^2$ である。台を $I_1=(-\infty,0)$ と $I_2=(0,\infty)$ に分ける。$y>0$ で逆関数は $\mp\sqrt y$ である。その微分の絶対値はどちらも $1/(2\sqrt y)$ なので

$$f_Y(y)=\frac{f_X(\sqrt y)+f_X(-\sqrt y)}{2\sqrt y}\qquad(y>0)\tag{2.25}$$

となる。分布関数法で書けば

$$F_Y(y)=P(-\sqrt y\le X\le\sqrt y)=F_X(\sqrt y)-F_X(-\sqrt y)$$

で、これを微分しても同じ式が出る。台が原点について対称でないときは、値の範囲によって逆像の個数が変わる。そのときは式 (2.24) の和の項数を場合分けする（確認テスト 2.5-2）。

期待値は変換後の分布を求めなくても計算できる

$E[g(X)]$ を求めるだけなら、式 (2.10) でもとの密度に対して積分すれば足り、変換後の密度を経由する必要は無い。単調な変換について両者が一致することは、$\int yf_Y(y)\,\mathrm{d} y$ に式 (2.22) を代入し、$y=g(x)$ と置換すれば確かめることができる。置換積分 $\mathrm{d} y=g'(x)\mathrm{d} x$ から出る因子と、式 (2.22) の微分係数 $1/\lvert g'(x)\rvert$ が打ち消し合うからである。答案で分布を問われていないなら、変換後の密度を求めずに直接積分する方が速い。

確認テスト

オリジナル

1. 2.5-1 $X\sim\mathrm{Bin}(3,1/2)$ のとき、$Y=(X-1)^2$ の確率関数を求めよ。

2. 2.5-2 確率変数が区間 $(-1,2)$ 上の一様分布に従うとき、$Y=X^2$ の密度を求め、積分が1になることを確かめよ。

3. 2.5-3 $X\sim\mathrm{Ex}(1)$、$Y=\sqrt X$ とする。$Y$ の密度を求めよ。期待値 $E[Y]$ を次の2通りで計算せよ。

   1. (a) $Y$ の密度から。
   2. (b) 式 (2.10) でもとの密度から。

4. 2.5-4 確率変数が区間 $(-\pi/2,\pi/2)$ 上の一様分布に従うとする。$Y=\tan X$ の密度が、コーシー分布の密度になることを示せ。

5. 2.5-5 $U\sim\mathrm{U}(0,1)$ のとき、$Y=-2\log U$ の分布を求めよ。どの $\chi^2$ 分布か答えよ。