分布のあいだの関係

$k$ を固定し、$n\ge k$ とする。左辺を

$$\binom nkp_n^k(1-p_n)^{n-k}=\frac{n(n-1)\cdots(n-k+1)}{n^k}\cdot\frac{(np_n)^k}{k!}\cdot(1-p_n)^n\cdot(1-p_n)^{-k}$$

と4つの因子に分ける。

• 1つ目は $\prod_{j=0}^{k-1}(1-j/n)\to1$。
• 2つ目は $\lambda^k/k!$ に近づく。
• 4つ目は、$p_n\to0$ なので 1 に近づく。

3つ目を調べる。$|t|\le\frac12$ で $|\log(1-t)+t|\le t^2$ が成り立つ。実際、Taylor 展開 $\log(1-t)=-t-\frac{t^2}2-\frac{t^3}{3}-\cdots$ の剰余を等比級数で抑えると、$\frac{t^2}{2}\cdot\frac{1}{1-|t|}\le t^2$ となる。十分大きい番号で $p_n\le\frac12$ なので

$$\bigl|n\log(1-p_n)+np_n\bigr|\le np_n^2=\frac{(np_n)^2}{n}\to0$$

となる。よって $n\log(1-p_n)\to-\lambda$、すなわち $(1-p_n)^n\to\mathrm{e}^{-\lambda}$ である。4つの因子の極限を掛ければ (6.30) を得る。

独立な一様乱数 $U_1,\dots,U_n\sim\mathrm U(0,1)$ を用意する（第4章 §4.2 の独立列の構成）。各番号について、$X_i'$ と $Y_i$ を同じ一様乱数から作る。

$$X_i'=\begin{cases}0&(U_i\le1-p_i)\\1&(U_i>1-p_i)\end{cases},\qquad Y_i=\begin{cases}0&(U_i\le\mathrm{e}^{-p_i})\\1&(\mathrm{e}^{-p_i}<U_i\le\mathrm{e}^{-p_i}(1+p_i))\\\text{$\mathrm{Po}(p_i)$ の逆変換法で2以上の値}&(U_i>\mathrm{e}^{-p_i}(1+p_i))\end{cases}$$

これは第3章 §3.5 の逆変換法そのものなので、$X_i'\sim\mathrm{Ber}(p_i)$、$Y_i\sim\mathrm{Po}(p_i)$ である。$1-p_i\le\mathrm{e}^{-p_i}$ に注意すると、$X_i'\ne Y_i$ となるのは次の2つの場合だけである。

$$1-p_i<U_i\le\mathrm{e}^{-p_i}\quad(X_i'=1,\ Y_i=0),\qquad U_i>\mathrm{e}^{-p_i}(1+p_i)\quad(X_i'=1,\ Y_i\ge2)$$

よって

$$P(X_i'\ne Y_i)=\bigl(\mathrm{e}^{-p_i}-(1-p_i)\bigr)+\bigl(1-\mathrm{e}^{-p_i}(1+p_i)\bigr)=p_i(1-\mathrm{e}^{-p_i})\le p_i^2$$

である（最後に $1-\mathrm{e}^{-t}\le t$ を使った）。

• $S'=\sum_iX_i'$ は、$S$ と同じ分布を持つ。
• $T=\sum_iY_i$ は、下の命題 6.23 から $\mathrm{Po}(\lambda)$ に従う。

$S'\ne T$ なら、どこかの番号で $X_i'\ne Y_i$ である。補題 6.21 と劣加法性から

$$d_{\mathrm{TV}}(P_S,\mathrm{Po}(\lambda))\le P(S'\ne T)\le\sum_iP(X_i'\ne Y_i)\le\sum_ip_i^2$$

を得る。

(6.28) と二項定理から、$n\ge0$ について

$$P(X+Y=n)=\sum_{k=0}^n\mathrm{e}^{-\lambda}\frac{\lambda^k}{k!}\mathrm{e}^{-\mu}\frac{\mu^{n-k}}{(n-k)!}=\frac{\mathrm{e}^{-(\lambda+\mu)}}{n!}\sum_{k=0}^n\binom nk\lambda^k\mu^{n-k}=\mathrm{e}^{-(\lambda+\mu)}\frac{(\lambda+\mu)^n}{n!}.$$

(6.29) で、被積分関数が 0 でないのは $0<x<u$ のときだけである。よって $u>0$ について

$$f_{X+Y}(u)=\int_0^u\frac{\lambda^\alpha x^{\alpha-1}\mathrm{e}^{-\lambda x}}{\Gamma(\alpha)}\cdot\frac{\lambda^\beta(u-x)^{\beta-1}\mathrm{e}^{-\lambda(u-x)}}{\Gamma(\beta)}\,\mathrm{d} x =\frac{\lambda^{\alpha+\beta}\mathrm{e}^{-\lambda u}}{\Gamma(\alpha)\Gamma(\beta)}\int_0^ux^{\alpha-1}(u-x)^{\beta-1}\,\mathrm{d} x$$

である。指数関数の部分で $\mathrm{e}^{-\lambda x}\mathrm{e}^{-\lambda(u-x)}=\mathrm{e}^{-\lambda u}$ となり、積分変数が消えたことが要点である。残りの積分は、$x=ut$ と置換すると $u^{\alpha+\beta-1}\mathrm B(\alpha,\beta)$ になる。命題 6.15 から

$$f_{X+Y}(u)=\frac{\lambda^{\alpha+\beta}}{\Gamma(\alpha)\Gamma(\beta)}\cdot\frac{\Gamma(\alpha)\Gamma(\beta)}{\Gamma(\alpha+\beta)}u^{\alpha+\beta-1}\mathrm{e}^{-\lambda u}=\frac{\lambda^{\alpha+\beta}}{\Gamma(\alpha+\beta)}u^{\alpha+\beta-1}\mathrm{e}^{-\lambda u}$$

となる。$u\le0$ では $f_{X+Y}(u)=0$ である。

後半は、$\mathrm{Ex}(\lambda)=\mathrm{Ga}(1,\lambda)$ と、個数についての帰納法から従う。和 $X_1+\dots+X_{n-1}$ と $X_n$ の独立性は、第4章 §4.2 のまとめ方の補題から出る。

右辺を $h(t)$ と置いて微分する。次の2種類の項が、隣どうしで打ち消し合う。

• $k\ge1$ の項の、べきの部分の微分 $\mathrm{e}^{-\lambda t}\lambda(\lambda t)^{k-1}/(k-1)!$。
• 各項の指数関数の部分の微分 $-\lambda\mathrm{e}^{-\lambda t}(\lambda t)^k/k!$。

その結果

$$h'(t)=-\lambda\mathrm{e}^{-\lambda t}\frac{(\lambda t)^{n-1}}{(n-1)!}=-\frac{\lambda^n}{\Gamma(n)}t^{n-1}\mathrm{e}^{-\lambda t}$$

が残る。これは $\mathrm{Ga}(n,\lambda)$ の密度の $-1$ 倍である。$t\to\infty$ で $h(t)\to0$ だから、

$$h(t)=\int_t^\infty(-h'(s))\,\mathrm{d} s=P(T>t)$$

である。

命題 6.12 から $X-\mu_1\sim\mathrm N(0,\sigma_1^2)$、$Y-\mu_2\sim\mathrm N(0,\sigma_2^2)$ である。よって平均が 0 の場合を示して、最後に $\mu_1+\mu_2$ だけずらせばよい。$s^2=\sigma_1^2+\sigma_2^2$ と置く。(6.29) の被積分関数の指数部分を、積分変数について平方完成すると

$$\frac{x^2}{\sigma_1^2}+\frac{(u-x)^2}{\sigma_2^2}=\frac{s^2}{\sigma_1^2\sigma_2^2}\Bigl(x-\frac{\sigma_1^2}{s^2}u\Bigr)^2+\frac{u^2}{s^2}\tag{6.33}$$

となる。右辺を展開すると、次の3つが左辺と一致する。

• 2次の係数：$s^2/(\sigma_1^2\sigma_2^2)=1/\sigma_1^2+1/\sigma_2^2$。
• 1次の係数：$-2u/\sigma_2^2$。
• 定数項：$\sigma_1^2u^2/(s^2\sigma_2^2)+u^2/s^2=u^2/\sigma_2^2$。

$\tau^2=\sigma_1^2\sigma_2^2/s^2$ と置く。積分は、分散 $\tau^2$ の正規分布の密度の正規化から $\sqrt{2\pi}\tau$ になるので

$$f_{X+Y}(u)=\frac{1}{2\pi\sigma_1\sigma_2}\mathrm{e}^{-u^2/(2s^2)}\int_{\mathbb{R}}\exp\Bigl(-\frac{(x-\sigma_1^2u/s^2)^2}{2\tau^2}\Bigr)\mathrm{d} x=\frac{\sqrt{2\pi}\,\tau}{2\pi\sigma_1\sigma_2}\mathrm{e}^{-u^2/(2s^2)}=\frac{1}{\sqrt{2\pi}\,s}\mathrm{e}^{-u^2/(2s^2)}$$

となり、$X+Y\sim\mathrm N(0,s^2)$ である。

後半を示す。$a_i\ne0$ の項について、命題 6.12 から $a_iX_i\sim\mathrm N(a_i\mu_i,a_i^2\sigma_i^2)$ である。これらは独立だから（第4章のまとめ方の補題）、前半を繰り返し使えばよい。係数が 0 の項は和に寄与しない。