複合分布（ランダム和・Wald の等式）

事象 $\{N=n\}$ たちは互いに素で、和は全体 $\Omega$ である。可算加法性により

$$P(S_N\in B)=\sum_nP(N=n,\ S_N\in B)=\sum_nP(N=n,\ S_n\in B).$$

$\{S_n\in B\}$ は $\sigma(X_1,\dots,X_n)$ の元である。したがって $\{N=n\}$ と独立である。したがって

$$P(N=n,\ S_n\in B)=p_nP(S_n\in B)$$

である。$S_n$ の分布は定理 7.9 により $\mu^{*n}$ である。

(7.23) を繰り返し使うと $G_{S_n}(s)=G_X(s)^n$ である（$n=0$ では1）。(7.21) を $B=\{k\}$ に使い、$s^k$ を掛けて足す。二重級数の各項の絶対値は $p_nP(S_n=k)\left\vert s\right\vert ^k\le p_nP(S_n=k)$ で、その総和は1である。したがって和の順序を入れ替えてよく、

$$G_{S_N}(s)=\sum_kP(S_N=k)s^k=\sum_np_n\sum_kP(S_n=k)s^k=\sum_np_n\,G_X(s)^n=G_N\bigl(G_X(s)\bigr).$$

最後の等号は、$\left\vert G_X(s)\right\vert \le1$ なので定義 (7.22) にそのまま代入してよいことによる。Poisson 分布については

$$G_N(s)=\sum_k\mathrm{e}^{-\lambda}\frac{\lambda^k}{k!}s^k=\mathrm{e}^{-\lambda}\mathrm{e}^{\lambda s}$$

である。

$m=E[X_1]$、$v=V[X_1]$ と置く。まず、非負の $\left\vert S_N\right\vert$ に (7.20) を使う。単調収束定理（第5章 §5.2）で和と期待値を入れ替え、$\mathbf 1\{N=n\}$ と $S_n$ の独立性で積に分けると

$$E\left\vert S_N\right\vert =\sum_nE\bigl[\mathbf 1\{N=n\}\left\vert S_n\right\vert \bigr]=\sum_np_nE\left\vert S_n\right\vert \le\sum_np_n\,nE\left\vert X_1\right\vert =E[N]\,E\left\vert X_1\right\vert <\infty.$$

これで $S_N$ が可積分であることが分かった。部分和について次が成り立つ。

$$\Bigl|\sum_{n\le M}\mathbf 1\{N=n\}S_n\Bigr|\le\left\vert S_N\right\vert$$

したがって、優収束定理により同じ入れ替えが $S_N$ そのものでも許され、

$$E[S_N]=\sum_np_nE[S_n]=\sum_np_n\,nm=E[N]\,m.$$

2乗についても同様である（$S_N^2=\sum_n\mathbf 1\{N=n\}S_n^2$ は非負）。独立な和の分散は分散の和なので（第5章 §5.4）、

$$E[S_n^2]=V[S_n]+(E[S_n])^2=nv+n^2m^2.$$

これを使って

$$E[S_N^2]=\sum_np_n\bigl(nv+n^2m^2\bigr)=E[N]\,v+E[N^2]\,m^2.$$

したがって

$$V[S_N]=E[N]v+E[N^2]m^2-(E[N]m)^2=E[N]v+V[N]m^2$$

である。Poisson 分布では $E[N]=V[N]=\lambda$ なので、分散は $\lambda v+\lambda m^2=\lambda E[X_1^2]$ となる。

$E[N]<\infty$ から $P(N<\infty)=1$ である。したがって $S_N$ はほとんど確実に定義される。各 $\omega$ で、和の第 $n$ 項は、その番号が回数以下のときだけ現れる。したがって

$$S_N=\sum_{n=1}^\infty X_n\,\mathbf 1\{N\ge n\}$$

と書ける。$N(\omega)$ が有限なので、右辺は各点で有限和である。まず絶対値を考える。単調収束定理と、$\mathbf 1\{N\ge n\}$ と $\left\vert X_n\right\vert$ の独立性（第5章 §5.4）から

$$E\Bigl[\sum_{n=1}^\infty\left\vert X_n\right\vert \mathbf 1\{N\ge n\}\Bigr]=\sum_{n=1}^\infty E\left\vert X_n\right\vert \,P(N\ge n)=E\left\vert X_1\right\vert \sum_{n=1}^\infty P(N\ge n).$$

ここで次の等式の期待値をとる（$N=k$ なら右辺は最初の $k$ 項が1）。

$$N=\sum_{n\ge1}\mathbf 1\{N\ge n\}$$

単調収束定理から $\sum_{n\ge1}P(N\ge n)=E[N]$ である。したがって上の量は $E\left\vert X_1\right\vert E[N]<\infty$ である。

よって部分和 $\sum_{n\le M}X_n\mathbf 1\{N\ge n\}$ は、可積分な関数 $\sum_n\left\vert X_n\right\vert \mathbf 1\{N\ge n\}$ で抑えられる。優収束定理により和と期待値を入れ替えて

$$E[S_N]=\sum_{n=1}^\infty E[X_n]\,P(N\ge n)=E[X_1]\,E[N].$$