確認テストの解答

確率論入門　第13章 §13.6

13.1 の解答

1. 13.1-1 $X_n\xrightarrow{d}X$ と仮定する。第11章の補題から $\{X_n\}$ は緊密である。したがって $\sup_nP(\left\vert X_n\right\vert >M)<\frac12$ となる $M$ がある。ところが $n\ge M$ では $P(\left\vert X_n\right\vert >M)=1-M/n\to1$ なので矛盾する。よって $X_n$ は分布収束しない。特性関数は各点で収束し、極限は $t=0$ で 1、$t\ne0$ で 0 である。この極限は $t=0$ で連続でないので、定理 13.7 (ii) の「$\varphi$ が 0 で連続」という仮定が満たされない。
2. 13.1-2 $\mathrm{Ga}(\alpha,\lambda)$ の特性関数は $(1-\mathrm{i} t/\lambda)^{-\alpha}$ である（第8章の表）。したがって $\varphi_{X_n}(t)=(1-\mathrm{i} t/n)^{-n}$ である。補題 13.9 で $c_n=c=-\mathrm{i} t$ とすると $(1-\mathrm{i} t/n)^n\to\mathrm{e}^{-\mathrm{i} t}$ なので

$$\varphi_{X_n}(t)=\frac{1}{(1-\mathrm{i} t/n)^n}\to\frac1{\mathrm{e}^{-\mathrm{i} t}}=\mathrm{e}^{\mathrm{i} t}$$

である（極限は 0 でないので逆数の極限は極限の逆数）。$\mathrm{e}^{\mathrm{i} t}$ は定数 1 の特性関数で連続なので、定理 13.7 から $X_n\xrightarrow{d}1$ である。極限が定数なので $X_n\xrightarrow{P}1$ である。これは次の値と Chebyshev の不等式からも確かめられる。

$$E[X_n]=1,\qquad V[X_n]=\frac n{n^2}=\frac1n\to0$$ 3. 13.1-3 $p=p_n$、$s=t/n$ と書く。幾何分布の特性関数は

$$E[\mathrm{e}^{\mathrm{i} sX_n}]=\sum_{k\ge1}p(1-p)^{k-1}\mathrm{e}^{\mathrm{i} sk}=\frac{p\mathrm{e}^{\mathrm{i} s}}{1-(1-p)\mathrm{e}^{\mathrm{i} s}}$$

である（公比の絶対値 $1-p<1$ の等比級数）。分子と分母を $n$ 倍すると

$$\varphi_{X_n/n}(t)=\frac{\lambda\mathrm{e}^{\mathrm{i} t/n}}{n(1-\mathrm{e}^{\mathrm{i} t/n})+\lambda\mathrm{e}^{\mathrm{i} t/n}}$$

である。$n\to\infty$ で次が成り立つ（関数 $\mathrm{e}^{\mathrm{i} x}$ の原点での微分係数が虚数単位であることを使う）。

$$n(1-\mathrm{e}^{\mathrm{i} t/n})\to-\mathrm{i} t,\qquad\mathrm{e}^{\mathrm{i} t/n}\to1,\qquad\varphi_{X_n/n}(t)\to\frac{\lambda}{\lambda-\mathrm{i} t}$$

極限は $\mathrm{Ex}(\lambda)$ の特性関数で連続なので、定理 13.7 から $X_n/n\xrightarrow{d}\mathrm{Ex}(\lambda)$ である。4. 13.1-4 独立性から $\varphi_{X_n+Y_n}(t)=\varphi_{X_n}(t)\varphi_{Y_n}(t)$ である。命題 13.1 から、各因子は $\varphi_X(t)$ と $\varphi_Y(t)$ に収束する。したがって積は $\varphi_X(t)\varphi_Y(t)$ に収束する。 $X',Y'$ は独立なので $\varphi_{X'+Y'}=\varphi_{X'}\varphi_{Y'}=\varphi_X\varphi_Y$ であり、これは特性関数なので連続である。定理 13.7 (ii) と一意性から $X_n+Y_n\xrightarrow{d}X'+Y'$ である。（$X',Y'$ は第4章の積測度で作ることができる。各 $n$ での独立性がないと、和の分布は同時分布によって変わり、結論は成り立たない。）

13.2 の解答

1. 13.2-1 $Z_n=(S_n-n\mu)/\sqrt n$ と置くと $Z_n\xrightarrow{d}\mathrm N(0,\sigma^2)$ である。

   • $a>\frac12$ のとき。$(S_n-n\mu)/n^a=n^{1/2-a}Z_n$ で、係数は $n^{1/2-a}\to0$ である。Slutsky の定理からこの量は 0 に分布収束し、極限が定数なので 0 に確率収束する。
   • $0<a<\frac12$ のとき。$\delta>0$ を任意にとる。$n$ が十分大きければ $Mn^{a-1/2}<\delta$ なので

$$P\Bigl(\frac{\left\vert S_n-n\mu\right\vert }{n^a}\le M\Bigr)=P\bigl(\left\vert Z_n\right\vert \le Mn^{a-1/2}\bigr)\le P(\left\vert Z_n\right\vert \le\delta)\to P(\left\vert \sigma Z\right\vert \le\delta)\le\frac{2\delta}{\sigma\sqrt{2\pi}}$$

である（$\pm\delta$ は正規分布の分布関数の連続点）。$\delta$ は任意なので、左辺は 0 に収束する。

拡大率 $\sqrt n$ が「ちょうどよい」唯一の冪である。2. 13.2-2 Poisson 分布の再生性（第9章 §9.3）から、$X$ は和 $Y_1+\cdots+Y_{100}$ と同じ分布をもつ。ここで $Y_k$ は独立な $\mathrm{Po}(1)$ である。$E[Y_k]=V[Y_k]=1$ なので中心極限定理が使える。$E[X]=100$、標準偏差は 10 である。連続補正をして

$$P(X\le110)\approx\Phi\Bigl(\frac{110.5-100}{10}\Bigr)=\Phi(1.05)\approx0.8531$$

となる。正確な値は約 0.8529 で、差は 0.0003 程度である（連続補正をしない $\Phi(1)\approx0.8413$ との差は約 0.012）。3. 13.2-3 各誤差は平均 0、分散 $\frac1{12}$ である。したがって48個の和 $E$ は平均 0、分散 $48/12=4$、標準偏差 2 である。正規近似で

$$P(\left\vert E\right\vert >3)\approx2\bigl(1-\Phi(1.5)\bigr)\approx0.1336$$

である。Chebyshev の不等式では $P(\left\vert E\right\vert \ge3)\le4/9\approx0.444$ で、上界としては正しいが、正規近似の約3.3倍の大きさである。4. 13.2-4 モーメントは次のとおりである。

$$E[X_k]=0,\qquad E[X_k^2]=\frac1{2k}\int_{-k}^kx^2\,\mathrm{d} x=\frac{k^2}3,\qquad E[X_k^4]=\frac{k^4}5$$

$$s_n^2=\frac13\sum_{k=1}^nk^2=\frac{n(n+1)(2n+1)}{18}\ge\frac{2n^3}{18}=\frac{n^3}9$$

なので $s_n^4\ge n^6/81$ であり、$\sum_{k\le n}E[X_k^4]=\frac15\sum k^4\le\frac{n\cdot n^4}5$ だから

$$\frac1{s_n^4}\sum_{k=1}^nE[X_k^4]\le\frac{n^5/5}{n^6/81}=\frac{81}{5n}\to0$$

である。Lyapunov の条件（$\delta=2$）が成り立つので、系 13.13 から $S_n/s_n\xrightarrow{d}\mathrm N(0,1)$ である。$n=100$ では

$$s_n^2=\frac{100\cdot101\cdot201}{18}\approx112783,\qquad s_n\approx335.8$$

である。5. 13.2-5 $\varepsilon >0$ を与える。 $s_n\to\infty$ なので、ある番号から先で $\varepsilon s_n>M$ となる。そのとき $\left\vert X_k-\mu_k\right\vert \le M<\varepsilon s_n$ がすべての $k$ で成り立つ。したがって事象 $\{\left\vert X_k-\mu_k\right\vert >\varepsilon s_n\}$ は空で、(13.10) の左辺は 0 である。よって左辺は 0 に収束する。

13.3 の解答

1. 13.3-1 各成分は $Z$ と $\pm Z$ である。$-Z\overset d=Z$ なので、どちらの成分も分布は番号によらず標準正規分布であり、成分ごとには分布収束する。$\bm t=(1,1)^\top$ をとると

$$\bm t^\top\bm X_n=Z+(-1)^nZ=\begin{cases}2Z&(n\text{ が偶数})\\0&(n\text{ が奇数})\end{cases}$$

である。偶数番目の部分列は $\mathrm N(0,4)$ に、奇数番目は定数 0 に収束するので、$\bm t^\top\bm X_n$ は分布収束しない。もし $\bm X_n$ が分布収束するなら、定理 13.15 の順向きから、$\bm t^\top\bm X_n$ も分布収束するはずである。これは矛盾である。2. 13.3-2 $E[U^k]=\frac1{k+1}$ を使うと

$$\begin{gathered} V[U]=\frac13-\frac14=\frac1{12},\qquad V[U^2]=\frac15-\frac19=\frac4{45},\\ \mathrm{Cov}(U,U^2)=E[U^3]-E[U]E[U^2]=\frac14-\frac16=\frac1{12} \end{gathered}$$

なので

$$\Sigma=\begin{pmatrix}1/12&1/12\\1/12&4/45\end{pmatrix}$$

である。相関係数は $\dfrac{1/12}{\sqrt{(1/12)(4/45)}}=\sqrt{\dfrac{45}{48}}=\dfrac{\sqrt{15}}4\approx0.968$ である。$\bm t=(-1,1)^\top$ について

$$\bm t^\top\Sigma\bm t=\frac1{12}-\frac2{12}+\frac4{45}=-\frac1{12}+\frac4{45}=\frac{1}{180}$$

なので、極限は $\mathrm N(0,\frac1{180})$ である（定理 13.16 と定理 13.15）。2つの平均が強く相関しているので、差の分散は個々の分散よりずっと小さい。3. 13.3-3 $\Sigma=\mathrm{diag}(\bm p)-\bm p\bm p^\top$ の成分は

$$\Sigma_{jj}=p_j(1-p_j),\qquad\Sigma_{ij}=-p_ip_j\quad(i\ne j)$$

なので

$$\Sigma=\begin{pmatrix}1/4&-1/6&-1/12\\-1/6&2/9&-1/18\\-1/12&-1/18&5/36\end{pmatrix}$$

である。行の和は

$$\frac14-\frac16-\frac1{12}=0,\qquad-\frac16+\frac29-\frac1{18}=0,\qquad-\frac1{12}-\frac1{18}+\frac5{36}=0$$

である。一般に $\sum_jp_i(\delta_{ij}-p_j)=p_i-p_i=0$ である（$\sum_jN_j=n$ の拘束）。$\bm t=(1,-1,0)^\top$ では

$$\bm t^\top\Sigma\bm t=\frac14+\frac29-2\cdot\Bigl(-\frac16\Bigr)=\frac{9+8+12}{36}=\frac{29}{36}$$

なので、極限は $\mathrm N(0,\frac{29}{36})$ である。4. 13.3-4 $\bm Z\sim\mathrm N_d(\bm0,\Sigma)$ とし、$\bm s\in\mathbb{R}^m$ を固定する。次のように書ける。

$$\bm s^\top(A\bm X_n+\bm b)=(A^\top\bm s)^\top\bm X_n+\bm s^\top\bm b$$

定理 13.15 の $\Rightarrow$ から $(A^\top\bm s)^\top\bm X_n\xrightarrow{d}(A^\top\bm s)^\top\bm Z$ である。定数 $\bm s^\top\bm b$ を足しても（連続写像）分布収束は保たれるので

$$\bm s^\top(A\bm X_n+\bm b)\xrightarrow{d}(A^\top\bm s)^\top\bm Z+\bm s^\top\bm b\sim\mathrm N\bigl(\bm s^\top\bm b,\ \bm s^\top A\Sigma A^\top\bm s\bigr)$$

である。$\bm V\sim\mathrm N_m(\bm b,A\Sigma A^\top)$ とすると、右辺は $\bm s^\top\bm V$ の分布に等しい。$\bm s$ は任意なので、定理 13.15 の逆向きから $A\bm X_n+\bm b\xrightarrow{d}\bm V$ である。

13.4 の解答

1. 13.4-1 $Z\sim\mathrm N(0,1)$ とする。中心極限定理から $\sqrt n\bar X_n\xrightarrow{d}\sigma Z$ である。

$g'(0)=0$ なので、定理 13.19 から $\sqrt n\,\bar X_n^2\xrightarrow{d}0$ である。

直接には、$\sqrt n\bar X_n^2=\bar X_n\cdot\sqrt n\bar X_n$ と Slutsky の定理から分かる。一方、次が成り立つ。

$$n\bar X_n^2=(\sqrt n\bar X_n)^2\xrightarrow{d}\sigma^2Z^2$$

これは命題 13.21（$g''=2$）の $\sigma^2\chi^2_1$ である。$\sigma^2Z^2$ の分布関数は連続なので

$$P(n\bar X_n^2\le3.84\sigma^2)\to P(Z^2\le3.84)=P(\left\vert Z\right\vert \le1.96)\approx0.95$$

である（$\sqrt{3.84}\approx1.96$）。2. 13.4-2 $E[X_1]=1/\lambda$、$V[X_1]=1/\lambda^2$ なので、中心極限定理から

$$\sqrt n\Bigl(\bar X_n-\frac1\lambda\Bigr)\xrightarrow{d}\mathrm N\Bigl(0,\frac1{\lambda^2}\Bigr)$$

である。2つの変換を順に見る。

• $g(x)=1/x$。$g'(1/\lambda)=-\lambda^2$ なので

$$\sqrt n(\hat\lambda_n-\lambda)\xrightarrow{d}\mathrm N\Bigl(0,\frac{\lambda^4}{\lambda^2}\Bigr)=\mathrm N(0,\lambda^2)$$

である。

• $g(x)=-\log x$（$\log\hat\lambda_n=-\log\bar X_n$）。$g'(1/\lambda)=-\lambda$ なので

$$\sqrt n(\log\hat\lambda_n-\log\lambda)\xrightarrow{d}\mathrm N(0,1)$$

で、分散が $\lambda$ によらない。

$n=100$、$\hat\lambda=2$ のときの区間は次のとおりである。

• 前者では分散の中の $\lambda$ を推定値で置き換えて（Slutsky の定理）、$2\pm1.96\cdot2/10=[1.608,\ 2.392]$ である。
• 後者では $\log2\pm1.96/10$ を指数で戻して、次の区間を得る。

$$[2\mathrm{e}^{-0.196},\ 2\mathrm{e}^{0.196}]\approx[1.644,\ 2.433]$$

後者は右に長く、$\hat\lambda$ のゆらぎが $\lambda$ に比例することを反映する。3. 13.4-3 $g(p)=\arcsin\sqrt p$ の微分は

$$g'(p)=\frac1{\sqrt{1-p}}\cdot\frac1{2\sqrt p}=\frac1{2\sqrt{p(1-p)}}$$

なので、デルタ法の分散は $g'(p)^2p(1-p)=\frac14$ である。したがって

$$\sqrt n\bigl(g(\hat p_n)-g(p)\bigr)\xrightarrow{d}\mathrm N\Bigl(0,\frac14\Bigr),\quad\text{すなわち}\quad2\sqrt n\bigl(g(\hat p_n)-g(p)\bigr)\xrightarrow{d}\mathrm N(0,1)$$

である。$n=100$、$\hat p=0.36$ とする。変換した値は $\arcsin0.6\approx0.6435$ である。区間は

$$0.6435\pm\frac{1.96}{20}=[0.5455,\ 0.7415]$$

で、$p=\sin^2x$ で戻すと $[0.2692,\ 0.4562]$ となる。4. 13.4-4 $W_n=\sqrt n(T_n-\theta)$ は分布収束するので緊密である（第11章）。$\varepsilon ,\eta>0$ を与える。緊密性から、$\sup_nP(\left\vert W_n\right\vert >M)<\eta$ となる $M$ がとれる。$n>M^2/\varepsilon ^2$ なら $M/\sqrt n<\varepsilon$ なので

$$P(\left\vert T_n-\theta\right\vert \ge\varepsilon )=P(\left\vert W_n\right\vert \ge\varepsilon \sqrt n)\le P(\left\vert W_n\right\vert >M)<\eta$$

である。$\eta$ は任意なので $P(\left\vert T_n-\theta\right\vert \ge\varepsilon )\to0$ である。すなわち $T_n\xrightarrow{P}\theta$ となる。