確認テストの解答

数理統計　第12章 §12.7

1. 12.1-1 $P(T_1>k)$ は最初の $k$ 回がすべて 0 である確率である。その値は $(1-p)^k$ である。$\{T_1>s+t\}\subset\{T_1>s\}$ なので

$$P(T_1>s+t\mid T_1>s)=\frac{P(T_1>s+t)}{P(T_1>s)}=\frac{(1-p)^{s+t}}{(1-p)^s}=(1-p)^t=P(T_1>t).$$ 2. 12.1-2 (a) 事象を $\{N(1)=1,\ N(3)=4\}=\{N(1)=1,\ N(3)-N(1)=3\}$ と書き直す。独立増分から

$$P=\{2\mathrm{e}^{-2}\}\times\Bigl\{\mathrm{e}^{-4}\frac{4^3}{3!}\Bigr\}=2\times\frac{64}{6}\mathrm{e}^{-6}=\frac{64}{3}\mathrm{e}^{-6}=0.0529.$$

(b) $P(N(3)=4)=\mathrm{e}^{-6}6^4/4!=54\mathrm{e}^{-6}$ なので、

$$P(N(1)=1\mid N(3)=4)=\frac{64/3}{54}=\frac{32}{81}=0.395.$$

これは条件付き一様性と一致する。$\mathrm{Bin}(4,1/3)$ で 1 になる確率が $\binom41(1/3)(2/3)^3=32/81$ である。3. 12.1-3 $N(t)=N(s)+\{N(t)-N(s)\}$ で、第2項は $N(s)$ と独立である。よって

$$\mathrm{Cov}(N(s),N(t))=V[N(s)]+0=\lambda s.$$

$V[N(t)]=\lambda t$ から、相関係数は $\lambda s/\sqrt{\lambda s\cdot\lambda t}=\sqrt{s/t}$。4. 12.1-4 $t>0$ で

$$f_{T_2}(t)=\int_0^t\lambda\mathrm{e}^{-\lambda w}\cdot\lambda\mathrm{e}^{-\lambda(t-w)}\,\mathrm{d} w=\lambda^2\mathrm{e}^{-\lambda t}\int_0^t\mathrm{d} w=\lambda^2t\mathrm{e}^{-\lambda t}.$$

これは (12.3) の $n=2$ の場合で、$\mathrm{Ga}(2,1/\lambda)$ の密度である。5. 12.2-1 1歩の期待値と分散は $E[X_i]=0.6-0.4=0.2$、$V[X_i]=4\times0.6\times0.4=0.96$ である。よって

$$E[S_{25}]=25\times0.2=5,\qquad V[S_{25}]=25\times0.96=24.$$ 6. 12.2-2 $S_6=2$ には、上に進む歩が $(6+2)/2=4$ 回必要である。よって $P=\binom64/2^6=15/64=0.234$。7. 12.2-3 第一歩解析から $D(k)=1+\tfrac12D(k+1)+\tfrac12D(k-1)$、$D(0)=D(N)=0$。これを次のように書き直す。

$$D(k+1)-2D(k)+D(k-1)=-2.$$

2階差分が定数なので、$D(k)$ は2次式 $-k^2+A+Bk$ である。$-k^2$ の2階差分が $-(k+1)^2+2k^2-(k-1)^2=-2$ だからである。境界条件から $A=0$、$B=N$ である。よって $D(k)=k(N-k)$ で、出発点 2・目標 5 なら $D(2)=6$。8. 12.2-4 $u_{20}=\binom{20}{10}/2^{20}=184756/1048576=0.1762$。近似は $1/\sqrt{10\pi}=0.1784$ で、相対誤差は約 $1.3\%$ である。Stirling の公式の次の項から、比 $u_{2n}\sqrt{\pi n}$ は約 $1-1/(8n)$ である。$n=10$ では 0.9875 になる。9. 12.3-1 $S_n^2-n$ は $X_1,\dots,X_n$ の関数である。$\lvert S_n^2-n\rvert \le n^2+n$ なので可積分である。次の1歩 $X_{n+1}$ は過去と独立である。また $E[X_{n+1}]=0$、$X_{n+1}^2=1$ である。よって

$$E[S_{n+1}^2-(n+1)\mid\mathcal F_n]=S_n^2+2S_nE[X_{n+1}]+E[X_{n+1}^2]-(n+1)=S_n^2+0+1-(n+1)=S_n^2-n.$$ 10. 12.3-2 $k$ から出発し、0 か $N$ に達したら止める。その時刻を $\tau$ とする。

止まるまで $0\le S_n\le N$ である。よって $r^{S_{\min(n,\tau)}}$ は $\max(1,r^N)$ 以下で有界である。$P(\tau<\infty)=1$ も、例題 12.4(1) と同じ議論で成り立つ。任意抽出定理の条件2から $E[r^{S_\tau}]=r^k$。$h=P(S_\tau=N)$ とすると、

$$hr^N+(1-h)r^0=r^k,\qquad h=\frac{r^k-1}{r^N-1}=\frac{1-r^k}{1-r^N}.$$ 11. 12.3-3 $\tau$ は初めて6が出た回で、成功確率 1/6 の幾何分布に従う。よって $E[\tau]=6<\infty$。事象 $\{\tau=n\}$ は最初の $n$ 回の目で決まるので、停止時刻である。 $E[X_1]=3.5$ で、Wald の等式から $E[S_\tau]=6\times3.5=21$。目の値と停止時刻は独立でない（最後の目は必ず6）が、Wald の等式は停止時刻であれば使える。12. 12.3-4 $M_n$ は最初の $n$ 回で決まる。$0\le M_n\le2^n$ なので可積分である。次の2つの場合がある。

• $M_n=0$ なら $M_{n+1}=0$。
• $M_n=2^n$ なら、次が表で $2^{n+1}$、裏で 0。

よって $E[M_{n+1}\mid\mathcal F_n]=\tfrac12\cdot2M_n+\tfrac12\cdot0=M_n$ で、$E[M_n]=E[M_0]=1$。

一方、いつか裏が出る確率は1で、裏が出た時点以後 $M_n=0$ である。よって確率1で $M_n\to0$ で、$E[\lim M_n]=0\ne1$。極限と期待値を交換するには、有界収束定理などの条件が要る。$M_n$ はまれな事象で $2^n$ という大きな値をとり、どの定数でも押さえられないので、条件を満たさない。13. 12.4-1 $\mathrm{Cov}(B(2),B(5))=\min(2,5)=2$。分散は次のとおりである。

$$V[B(5)-2B(2)]=V[B(5)]+4V[B(2)]-4\mathrm{Cov}(B(2),B(5))=5+8-8=5.$$

$B(5)-2B(2)=\{B(5)-B(2)\}-B(2)$ と独立な2項に分けても、$3+2=5$ である。14. 12.4-2 $M(t)=\exp(\theta B(t)-\theta^2t/2)$、$s<t$ とする。$B(t)=B(s)+\{B(t)-B(s)\}$ と分ける。増分は時刻 $s$ までの情報と独立な $\mathrm{N}(0,t-s)$ なので、

$$E[M(t)\mid\mathcal F_s]=\mathrm{e}^{\theta B(s)-\theta^2t/2}E[\mathrm{e}^{\theta(B(t)-B(s))}]=\mathrm{e}^{\theta B(s)-\theta^2t/2}\mathrm{e}^{\theta^2(t-s)/2}=M(s).$$

$E[M(t)]=M(0)=1$ から $E[\mathrm{e}^{\theta B(t)}]=\mathrm{e}^{\theta^2t/2}$ である。$\theta=1$ とおくと $E[\mathrm{e}^{B(t)}]=\mathrm{e}^{t/2}$。15. 12.4-3 $\Delta_k\sim\mathrm{N}(0,v)$、$v=t/n$ とする。$E[\Delta_k^4]=3v^2$ から $V[\Delta_k^2]=3v^2-v^2=2v^2$。増分は独立なので、$V[Q_n]=n\cdot2(t/n)^2=2t^2/n$。16. 12.4-4 $\theta=-2\mu/\sigma^2$ とおくと、$E[\mathrm{e}^{\theta X(t)}]=\exp(\theta\mu t+\theta^2\sigma^2t/2)$ である。指数は次のように 0 になる。

$$-\frac{2\mu^2t}{\sigma^2}+\frac{2\mu^2t}{\sigma^2}=0.$$

増分の独立性から、12.4-2 と同じ計算で $\mathrm{e}^{\theta X(t)}$ はマルチンゲールになる。止める時刻までは $-a\le X\le b$ で有界なので、任意抽出定理が使える。$h=P(\text{先に }b)$ として

$$h\mathrm{e}^{\theta b}+(1-h)\mathrm{e}^{-\theta a}=1.$$

よって

$$h=\frac{1-\mathrm{e}^{2\mu a/\sigma^2}}{\mathrm{e}^{-2\mu b/\sigma^2}-\mathrm{e}^{2\mu a/\sigma^2}}.$$

ドリフトが 0 に近づくと、分子・分母をドリフトで割った極限から $a/(a+b)$ に戻る。指定の値では次のとおりである。

$$\mu=0.5,\ \sigma=1,\ a=b=1:\qquad h=\frac{1-\mathrm{e}}{\mathrm{e}^{-1}-\mathrm{e}}=\frac{1}{1+\mathrm{e}^{-1}}=0.731.$$ 17. 12.5-1 $\bm\pi\bm P=\bm\pi$ の第1成分は $\pi_1(1-a)+\pi_2b=\pi_1$ である。すなわち $a\pi_1=b\pi_2$。規格化から $\bm\pi=(b/(a+b),\ a/(a+b))$。

帰納法で示す。$n=1$ では右辺は次のとおりで、左辺に等しい。

$$\frac{1}{a+b}\begin{pmatrix}b+a(1-a-b)&a-a(1-a-b)\\b-b(1-a-b)&a+b(1-a-b)\end{pmatrix}=\begin{pmatrix}1-a&a\\b&1-b\end{pmatrix}.$$

次のようにおく。

$$\bm E=\frac{1}{a+b}\begin{pmatrix}b&a\\b&a\end{pmatrix},\qquad \bm F=\frac{1}{a+b}\begin{pmatrix}a&-a\\-b&b\end{pmatrix}.$$

このとき $\bm P=\bm E+(1-a-b)\bm F$ である。直接の計算から次が成り立つ。

$$\bm E^2=\bm E,\qquad \bm F^2=\bm F,\qquad \bm E\bm F=\bm F\bm E=\bm O.$$

$\bm P^n=\bm E+(1-a-b)^n\bm F$ を仮定すると

$$\bm P^{n+1}=\{\bm E+(1-a-b)^n\bm F\}\{\bm E+(1-a-b)\bm F\}=\bm E+(1-a-b)^{n+1}\bm F.$$

$\lvert 1-a-b\rvert <1$ なので $\bm P^n\to\bm E$ で、各行が定常分布になる。18. 12.5-2 (12.19) から次の連立方程式を得る。

$$\begin{aligned}\mu_1&=1+0.5\mu_1+0.5\mu_2 &&\Rightarrow\ \mu_1=2+\mu_2,\\ \mu_2&=1+0.3\mu_1+0.2\mu_2 &&\Rightarrow\ 0.8\mu_2=1+0.3(2+\mu_2)\ \text{（第1式を代入）}.\end{aligned}$$

よって $0.5\mu_2=1.6$ から $\mu_2=3.2$ である。したがって $\mu_1=5.2$。19. 12.5-3 詳細つり合い $\pi_ip_{i,i+1}=\pi_{i+1}p_{i+1,i}$ から

$$\pi_{i+1}=\pi_i\cdot\frac{(3-i)/3}{(i+1)/3}=\pi_i\frac{3-i}{i+1}.$$

順に次のようになる。

$$\pi_1=3\pi_0,\qquad \pi_2=\pi_1\cdot\frac22=3\pi_0,\qquad \pi_3=\pi_2\cdot\frac13=\pi_0.$$

和が1から $\pi_0=1/8$ である。よって $\bm\pi=(1/8,\ 3/8,\ 3/8,\ 1/8)$ で、これは $\mathrm{Bin}(3,1/2)$ である。

1歩ごとに状態の偶奇が必ず入れ替わるので、状態 0 に戻れるのは偶数歩だけで、周期は2である。$p^{(n)}_{00}$ は、奇数歩では 0 になり、偶数歩では $2\pi_0=1/4$ に近づく。よって全体としては収束しない。20. 12.5-4 推移は順に次の9回である。

$$1\to1,\ 1\to2,\ 2\to1,\ 1\to2,\ 2\to2,\ 2\to2,\ 2\to1,\ 1\to1,\ 1\to2.$$

回数と最尤推定値は次のとおりである。

$$n_{11}=2,\ n_{12}=3,\ n_{21}=2,\ n_{22}=2;\qquad \hat p_{11}=\frac25,\ \hat p_{12}=\frac35,\ \hat p_{21}=\frac12,\ \hat p_{22}=\frac12.$$