この章のまとめ

(1) $\ln\frac{p_\lambda}{p_{\lambda'}}=\ln\frac{\lambda}{\lambda'}-(\lambda-\lambda')x$ で $\langle X \rangle _\lambda=1/\lambda$ なので

$$D(p_\lambda\,\|\,p_{\lambda'})=\ln\frac{\lambda}{\lambda'}+\frac{\lambda'}{\lambda}-1$$

である。$\lambda'=\lambda+\delta$ とおき $r=\delta/\lambda$ と書くと $-\ln(1+r)+r=\frac12r^2-\frac13r^3+\cdots$ なので $D=\frac{\delta^2}{2\lambda^2}+\mathcal{O}(\delta^3)$、したがって $J(\lambda)=1/\lambda^2$ である。$D$ は $\ln(\lambda/\lambda')$ と $\lambda'/\lambda$ だけで書けるので、速さを何倍ずらしたかだけで決まり、$J\propto1/\lambda^2$ はその反映である。

(2) $p(x_1,\dots,x_n;\lambda)=\lambda^n\mathrm{e}^{-\lambda S}$ は $S$ と $\lambda$ だけの関数 $g(S;\lambda)=\lambda^n\mathrm{e}^{-\lambda S}$ に $h=1$ を掛けた形なので、Fisher–Neyman の分解により $S$ は十分統計量である。$S$ の密度は $\lambda^ns^{n-1}\mathrm{e}^{-\lambda s}/(n-1)!$ で、そのスコアは $n/\lambda-s$、2乗の平均は $\mathrm{Var}(S)=n/\lambda^2$。これは $nJ(\lambda)=n/\lambda^2$ に等しく、命題 1.7.2 の等号の場合になっている。

(3) $\langle \hat\lambda_{\mathrm u} \rangle =(n-1)\lambda/(n-1)=\lambda$ で不偏である。$\langle \hat\lambda_{\mathrm u}^2 \rangle =(n-1)^2\lambda^2/((n-1)(n-2))=(n-1)\lambda^2/(n-2)$ より

$$\mathrm{Var}(\hat\lambda_{\mathrm u})=\frac{\lambda^2}{n-2}\qquad(n\ge3)$$

である。下限は $1/(nJ)=\lambda^2/n$ なので比は $n/(n-2)>1$。有限の $n$ では下限に達しない。スコア $n/\lambda-S$ が $1/S$ の1次式でないので、等号の条件 (1.7.12) が成り立たないからである。$n\to\infty$ で比は 1 に近づく。

(4) $\ell_n(\lambda)=n\ln\lambda-\lambda S$ を最大にして $\hat\lambda_{\mathrm{ML}}=n/S$ を得る。$\langle \hat\lambda_{\mathrm{ML}} \rangle =n\lambda/(n-1)$ なので偏りは $b=\lambda/(n-1)$、分散は $\mathrm{Var}=n^2\lambda^2/((n-1)^2(n-2))$。2乗誤差の平均は

$$\mathrm{Var}+b^2=\frac{\lambda^2\bigl(n^2+(n-2)\bigr)}{(n-1)^2(n-2)}=\frac{(n+2)\,\lambda^2}{(n-1)(n-2)}$$

で、$n$ 倍すると $\lambda^2n(n+2)/((n-1)(n-2))\to\lambda^2=1/J$ となる。偏りは $\mathcal{O}(1/n)$ で、2乗誤差への寄与 $b^2=\mathcal{O}(1/n^2)$ は分散の $\mathcal{O}(1/n)$ より先に消える。

(5) この系では $\langle E \rangle = k_{\mathrm B} T$ なので $C_V= k_{\mathrm B}$ であり、式 (1.7.19) から $\mathrm{Var}(\hat T)/T^2\ge1/n$ となる。一方 (1) の $J(\lambda)=1/\lambda^2=\beta^2$ を付け替えの式 (1.7.9) で $T$ に移すと、$\mathrm{d}\beta/\mathrm{d} T=-1/( k_{\mathrm B} T^2)$ より $J(T)=\beta^2/( k_{\mathrm B} T^2)^2=1/T^2$、したがって $1/(nJ(T))=T^2/n$ で一致する。1自由度の温度計を $n$ 回読む相対誤差は $1/\sqrt n$ 以上である。

(6) 時刻 $a$ までに崩壊する確率は $1-\mathrm{e}^{-\lambda a}$ で、記録は Bernoulli 変数である。例題 1.7.1 と付け替えの式から

$$J_a(\lambda)=\frac{\bigl(a\mathrm{e}^{-\lambda a}\bigr)^2}{(1-\mathrm{e}^{-\lambda a})\mathrm{e}^{-\lambda a}}=\frac{a^2\mathrm{e}^{-\lambda a}}{1-\mathrm{e}^{-\lambda a}}=\frac{1}{\lambda^2}\,\frac{y^2}{\mathrm{e}^{y}-1}\qquad(y=\lambda a)$$

となる。$y^2/(\mathrm{e}^y-1)$ の最大の条件は $2(\mathrm{e}^y-1)=y\mathrm{e}^y$ で、数値で解くと $y=1.594$、そのとき $y^2/(\mathrm{e}^y-1)=0.648$ である。平均寿命 $1/\lambda$ の約1.6倍の時刻で区切ると、もとの Fisher 情報の64.8%が残る。これは命題 1.7.2 の $J_a\le J$ の1つの例で、どう $a$ を選んでも、少なくとも35%が失われる。