この章のまとめと試験での出方

(1) 平行移動の公式 (2.4) はデータの値によらない恒等式なので、確率変数 $X_i$ にもそのまま使える。$c=\mu$ とおくと $\sum_i(X_i-\mu)^2=W+n(\bar X-\mu)^2$ で、移項すればよい。

(2) $E[(X_i-\mu)^2]=V[X_i]=\sigma^2$、$E[(\bar X-\mu)^2]=V[\bar X]=\sigma^2/n$（$E[\bar X]=\mu$ による）。(1) の両辺の期待値をとり、期待値の線形性を使うと

$$E[W]=n\sigma^2-n\cdot\frac{\sigma^2}{n}=(n-1)\sigma^2 .$$

したがって $E[S^2]=E[W]/(n-1)=\sigma^2$、$E[\hat\sigma^2]=(n-1)\sigma^2/n$ で、偏りは $(n-1)\sigma^2/n-\sigma^2=-\sigma^2/n$ である。

(3) $m=E[T]$ とおくと $T-\sigma^2=(T-m)+(m-\sigma^2)$ で、2乗して期待値をとると交差項は $2(m-\sigma^2)E[T-m]=0$ なので $\mathrm{MSE}(T)=V[T]+(m-\sigma^2)^2$。$W=\sigma^2\cdot(W/\sigma^2)$ で $V[W/\sigma^2]=2(n-1)$ なので $V[W]=2(n-1)\sigma^4$。したがって

$$\mathrm{MSE}(S^2)=\frac{2(n-1)\sigma^4}{(n-1)^2}+0=\frac{2\sigma^4}{n-1},\qquad \mathrm{MSE}(\hat\sigma^2)=\frac{2(n-1)\sigma^4}{n^2}+\frac{\sigma^4}{n^2}=\frac{(2n-1)\sigma^4}{n^2}.$$

(4) 差をとると

$$\frac{2}{n-1}-\frac{2n-1}{n^2}=\frac{2n^2-(2n-1)(n-1)}{n^2(n-1)}=\frac{3n-1}{n^2(n-1)}>0$$

なので、$\mathrm{MSE}(S^2)>\mathrm{MSE}(\hat\sigma^2)$。分散の減少分 $V[S^2]-V[\hat\sigma^2]$ が偏りの2乗 $\sigma^4/n^2$ を上回るので、偏りの無い $S^2$ より、偏りのある $\hat\sigma^2$ のほうが平均二乗誤差は小さい。

(5) $E[cW]=c(n-1)\sigma^2$、$V[cW]=2c^2(n-1)\sigma^4$ なので

$$\mathrm{MSE}(cW)=\sigma^4\bigl\{2c^2(n-1)+(c(n-1)-1)^2\bigr\}.$$

$c$ で微分して0とおくと $4c(n-1)+2(n-1)\{c(n-1)-1\}=0$、すなわち $2c+c(n-1)-1=0$ で $c=1/(n+1)$。括弧の中は $c$ の2次式で $c^2$ の係数 $2(n-1)+(n-1)^2>0$ なので、これが最小である。最小の平均二乗誤差は $2\sigma^4/(n+1)$ で、$n-1$ でも $n$ でもなく $n+1$ で割る推定量が平均二乗誤差の意味では最良になる。