分散

統計学の復習　第2章 §2.5　★★★ 偏差平方和 $S_{xx}$ を中心に、$n$ で割る分散と $n-1$ で割る不偏分散を書き分ける

散らばりを数1つで表すには、偏差 $x_i-\bar x$ の大きさを集める必要がある。偏差をそのまま足すと命題 2.2 により0になるので、2乗してから足す。

$n-1$ という数がどこから来るかは、次の2つの見方で説明できる。

1つめは自由度の見方である。偏差 $x_1-\bar x,\dots,x_n-\bar x$ は $n$ 個あるが、命題 2.2 の1本の等式 $\sum_i(x_i-\bar x)=0$ を必ず満たすので、$n-1$ 個を決めれば最後の1個は自動的に決まる。$S_{xx}$ は自由に動ける $n-1$ 個ぶんの情報から作られた2乗和なので、1個あたりに直すには $n-1$ で割る。拘束の本数が1本である理由は、平均 $\bar x$ という1個の量を同じデータから計算して中心に使ったことにある。回帰で2個の係数を推定すると $n-2$、分散分析で $k$ 個の群平均を推定すると $N-k$ になる（第14章・第15章）のも、同じ数え方による。

2つめは、平均を使わずに散らばりを測る見方である。

この表示では、不偏分散 $s^2$ は「2個のデータの組 $\binom n2$ 通りすべてについて $(x_i-x_j)^2/2$ を平均したもの」になる。平均 $\bar x$ を経由しないこの形で、分母に自然に $n(n-1)/2$ 組が現れる。$n$ で割る $\hat\sigma^2$ は、$i=j$ の「同じデータどうしの組」（差が0）まで数に入れて平均したことに当たり、そのぶん小さくなる。

計算公式

「2乗の平均 $-$ 平均の2乗」の形は、確率変数の $V[X]=E[X^2]-E[X]^2$（第4章）と同じ構造である。ただしこの式は、$\overline{x^2}$ と $\bar x^2$ がともに大きく、その差が小さいとき、手計算で桁落ちしやすい。そのときは次の変数変換で数を小さくしてから計算する。

足した定数 $b$ は偏差から消えるので、分散は平行移動で変わらない。度数分布表では、仮の中心 $x_0$ と階級の幅 $h$ を使って $u=(c-x_0)/h$ と変換し、$u$ の平均と分散を計算してから $\bar x=x_0+h\bar u$、$\hat\sigma_x^2=h^2\hat\sigma_u^2$ で戻すと計算が小さくなる。

度数分布表では、各階級のデータが階級値 $c_k$ に等しいとみなして

$$\hat\sigma^2\approx\frac1n\sum_kf_k(c_k-\bar x)^2=\frac1n\sum_kf_kc_k^2-\bar x^2\tag{2.7}$$

とする。

2つの群を合わせた分散

全体の散らばりは、「各群の中での散らばり」と「群の平均どうしの散らばり」の和に分かれる。群の数が $k$ 個でも、同じ計算で $k$ 個の和になる。これが一元配置分散分析の $S_T=S_e+S_A$（第15章）で、そこでは群間の平方和が大きいかどうかを $F$ 分布で判定する。2群の分散を単純に平均すると群間の項が抜けるので、全体の分散を過小に見積もる。

確認テスト

オリジナル

1. 2.5-1 データ $4,7,7,9,13$ の $S_{xx}$ を、偏差から求める方法と計算公式 (2.6) の両方で求めよ。さらに $\hat\sigma^2$ と $s^2$ を求めよ。
2. 2.5-2 $n=10$ 個のデータについて $\sum x_i=50$、$\sum x_i^2=310$ である。$\hat\sigma^2$ と $s^2$ を求めよ。
3. 2.5-3 分散が $\hat\sigma_x^2=3$ のデータを $y_i=-2x_i+5$ と変換した。$\hat\sigma_y^2$ と $\hat\sigma_y$ を求めよ。
4. 2.5-4 $n=2$ のとき、$s^2=(x_1-x_2)^2/2$、$\hat\sigma^2=(x_1-x_2)^2/4$ となることを、定義から直接示せ。
5. 2.5-5 3つの群（大きさ $n_1,n_2,n_3$）について、定理 2.12 と同じ形の分解が成り立つことを示せ。