適合度検定

統計学の復習　第13章 §13.3　★★★ 期待度数とのずれの2乗を期待度数で割って足した $X^2$ は、$H_0$ の下で近似的に $\chi^2$ 分布に従う。自由度はカテゴリ数から拘束の数を引いたもので、検定は常に右片側

統計量

$n$ 個の観測を、互いに重ならない $k$ 個のカテゴリに分類する。カテゴリ $j$ に入った個数（観測度数）を $O_j$ とすると、$O_1+\cdots+O_k=n$ である。各観測が独立に確率 $p_j$ でカテゴリ $j$ に入るとき、帰無仮説

$$H_0:\ p_j=p_{j0}\quad(j=1,\dots,k)$$

を検定したい。$p_{10},\dots,p_{k0}$ は与えられた数で、合計は $1$ である。$H_0$ の下で、カテゴリ $j$ に入る個数の期待値は

$$E_j=np_{j0}$$

で、これを期待度数と呼ぶ（$E_j$ は添字つきの数で、期待値の記号 $E[\cdot]$ とは別のものである）。

$\chi^2_\nu$ は、第10章で定義し、第11章で密度を導いた、独立な標準正規変数 $\nu$ 個の2乗和の分布である。定理 13.4 の一般の $k$ での証明は、度数の組 $(O_1,\dots,O_k)$ の多次元の正規近似を使うので2級の範囲を越え、数理統計の解説 第7章 §7.4 で扱う。ここでは $k=2$ の場合を厳密に示し、一般の $k$ で何が起きているかを自由度の数え方から説明する。

カテゴリが2つのとき

$k=2$ のとき、カテゴリ1に入る確率を $p_{10}=p_0$ とすると $p_{20}=1-p_0$ で、$O_1=X\sim\mathrm{Bin}(n,p_0)$、$O_2=n-X$ である。期待度数は $E_1=np_0$、$E_2=n(1-p_0)$ で、

$$O_2-E_2=(n-X)-n(1-p_0)=-(X-np_0)=-(O_1-E_1)$$

が成り立つ。2つのカテゴリのずれは、大きさが同じで符号が逆である。したがって

$$X^2=(X-np_0)^2\left\{\frac1{np_0}+\frac1{n(1-p_0)}\right\} =(X-np_0)^2\cdot\frac{(1-p_0)+p_0}{np_0(1-p_0)} =\frac{(X-np_0)^2}{np_0(1-p_0)}$$

となる。最後の式は、§13.1 の母比率の検定統計量 (13.1) の2乗 $Z^2$ である。

この計算から、$X^2$ の分母がなぜ $E_j$ なのかも分かる。$O_j$ の分散は $np_{j0}(1-p_{j0})=E_j(1-p_{j0})$ なので、各カテゴリのずれを正しく標準化するなら分母は $E_j(1-p_{j0})$ のはずである。しかし $k$ 個のずれは和が $0$ に縛られていて独立でなく、正しく標準化した2乗を $k$ 個足すと、同じ情報を重ねて数えることになる。$k=2$ では、正しく標準化した2乗はどちらも $Z^2$ に等しいので、足すと $2Z^2$ になってしまう。分母を $E_j(1-p_{j0})$ より大きい $E_j$ にすることで、この重ね数えがちょうど打ち消され、和が $Z^2$ になる。一般の $k$ でも同じことが成り立つ（証明は数理統計の解説 第7章 §7.4）。

両側検定の $\lvert Z\rvert \ge z_{\alpha/2}$ は $Z^2\ge z_{\alpha/2}^2$ と同値で、第11章で示した $\chi^2_1(\alpha)=z_{\alpha/2}^2$ から、$X^2\ge\chi^2_1(\alpha)$ と同値である。つまり、$k=2$ の適合度検定と、母比率の両側検定とは、同じ検定である。

自由度の数え方

度数 $O_1,\dots,O_k$ は $k$ 個あるが、和が $n$ に決まっているので、$k-1$ 個を決めると残りの1個は自動的に決まる。ずれ $O_j-E_j$ も和が $0$ で、自由に動けるのは $k-1$ 個である。第9章で、偏差 $X_i-\bar X$ の和が $0$ であることから偏差平方和の自由度が $n-1$ になったのと同じ数え方で、$X^2$ の自由度は $k-1$ になる。

帰無仮説が確率を完全に指定せず、未知の母数を含む場合もある。たとえば「度数はポアソン分布に従う」という $H_0$ では、$p_{j0}$ が $\lambda$ に依存し、$\lambda$ をデータから推定してから期待度数を計算する。推定した母数があると、期待度数がデータに寄せて作られるので、ずれはその分だけ小さくなる。推定した母数1個につき、ずれに拘束が1本加わると考えてよく、自由度は次のようになる。

推定した母数の分だけ自由度が減ることの厳密な扱い（Wilks の定理）は数理統計の解説 第7章 §7.3・§7.4 で扱う。

右片側である理由と、近似の条件

$X^2$ は、$k$ 個のずれ $O_j-E_j$ を、それぞれ $\sqrt{E_j}$ で割ってから2乗して足したもので、ずれのベクトルの長さの2乗にあたる。観測度数がどの方向に期待度数からずれても、$X^2$ は大きくなる。$H_0$ から外れていることは $X^2$ が大きいことにしか現れないので、棄却域は右の裾 $X^2\ge\chi^2_{k-1}(\alpha)$ だけである。平均の $Z$ 検定の両側の棄却域 $\lvert Z\rvert \ge z_{\alpha/2}$ が2乗すると右片側 $Z^2\ge z^2_{\alpha/2}$ になったのと同じで、2乗した時点で向きの情報は消えている。

$X^2$ が極端に小さいことは、観測度数が期待度数に近すぎることを意味する。これは $H_0$ を棄却する理由にはならないが、偶然とは考えにくいほど理論に合っているので、データの作り方を疑うきっかけにはなる。

近似 $\chi^2_{k-1}$ は $n$ が大きいときのもので、目安としてすべての期待度数が $5$ 以上あることが求められる。期待度数が $5$ 未満のカテゴリがあれば、隣のカテゴリとまとめてから計算し、自由度もまとめた後のカテゴリの数で数える。棄却されたとき、どのカテゴリがずれているかは $X^2$ からは分からない。2乗して足した時点で、どの成分がずれたかの情報は失われているからである。それを見るには、足す前の標準化残差 $(O_j-E_j)/\sqrt{E_j}$ を並べ、絶対値が2前後を超えるものを探す。

確認テスト

オリジナル

1. 13.3-1 (a) 適合度検定の棄却域が右の裾だけである理由を1文で述べよ。(b) 度数分布を8つの階級に分け、平均と分散をデータから推定した正規分布に当てはまるかを検定するとき、自由度はいくつか。
2. 13.3-2 ある交配で、4つの表現型が $9:3:3:1$ の比で現れると予想される。160個体を調べると $(95,28,27,10)$ であった。予想に合っているかを、有意水準 $5\%$ で検定せよ。
3. 13.3-3 4つのカテゴリの確率が $H_0$ で $(0.5,0.3,0.15,0.05)$ と予想されている。60個の観測で度数は $(26,17,13,4)$ であった。期待度数を計算し、近似の目安を満たさないカテゴリをまとめてから、有意水準 $5\%$ で検定せよ。
4. 13.3-4 $k=2$ のとき $X^2=Z^2$（命題 13.5）となることを、$O_2-E_2=-(O_1-E_1)$ から導け。さらに、各カテゴリのずれを分散 $np_{j0}(1-p_{j0})$ で正しく標準化して2乗した2つの量の和が $2Z^2$ になることを示せ。