独立性の検定

統計学の復習　第13章 §13.4　★★★ 期待度数は（行の和）×（列の和）÷（総数）。自由度 $(r-1)(c-1)$ は、行の和と列の和を固定したときに自由に決められるセルの数である

分割表と帰無仮説

$n$ 人を2つの属性で分類する。属性 A は $r$ 個の値（行）、属性 B は $c$ 個の値（列）をとり、$r\times c$ 個のセルのうち $(i,j)$ のセルに入った人数を $O_{ij}$ とする。これを分割表（クロス集計表、第1章）と呼ぶ。行の和を $O_{i\cdot}=\sum_jO_{ij}$、列の和を $O_{\cdot j}=\sum_iO_{ij}$ と書く。

各人が独立にセル $(i,j)$ に確率 $p_{ij}$ で入るとし、行の周辺確率を $p_{i\cdot}=\sum_jp_{ij}$、列の周辺確率を $p_{\cdot j}=\sum_ip_{ij}$ とする。属性 A と B が独立であるとは、第3章・第7章の独立の定義どおり、すべてのセルで同時確率が周辺確率の積になることである。帰無仮説は

$$H_0:\ p_{ij}=p_{i\cdot}\,p_{\cdot j}\qquad(i=1,\dots,r;\ j=1,\dots,c)$$

である。

期待度数

$H_0$ の下でセル $(i,j)$ の期待度数は $np_{ij}=np_{i\cdot}p_{\cdot j}$ だが、周辺確率は未知なので、データから推定する。行 $i$ に入る確率 $p_{i\cdot}$ は、行 $i$ に入った人の割合 $O_{i\cdot}/n$ で、列 $j$ に入る確率 $p_{\cdot j}$ は $O_{\cdot j}/n$ で推定するのが自然である。これを代入して

$$E_{ij}=n\cdot\frac{O_{i\cdot}}n\cdot\frac{O_{\cdot j}}n=\frac{O_{i\cdot}\,O_{\cdot j}}n\tag{13.6}$$

を期待度数とする。言葉で書けば「（行の和）×（列の和）÷（総数）」である。

統計量は適合度検定と同じ形で、全セルについて足す。

$$X^2=\sum_{i=1}^r\sum_{j=1}^c\frac{(O_{ij}-E_{ij})^2}{E_{ij}}.\tag{13.7}$$

自由度が $(r-1)(c-1)$ になる理由

この自由度は、§13.3 の適合度検定の数え方（カテゴリ数 $-1-$ 推定した母数の数）で、そのまま出てくる。カテゴリはセルの $rc$ 個である。推定した母数は、行の周辺確率 $p_{1\cdot},\dots,p_{r\cdot}$ と列の周辺確率 $p_{\cdot1},\dots,p_{\cdot c}$ だが、それぞれ和が $1$ なので、実際に推定した独立な母数は $(r-1)+(c-1)$ 個である。したがって

$$\text{自由度}=rc-1-(r-1)-(c-1)=rc-r-c+1=(r-1)(c-1)$$

である。適合度検定も独立性検定も、自由度は引き算で数えていて、独立性検定の引き算の結果がたまたま積の形に因数分解できる、というのが2つの公式の関係である。

同じ自由度は、ずれの表に入る拘束からも数えられる。(13.6) の期待度数の行の和は観測度数の行の和に等しく、列の和も等しいので、ずれ $O_{ij}-E_{ij}$ の表は、どの行の和もどの列の和も $0$ になる。このとき、左上の $(r-1)\times(c-1)$ 個のセルのずれを決めると、各行の最後のセルは行の和が $0$ になるように、各列の最後のセルは列の和が $0$ になるように決まり、右下の1個のセルも矛盾なく決まる。自由に決められるずれは $(r-1)(c-1)$ 個で、これが自由度である。

$2\times2$ 表の公式とプールした $Z$ との一致

$2\times2$ 表のセルを次のように書く（$n=a+b+c+d$）。

証明

行の和を $R_1=a+b$、$R_2=c+d$、列の和を $C_1=a+c$、$C_2=b+d$ とする。左上のセルのずれは

$$a-\frac{R_1C_1}n=\frac{a(a+b+c+d)-(a+b)(a+c)}n=\frac{ad-bc}n$$

である。ずれの表は行の和も列の和も $0$ なので、4つのセルのずれは $\pm(ad-bc)/n$ で、左上と右下が $+$、右上と左下が $-$ である。したがって

$$X^2=\Bigl(\frac{ad-bc}n\Bigr)^2\sum_{i,j}\frac1{E_{ij}} =\Bigl(\frac{ad-bc}n\Bigr)^2\cdot n\Bigl(\frac1{R_1}+\frac1{R_2}\Bigr)\Bigl(\frac1{C_1}+\frac1{C_2}\Bigr)$$

である。$1/E_{ij}=n/(R_iC_j)$ を4つ足すと因数分解できることを使った。$1/R_1+1/R_2=(R_1+R_2)/(R_1R_2)=n/(R_1R_2)$、列も同様なので、

$$X^2=\frac{(ad-bc)^2}{n^2}\cdot\frac{n\cdot n\cdot n}{R_1R_2C_1C_2}=\frac{n(ad-bc)^2}{R_1R_2C_1C_2}$$

となり、(13.8) が出る。

次に、$\hat p_1=a/R_1$、$\hat p_2=c/R_2$ とすると

$$\hat p_1-\hat p_2=\frac{aR_2-cR_1}{R_1R_2}=\frac{a(c+d)-c(a+b)}{R_1R_2}=\frac{ad-bc}{R_1R_2}$$

である。プールした比率は $\hat p=C_1/n$、$1-\hat p=C_2/n$ なので、(13.4) の分母の2乗は

$$\hat p(1-\hat p)\Bigl(\frac1{R_1}+\frac1{R_2}\Bigr)=\frac{C_1C_2}{n^2}\cdot\frac{n}{R_1R_2}=\frac{C_1C_2}{nR_1R_2}$$

である。よって

$$Z^2=\frac{(ad-bc)^2}{R_1^2R_2^2}\cdot\frac{nR_1R_2}{C_1C_2}=\frac{n(ad-bc)^2}{R_1R_2C_1C_2}=X^2.$$

この定理から、$2\times2$ 表の独立性の検定（有意水準 $\alpha$、$X^2\ge\chi^2_1(\alpha)$）と、プールした比率の差の両側検定（$\lvert Z\rvert \ge z_{\alpha/2}$）は、$\chi^2_1(\alpha)=z_{\alpha/2}^2$ により同じ検定である。「2群で比率が等しい」と「群と性質が独立である」は、同じ $H_0$ を2通りの言葉で述べたものだからである。非プールの標準誤差で作った $Z$ の2乗は (13.8) に一致しない。§13.2 の注意で、記述ではプールした式を書くとしたのは、この一致を保つためでもある。

$2\times c$ 表を比率の比較として計算する

行が2つ、列が $c$ 個の表は、「$c$ 個の群で、ある性質を持つ人の割合が等しいか」を調べる表として読むことができる。このときは次の形で計算すると速く、どの列がずれているかも見やすい。

証明

行の和を $R_1=O_{1\cdot}=n\bar p$、$R_2=n(1-\bar p)$ とする。列 $j$ の第1行のずれは $d_j=O_{1j}-R_1C_j/n=C_j\hat p_j-C_j\bar p=C_j(\hat p_j-\bar p)$ で、列 $j$ の和は $0$ なので、第2行のずれは $-d_j$ である。したがって列 $j$ の2つのセルの寄与は

$$d_j^2\Bigl(\frac1{E_{1j}}+\frac1{E_{2j}}\Bigr)=d_j^2\cdot\frac n{C_j}\Bigl(\frac1{R_1}+\frac1{R_2}\Bigr)=d_j^2\cdot\frac{n^2}{C_jR_1R_2} =\frac{C_j^2(\hat p_j-\bar p)^2}{C_j\,\bar p(1-\bar p)}$$

である。最後の等号で $R_1R_2=n^2\bar p(1-\bar p)$ を使った。$j$ について足すと (13.9) が出る。

(13.9) は、各群の比率 $\hat p_j$ が全体の比率 $\bar p$ からどれだけ離れているかを、群の大きさ $C_j$ で重み付けて足し、ベルヌーイ分布の分散 $\bar p(1-\bar p)$ で割ったものである。$c=2$ なら定理 13.7 の比率の差の検定に戻り、一般の $c$ では「$c$ 個の母比率がすべて等しい」という $H_0$ の検定になる。第15章の一元配置分散分析が平均の群間のばらつきを測るのと同じ形で、比率の群間のばらつきを測っている。

確認テスト

オリジナル

1. 13.4-1 $3\times4$ の分割表で独立性を検定するときの自由度を、(a) 適合度検定の数え方（カテゴリ数 $-1-$ 推定した母数の数）と、(b) ずれの表で自由に決められるセルの数え方の2通りで求めよ。
2. 13.4-2 新しい教材を使った50人のうち30人、従来の教材を使った50人のうち18人が試験に合格した。$2\times2$ 表を作り、(13.8) で $X^2$ を計算して、教材と合否が独立かを有意水準 $5\%$ で検定せよ。プールした比率の差の $Z$ を計算し、$Z^2=X^2$ を確かめよ。
3. 13.4-3 (13.6) の期待度数について、$\sum_jE_{ij}=O_{i\cdot}$ と $\sum_iE_{ij}=O_{\cdot j}$ を示せ。これから、ずれの表の行の和と列の和がすべて $0$ になることを導け。
4. 13.4-4 3種類の製品 X・Y・Z の利用者にそれぞれ80人・90人・50人を選び、満足と答えた人数は40人・54人・26人であった。(13.9) を使って $X^2$ を計算し、満足の割合が製品によって異なるかを有意水準 $5\%$ で検定せよ。