等分散性の検定・Welch の検定・母分散の比の信頼区間

統計学の復習　第15章 §15.2　★★★ 分散の比の検定と区間は式 (15.2) から出る。等分散の $F$ 検定は予備検定にすぎず、棄却されなくても等分散が示されたことにはならない

等分散性の $F$ 検定

独立な2つの正規母集団 $\mathrm N(\mu_1,\sigma_1^2)$・$\mathrm N(\mu_2,\sigma_2^2)$ から大きさ $n_1,n_2$ の標本を取り、不偏分散を $S_1^2,S_2^2$ とする。自由度を $\phi_1=n_1-1$、$\phi_2=n_2-1$ と書く。帰無仮説 $H_0:\sigma_1^2=\sigma_2^2$ のもとでは、式 (15.2) の $\sigma_1^2$ と $\sigma_2^2$ が約分されて

$$F_0=\frac{S_1^2}{S_2^2}\sim F_{\phi_1,\phi_2}\tag{15.5}$$

となる。$F_0$ は未知の母数を含まない統計量で、$H_0$ のもとでの分布が完全に分かっているので、検定統計量として使うことができる。

対立仮説が $H_1:\sigma_1^2\ne\sigma_2^2$ なら、$F_0$ が $1$ から上にも下にも離れたときに $H_0$ を疑う。有意水準 $\alpha$ の両側検定の棄却域は

$$F_0\ge F_{\phi_1,\phi_2}(\alpha/2)\quad\text{または}\quad F_0\le F_{\phi_1,\phi_2}(1-\alpha/2)=\frac1{F_{\phi_2,\phi_1}(\alpha/2)}$$

である。2つ目の条件は $1/F_0=S_2^2/S_1^2\ge F_{\phi_2,\phi_1}(\alpha/2)$ と同じである。したがって、大きい方の不偏分散を分子に置き、その分子の自由度を先にした $F$ 表の上側 $\alpha/2$ 点と比べれば、片方の比較だけで済む。分子に大きい方を置くと比は $1$ 以上で、数表に現れる範囲の上側 $\alpha/2$ 点（$\alpha\le0.10$）はどれも $1$ より大きいので、もう一方の条件は自動的に満たされないからである。片側の対立仮説 $H_1:\sigma_1^2>\sigma_2^2$ なら、$F_0=S_1^2/S_2^2$ を上側 $\alpha$ 点 $F_{\phi_1,\phi_2}(\alpha)$ と比べる。

母分散の比の信頼区間

式 (15.2) の左辺は $\sigma_1^2/\sigma_2^2$ だけを未知の母数として含み、分布は母数によらない。これは第10章で区間を作るときに使ったピボットである。$\theta=\sigma_1^2/\sigma_2^2$ と置くと

$$P\!\left(F_{\phi_1,\phi_2}(1-\alpha/2)\le\frac{S_1^2/S_2^2}{\theta}\le F_{\phi_1,\phi_2}(\alpha/2)\right)=1-\alpha$$

であり、括弧の中を $\theta$ について解く。正の数の逆数をとると不等号が逆になるので

$$\frac{S_1^2/S_2^2}{F_{\phi_1,\phi_2}(\alpha/2)}\le\theta\le\frac{S_1^2/S_2^2}{F_{\phi_1,\phi_2}(1-\alpha/2)}$$

となる。右端の分母に式 (15.4) を使うと、次の区間が得られる。

後半の同値性は、$\theta=1$ を区間の不等式に入れると棄却域の補集合の条件に一致することから分かる。第12章で扱う区間推定と検定の双対性の、分散の比の場合である。母分散の区間（第11章）と同じく、この区間は点推定値 $s_1^2/s_2^2$ について左右対称でない。$F$ 分布が右に長い裾を持つからである。

等分散の検定は予備検定にすぎない

2級の問題では、「等分散の $F$ 検定を行い、棄却されなければプールした分散による $t$ 検定（第10章 §10.5・第12章）、棄却されれば Welch の検定」という2段階の手順がよく使われる。この手順には2つの注意がある。

1つ目は論理の注意である。$F$ 検定で $H_0:\sigma_1^2=\sigma_2^2$ が棄却されなかったとき、言えるのは「分散が異なるという証拠は得られなかった」ことだけで、「等分散であることが示された」のではない。検定は $H_0$ を棄却するかしないかを決める手続きで、棄却しないことは $H_0$ が正しいことを意味しない（第12章）。特に標本が小さいと、分散がかなり違っても $F$ 検定は棄却しない。$F_{\phi_1,\phi_2}(0.025)$ は自由度が小さいと大きな値になり（たとえば $F_{3,3}(0.025)=15.44$）、分散の比が $10$ 倍でも棄却されないことがある。

2つ目は手順全体の誤りの確率の注意である。前段の $F$ 検定の結果によって後段の検定を選ぶと、2段階をまとめた手続きの第1種の誤りの確率は、名目の $\alpha$ からずれる。平均が等しい2つの正規母集団から、$n_1=6$（$\sigma_1=3$）と $n_2=24$（$\sigma_2=1$）の標本を取ることを、乱数の種を固定して20万回くり返すと、有意水準 $5\%$ の両側検定で「差がある」と誤って判断した割合は次のようになった。プールした $t$ 検定だけを使うと約 $26\%$、Welch の検定だけを使うと約 $5.2\%$、2段階の手順では約 $7.2\%$ である。プールした $t$ 検定がここまで崩れるのは、小さい標本の側の分散が大きいのに、プールした分散が大きい標本の小さな分散に引っ張られ、標準誤差を過小に見積もるからである。2段階の手順も、前段の $F$ 検定が分散の違いを見逃した回だけプールした $t$ 検定の誤りを引き継ぐ。このため実務では、等分散かどうかを検定せず最初から Welch の検定を使う立場が広まっている。Welch の検定は等分散のときも性能がほとんど落ちないからである。2級の試験では従来の2段階の手順が前提になっていることが多いので、問題文の指示に従えばよい。

Welch の検定とその自由度

第10章 §10.5 で、等分散を仮定しない場合の母平均の差の区間として、Welch の方法を結果だけ示した。同じ量で検定も作る。$H_0:\mu_1=\mu_2$ のもとで

$$T_W=\frac{\bar X_1-\bar X_2}{\sqrt{S_1^2/n_1+S_2^2/n_2}}\tag{15.7}$$

は、近似的に自由度

$$\nu^*=\frac{\bigl(s_1^2/n_1+s_2^2/n_2\bigr)^2}{\dfrac{(s_1^2/n_1)^2}{n_1-1}+\dfrac{(s_2^2/n_2)^2}{n_2-1}}\tag{15.8}$$

の $t$ 分布に従う。$\nu^*$ は第10章 §10.5 の Welch の区間の式と同じもので、字も同じ $\nu^*$ を使う。この自由度がどこから出るかを、2級の道具で説明する。

分母の中の $Q=S_1^2/n_1+S_2^2/n_2$ は $V[\bar X_1-\bar X_2]=\sigma_1^2/n_1+\sigma_2^2/n_2=:\theta$ の不偏推定量である。$t$ 分布の定義に合わせるには、$\nu Q/\theta$ が $\chi^2_\nu$ に従えばよい。$\sigma_1=\sigma_2$ でない限りこれは厳密には成り立たないので、$Q$ の平均と分散を、$(\theta/\nu)\chi^2_\nu$ の平均と分散に合わせて $\nu$ を決める。$(\theta/\nu)\chi^2_\nu$ の平均は $\theta$、分散は $(\theta/\nu)^2\cdot2\nu=2\theta^2/\nu$ である。一方、第11章の $V[S_i^2]=2\sigma_i^4/(n_i-1)$ と2つの標本の独立性から

$$E[Q]=\theta,\qquad V[Q]=\frac{2\sigma_1^4}{n_1^2(n_1-1)}+\frac{2\sigma_2^4}{n_2^2(n_2-1)}$$

である。平均は自動的に一致する。分散を等しいと置いて $\nu$ について解くと

$$\nu=\frac{\theta^2}{\dfrac{(\sigma_1^2/n_1)^2}{n_1-1}+\dfrac{(\sigma_2^2/n_2)^2}{n_2-1}}$$

となり、未知の $\sigma_i^2$ を $s_i^2$ で置き換えたものが式 (15.8) である。この近似を Satterthwaite の近似と呼ぶ。分子と分母が独立であることも近似的にしか成り立たないので、$T_W$ の分布はあくまで近似である。正確な分布が初等的な形で書けないこの問題は Behrens–Fisher 問題と呼ばれ、Welch の方法はその実用的な解である。

証明

$a=s_1^2/n_1>0$、$b=s_2^2/n_2>0$、$p=n_1-1$、$q=n_2-1$ と書くと、$\nu^*=(a+b)^2/(a^2/p+b^2/q)$ である。下からの評価：$m=\min(p,q)$ とすると $a^2/p+b^2/q\le(a^2+b^2)/m$ で、$(a+b)^2\ge a^2+b^2$ なので $\nu^*\ge m(a^2+b^2)/(a^2+b^2)=m$ である。上からの評価：Cauchy–Schwarz の不等式（第7章）を $(a/\sqrt p,\ b/\sqrt q)$ と $(\sqrt p,\ \sqrt q)$ に使うと $(a+b)^2\le(a^2/p+b^2/q)(p+q)$ なので、$\nu^*\le p+q=n_1+n_2-2$ である。等号は $a/p=b/q$ のときに成り立つ。

上限 $n_1+n_2-2$ はプールした $t$ の自由度で、2つの標本の情報を全部使えた場合に当たる。下限は小さい方の標本の自由度で、片方の標本の分散が $Q$ をほとんど占める場合に当たる。$\nu^*$ は、$Q$ の中で2つの標本がどれだけの割合を占めるかに応じて、その間の値をとる。

確認テスト

オリジナル

1. 15.2-1 次の文の正誤を答え、誤りなら理由を述べよ。(a) 等分散の $F$ 検定で棄却されなかったので、2つの母分散は等しいことが示された。(b) 両側の等分散性の検定では、大きい方の不偏分散を分子に置けば、上側 $\alpha/2$ 点との比較だけで判定してよい。
2. 15.2-2 独立な2つの正規母集団から、$n_1=16$・$s_1^2=18.0$ と $n_2=11$・$s_2^2=4.5$ を得た。有意水準 $5\%$ で母分散が異なるといえるかを両側検定せよ（$F_{15,10}(0.025)=3.522$）。
3. 15.2-3 15.2-2 のデータで、$\sigma_1^2/\sigma_2^2$ の $95\%$ 信頼区間を求めよ（$F_{10,15}(0.025)=3.060$）。
4. 15.2-4 $n_1=5$・$s_1^2=12$ と $n_2=15$・$s_2^2=3$ のとき、Welch の自由度 $\nu^*$ を求め、命題 15.5 の範囲のどちらの端に近いかを、$Q$ の中で2つの標本が占める割合から説明せよ。
5. 15.2-5 命題 15.5 で、$\nu^*=n_1+n_2-2$ となるのは $s_1^2/(n_1(n_1-1))=s_2^2/(n_2(n_2-1))$ のときであることを確かめよ。$n_1=n_2$ のとき、この条件は何を意味するか。