検定と推定の復習

実験計画法　第1章 §1.2　★★ 正規母集団の $t$ 分布・カイ二乗分布・$F$ 分布による検定と区間推定。2群の $t$ 検定は2水準の分散分析と同じものになる

この節では、第2章以降で分散分析表の検定と推定を組み立てるときに使う結果を、正規母集団に限って整理する。分布の導出そのもの（3つの分布の密度の導出や、標本平均と偏差平方和の独立性の証明）は数理統計の解説の第5章（標本分布）で扱うので、ここでは結果を式の形で書き、それを検定と推定にどう使うかを述べる。

正規母集団からの標本分布

カイ二乗分布の期待値と分散は次のとおりである。

$$E[\chi^2_n]=n,\qquad V[\chi^2_n]=2n$$

1個の $Z^2$ について次が成り立ち、これを独立に $n$ 個足せばよい。

$$E[Z^2]=1,\quad E[Z^4]=3\quad\Longrightarrow\quad V[Z^2]=3-1=2$$

(iv) は (i)〜(iii) から次のように出る。次の2つは独立である。

$$Z=\frac{\bar X-\mu}{\sigma/\sqrt n}\sim\mathrm{N}(0,1),\qquad W=\frac{S}{\sigma^2}\sim\chi^2_{n-1}$$

これを $t$ 分布の定義に入れると

$$\frac{Z}{\sqrt{W/(n-1)}}=\frac{\bar X-\mu}{\sqrt{V/n}}$$

となって $\sigma$ が約分で消える。$t$ 統計量が未知の $\sigma$ を含まないのはこのためである。分散分析の $F_0=V_A/V_e$ が $\sigma^2$ を含まないのも同じ理由による。

偏差平方和の自由度が $n$ でなく $n-1$ になるのは、偏差が次の1本の制約を満たすからである。

$$\sum_k(X_k-\bar X)=0$$

$n$ 個の偏差のうち $n-1$ 個を決めれば残り1個が決まる。この数え方は、第2章で平方和ごとに自由度を数えるときにそのまま使う。

検定の考え方

帰無仮説 $H_0$ は、検定で否定することを目指す仮説で、「効果が無い」「差が無い」という形をとる。対立仮説 $H_1$ は、$H_0$ が否定されたときに採る仮説である。データから計算する検定統計量について、$H_0$ が正しいときにはめったに出ない値の範囲を棄却域として決めておき、統計量が棄却域に入れば $H_0$ を棄却する。

$H_0$ が正しいのに棄却する確率を有意水準 $\alpha$ とし、5% や 1% に設定する。$H_0$ が正しくないのに棄却しない誤りを第2種の誤りと呼ぶ。$H_1$ のもとで $H_0$ を棄却する確率を検出力と呼ぶ。

実験計画法の分散分析表では、$F_0$ が5%点を超えたら値に星印を1つ、1%点も超えたら2つ付けて書く慣習がある。1つの「$*$」は有意水準5%で有意、2つの「$**$」は有意水準1%で有意と読む。「有意でない」は「$H_0$ が正しいと示された」という意味ではない。効果が誤差に比べて小さいか、繰返しが少なくて検出力が足りなかった可能性が残る。

正規母集団の検定と区間推定

定理 1.5 から、次の手続きが得られる。$S$ は偏差平方和で、次のように置く。

$$V=\frac{S}{n-1},\qquad \phi=n-1$$

• 母平均（$\sigma^2$ 未知）：$H_0:\mu=\mu_0$ の検定統計量は

$$t_0=\frac{\bar x-\mu_0}{\sqrt{V/n}}$$

で、両側検定では $|t_0|\ge t_\phi(\alpha/2)$ のとき棄却する。信頼率 $1-\alpha$ の信頼区間は次のとおり。

$$\bar x\pm t_\phi(\alpha/2)\sqrt{V/n}$$

• 母分散：$H_0:\sigma^2=\sigma_0^2$ の検定統計量は $\chi_0^2=S/\sigma_0^2$ である。片側の対立仮説 $H_1:\sigma^2>\sigma_0^2$ に対しては、$\chi_0^2\ge\chi^2_\phi(\alpha)$ のとき棄却する。信頼区間は、次の式を $\sigma^2$ について解いて得る。

$$P\bigl(\chi^2_\phi(1-\alpha/2)\le S/\sigma^2\le\chi^2_\phi(\alpha/2)\bigr)=1-\alpha$$

これを解くと、信頼区間

$$\frac{S}{\chi^2_\phi(\alpha/2)}\le\sigma^2\le\frac{S}{\chi^2_\phi(1-\alpha/2)}\tag{1.5}$$

を得る。

信頼区間と検定は表裏の関係にある。次の2つは同値である。

• 両側検定で $H_0:\mu=\mu_0$ が有意水準 $\alpha$ で棄却されない。
• $\mu_0$ が信頼率 $1-\alpha$ の信頼区間に入る。

$|t_0|<t_\phi(\alpha/2)$ を $\mu_0$ について書き直すと、ちょうど信頼区間の不等式になるからである。

2つの母平均の比較と分散分析とのつながり

2つの水準 $A_1,A_2$ でそれぞれ $r$ 回測り、次のデータを得たとする（すべて独立、分散は共通）。

$$x_{1j}\sim\mathrm{N}(\mu_1,\sigma^2),\qquad x_{2j}\sim\mathrm{N}(\mu_2,\sigma^2)$$

各水準の偏差平方和を $S_1,S_2$ とする。独立なカイ二乗変数の和なので、次が成り立つ。

$$\frac{S_1+S_2}{\sigma^2}\sim\chi^2_{2(r-1)}$$

共通の分散の推定量は $V=(S_1+S_2)/\{2(r-1)\}$ である。平均の差は次の分布に従い、$V$ と独立である。

$$\bar x_1-\bar x_2\sim\mathrm{N}(\mu_1-\mu_2,\,2\sigma^2/r)$$

したがって

$$t_0=\frac{\bar x_1-\bar x_2}{\sqrt{2V/r}}\tag{1.6}$$

は $H_0:\mu_1=\mu_2$ のもとで $t_{2(r-1)}$ に従う。$\mu_1-\mu_2$ の信頼区間は次のとおりである。

$$(\bar x_1-\bar x_2)\pm t_{2(r-1)}(\alpha/2)\sqrt{2V/r}$$

同じデータを、第2章の1元配置（水準数 $a=2$、繰返し $r$）として分散分析する。総平均と、そこからの各水準平均のずれは次のとおりである。

$$\bar{\bar x}=\frac{\bar x_1+\bar x_2}{2},\qquad \bar x_1-\bar{\bar x}=\frac{\bar x_1-\bar x_2}{2},\qquad \bar x_2-\bar{\bar x}=-\frac{\bar x_1-\bar x_2}{2}$$

よって

$$S_A=r\sum_{i=1}^2(\bar x_i-\bar{\bar x})^2=r\cdot2\cdot\frac{(\bar x_1-\bar x_2)^2}{4}=\frac{r(\bar x_1-\bar x_2)^2}{2},\qquad S_e=S_1+S_2.$$

自由度は $\phi_A=1$ と $\phi_e=2(r-1)$ である。したがって $V_A=S_A$、$V_e=V$ となり、次の定理が成り立つ。

証明

上の計算から次のようになる。

$$F_0=\dfrac{S_A}{V_e}=\dfrac{r(\bar x_1-\bar x_2)^2}{2V}=\Bigl(\dfrac{\bar x_1-\bar x_2}{\sqrt{2V/r}}\Bigr)^2=t_0^2$$

後半を示す。$T\sim t_\phi$ なら、定義 1.4 より $T=Z/\sqrt{W/\phi}$ と書けるので

$$T^2=\frac{Z^2/1}{W/\phi}.$$

分子の $Z^2$ は自由度1のカイ二乗分布に従い、分母の $W$ と独立である。よって $T^2\sim F_{1,\phi}$ である。$t$ 分布は0について対称なので、次が成り立つ。

$$P(T^2\ge c^2)=P(|T|\ge c)=2P(T\ge c)$$

$c=t_\phi(\alpha/2)$ とおくと右辺は $\alpha$ になる。よって $c^2=F_{1,\phi}(\alpha)$ である。

定理 1.6 が、分散分析を「2群の $t$ 検定を多群へ広げたもの」と読む根拠である。水準が3つ以上になると、対ごとの差の代わりに、水準平均の総平均からのばらつき $S_A$ を使う。判定には、分子の自由度が $a-1$ の $F$ 分布を使う。

図 1.2 に、例題 1.3 の検定を $t_8$ 分布の上で示した。両側の棄却域の面積は合わせて5%で、$|t_0|=3$ は右側の棄却域に入る。$P(|T|\ge3)$ を計算すると約0.017で、これが両側検定の $p$ 値である。

確認テスト

オリジナル

1. 1.2-1 有意水準 $\alpha$ と検出力の意味をそれぞれ1文で述べよ。また、分散分析で要因が「有意でない」とき、要因の効果が0だと結論してはいけない理由を述べよ。
2. 1.2-2 $T\sim t_\phi$ のとき $T^2\sim F_{1,\phi}$ であることを示せ。また、次の関係を導け。

$$F_{1,\phi}(\alpha)=t_\phi(\alpha/2)^2$$ 3. 1.2-3 2水準を各4回測り、次のデータを得た。

$$A_1:\ 8,10,9,11\qquad A_2:\ 12,11,13,14$$

$t_0$ を求めて有意水準5%（両側）で検定し、$\mu_2-\mu_1$ の95%信頼区間を求めよ。さらに分散分析の平方和・誤差分散・分散比を求め、$F_0=t_0^2$ を確かめよ。$t_6(0.025)=2.447$ を用いてよい。4. 1.2-4 正規母集団から大きさ10の標本をとり、偏差平方和 $S=18$ を得た。$H_0:\sigma^2=1$ を、対立仮説 $H_1:\sigma^2\neq1$ に対して有意水準5%で検定せよ。また$\sigma^2$ の95%信頼区間を求めよ。$\chi^2_9(0.025)=19.02$、$\chi^2_9(0.975)=2.700$ を用いてよい。5. 1.2-5 定理 1.5 (ii) を使って、不偏分散 $V=S/(n-1)$ について次を導け。

$$E[V]=\sigma^2,\qquad V[V]=\frac{2\sigma^4}{n-1}$$