母平均の差の信頼区間

統計学の復習　第10章 §10.5　★★★ 対応があれば差をとって1標本の $t$（自由度 $n-1$）、対応がなく等分散ならプールした分散で $t_{n_1+n_2-2}$、等分散を仮定しないなら Welch の近似

2つの母集団の平均 $\mu_1,\mu_2$ の差 $\mu_1-\mu_2$ を推定するとき、データの取り方で手続きが分かれる。同じ個体を2回測る（処理の前と後、左右の手など）ときは2つの値に対応がある。別々の個体の集団から取るときは対応がない。

対応のある場合

$n$ 個の個体それぞれについて $(X_i,Y_i)$ を測り、差を $D_i=X_i-Y_i$ とする。異なる個体の組は独立で、$D_i$ が $\mathrm N(\mu_D,\sigma_D^2)$ に従うとすると、$\mu_D=\mu_1-\mu_2$ であり、$D_1,\dots,D_n$ は1つの正規母集団からの無作為標本になる。したがって §10.4 の区間をそのまま $D_i$ に使い、

$$\bar d\pm t_{n-1}(\alpha/2)\frac{s_d}{\sqrt n}\tag{10.13}$$

が $\mu_1-\mu_2$ の信頼係数 $1-\alpha$ の区間になる。$\bar d$ と $s_d$ は差 $d_i$ の標本平均と不偏標準偏差で、自由度は個体の数から1を引いた $n-1$ である。

同じ個体の $X_i$ と $Y_i$ は一般に相関を持つ。第7章の線形結合の分散の公式から

$$\sigma_D^2=V[X_i-Y_i]=V[X_i]+V[Y_i]-2\,\mathrm{Cov}(X_i,Y_i)$$

であり、正の相関があると差の分散は小さくなる。$s_d^2$ は差 $d_i$ から直接計算するので、この共分散の項は最初から $s_d^2$ に含まれていて、別に推定する必要がない。個体ごとのばらつき（もともと大きい個体・小さい個体）は $X_i$ と $Y_i$ の両方に乗っていて差をとると打ち消し合うので、対応のある区間は狭くなる（総合問題）。

対応がなく母分散が既知の場合

$X_1,\dots,X_{n_1}$ が $\mathrm N(\mu_1,\sigma_1^2)$ から、$Y_1,\dots,Y_{n_2}$ が $\mathrm N(\mu_2,\sigma_2^2)$ から取られ、2つの標本は独立とする。$\bar X\sim\mathrm N(\mu_1,\sigma_1^2/n_1)$ と $\bar Y\sim\mathrm N(\mu_2,\sigma_2^2/n_2)$ は独立なので、差の分散は分散の和になり、

$$\bar X-\bar Y\sim\mathrm N\!\left(\mu_1-\mu_2,\ \frac{\sigma_1^2}{n_1}+\frac{\sigma_2^2}{n_2}\right)\tag{10.14}$$

である。差をとっても分散は引き算にならず、足し算になる。$\sigma_1,\sigma_2$ が既知なら、標準化した量は $\mathrm N(0,1)$ に従うピボットで、区間は

$$(\bar x-\bar y)\pm z_{\alpha/2}\sqrt{\frac{\sigma_1^2}{n_1}+\frac{\sigma_2^2}{n_2}}$$

である。

対応がなく母分散が等しいが未知の場合

$\sigma_1^2=\sigma_2^2=\sigma^2$ で、$\sigma^2$ は未知とする。2つの標本の不偏分散 $S_1^2,S_2^2$ はどちらも同じ $\sigma^2$ の推定量なので、両方を合わせて

$$S_p^2=\frac{(n_1-1)S_1^2+(n_2-1)S_2^2}{n_1+n_2-2}\tag{10.15}$$

を作る。これをプールした分散と呼ぶ。分子は2つの標本それぞれの偏差平方和の合計で、分母はその自由度の合計である。$S_1^2$ と $S_2^2$ を自由度 $n_1-1$・$n_2-1$ で重みをつけて平均したものとも読むことができ、大きな標本から得た推定量に大きな重みがかかる。

証明

式 (10.14) で $\sigma_1=\sigma_2=\sigma$ とすると、$Z=\{(\bar X-\bar Y)-(\mu_1-\mu_2)\}/\bigl(\sigma\sqrt{1/n_1+1/n_2}\bigr)\sim\mathrm N(0,1)$ である。定理 10.5 から $(n_1-1)S_1^2/\sigma^2\sim\chi^2_{n_1-1}$、$(n_2-1)S_2^2/\sigma^2\sim\chi^2_{n_2-1}$ で、2つの標本は独立なのでこの2つも独立である。カイ二乗分布の再生性から

$$W=\frac{(n_1+n_2-2)S_p^2}{\sigma^2}=\frac{(n_1-1)S_1^2}{\sigma^2}+\frac{(n_2-1)S_2^2}{\sigma^2}\sim\chi^2_{n_1+n_2-2}$$

である。定理 10.5 の独立性から、$\bar X$ は $S_1^2$ と独立で、$Y$ の標本全体とも独立なので、$\bar X$ は $(S_1^2,S_2^2)$ と独立である。$\bar Y$ も同様なので、$Z$ と $W$ は独立である。$T=Z/\sqrt{W/(n_1+n_2-2)}$ と書くことができ（分子・分母の $\sigma$ が約分される）、定義 10.4 から $T\sim t_{n_1+n_2-2}$ である。区間は §10.4 と同じ同値変形で得られる。

自由度が $n_1+n_2-2$ になるのは、偏差平方和を作るときに2つの標本平均 $\bar X,\bar Y$ をそれぞれ1回ずつ使い、制約が2本あるからである。

等分散を仮定しない場合（Welch の方法）

$\sigma_1^2\ne\sigma_2^2$ かもしれないときは、式 (10.14) の分散を $s_1^2/n_1+s_2^2/n_2$ で推定し、

$$(\bar x-\bar y)\pm t_{\nu^*}(\alpha/2)\sqrt{\frac{s_1^2}{n_1}+\frac{s_2^2}{n_2}},\qquad \nu^*=\frac{\bigl(s_1^2/n_1+s_2^2/n_2\bigr)^2}{\dfrac{(s_1^2/n_1)^2}{n_1-1}+\dfrac{(s_2^2/n_2)^2}{n_2-1}}\tag{10.17}$$

を使う。この統計量は厳密には $t$ 分布に従わないが、自由度 $\nu^*$（整数とは限らない）の $t$ 分布でよく近似される。これを Welch の方法と呼ぶ。$\nu^*$ の式は、分母の分散の推定量の平均と分散をカイ二乗分布の定数倍に合わせて決めたもので、その考え方は第15章 §15.2 で2級の道具を使って説明する。等分散かどうかを $F$ 分布で調べる手続きと、その限界も同じ節で扱う。

区間が $0$ を含むかどうかは、第12章の「母平均の差は $0$」の両側検定で帰無仮説が棄却されるかどうかと一致する（区間推定と検定の双対性）。

確認テスト

オリジナル

1. 10.5-1 次のデータで母平均の差を推定するとき、対応があるかないかを答えよ。(a) 15人の右手と左手の握力。(b) 1組の15人と2組の18人の通学時間。
2. 10.5-2 7組の対応のあるデータで、差が $2,\ -1,\ 3,\ 4,\ 1,\ 3,\ 2$ であった。差の母平均の $95\%$ 信頼区間を求めよ（$t_6(0.025)=2.447$）。
3. 10.5-3 独立な2つの正規母集団から、$n_1=12$・$\bar x=24.0$・$s_1=3.0$ と $n_2=10$・$\bar y=21.5$・$s_2=4.0$ を得た。等分散を仮定して $\mu_1-\mu_2$ の $95\%$ 信頼区間を求めよ（$t_{20}(0.025)=2.086$）。
4. 10.5-4 等分散 $\sigma^2$ の独立な2標本について、(i) $V[\bar X-\bar Y]=\sigma^2(1/n_1+1/n_2)$ を示し、(ii) $E[S_p^2]=\sigma^2$ を示せ（$E[S_i^2]=\sigma^2$ は第9章の結果を使ってよい）。