分散分析後の推定と予測

実験計画法　第4章 §4.2　★★★ 母平均・母平均の差・新しいデータの区間。いずれも「推定量の分散を $V_e$ で置き換えて $t$ 分布」の1つの型で書ける

推定の基本の型

分散分析で要因 $A$ が有意になったら、次に各水準の母平均 $\mu_i=\mu+a_i$ を推定する。この節の推定はすべて同じ型で書ける。手順は次の3段である。

1. 推定したい量 $\theta$ を、水準平均の線形結合 $\hat\theta=\sum_ic_i\bar x_{i\cdot}$ で推定する。
2. その分散を誤差分散 $\sigma^2$ で表す。
3. 誤差分散を $V_e$ に置き換えて $t$ 分布を使う。

証明

水準平均 $\bar x_{i\cdot}\sim\mathrm{N}(\mu_i,\sigma^2/r)$ は互いに独立なので、$\hat\theta$ は正規分布に従う。平均と分散は次のとおりである。

$$E(\hat\theta)=\sum c_i\mu_i=\theta,\qquad V(\hat\theta)=\sum c_i^2\sigma^2/r$$

よって $Z=(\hat\theta-\theta)/\sqrt{\sigma^2\sum c_i^2/r}\sim\mathrm{N}(0,1)$。定理 4.4 (1) より $W=S_e/\sigma^2\sim\chi^2_{\phi_e}$ である。これは水準平均たちと独立なので、$Z$ とも独立である。補題 4.3 の $t$ 分布の定義より

$$\frac{Z}{\sqrt{W/\phi_e}}=\frac{(\hat\theta-\theta)/\sqrt{\sigma^2\sum c_i^2/r}}{\sqrt{V_e/\sigma^2}}=\frac{\hat\theta-\theta}{\sqrt{V_e\sum c_i^2/r}}\sim t_{\phi_e}.$$

$\sigma$ は分子と分母で消える。$P\bigl(\lvert T\rvert \le t_{\phi_e}(\alpha/2)\bigr)=1-\alpha$ を $\theta$ について解けば (4.10) を得る。

この解説では上側 $100\alpha\%$ 点を $t_n(\alpha)$ と書く。両側の信頼係数 95% の区間には $t_{\phi_e}(0.025)$ が入る。品質管理の本では両側の確率で $t(\phi_e,0.05)$ と書く流儀もあるが、指す値は同じである。

この定理を3つの場合に使う。

• 水準 $A_i$ の母平均：$c_i=1$、ほかは 0。点推定は $\hat\mu(A_i)=\bar x_{i\cdot}$、信頼区間は $\bar x_{i\cdot}\pm t_{\phi_e}(\alpha/2)\sqrt{V_e/r}$。
• 2水準の母平均の差：$c_i=1,\ c_k=-1$。点推定は $\bar x_{i\cdot}-\bar x_{k\cdot}$、信頼区間は $\bar x_{i\cdot}-\bar x_{k\cdot}\pm t_{\phi_e}(\alpha/2)\sqrt{2V_e/r}$。
• 対比：$\sum_ic_i=0$ を満たす線形結合 $\sum c_i\mu_i$。たとえば「第3水準と、第1・第2水準の平均との差」は $c=(-\frac12,-\frac12,1)$ である。

対比では $\sum c_i\mu_i=\sum c_ia_i$ となって一般平均が消えるので、対比は効果だけの量である。

最小有意差（lsd）

2つの水準 $A_i,\ A_k$ の母平均が等しいかを、両側 $t$ 検定で調べる。有意水準は $\alpha$ とする。(4.9) で $\theta=\mu_i-\mu_k=0$ とおくと、検定統計量は

$$t_0=\frac{\bar x_{i\cdot}-\bar x_{k\cdot}}{\sqrt{2V_e/r}}$$

で、$\lvert t_0\rvert \ge t_{\phi_e}(\alpha/2)$ なら棄却する。これを差の大きさについて書き直すと

$$\lvert \bar x_{i\cdot}-\bar x_{k\cdot}\rvert \ge \mathrm{lsd},\qquad \mathrm{lsd}\coloneqq t_{\phi_e}(\alpha/2)\sqrt{\frac{2V_e}{r}}\tag{4.11}$$

となる。lsd（least significant difference、最小有意差）は「2つの水準平均の差がこれ以上なら有意」という境目の値である。繰返し数が等しければ lsd はどの組でも同じなので、1つ計算しておけば、水準平均を大きさの順に並べて差を lsd と比べるだけで、すべての組の判定ができる。また、差の信頼区間 $\bar x_{i\cdot}-\bar x_{k\cdot}\pm\mathrm{lsd}$ が 0 を含まないことと、差が有意であることは同じである。

データの予測

水準 $A_i$ で新しく1回測ったときの値 $x$ を予測する。$x=\mu_i+\varepsilon$ と書け、新しい誤差 $\varepsilon\sim\mathrm{N}(0,\sigma^2)$ は今までのデータと独立である。点予測は $\hat x=\bar x_{i\cdot}$ である。予測の誤差 $x-\hat x=(\mu_i-\bar x_{i\cdot})+\varepsilon$ は独立な2つの部分の和で、

$$E(x-\hat x)=0,\qquad V(x-\hat x)=\frac{\sigma^2}{r}+\sigma^2=\Bigl(1+\frac1r\Bigr)\sigma^2$$

である。$\sigma^2$ を $V_e$ に置き換えると、定理 4.6 と同じ議論で

$$\frac{x-\bar x_{i\cdot}}{\sqrt{(1+1/r)V_e}}\sim t_{\phi_e},\qquad\text{予測区間}\quad \bar x_{i\cdot}\pm t_{\phi_e}(\alpha/2)\sqrt{\Bigl(1+\frac1r\Bigr)V_e}\tag{4.12}$$

となる（証明は確認テスト 4.2-4）。予測区間は母平均の信頼区間より広い。母平均の区間の幅は繰返しを増やせば 0 に縮むが、予測区間の幅は $2t_{\phi_e}(\alpha/2)\sigma$ 程度より狭くならない。新しいデータ1個が持つ誤差の分散 $\sigma^2$ は、手元のデータをいくら増やしても小さくならないためである。

要因が有意でないときの推定

$F$ 検定で要因が有意でなかったときは、前節の最後で述べたように要因を誤差にプールすることが多い。構造式を $x_{ij}=\mu+\varepsilon_{ij}$ とみなす。このときの誤差と推定は次のようになる。

• 誤差：平方和は $S_e'=S_A+S_e=S_T$ である。自由度は $\phi_e'=N-1$、平均平方は $V_e'=S_T/(N-1)$。
• 母平均の点推定：どの水準でも $\hat\mu=\bar{\bar x}$ で、分散は $\sigma^2/N$。
• 信頼区間：$\bar{\bar x}\pm t_{N-1}(\alpha/2)\sqrt{V_e'/N}$。有効反復数はデータの総数に増える。

これは要因の効果を 0 と仮定して得た区間なので、効果が 0 でなければ偏りを含む。

対比による平方和の分解

水準が温度や濃度のように数量で、等間隔に設定されているときは、$S_A$ を「直線的な傾向」と「それ以外」に分けて調べられる。係数の和が 0 の対比 $L=\sum_ic_i\bar x_{i\cdot}$ に対して

$$S_L=\frac{rL^2}{\sum_ic_i^2}\tag{4.13}$$

を対比の平方和と呼ぶ。自由度は 1 である。帰無仮説 $H_0\colon\sum c_i\mu_i=0$ のもとで次が成り立つ。

$$\frac{L}{\sqrt{\sigma^2\sum c_i^2/r}}\sim\mathrm{N}(0,1),\qquad \frac{S_L}{\sigma^2}\sim\chi^2_1,\qquad \frac{S_L}{V_e}\sim F_{1,\phi_e}$$

最後の量は (4.9) の $t$ 統計量の2乗にほかならない。

係数ベクトルが互いに直交する（$\sum_ic_ic_i'=0$）対比を、水準数より1つ少ない個数だけとる。その平方和の合計はちょうど $S_A$ になる。3水準なら直交多項式の係数がその組である。1次は $c^{(1)}=(-1,0,1)$、2次は $c^{(2)}=(1,-2,1)$ である。

証明

$\bm d=(\bar x_{1\cdot}-\bar{\bar x},\dots,\bar x_{\ell\cdot}-\bar{\bar x})$ とおくと $S_A=r\lVert \bm d\rVert ^2$ である。このベクトルは成分の和が 0 の部分空間（$\ell-1$ 次元）に入り、係数ベクトルたちはその部分空間の直交基底になる。正規化した $\bm u_k=c^{(k)}/\lVert c^{(k)}\rVert$ で展開すると、Parseval の等式から $\lVert \bm d\rVert ^2=\sum_k(\bm u_k\cdot\bm d)^2$ である。係数の和が 0 なので、内積は次のように対比に一致する。

$$\begin{aligned}c^{(k)}\cdot\bm d&=\sum_ic_i^{(k)}\bar x_{i\cdot}=L_k,\\ r(\bm u_k\cdot\bm d)^2&=rL_k^2/\lVert c^{(k)}\rVert ^2=S_{L_k}.\end{aligned}$$

足し合わせて結論を得る。

確認テスト

オリジナル

1. 4.2-1 1元配置法（繰返し数 $r$）の lsd の式を書け。また $\lvert \bar x_{i\cdot}-\bar x_{k\cdot}\rvert \ge\mathrm{lsd}$ がどの検定の棄却域と同じかを述べよ。
2. 4.2-2 確認テスト 4.1-2 のデータ（4水準・繰返し 3、水準平均 10, 12, 11, 15、$S_e=24$）を使う。$\mu(A_4)$ と $\mu(A_4)-\mu(A_1)$ の信頼係数 95% の信頼区間を求めよ。$t_8(0.025)=2.306$ とする。
3. 4.2-3 同じデータで、対比 $\theta=\mu_4-\frac13(\mu_1+\mu_2+\mu_3)$ を考える。点推定値・信頼係数 95% の信頼区間・対比の平方和 $S_L$ を求めよ。対比の平方和が $S_A$ のどれだけを占めるかも答えよ。
4. 4.2-4 水準 $A_i$ での新しいデータ $x$ について、次を示せ。

$$\frac{x-\bar x_{i\cdot}}{\sqrt{(1+1/r)V_e}}\sim t_{\phi_e}$$ 5. 4.2-5 水準数 $\ell=5$ の1元配置法ですべての2水準の組を lsd（1組あたり有意水準 5%）で比べる。比べる組の数と、Bonferroni の不等式によるファミリーワイズの第1種の過誤確率の上限を求めよ。この上限を 5% にするには、1組あたりの有意水準をいくらにすればよいか。