測定の繰返しとは

実験計画法　第14章 §14.1　★★ 構造式に1次誤差と2次誤差を入れ、期待平均平方・検定の分母・推定の分散・測定回数の最適化を導く

工業の実験では、1回の実験で試験片を1個作り、その硬さを2回測る、というように、同じ実験単位に対して測定を何回か繰り返すことが多い。実験 $r$ 回のそれぞれで測定を $m$ 回ずつ行うと、データは全部でその積の個数になる。これは同じ個数の独立な実験から得たデータとは性質が違う。同じ試験片を測った2つの値は、試験片を作る段階で入ったばらつきを共有しているからである。

この違いを無視して全データを「繰返し」として1元配置の解析にかけると、誤差分散を小さく見積もる。その結果、本当は差の無い要因を有意と判定する誤りが起きる。

この章では次の道具を作る。

1. 構造式：実験の誤差（1次誤差）と測定の誤差（2次誤差）を別々の項として持つデータの構造式。
2. 検定の規則：平方和の3分解と期待平均平方。そこから「要因 $A$ は1次誤差の平均平方で割って検定する」という規則が決まる。
3. 推定：要因の水準の母平均の推定とその分散 $\sigma_{(1)}^2/r+\sigma_{(2)}^2/(rm)$、2つの誤差の分散成分の推定。
4. 測定回数の最適化：測定を繰り返す利点を数式で示し、実験1回と測定1回の費用から測定回数の最適値を決める式。

期待平均平方が2段の誤差を持つ形は、第12章の分割法（1次誤差と2次誤差）と同じ構造をしており、この章はその最も簡単な場合に当たる。

統計応用（理工学）の大問では、「構造式を書く → 平方和と自由度を3つに分ける → 期待平均平方から検定の分母を選ぶ →母平均を区間推定する → 分散成分を推定し測定回数の妥当性を論じる」という連鎖で、この章の道具が使われうる。

実験の繰返しと測定の繰返し

第1章で述べた Fisher の3原則の「反復」は、実験の繰返しを指す。実験の繰返しとは、ある水準 $A_i$ の条件で、原料の計量・加工・処理といった実験の手順を最初からもう一度行うことである。手順を最初から行うたびに、原料のばらつき、装置の設定のずれ、処理時間の微妙な違いが新しく入る。これらをまとめて実験の誤差と呼ぶ。

一方、測定の繰返しとは、1回の実験でできた試料（試験片・製品・溶液）を、同じ測定器で何回か測ることである。測定の繰返しで新しく入るのは測定器の読みのばらつきだけで、実験の誤差は入らない。

図 14.1 は、水準ごとに $r$ 回の実験を行い、各実験の試料を $m$ 回測定する場合のデータの階層を表す。同じ枝（同じ実験）にぶら下がる測定値は、その実験で入った実験の誤差を共通に持つ。

データの構造式

記号を次のように決める。

• 因子 $A$ の水準数を $a$ とする。
• 各水準での実験の繰返し数を $r$、各実験での測定の繰返し数を $m$ とする。
• 測定値は $x_{ijk}$ と書く。添字は順に、水準・その水準での実験の番号・その実験での測定の番号を表す。添字の範囲は $i=1,\dots,a,\ j=1,\dots,r,\ k=1,\dots,m$ である。
• 総データ数を $N=arm$ とする。全部で $ar$ 回ある実験の実施順は、無作為に決めるものとする。

構造式から、データの分散と共分散は次のように決まる。

$$V[x_{ijk}]=\sigma_{(1)}^2+\sigma_{(2)}^2,\qquad \mathrm{Cov}(x_{ijk},x_{ijk'})=\sigma_{(1)}^2\quad(k\neq k'),\qquad \mathrm{Cov}(x_{ijk},x_{ij'k'})=0\quad(j\neq j').\tag{14.2}$$

同じ実験の2つの測定値は正の相関 $\sigma_{(1)}^2/(\sigma_{(1)}^2+\sigma_{(2)}^2)$ を持つ。全データを独立とみなす解析が誤りになる理由は、この相関にある。

平方和の分解

和と平均の記号を次のように置く。

$$\begin{aligned}\text{実験ごと}&:\ T_{ij\cdot}=\sum_k x_{ijk},\quad \bar x_{ij\cdot}=T_{ij\cdot}/m,\\ \text{水準ごと}&:\ T_{i\cdot\cdot}=\sum_{j,k}x_{ijk},\quad \bar x_{i\cdot\cdot}=T_{i\cdot\cdot}/(rm),\\ \text{全体}&:\ T=\sum_{i,j,k}x_{ijk},\quad \bar x=T/N,\quad CT=T^2/N\ \text{（修正項）}.\end{aligned}$$

各データの総平均からの偏差を

$$x_{ijk}-\bar x=(\bar x_{i\cdot\cdot}-\bar x)+(\bar x_{ij\cdot}-\bar x_{i\cdot\cdot})+(x_{ijk}-\bar x_{ij\cdot})\tag{14.3}$$

と3つに分ける。右辺の3項は、和を取ると互いの積の和が 0 になる。理由は次のとおりである。

• 第3項は、$k$ について和を取ると $\sum_k(x_{ijk}-\bar x_{ij\cdot})=0$ になる。よって添字 $k$ に依存しない第1項・第2項との積の和は 0 である。
• 第2項は、$j$ について和を取ると $\sum_j(\bar x_{ij\cdot}-\bar x_{i\cdot\cdot})=0$ になる。よって添字 $j$ に依存しない第1項との積の和は 0 である。

したがって両辺を2乗して和を取ると

$$S_T=S_A+S_{e(1)}+S_{e(2)}\tag{14.4}$$

を得る。各平方和の定義と計算式は

$$\begin{align*}S_T&=\sum_{i,j,k}(x_{ijk}-\bar x)^2=\sum_{i,j,k}x_{ijk}^2-CT, & S_A&=rm\sum_i(\bar x_{i\cdot\cdot}-\bar x)^2=\sum_i\frac{T_{i\cdot\cdot}^2}{rm}-CT,\\S_{e(1)}&=m\sum_{i,j}(\bar x_{ij\cdot}-\bar x_{i\cdot\cdot})^2=S_{AR}-S_A, & S_{e(2)}&=\sum_{i,j,k}(x_{ijk}-\bar x_{ij\cdot})^2=S_T-S_{AR}\tag{14.5}\end{align*}$$

である。ここで $S_{AR}=\sum_{i,j}T_{ij\cdot}^2/m-CT$ は、実験ごとの合計の間の平方和である。これは実験ごとの合計を1つのデータとみなした1元配置の総平方和にあたる。それを「水準間」$S_A$ と「同じ水準の実験の間」$S_{e(1)}$ に分けている。自由度は

$$\phi_T=arm-1,\qquad \phi_A=a-1,\qquad \phi_{e(1)}=a(r-1),\qquad \phi_{e(2)}=ar(m-1)\tag{14.6}$$

で、$\phi_T=\phi_A+\phi_{e(1)}+\phi_{e(2)}$ が成り立つ。2つの誤差の自由度は次のように数える。

• $\phi_{e(1)}$：各水準の中で実験平均が自由に動ける数 $r-1$ を、水準の数だけ足したもの。
• $\phi_{e(2)}$：各実験の中で測定値が自由に動ける数 $m-1$ を、実験の数だけ足したもの。

期待平均平方と平方和の分布

証明

実験ごとの2次誤差の平均を $\bar\varepsilon_{(2)ij\cdot}=\frac1m\sum_k\varepsilon_{(2)ijk}$ と書き、

$$u_{ij}=\varepsilon_{(1)ij}+\bar\varepsilon_{(2)ij\cdot}$$

と置く。$u_{ij}$ は実験の数だけあり、互いに独立である。1次誤差と2次誤差の平均が独立なので、次が成り立つ。

$$u_{ij}\sim\mathrm{N}\bigl(0,\ \sigma_{(1)}^2+\sigma_{(2)}^2/m\bigr)$$

$\bar u_{i}=\frac1r\sum_j u_{ij},\ \bar u=\frac1a\sum_i\bar u_i$ として、構造式を平均に代入すると

$$\bar x_{ij\cdot}=\mu+a_i+u_{ij},\qquad \bar x_{i\cdot\cdot}=\mu+a_i+\bar u_i,\qquad \bar x=\mu+\bar u$$

となる（$\sum_i a_i=0$ を使う）。よって3つの偏差は

$$\begin{aligned}\bar x_{i\cdot\cdot}-\bar x&=a_i+(\bar u_i-\bar u),\\ \bar x_{ij\cdot}-\bar x_{i\cdot\cdot}&=u_{ij}-\bar u_i,\\ x_{ijk}-\bar x_{ij\cdot}&=\varepsilon_{(2)ijk}-\bar\varepsilon_{(2)ij\cdot}\end{aligned}$$

と書ける。1次誤差は3行目から完全に消え、1行目と2行目には $u_{ij}$ を通してだけ入る。

$S_{e(2)}$ の分布。実験ごとに、2次誤差 $\varepsilon_{(2)ij1},\dots,\varepsilon_{(2)ijm}$ は $\mathrm{N}(0,\sigma_{(2)}^2)$ からの標本である。よって

$$\frac{\sum_k(\varepsilon_{(2)ijk}-\bar\varepsilon_{(2)ij\cdot})^2}{\sigma_{(2)}^2}\sim\chi^2_{m-1}$$

で、これは2次誤差の平均 $\bar\varepsilon_{(2)ij\cdot}$ と独立である。全実験について独立に足すと次を得る。

$$\frac{S_{e(2)}}{\sigma_{(2)}^2}\sim\chi^2_{ar(m-1)},\qquad E(S_{e(2)})=ar(m-1)\sigma_{(2)}^2$$

$S_{e(1)}$ の分布。$\tau^2=\sigma_{(1)}^2+\sigma_{(2)}^2/m$ と置く。水準ごとに、$u_{i1},\dots,u_{ir}$ は分散 $\tau^2$ の正規分布からの標本である。よって $\sum_j(u_{ij}-\bar u_i)^2/\tau^2\sim\chi^2_{r-1}$ で、これは水準平均 $\bar u_i$ と独立である。全水準を足して $m$ 倍すると

$$\frac{S_{e(1)}}{m\tau^2}=\frac{S_{e(1)}}{\sigma_{(2)}^2+m\sigma_{(1)}^2}\sim\chi^2_{a(r-1)},\qquad E(S_{e(1)})=a(r-1)(\sigma_{(2)}^2+m\sigma_{(1)}^2).$$

$S_A$ の分布。$\bar u_1,\dots,\bar u_a$ は独立に $\mathrm{N}(0,\tau^2/r)$ に従う。標本分散の性質から

$$E\Bigl[\sum_i(\bar u_i-\bar u)^2\Bigr]=(a-1)\tau^2/r$$

である。交差項 $2\sum_i a_i(\bar u_i-\bar u)$ の期待値は 0 なので

$$E(S_A)=rm\sum_i a_i^2+rm\cdot\frac{(a-1)\tau^2}{r}=(a-1)\bigl(\sigma_{(2)}^2+m\sigma_{(1)}^2+rm\sigma_A^2\bigr).$$

帰無仮説のもとでは $S_A=rm\sum_i(\bar u_i-\bar u)^2$ である。$\sum_i(\bar u_i-\bar u)^2/(\tau^2/r)\sim\chi^2_{a-1}$ から、$S_A/(m\tau^2)\sim\chi^2_{a-1}$ を得る。

独立性。次の2段で示す。

• $S_{e(2)}$ は実験内の偏差 $\varepsilon_{(2)ijk}-\bar\varepsilon_{(2)ij\cdot}$ だけの関数である。これは実験内の2次誤差の平均とも1次誤差とも独立である。残りの2つの平方和は $u_{ij}$ だけの関数なので、$S_{e(2)}$ は両者と独立である。
• $S_{e(1)}$ は各水準の中の偏差 $u_{ij}-\bar u_i$ の関数である。$S_A$ は水準の平均 $\bar u_i$ の関数である。正規標本の平均と偏差は独立なので、この2つも独立である。

各平方和の期待値を自由度で割れば (14.7) を得る。

定理 14.2 から、分散分析表は表 14.1 の形になる。

検定の分母の選び方とプーリング

検定の分母は、期待平均平方の表で「検定したい項だけが違う行」を選ぶ。要因の効果の有無 $H_0\colon\sigma_A^2=0$ を調べるには、$E(V_A)$ から要因の項を除いたものを期待値に持つ平均平方で割る。それは $E(V_{e(1)})=\sigma_{(2)}^2+m\sigma_{(1)}^2$ をもつ1次誤差の平均平方である。定理 14.2 から、帰無仮説のもとで

$$F_0=\frac{V_A}{V_{e(1)}}\sim F_{a-1,\ a(r-1)}\tag{14.8}$$

なので、$F_0\geq F_{a-1,a(r-1)}(\alpha)$ のとき有意とする。2次誤差の平均平方で割ると、帰無仮説のもとでも分子の期待値が分母より $m\sigma_{(1)}^2$ だけ大きい。そのため有意になりやすすぎる検定になる。

同じ表で、1次誤差が実在するか（$\sigma_{(1)}^2>0$ か）も調べられる。$F_0=V_{e(1)}/V_{e(2)}$ を $F_{a(r-1),ar(m-1)}$ で判定すればよい。これが有意でなく、目安として分散比が 2 程度より小さいときは、1次誤差は無視できるとみなす。そして第5章のプーリングと同じ考え方で、2つの誤差 $e_{(1)},\ e_{(2)}$ を併せる。併せた誤差は

$$S_{e'}=S_{e(1)}+S_{e(2)},\qquad \phi_{e'}=\phi_{e(1)}+\phi_{e(2)}=a(rm-1),\qquad V_{e'}=S_{e'}/\phi_{e'}\tag{14.9}$$

で、要因は $V_A/V_{e'}$ を $F_{a-1,a(rm-1)}$ で判定する。プールした後の解析は、全データを繰返しとする普通の1元配置と同じになる。プールは「データで $\sigma_{(1)}^2\approx0$ を確かめた後」にだけ許される操作であり、最初から全データを繰返しとみなすこととは意味が違う。

分散分析後の推定

水準 $A_i$ の母平均 $\mu(A_i)=\mu+a_i$ の点推定は、その水準の平均である。$\bar x_{i\cdot\cdot}=\mu+a_i+\bar u_i$ から

$$V[\bar x_{i\cdot\cdot}]=\frac{\tau^2}{r}=\frac{\sigma_{(1)}^2}{r}+\frac{\sigma_{(2)}^2}{rm}=\frac{\sigma_{(2)}^2+m\sigma_{(1)}^2}{rm}\tag{14.10}$$

となる。最後の形の分子はちょうど $E(V_{e(1)})$ なので、$V_{e(1)}/(rm)$ がこの分散の不偏推定量になる。しかも1次誤差の平均平方は $(\sigma_{(2)}^2+m\sigma_{(1)}^2)\chi^2_{\phi_{e(1)}}/\phi_{e(1)}$ に従い、水準平均と独立である。よって次が正確に成り立つ。

$$\frac{\bar x_{i\cdot\cdot}-\mu(A_i)}{\sqrt{V_{e(1)}/(rm)}}\sim t_{\phi_{e(1)}}$$

信頼率 $1-\alpha$ の信頼区間は

$$\bar x_{i\cdot\cdot}\pm t_{\phi_{e(1)}}(\alpha/2)\sqrt{\frac{V_{e(1)}}{rm}},\qquad (\bar x_{i\cdot\cdot}-\bar x_{i'\cdot\cdot})\pm t_{\phi_{e(1)}}(\alpha/2)\sqrt{\frac{2V_{e(1)}}{rm}}\tag{14.11}$$

である（右は2水準の母平均の差の区間）。第11章の乱塊法では、水準の母平均の分散に入るブロックの分散成分を $V_e$ だけでは推定できず、Satterthwaite の等価自由度が必要だった。測定の繰返しでは、母平均の分散に入る2つの成分の組合せ $\sigma_{(2)}^2+m\sigma_{(1)}^2$ がちょうど1つの平均平方の期待値になっているので、$t$ 分布による正確な区間が得られる。

分散成分の点推定は、期待平均平方の式 (14.7) を下から解いて

$$\hat\sigma_{(2)}^2=V_{e(2)},\qquad \hat\sigma_{(1)}^2=\frac{V_{e(1)}-V_{e(2)}}{m}\tag{14.12}$$

とする。どちらも不偏推定量である。$V_{e(1)}<V_{e(2)}$ のときは1次誤差の推定値が負になる。そのときは $\sigma_{(1)}^2=0$ とみなしてプールする。

測定を繰り返す利点と測定回数の決め方

測定を繰り返す利点は2つある。

1. 平均の精度が上がる。水準の平均の分散 (14.10) のうち、測定誤差の部分 $\sigma_{(2)}^2/(rm)$ が測定回数に反比例して小さくなる。実験を1回増やすより測定を1回増やす方が安いことが多いので、同じ費用で推定の精度を上げる手段になる。
2. 2つの分散成分を分けて推定できる。ばらつきの大部分が測定器に由来するのか、実験の手順に由来するのかが分かる。それが分かれば、改善の手を測定器と工程のどちらに向けるかを決めることができる。

一方で、測定回数をいくら大きくしても $V[\bar x_{i\cdot\cdot}]\geq\sigma_{(1)}^2/r$ で、1次誤差の部分は実験の回数でしか下がらない。そこで実験1回の費用を $c_1$、測定1回の費用を $c_2$ とする。「測定回数を何回にすれば、同じ費用で分散が最小になるか」を考える。

証明

$r=C/(c_1+mc_2)$ を (14.10) に代入すると

$$C\cdot V[\bar x_{i\cdot\cdot}]=\Bigl(\sigma_{(1)}^2+\frac{\sigma_{(2)}^2}{m}\Bigr)(c_1+mc_2) =\sigma_{(1)}^2c_1+\sigma_{(2)}^2c_2+\sigma_{(1)}^2c_2\,m+\frac{\sigma_{(2)}^2c_1}{m}.$$

これを $g(m)$ と置き、微分する。

$$g'(m)=\sigma_{(1)}^2c_2-\frac{\sigma_{(2)}^2c_1}{m^2},\qquad g''(m)=\frac{2\sigma_{(2)}^2c_1}{m^3}>0$$

よって $g'(m)=0$ の解 $m^*=\sqrt{c_1\sigma_{(2)}^2/(c_2\sigma_{(1)}^2)}$ で最小になる。このとき次が成り立つ。

$$\sigma_{(1)}^2c_2m^*=\frac{\sigma_{(2)}^2c_1}{m^*}=\sigma_{(1)}\sigma_{(2)}\sqrt{c_1c_2}$$

したがって

$$g(m^*)=\sigma_{(1)}^2c_1+\sigma_{(2)}^2c_2+2\sigma_{(1)}\sigma_{(2)}\sqrt{c_1c_2}=\bigl(\sigma_{(1)}\sqrt{c_1}+\sigma_{(2)}\sqrt{c_2}\bigr)^2 .\quad\square$$

式 (14.13) は直観に合っている。実験が高い（$c_1$ が大きい）ほど、また測定が粗い（$\sigma_{(2)}^2$ が大きい）ほど、測定を多く繰り返す方が得になる。逆に、測定器の精度が実験のばらつきに比べて十分よい（$\sigma_{(2)}^2\ll\sigma_{(1)}^2$）ときは $m^*<1$ となり、測定は1回で足りて、費用は実験の回数に回すべきである。

実際の測定回数は整数なので、$m^*$ の前後の整数で $g$ の値を比べて決める。また、1次誤差の分散を推定するには $\phi_{e(1)}=a(r-1)\geq1$ が要る。すなわち実験は各水準で2回以上必要である。

確認テスト

オリジナル

1. 14.1-1 同じ試験片を5回測って得た5個の値の不偏分散は、どの分散成分の推定量か。また、それを誤差分散として要因の検定に使ってはいけない理由を1文で述べよ。
2. 14.1-2 構造式 (14.1) のもとで、$E(S_{e(2)})=ar(m-1)\sigma_{(2)}^2$ を、$x_{ijk}-\bar x_{ij\cdot}$ を構造式で表すところから導け。
3. 14.1-3 $a=4,\ r=2,\ m=3$ の実験で、分散分析表の自由度をすべて求めよ。さらに $V_{e(1)}=5,\ V_{e(2)}=1$ を得た。2つの分散成分の点推定値と、$V[\bar x_{i\cdot\cdot}]$ の推定値を求めよ。
4. 14.1-4 $\sigma_{(1)}^2=0.5,\ \sigma_{(2)}^2=2,\ c_1=4,\ c_2=2$ とする。$m^*$ を求めよ。整数の測定回数のうちどれを選ぶべきかを、次の値を比べて決めよ。

$$g(m)=\Bigl(\sigma_{(1)}^2+\frac{\sigma_{(2)}^2}{m}\Bigr)(c_1+mc_2)$$ 5. 14.1-5 各実験の測定値を平均した $\bar x_{ij\cdot}$ を1つのデータとし、繰返しのある1元配置で解析する。その水準間平方和が $S_A/m$、誤差平方和が $S_{e(1)}/m$ になることを示せ。また、分散比が $V_A/V_{e(1)}$ と一致することを示せ。