実験計画法とフィッシャーの3原則

統計学の復習　第16章 §16.1　★★ 無作為化は未知の要因による偏りを期待値で消し、反復は誤差の分散を推定できるようにし、局所管理は既知の要因を比較から取り除いて分散を小さくする

この章は、対策本の第30章（実験計画）・第31章（その他）に当たる。

ここまでの章は、データが手元にある所から始めて、そのデータから母数を推定し、仮説を検定する方法を組み立ててきた。この章では、その前後にある2つの作業を扱う。前の側にあるのは、データをどう集めるかという設計の作業である。処理の効果を比べたいとき、どの個体にどの処理を割り付け、何個のデータを取ればよいかは、データを取る前に決めなければならない。§16.1 では Fisher の3原則（無作為化・反復・局所管理）を、割り付けを確率変数とみて期待値と分散を計算することで根拠づける。§16.2・§16.3 では、検定が差を見つけ出す確率（検出力）を正規分布で最後まで計算し、望む検出力から必要な標本の大きさを逆算する。後ろの側にあるのは、取ったデータを点検し、形を読む作業である。§16.4 の外れ値、§16.5 の正規性の確認は、第10章から第15章の手法が前提にしている仮定を確かめるためのものである。§16.6〜§16.8 では、時間の順に並んだデータ（時系列）の傾向・季節変動・自己相関を、移動平均と標本自己相関係数で取り出す。§16.9 では、物価のように多くの品目をまとめて1つの数で表す指数を扱う。

1級との関係では、検出力の計算が最も重い。統計数理では「検定を作る → 検出力関数を書く → 検出力が指定の値以上になる標本の大きさを求める」という小問の連鎖が繰り返し出る。検出力関数の一般論と Neyman–Pearson の補題は数理統計の解説 第7章 §7.5 で扱う。Fisher の3原則は、統計応用（理工学）の実験計画法の出発点であり、実験計画法の解説 第1章 §1.1 と第11章（乱塊法）で、分散分析のモデルの言葉で書き直される。

実験研究と観察研究

2つの処理（たとえば新しい肥料と従来の肥料、新薬と偽薬）の効果を比べたいとする。比べたい処理を受ける群を処理群、比較の基準になる群（処理を受けない、または従来の処理を受ける群）を対照群と呼ぶ。どの個体がどちらの群に入るかを研究者が決められる研究を実験研究、すでに起きた結果を観察するだけで割り付けを決められない研究を観察研究と呼ぶ。

観察研究では、群の違いと結果の違いの両方に関係する第3の要因（交絡因子）があると、処理の効果とその要因の効果を区別することができない。たとえば、コーヒーを多く飲む人に心臓病が多いというデータがあっても、コーヒーを多く飲む人に喫煙者が多ければ、喫煙が心臓病を増やしているだけかもしれない。この場合、喫煙は交絡因子である。観察研究では、喫煙のように分かっている交絡因子は層に分けて比べることで（第14章の層別解析）ある程度取り除けるが、研究者が思いつかなかった交絡因子は取り除くことができない。実験研究の利点は、割り付けを研究者が決めるので、次に述べる無作為化によって、未知の交絡因子まで含めて偏りを取り除けることにある。

3原則

3つの原則の役割は、比較の誤差を「偏り」と「ばらつき」に分けると整理できる。無作為化は偏りを取り除き、反復はばらつきを測れるようにし、局所管理はばらつきそのものを小さくする。以下で、それぞれを計算で確かめる。

無作為化が偏りを取り除く理由

$2r$ 個の実験単位（畑の区画や被験者）を考え、単位 $i$ の結果を

$$y_i=\mu+\tau T_i+u_i\qquad(i=1,\dots,2r)\tag{16.1}$$

と表す。$T_i$ は単位 $i$ が処理群なら $1$、対照群なら $0$ をとり、$\tau$ が知りたい処理の効果である。$u_i$ は単位ごとの個性（区画の肥沃さ、被験者の体質など）で、研究者には見えない。ここでは $u_i$ を確率変数でなく定数とみて、$\sum_iu_i=0$ となるように $\mu$ を選んでおく。$u_i$ が見えないので、研究者が「よさそうな区画」を選んで処理群にすると、$\tau$ の推定に $u_i$ の差がそのまま混ざる。

そこで、$2r$ 個の中から $r$ 個をくじで選んで処理群とし、残りを対照群とする。どの $r$ 個の組も同じ確率 $1/\binom{2r}{r}$ で選ばれる割り付けを完全無作為化と呼ぶ。このとき確率変数になるのは $T_i$ だけで、$u_i$ は定数のままである。

証明

処理群の $u$ の平均を $\bar u_T$、対照群の $u$ の平均を $\bar u_C$ とすると、(16.1) から $\bar y_T=\mu+\tau+\bar u_T$、$\bar y_C=\mu+\bar u_C$ なので、$\bar y_T-\bar y_C=\tau+\bar u_T-\bar u_C$ である。$\sum u_i=0$ から $r\bar u_T+r\bar u_C=0$、すなわち $\bar u_C=-\bar u_T$ なので、$\bar y_T-\bar y_C=\tau+2\bar u_T$ となる。

$\bar u_T$ は、大きさ $N=2r$ の有限母集団 $\{u_1,\dots,u_N\}$ から $r$ 個を非復元で無作為に抜き出した標本平均である。第8章 §8.1 で示したとおり、非復元の無作為抽出の標本平均は母集団の平均の不偏推定量で、その分散には有限母集団修正が付く。母集団の平均は $0$、母集団の分散（$N$ で割ったもの）は $\sigma_u^2=\sum u_i^2/N$ なので

$$E[\bar u_T]=0,\qquad V[\bar u_T]=\frac{\sigma_u^2}{r}\cdot\frac{N-r}{N-1}=\frac{\sigma_u^2}{r}\cdot\frac{r}{2r-1}=\frac{\sum u_i^2}{2r(2r-1)}=\frac{S_u^2}{2r}$$

である。よって $E[\bar y_T-\bar y_C]=\tau$、$V[\bar y_T-\bar y_C]=4V[\bar u_T]=2S_u^2/r$ となる。

この命題の要点は、$u_i$ が何であっても、研究者がそれを知らなくても、比較が偏らないことである。無作為化しても個々の実験で $\bar u_T$ が $0$ になるわけではなく、たまたま肥沃な区画が処理群に集まることはある。しかしその確率は割り付けのくじによって計算でき、そのぶれは分散 $2S_u^2/r$ として誤差に含まれる。分散の形 $2S_u^2/r$ は、独立な誤差の分散 $\sigma^2$ の2群の平均の差の分散 $2\sigma^2/r$（第10章 §10.5）と同じ形をしている。無作為化は、見えない個性 $u_i$ を、平均 $0$ の誤差として扱ってよい理由になっている。

反復が誤差を測れるようにする理由

各処理を1回ずつしか行わない（$r=1$）と、2つの値の差 $y_T-y_C$ は得られるが、その差が処理の効果なのか個体のぶれなのかを判断する材料が無い。同じ処理の中で値がどれだけばらつくかが分からないからである。同じ処理を $r\ge2$ 回繰り返すと、処理群の中の偏差平方和と対照群の中の偏差平方和から、誤差の分散をプールした不偏分散 $S_p^2$（第9章 §9.3）で推定でき、差の標準誤差 $\sqrt{2S_p^2/r}$ が計算できる。$t$ 検定（第12章）も分散分析（第15章）も、この誤差の推定量を分母にしている。しかも差の分散 $2\sigma^2/r$ は $r$ に反比例して小さくなるので、反復は推定の精度も上げる。

局所管理が分散を小さくする理由

結果に影響する要因の中に、研究者が知っていて記録できるもの（畑の区画の位置、実験日、被験者の年齢層）があれば、その要因の値が近い単位をまとめてブロックにし、ブロックの中で処理を割り付ける。2処理の場合、性質の近い2単位を対にしてブロックとし、対の中でくじを引いてどちらを処理群にするかを決める。これは第10章 §10.5 の対応のある比較そのものである。

対 $j$ の2単位の結果の差を $D_j$ とし、2単位の値の相関係数を $\rho$、各単位の分散を $\sigma^2$ とすると、第7章の線形結合の分散の公式から

$$V[D_j]=\sigma^2+\sigma^2-2\rho\sigma^2=2\sigma^2(1-\rho),\qquad V[\bar D]=\frac{2\sigma^2(1-\rho)}{r}\tag{16.3}$$

である（$r$ は対の数）。ブロックの中の2単位が似ているほど $\rho$ は $1$ に近く、差の分散は完全無作為化の $2\sigma^2/r$ の $(1-\rho)$ 倍に小さくなる。ブロックの間の違いは、対の中の差を取る段階で引き算されて消えるからである。

局所管理は無作為化の代わりにはならない。ブロックで取り除けるのは既知の要因だけで、対の中でどちらに処理を施すかを研究者が選べば、未知の要因による偏りが再び入る。そのため、ブロックの中の割り付けは無作為化する。「既知の要因はブロックで取り除き、未知の要因は無作為化で偏りを期待値 $0$ にする」という分業が、3原則の関係である。

確認テスト

オリジナル

1. 16.1-1 Fisher の3原則を挙げ、それぞれが比較の誤差のうち何を担うかを1文ずつで述べよ。また、未知の交絡因子に対処するのはどの原則か、既知の変動要因に対処するのはどの原則かを答えよ。
2. 16.1-2 6つの実験単位の個性が $u=(-2.5,-1.5,-0.5,0.5,1.5,2.5)$ で、そこから3つをくじで処理群に選ぶ。命題 16.2 を使って $V[\bar y_T-\bar y_C]$ を求めよ。
3. 16.1-3 ある調査で「朝食を毎日とる生徒は成績がよい」という結果が得られた。この結果から「朝食をとると成績が上がる」と結論できない理由を、交絡因子の例を1つ挙げて説明せよ。また、因果を確かめるにはどのような研究が要るかを述べよ。
4. 16.1-4 対の中の相関係数が $\rho$ の対応のある比較で、対の数を $r$ とする。完全無作為化で各群 $40$ 単位を使ったときと同じ差の分散を、$\rho=0.5$ の対で達成するには何対が必要か。(16.3) から導け。