統計学の復習 第15章 §15.1 ★★★ 独立な χ 2 \chi^2 χ 2 を自由度で割った比が F m , n F_{m,n} F m , n 。逆数をとると自由度が入れ替わるので、下側の点は 1 / F n , m ( α ) 1/F_{n,m}(\alpha) 1/ F n , m ( α ) で引く
この章は、対策本の第27章(F F F 分布と等分散性の検定)・第28章(分散分析と一元配置)・第29章(二元配置)に当たる。
第10章と第11章では、平均の区間を t t t 分布で、分散の区間を χ 2 \chi^2 χ 2 分布で作った。この章で扱うのは、2つの分散を比べる 問題と、3つ以上の平均を比べる 問題である。一見すると別々の問題だが、どちらも「独立な2つの χ 2 \chi^2 χ 2 変数を自由度で割って比をとる」という同じ量に行き着く。その比の分布が F F F 分布である。
この章で作る道具は次のとおりである。第一に、F F F 分布を定義し、密度・期待値・逆数の性質 F m , n ( 1 − α ) = 1 / F n , m ( α ) F_{m,n}(1-\alpha)=1/F_{n,m}(\alpha) F m , n ( 1 − α ) = 1/ F n , m ( α ) ・t 2 t^2 t 2 との関係を導く(§15.1)。第二に、2つの正規母集団の分散が等しいかを F F F で検定し、分散の比の区間を作り、等分散を仮定しない Welch の検定の自由度がどこから出るかを説明する(§15.2 )。第三に、t t t 検定を繰り返すと誤りの確率が膨らむこと(検定の多重性)を確かめ、それを避ける分散分析の考え方を立てる(§15.3 )。第四に、一元配置・繰り返しのある二元配置・繰り返しのない二元配置の分散分析を、平方和の分解と平均平方の期待値まで導く(§15.4 〜§15.6 )。
木下が2級の直前に「型」で押さえただけになっていたのは、等分散の F F F 検定が予備検定にすぎないこと、Welch の自由度の意味、平方和の分解で交差項が消える理由、交互作用と繰り返しの関係の4点である。この章ではこの4点を導出から書く。1級との関係では、分散分析の F F F が F F F 分布に従うことの一般の証明(Cochran の定理)を数理統計の解説 第9章 §9.5 で、データの構造式と期待平均平方による分散分析を実験計画法の解説 第2章〜第6章で扱う。この章はその前提を2級の道具で準備する。
定義
定義 15.1(F F F 分布)
U ∼ χ m 2 U\sim\chi^2_m U ∼ χ m 2 と V ∼ χ n 2 V\sim\chi^2_n V ∼ χ n 2 が独立であるとき、
F = U / m V / n (15.1) F=\frac{U/m}{V/n}\tag{15.1} F = V / n U / m ( 15.1 )
の分布を、自由度 ( m , n ) (m,n) ( m , n ) の F F F 分布 と呼び、F m , n F_{m,n} F m , n と書く。m m m を分子の自由度、n n n を分母の自由度と呼ぶ。上側 100 α % 100\alpha\% 100 α % 点を F m , n ( α ) F_{m,n}(\alpha) F m , n ( α ) と書く。すなわち F ∼ F m , n F\sim F_{m,n} F ∼ F m , n について P ( F > F m , n ( α ) ) = α P\bigl(F>F_{m,n}(\alpha)\bigr)=\alpha P ( F > F m , n ( α ) ) = α である。
第11章で示したように、χ ν 2 \chi^2_\nu χ ν 2 は独立な標準正規変数 ν \nu ν 個の2乗和の分布で、期待値は ν \nu ν である。したがって U / m U/m U / m と V / n V/n V / n はどちらも期待値 1 1 1 の正の確率変数で、自由度が大きいほど 1 1 1 の近くに集まる。F F F はその比なので 1 1 1 の近くに山を持ち、正の値だけをとる。順序が意味を持つことに注意する。F m , n F_{m,n} F m , n と F n , m F_{n,m} F n , m は m ≠ n m\ne n m = n なら別の分布である。
この定義が統計で現れるのは、正規母集団の不偏分散 S 2 S^2 S 2 について第11章の定理(( n − 1 ) S 2 / σ 2 ∼ χ n − 1 2 (n-1)S^2/\sigma^2\sim\chi^2_{n-1} ( n − 1 ) S 2 / σ 2 ∼ χ n − 1 2 )があるからである。独立な2つの標本の不偏分散を S 1 2 , S 2 2 S_1^2,S_2^2 S 1 2 , S 2 2 (大きさ n 1 , n 2 n_1,n_2 n 1 , n 2 、母分散 σ 1 2 , σ 2 2 \sigma_1^2,\sigma_2^2 σ 1 2 , σ 2 2 )とすると、U = ( n 1 − 1 ) S 1 2 / σ 1 2 U=(n_1-1)S_1^2/\sigma_1^2 U = ( n 1 − 1 ) S 1 2 / σ 1 2 と V = ( n 2 − 1 ) S 2 2 / σ 2 2 V=(n_2-1)S_2^2/\sigma_2^2 V = ( n 2 − 1 ) S 2 2 / σ 2 2 は独立な χ n 1 − 1 2 \chi^2_{n_1-1} χ n 1 − 1 2 と χ n 2 − 1 2 \chi^2_{n_2-1} χ n 2 − 1 2 なので
S 1 2 / σ 1 2 S 2 2 / σ 2 2 = U / ( n 1 − 1 ) V / ( n 2 − 1 ) ∼ F n 1 − 1 , n 2 − 1 (15.2) \frac{S_1^2/\sigma_1^2}{S_2^2/\sigma_2^2}=\frac{U/(n_1-1)}{V/(n_2-1)}\sim F_{n_1-1,\,n_2-1}\tag{15.2} S 2 2 / σ 2 2 S 1 2 / σ 1 2 = V / ( n 2 − 1 ) U / ( n 1 − 1 ) ∼ F n 1 − 1 , n 2 − 1 ( 15.2 )
である。§15.2 の等分散性の検定と分散の比の区間は、すべてこの式から出る。
密度を導く
χ ν 2 \chi^2_\nu χ ν 2 の密度は第11章で導いた
f ν ( x ) = c ν x ν / 2 − 1 e − x / 2 ( x > 0 ) , c ν = 1 2 ν / 2 Γ ( ν / 2 ) f_\nu(x)=c_\nu\,x^{\nu/2-1}\mathrm{e}^{-x/2}\quad(x>0),\qquad c_\nu=\frac{1}{2^{\nu/2}\Gamma(\nu/2)} f ν ( x ) = c ν x ν /2 − 1 e − x /2 ( x > 0 ) , c ν = 2 ν /2 Γ ( ν /2 ) 1
である。F F F の密度を求める前に、比 Y = U / V Y=U/V Y = U / V の密度を出す。y > 0 y>0 y > 0 を固定すると、V V V の値で条件をつけて
P ( Y ≤ y ) = P ( U ≤ y V ) = ∫ 0 ∞ f n ( v ) P ( U ≤ y v ) d v = ∫ 0 ∞ f n ( v ) G m ( y v ) d v P(Y\le y)=P(U\le yV)=\int_0^\infty f_n(v)\,P(U\le yv)\,\mathrm{d} v=\int_0^\infty f_n(v)\,G_m(yv)\,\mathrm{d} v P ( Y ≤ y ) = P ( U ≤ y V ) = ∫ 0 ∞ f n ( v ) P ( U ≤ y v ) d v = ∫ 0 ∞ f n ( v ) G m ( y v ) d v
と書くことができる。ここで G m G_m G m は χ m 2 \chi^2_m χ m 2 の累積分布関数で、2つ目の等号は U U U と V V V の独立性による。両辺を y y y で微分し、積分の中で微分すると(被積分関数が十分に滑らかで、2級の範囲ではこの交換を認める)、G m ′ = f m G_m'=f_m G m ′ = f m から
f Y ( y ) = ∫ 0 ∞ v f n ( v ) f m ( y v ) d v = c m c n y m / 2 − 1 ∫ 0 ∞ v ( m + n ) / 2 − 1 e − v ( 1 + y ) / 2 d v f_Y(y)=\int_0^\infty v\,f_n(v)\,f_m(yv)\,\mathrm{d} v
=c_mc_n\,y^{m/2-1}\int_0^\infty v^{(m+n)/2-1}\mathrm{e}^{-v(1+y)/2}\,\mathrm{d} v f Y ( y ) = ∫ 0 ∞ v f n ( v ) f m ( y v ) d v = c m c n y m /2 − 1 ∫ 0 ∞ v ( m + n ) /2 − 1 e − v ( 1 + y ) /2 d v
となる。残った積分は w = v ( 1 + y ) / 2 w=v(1+y)/2 w = v ( 1 + y ) /2 と置換すると ( 2 / ( 1 + y ) ) ( m + n ) / 2 Γ ( ( m + n ) / 2 ) \bigl(2/(1+y)\bigr)^{(m+n)/2}\Gamma\bigl((m+n)/2\bigr) ( 2/ ( 1 + y ) ) ( m + n ) /2 Γ ( ( m + n ) /2 ) になる。c m c n = 1 / ( 2 ( m + n ) / 2 Γ ( m / 2 ) Γ ( n / 2 ) ) c_mc_n=1/\bigl(2^{(m+n)/2}\Gamma(m/2)\Gamma(n/2)\bigr) c m c n = 1/ ( 2 ( m + n ) /2 Γ ( m /2 ) Γ ( n /2 ) ) なので 2 2 2 のべきが消えて
f Y ( y ) = Γ ( m + n 2 ) Γ ( m 2 ) Γ ( n 2 ) y m / 2 − 1 ( 1 + y ) − ( m + n ) / 2 ( y > 0 ) f_Y(y)=\frac{\Gamma\bigl(\frac{m+n}2\bigr)}{\Gamma\bigl(\frac m2\bigr)\Gamma\bigl(\frac n2\bigr)}\;y^{m/2-1}(1+y)^{-(m+n)/2}\qquad(y>0) f Y ( y ) = Γ ( 2 m ) Γ ( 2 n ) Γ ( 2 m + n ) y m /2 − 1 ( 1 + y ) − ( m + n ) /2 ( y > 0 )
である。最後に F = ( n / m ) Y F=(n/m)Y F = ( n / m ) Y なので、P ( F ≤ x ) = P ( Y ≤ m x / n ) P(F\le x)=P(Y\le mx/n) P ( F ≤ x ) = P ( Y ≤ m x / n ) を x x x で微分して f F ( x ) = ( m / n ) f Y ( m x / n ) f_F(x)=(m/n)\,f_Y(mx/n) f F ( x ) = ( m / n ) f Y ( m x / n ) を得る。
命題 15.2(F F F 分布の密度)
F m , n F_{m,n} F m , n の密度は
f ( x ) = Γ ( m + n 2 ) Γ ( m 2 ) Γ ( n 2 ) ( m n ) m / 2 x m / 2 − 1 ( 1 + m n x ) − ( m + n ) / 2 ( x > 0 ) (15.3) f(x)=\frac{\Gamma\bigl(\frac{m+n}2\bigr)}{\Gamma\bigl(\frac m2\bigr)\Gamma\bigl(\frac n2\bigr)}\left(\frac mn\right)^{m/2}x^{m/2-1}\left(1+\frac mn\,x\right)^{-(m+n)/2}\qquad(x>0)\tag{15.3} f ( x ) = Γ ( 2 m ) Γ ( 2 n ) Γ ( 2 m + n ) ( n m ) m /2 x m /2 − 1 ( 1 + n m x ) − ( m + n ) /2 ( x > 0 ) ( 15.3 )
である。
2級の試験で密度の式を使うことはほとんどない。それでもここで導いたのは、1級の統計数理では「独立な2変数の比の分布を求めよ」という小問がこの形の積分で問われるからである。m = n = 2 m=n=2 m = n = 2 のときは Γ ( 2 ) = Γ ( 1 ) = 1 \Gamma(2)=\Gamma(1)=1 Γ ( 2 ) = Γ ( 1 ) = 1 で f ( x ) = ( 1 + x ) − 2 f(x)=(1+x)^{-2} f ( x ) = ( 1 + x ) − 2 となり、P ( F > c ) = 1 / ( 1 + c ) P(F>c)=1/(1+c) P ( F > c ) = 1/ ( 1 + c ) と閉じた形で計算することができる(確認テスト 15.1-4)。
図 15.1 F 5 , 10 F_{5,10} F 5 , 10 と F 10 , 20 F_{10,20} F 10 , 20 の密度。F 5 , 10 F_{5,10} F 5 , 10 の上側 2.5 % 2.5\% 2.5% 点 F 5 , 10 ( 0.025 ) = 4.236 F_{5,10}(0.025)=4.236 F 5 , 10 ( 0.025 ) = 4.236 と下側 2.5 % 2.5\% 2.5% 点 F 5 , 10 ( 0.975 ) = 1 / F 10 , 5 ( 0.025 ) = 1 / 6.619 = 0.151 F_{5,10}(0.975)=1/F_{10,5}(0.025)=1/6.619=0.151 F 5 , 10 ( 0.975 ) = 1/ F 10 , 5 ( 0.025 ) = 1/6.619 = 0.151 の外側を塗った。自由度が大きいほど山は 1 1 1 の近くに集まる。
期待値・逆数・t t t 分布との関係
定理 15.3(F F F 分布の性質)
F ∼ F m , n F\sim F_{m,n} F ∼ F m , n とする。
n ≥ 3 n\ge3 n ≥ 3 なら E [ F ] = n n − 2 E[F]=\dfrac{n}{n-2} E [ F ] = n − 2 n である。
1 / F ∼ F n , m 1/F\sim F_{n,m} 1/ F ∼ F n , m であり、したがって下側の点は
F m , n ( 1 − α ) = 1 F n , m ( α ) (15.4) F_{m,n}(1-\alpha)=\frac{1}{F_{n,m}(\alpha)}\tag{15.4} F m , n ( 1 − α ) = F n , m ( α ) 1 ( 15.4 )
で与えられる。3. T ∼ t n T\sim t_n T ∼ t n なら T 2 ∼ F 1 , n T^2\sim F_{1,n} T 2 ∼ F 1 , n であり、t n ( α / 2 ) 2 = F 1 , n ( α ) t_n(\alpha/2)^2=F_{1,n}(\alpha) t n ( α /2 ) 2 = F 1 , n ( α ) である。
証明 (1) 定義 (15.1) で U U U と V V V は独立なので、E [ F ] = E [ U / m ] E [ n / V ] = 1 ⋅ n E [ 1 / V ] E[F]=E[U/m]\,E[n/V]=1\cdot n\,E[1/V] E [ F ] = E [ U / m ] E [ n / V ] = 1 ⋅ n E [ 1/ V ] である。第10章で t t t 分布の分散を求めたとき、V ∼ χ n 2 V\sim\chi^2_n V ∼ χ n 2 (n ≥ 3 n\ge3 n ≥ 3 )について E [ 1 / V ] = 1 / ( n − 2 ) E[1/V]=1/(n-2) E [ 1/ V ] = 1/ ( n − 2 ) を密度の積分から導いた。したがって E [ F ] = n / ( n − 2 ) E[F]=n/(n-2) E [ F ] = n / ( n − 2 ) である。期待値が分子の自由度 m m m によらないのは、分子の U / m U/m U / m の期待値がいつも 1 1 1 だからである。
(2) 1 / F = ( V / n ) / ( U / m ) 1/F=(V/n)/(U/m) 1/ F = ( V / n ) / ( U / m ) は、独立な χ n 2 \chi^2_n χ n 2 と χ m 2 \chi^2_m χ m 2 をそれぞれの自由度で割った比なので、定義から F n , m F_{n,m} F n , m に従う。c = 1 / F n , m ( α ) c=1/F_{n,m}(\alpha) c = 1/ F n , m ( α ) と置くと
P ( F < c ) = P ( 1 F > 1 c ) = P ( 1 / F > F n , m ( α ) ) = α P(F<c)=P\!\left(\frac1F>\frac1c\right)=P\bigl(1/F>F_{n,m}(\alpha)\bigr)=\alpha P ( F < c ) = P ( F 1 > c 1 ) = P ( 1/ F > F n , m ( α ) ) = α
である(F > 0 F>0 F > 0 なので逆数をとると不等号の向きが変わる)。P ( F < c ) = α P(F<c)=\alpha P ( F < c ) = α は P ( F > c ) = 1 − α P(F>c)=1-\alpha P ( F > c ) = 1 − α と同じで、c c c は上側 100 ( 1 − α ) % 100(1-\alpha)\% 100 ( 1 − α ) % 点、すなわち F m , n ( 1 − α ) F_{m,n}(1-\alpha) F m , n ( 1 − α ) である。
(3) t t t 分布の定義(第10章)から、Z ∼ N ( 0 , 1 ) Z\sim\mathrm N(0,1) Z ∼ N ( 0 , 1 ) と V ∼ χ n 2 V\sim\chi^2_n V ∼ χ n 2 が独立で T = Z / V / n T=Z/\sqrt{V/n} T = Z / V / n と書ける。T 2 = ( Z 2 / 1 ) / ( V / n ) T^2=(Z^2/1)/(V/n) T 2 = ( Z 2 /1 ) / ( V / n ) で、Z 2 ∼ χ 1 2 Z^2\sim\chi^2_1 Z 2 ∼ χ 1 2 は V V V と独立なので T 2 ∼ F 1 , n T^2\sim F_{1,n} T 2 ∼ F 1 , n である。t n t_n t n は 0 0 0 について対称なので P ( T 2 > c 2 ) = P ( ∣ T ∣ > c ) = 2 P ( T > c ) P(T^2>c^2)=P(\lvert T\rvert >c)=2P(T>c) P ( T 2 > c 2 ) = P (∣ T ∣ > c ) = 2 P ( T > c ) であり、c = t n ( α / 2 ) c=t_n(\alpha/2) c = t n ( α /2 ) と置くと P ( T 2 > t n ( α / 2 ) 2 ) = α P(T^2>t_n(\alpha/2)^2)=\alpha P ( T 2 > t n ( α /2 ) 2 ) = α である。
性質 (3) は、両側 t t t 検定が右片側の F F F 検定と同じものであることを意味する。§15.4 で、2群の分散分析がプールした t t t 検定と一致することを示すときに、この関係を使う。
F F F 分布表の引き方
F F F 分布は自由度を2つ持つので、数表は α \alpha α ごとに1枚ずつ用意され、分子の自由度を列・分母の自由度を行にとるのが普通である。表によって行と列が逆のこともあるので、見出しを必ず確かめる。数表に載っているのは上側の点だけである。下側の点が必要になったら、式 (15.4) で自由度を入れ替えた 上側の点の逆数をとる。自由度を入れ替え忘れて 1 / F m , n ( α ) 1/F_{m,n}(\alpha) 1/ F m , n ( α ) とするのが典型的な誤りである。
例題 15.1 F F F 分布の上側の点と下側の点 ★★★
オリジナル X ∼ F 6 , 12 X\sim F_{6,12} X ∼ F 6 , 12 とする。F 6 , 12 ( 0.05 ) = 2.996 F_{6,12}(0.05)=2.996 F 6 , 12 ( 0.05 ) = 2.996 、F 12 , 6 ( 0.05 ) = 4.000 F_{12,6}(0.05)=4.000 F 12 , 6 ( 0.05 ) = 4.000 を使ってよい。
P ( X > c ) = 0.95 P(X>c)=0.95 P ( X > c ) = 0.95 となる c c c を求めよ。
P ( 0.250 ≤ X ≤ 2.996 ) P(0.250\le X\le2.996) P ( 0.250 ≤ X ≤ 2.996 ) を求めよ。
E [ X ] E[X] E [ X ] を求め、1 1 1 より大きい理由を説明せよ。
解答 (1) P ( X > c ) = 0.95 P(X>c)=0.95 P ( X > c ) = 0.95 を満たす c c c は上側 95 % 95\% 95% 点 F 6 , 12 ( 0.95 ) F_{6,12}(0.95) F 6 , 12 ( 0.95 ) である。式 (15.4) から、自由度を入れ替えて
c = F 6 , 12 ( 0.95 ) = 1 F 12 , 6 ( 0.05 ) = 1 4.000 = 0.250. c=F_{6,12}(0.95)=\frac1{F_{12,6}(0.05)}=\frac1{4.000}=0.250. c = F 6 , 12 ( 0.95 ) = F 12 , 6 ( 0.05 ) 1 = 4.000 1 = 0.250.
1 / F 6 , 12 ( 0.05 ) = 1 / 2.996 = 0.334 1/F_{6,12}(0.05)=1/2.996=0.334 1/ F 6 , 12 ( 0.05 ) = 1/2.996 = 0.334 は誤りである。
(2) (1) から P ( X < 0.250 ) = 0.05 P(X<0.250)=0.05 P ( X < 0.250 ) = 0.05 、定義から P ( X > 2.996 ) = 0.05 P(X>2.996)=0.05 P ( X > 2.996 ) = 0.05 なので、P ( 0.250 ≤ X ≤ 2.996 ) = 1 − 0.05 − 0.05 = 0.90 P(0.250\le X\le2.996)=1-0.05-0.05=0.90 P ( 0.250 ≤ X ≤ 2.996 ) = 1 − 0.05 − 0.05 = 0.90 である。
(3) 定理 15.3 (1) から E [ X ] = 12 / ( 12 − 2 ) = 1.2 E[X]=12/(12-2)=1.2 E [ X ] = 12/ ( 12 − 2 ) = 1.2 である。分子の U / 6 U/6 U /6 の期待値は 1 1 1 だが、分母の V / 12 V/12 V /12 で割ると、1 / x 1/x 1/ x が下に凸な関数なので E [ 12 / V ] > 1 / E [ V / 12 ] = 1 E[12/V]>1/E[V/12]=1 E [ 12/ V ] > 1/ E [ V /12 ] = 1 となる(Jensen の不等式、第9章)。分母が小さい値をとったときに比が大きく跳ねる分だけ、期待値は 1 1 1 を超える。
確認テスト
オリジナル
15.1-1 F 4 , 8 ( 0.05 ) = 3.838 F_{4,8}(0.05)=3.838 F 4 , 8 ( 0.05 ) = 3.838 のとき、F 8 , 4 ( 0.95 ) F_{8,4}(0.95) F 8 , 4 ( 0.95 ) を求めよ。
15.1-2 t 15 ( 0.025 ) = 2.131 t_{15}(0.025)=2.131 t 15 ( 0.025 ) = 2.131 のとき、F 1 , 15 ( 0.05 ) F_{1,15}(0.05) F 1 , 15 ( 0.05 ) を求めよ。また、そうなる理由を t t t 分布と F F F 分布の定義から説明せよ。
15.1-3 F m , n F_{m,n} F m , n の分散が有限であるためには n n n がいくつ以上であればよいか。E [ F 2 ] = E [ ( U / m ) 2 ] E [ ( n / V ) 2 ] E[F^2]=E[(U/m)^2]\,E[(n/V)^2] E [ F 2 ] = E [( U / m ) 2 ] E [( n / V ) 2 ] と E [ 1 / V 2 ] E[1/V^2] E [ 1/ V 2 ] の積分の収束を調べて答えよ(E [ U 2 ] = m 2 + 2 m E[U^2]=m^2+2m E [ U 2 ] = m 2 + 2 m を使ってよい)。
15.1-4 m = n = 2 m=n=2 m = n = 2 のとき、密度 (15.3) が ( 1 + x ) − 2 (1+x)^{-2} ( 1 + x ) − 2 になることを確かめ、上側 5 % 5\% 5% 点 F 2 , 2 ( 0.05 ) F_{2,2}(0.05) F 2 , 2 ( 0.05 ) と下側 5 % 5\% 5% 点 F 2 , 2 ( 0.95 ) F_{2,2}(0.95) F 2 , 2 ( 0.95 ) を求めよ。
AI(Claude)が書いた教材を、木下が勉強しながら公開しています。式と数値は検算していますが、誤りが残っているかもしれません。誤りのご指摘・削除のご依頼をいただければ直します。 連絡先:support@tecktom.com