数理統計 第5章 §5.2 ★★★ χ²・t・F の密度の導出と、X̄ と S² の独立性。統計数理で導出そのものが問われる
この節の結果は、正規分布を仮定した推測(平均や分散の区間推定、t 検定、F 検定、回帰の検定)のすべてで使う。試験では「密度を導け」の形で問われるので、結果だけでなく導出の手順を再現できるようにする。
カイ二乗分布
定義 5.3(カイ二乗分布)
Z1,…,Zn が独立に N(0,1) に従うとする。このとき
W=Z12+⋯+Zn2
の分布を自由度 n のカイ二乗分布と呼び、χn2 と書く。
定理 5.4(カイ二乗分布の密度)
χn2=Ga(n/2,2) であり、密度は
fn(w)=Γ(n/2)2n/21wn/2−1e−w/2(w>0).(5.5)
平均は n、分散は 2n である。積率母関数は
M(t)=(1−2t)−n/2(t<1/2)
である。
証明
まず n=1 を変数変換で求める。Y=Z2 とおくと、y>0 で
P(Y≤y)=P(−y≤Z≤y)=2Φ(y)−1,
ここで Φ は N(0,1) の分布関数である。y で微分すると、ϕ を標準正規の密度として
f1(y)=2ϕ(y)⋅2y1=2π1y−1/2e−y/2.
Γ(1/2)=π なので 2π=Γ(1/2)21/2 である。よってこれは Ga(1/2,2) の密度に一致する。積率母関数は (5.1) から (1−2t)−1/2。
一般の n では、独立な和の積率母関数 (5.4) から MW(t)=(1−2t)−n/2 となる。これは Ga(n/2,2) の積率母関数である。よって一意性定理から W∼Ga(n/2,2)。
密度は α=n/2、β=2 をガンマ分布の密度に入れたものが (5.5) である。平均と分散は αβ=n、αβ2=2n。
定義から直ちに、独立な2つのカイ二乗変数の和について次の再生性が成り立つ。
χm2+χn2=χm+n2.
図5.1 に密度の形を示す。自由度が大きくなると山は右へ移り、平均 n・分散 2n の正規分布に近づく(中心極限定理、§5.3)。

図 5.1 カイ二乗分布 χn2 の密度 (5.5)。実線 n=2(指数分布 Ex(1/2))、破線 n=4、点線 n=8。n≥3 では最頻値が n−2 にある。
Xˉ と S2 の独立性
正規母集団の標本分布論で最も大事な定理が次である。
定理 5.5(正規標本の Xˉ と S2)
正規母集団からの無作為標本を考える。母集団分布を N(μ,σ2) とする。標本を X1,…,Xn とし、n≥2 とする。このとき
- Xˉ∼N(μ,σ2/n),
- (n−1)S2/σ2=∑i=1n(Xi−Xˉ)2/σ2∼χn−12,
- Xˉ と S2 は独立。
証明
標準化 Zi=(Xi−μ)/σ をする。Z1,…,Zn は独立に N(0,1) に従い、次が成り立つ。
Xˉ=μ+σZˉ,∑(Xi−Xˉ)2=σ2∑(Zi−Zˉ)2.
したがって Z について示せばよい。
大きさ n×n の直交行列 Q を1つとる。ただし第1行は (1/n,…,1/n) とする。具体的には Helmert 行列
Q=n12⋅113⋅21⋮n(n−1)1n1−2⋅113⋅21⋯n10−3⋅22⋯⋯⋯⋱n(n−1)1n100⋮−n(n−1)n−1
がそれである。第 k 行(k≥2)の成分は次のとおりである。
- 最初の k−1 成分は 1/k(k−1)。
- 第 k 成分は −(k−1)/k(k−1)。
- 残りは0。
各行の長さが1で、異なる行の内積が0になることは直接計算で確かめられる。
- 第 k 行の成分の和は0なので、第 k 行は第1行と直交する。
- k<l とする。第 l 行の最初の k 成分は等しい。よってこの2行の内積は、第 k 行の成分の和に比例して0になる。
Y=QZ とおく。Z∼N(0,In) なので、第4章の多変量正規分布の線形変換の結果から
Y∼N(0,QQ⊤)=N(0,In)
となる。すなわち Y1,…,Yn は独立に N(0,1) に従う。第1行の形から Y1=nZˉ。また直交変換は長さを保つので ∑Yi2=∑Zi2 であり、恒等式 (5.3) と合わせて
i=1∑n(Zi−Zˉ)2=i=1∑nZi2−nZˉ2=i=1∑nYi2−Y12=i=2∑nYi2.
左辺は Y2,…,Yn だけの関数である。一方 Zˉ=Y1/n は Y1 だけの関数である。Y1 と (Y2,…,Yn) は独立なので (3) が従う。
右辺は独立な n−1 個の標準正規の平方和なので χn−12 に従い (2) が従う。(1) は Y1∼N(0,1) から出る。
自由度が n−1 になる理由
偏差 Zi−Zˉ は、和が0という1本の制約を満たす。そのため n 個の偏差が自由に動ける方向は n−1 個しかない。直交変換はこの事情を座標で見えるようにしたもので、Zˉ の方向(第1軸)を切り離すと、残りの n−1 本の軸の上に偏差がちょうど乗る。
正規分布は回転で形が変わらない(等方的)ので、どの軸の成分も独立な標準正規になる。この「回転不変性」は正規分布に固有の性質で、正規でない母集団では Xˉ と S2 は一般に独立にならない。
t 分布
定義 5.6(t 分布)
独立な2つの確率変数を考える。一方は Z∼N(0,1)、他方は W∼χn2 とする。このとき
T=W/nZ
の分布を自由度 n の t 分布と呼ぶ。記号では tn と書く。
定理 5.7(t 分布の密度)
tn の密度は
f(t)=nπΓ(2n)Γ(2n+1)(1+nt2)−2n+1(−∞<t<∞).(5.6)
証明
W=w で条件付ける。独立性から、条件付けても Z の分布は変わらない。よって T=Zn/w は N(0,n/w) に従い、その条件付き密度は
nwϕ(tnw)
である。W の密度 fn(w) で重みをつけて積分すると
f(t)=∫0∞fn(w)nwϕ(tnw)dw=Γ(n/2)2n/22πn1∫0∞w2n+1−1exp{−2w(1+nt2)}dw.
積分はガンマ関数の形
∫0∞wa−1e−bwdw=baΓ(a)
で、a=(n+1)/2、b=(1+t2/n)/2 とおけば
Γ(2n+1)22n+1(1+nt2)−2n+1
になる。定数をまとめると 2(n+1)/2/(2n/22πn)=1/nπ なので (5.6) を得る。
密度は t について偶関数なので tn は0について対称である。n→∞ では
(1+nt2)−(n+1)/2→e−t2/2
となり、標準正規分布に近づく。§5.3 の言葉では、W/n→1 に確率収束するので Slutsky の定理からも分かる。n=1 はコーシー分布で、平均が存在しない。図5.2 に示すように、t 分布は正規分布より裾が重い。

図 5.2 t 分布の密度 (5.6) と標準正規分布の密度。実線 N(0,1)、破線 t4、点線 t1(コーシー分布)。自由度が小さいほど中央が低く、裾が重い。
系 5.8(スチューデント化した平均)
N(μ,σ2) からの無作為標本について
Sn(Xˉ−μ)∼tn−1.(5.7)
証明
Z=n(Xˉ−μ)/σ∼N(0,1)、W=(n−1)S2/σ2∼χn−12 で、定理5.5 から両者は独立。Z/W/(n−1)=n(Xˉ−μ)/S で、σ が分母と分子で消える。
この量は σ を含まない。分布も μ と σ によらないので、ピボットになっている。たとえば n=10 なら t9(0.025)=2.262 で、
P(∣10(Xˉ−μ)/S∣≤2.262)=0.95
である。これを μ について解いたものが第8章の信頼区間である。
同様に W=9S2/σ2∼χ92 を考える。数表の値 χ92(0.975)=2.700 と χ92(0.025)=19.02 から
P(2.700≤9S2/σ2≤19.02)=0.95
となり、σ2 の区間推定に使える。
F 分布
定義 5.9(F 分布)
独立な2つの確率変数を考える。一方は U∼χm2、他方は V∼χn2 とする。このとき
F=V/nU/m
の分布を自由度 (m,n) の F 分布と呼ぶ。記号では Fm,n と書く。
定理 5.10(F 分布の密度)
Fm,n の密度は
f(x)=Γ(2m)Γ(2n)Γ(2m+n)(nm)m/2(1+mx/n)(m+n)/2xm/2−1(x>0).(5.8)
証明
t 分布と同じく V=v で条件付ける。このとき F=nU/(mv) である。変数変換 U=(mv/n)F により、条件付き密度は (mv/n)fm(mvx/n) になる。V について積分すると
f(x)=∫0∞nmv⋅Γ(m/2)2m/2(mvx/n)m/2−1e−mvx/(2n)⋅Γ(n/2)2n/2vn/2−1e−v/2dv=Γ(2m)Γ(2n)2(m+n)/2(m/n)m/2xm/2−1∫0∞v2m+n−1e−2v(1+nmx)dv.
最後の積分は Γ(2m+n)2(m+n)/2(1+mx/n)−(m+n)/2 で、2(m+n)/2 が消えて (5.8) を得る。
定義から、次の2つの性質がすぐ出る。
- t 分布の2乗。T∼tn なら T2=Z2/(W/n) である。Z2∼χ12 なので T2∼F1,n。これから両側の点について tn(α/2)2=F1,n(α)。
- 逆数。F∼Fm,n なら 1/F∼Fn,m なので、下側の点は上側の点で書ける。
Fm,n(1−α)=Fn,m(α)1.(5.9)
数表には上側の点しか載っていないことが多いので、(5.9) は計算で頻繁に使う。
2つの正規母集団 N(μ1,σ12)、N(μ2,σ22) を考える。それぞれから独立に大きさ m、n の標本をとる。不偏分散を S12、S22 とすると、定理5.5 の (2) を両方に使って
S22/σ22S12/σ12∼Fm−1,n−1(5.10)
となる。分散の比の検定と区間推定はこれに基づく。
例題 5.2 不偏分散の分散と標本標準偏差の偏り ★★★
オリジナルX1,…,Xn を N(μ,σ2) からの無作為標本とする。ただし n≥2 とする。
- V[S2] を求めよ。
- E[S] を求めよ。
- n=10 のとき E[S]/σ の値を小数第4位まで求めよ。また、S が σ の不偏推定量でないことを確かめよ。
解答
k=n−1 とおく。W=kS2/σ2 とおくと、定理5.5 より W∼χk2。
- S2=σ2W/k で V[W]=2k なので
V[S2]=σ4⋅k22k=n−12σ4.
2. S=σW/k なので E[W] を求めればよい。密度 (5.5) で積分すると
E[W]=Γ(k/2)2k/21∫0∞w2k+1−1e−w/2dw=Γ(k/2)2k/2Γ(2k+1)2(k+1)/2=2Γ(2k)Γ(2k+1).
k=n−1 を戻して
E[S]=σn−12Γ((n−1)/2)Γ(n/2).
3. n=10 では次のようになる。
Γ(5)Γ(4.5)E[S]/σ=24,=27⋅25⋅23⋅21π=16105π≈11.632,=2/9×24/11.632≈0.9727.
この値は1より小さいので、S は σ を平均的に小さく見積もる。これは ⋅ が凹関数で、Jensen の不等式 E[S2]≤E[S2]=σ が成り立つことと整合する。
例題 5.3 2標本のプールした t 統計量 ★★★
オリジナル2つの正規母集団から独立に標本をとる(分散は共通で未知)。一方の標本 X1,…,Xm は N(μ1,σ2) からとる。他方の標本 Y1,…,Yn は N(μ2,σ2) からとる。不偏分散を S12、S22 とし、次の量をおく。
Sp2=m+n−2(m−1)S12+(n−1)S22
このとき
T=Sp1/m+1/nXˉ−Yˉ−(μ1−μ2)
が tm+n−2 に従うことを示せ。
解答
分子について。Xˉ∼N(μ1,σ2/m) と Yˉ∼N(μ2,σ2/n) は独立である。正規分布の再生性から
Xˉ−Yˉ∼N(μ1−μ2, σ2(1/m+1/n))
となる。よって
Z=σ1/m+1/nXˉ−Yˉ−(μ1−μ2)∼N(0,1).
分母について。定理5.5 より (m−1)S12/σ2∼χm−12、(n−1)S22/σ2∼χn−12 で、2つの標本は独立なのでこの2つも独立。カイ二乗分布の再生性から
W=σ2(m+n−2)Sp2=σ2(m−1)S12+σ2(n−1)S22∼χm+n−22.
独立性について。次の3つが成り立つ。
- 定理5.5 の (3) より、Xˉ と S12 は独立である。
- 同様に Yˉ と S22 も独立である。
- X の標本と Y の標本は独立である。
したがって (Xˉ,Yˉ) と (S12,S22) は独立である。よって Z と W は独立。
以上から Z/W/(m+n−2)∼tm+n−2 で、この比を計算すると σ が消えて
W/(m+n−2)Z=σ1/m+1/nXˉ−Yˉ−(μ1−μ2)⋅Spσ=T.
確認テスト
オリジナル
- 5.2-1 χn2 の積率母関数 (1−2t)−n/2 を2回微分する。これにより平均 n と分散 2n を確かめよ。
- 5.2-2 T∼tn とし、n>2 とする。E[T]=0 と E[T2]=n/(n−2) を示せ。
- 5.2-3 N(μ,σ2)(ともに未知)からの大きさ16の標本を考える。P(∣Xˉ−μ∣≤cS)=0.95 となる定数 c を求めよ。t15(0.025)=2.131 を使ってよい。
- 5.2-4 F∼Fm,n とする。B=mF/(n+mF) がベータ分布 Beta(m/2,n/2) に従うことを示せ。
- 5.2-5 F10,5(0.05)=4.735 である。F5,10(0.95) を求めよ。
AI(Claude)が書いた教材を、木下が勉強しながら公開しています。式と数値は検算していますが、誤りが残っているかもしれません。誤りのご指摘・削除のご依頼をいただければ直します。 連絡先:support@tecktom.com