$t$ 分布と $t$ 分布表

統計学の復習　第10章 §10.3　★★★ $t_\nu$ は $Z/\sqrt{W/\nu}$（$W\sim\chi^2_\nu$ は $Z$ と独立）の分布。分母のばらつきの分だけ裾が厚く、分散は $\nu/(\nu-2)$ で、$\nu\to\infty$ で $\mathrm N(0,1)$ に近づく

母分散を推定値で置き換えると何が変わるか

実際の調査では $\sigma$ が分かっていることは少ない。そこで式 (10.3) の $\sigma$ を、不偏分散 $S^2=\frac1{n-1}\sum(X_i-\bar X)^2$ の平方根 $S$ で置き換えた

$$T=\frac{\bar X-\mu}{S/\sqrt n}\tag{10.7}$$

を考える。$T$ の分布も $\mu$ と $\sigma$ によらないことが後で分かるが、その分布は $\mathrm N(0,1)$ ではない。$S$ は標本ごとに変わる確率変数で、$S$ がたまたま $\sigma$ より小さい標本では $T$ の絶対値が $Z$ より大きくなる。分母のぶれが加わるので、$T$ は $Z$ より大きな値をとりやすく、分布の裾が厚くなる。この裾の厚さを正確に表すのが $t$ 分布である。

カイ二乗分布と t 分布の定義

$t$ 分布の定義にはカイ二乗分布を使う。カイ二乗分布は第11章 §11.4 で詳しく扱うので、ここでは定義と、この章で使う性質だけを書く。

定義から $W$ は非負で、期待値と分散は次のように出る。$E[Z_i^2]=V[Z_i]=1$ なので $E[W]=\nu$ である。$\mathrm N(0,1)$ の4次の積率は $E[Z^4]=3$（部分積分で $\int z^4\varphi(z)\,\mathrm{d} z=3\int z^2\varphi(z)\,\mathrm{d} z$）なので $V[Z_i^2]=3-1=2$ で、$Z_i^2$ が独立だから $V[W]=2\nu$ である。また、独立な $\chi^2_{\nu_1}$ と $\chi^2_{\nu_2}$ の和は、二乗の項を並べ直せば $\nu_1+\nu_2$ 個の独立な $Z_i^2$ の和なので $\chi^2_{\nu_1+\nu_2}$ に従う（再生性）。

$W/\nu$ は $\nu$ 個の $Z_i^2$ の平均で、期待値は $1$ である。$t$ 分布は、標準正規分布に従う量を「期待値 $1$ のまわりでばらつく量の平方根」で割った分布である。

正規標本の T は t 分布に従う

式 (10.7) の $T$ を定義 10.4 の形に書き直す。分子と分母を $\sigma/\sqrt n$ で割ると

$$T=\frac{(\bar X-\mu)/(\sigma/\sqrt n)}{S/\sigma}=\frac{Z}{\sqrt{\dfrac{(n-1)S^2/\sigma^2}{n-1}}}\tag{10.10}$$

となる。分子は式 (10.3) の $Z$ である。分母の根号の中の分子について、次の事実が成り立つ。

一般の $n$ での証明は直交変換か積率母関数を使うので、この巻では扱わず、数理統計の解説 第5章 §5.2 に送る。ここでは $n=2$ の場合だけを2級の範囲の道具で確かめる。$n=2$ では $\bar X=(X_1+X_2)/2$、$S^2=(X_1-\bar X)^2+(X_2-\bar X)^2=(X_1-X_2)^2/2$ である。$U=X_1+X_2$ と $D=X_1-X_2$ はどちらも正規分布に従い、第7章の共分散の双線形性から $\mathrm{Cov}(U,D)=V[X_1]-V[X_2]=0$ である。$(U,D)$ は2変量正規分布に従うので、無相関から独立が出る（この事実は第7章で結果だけ借りる）。$\bar X$ は $U$ の関数、$S^2$ は $D$ の関数なので独立である。また $D\sim\mathrm N(0,2\sigma^2)$ なので $S^2/\sigma^2=D^2/(2\sigma^2)=\bigl(D/(\sqrt2\sigma)\bigr)^2$ は $\mathrm N(0,1)$ の2乗、すなわち $\chi^2_1$ に従い、自由度は $n-1=1$ である。

自由度が $n$ でなく $n-1$ になる理由は、第9章で不偏分散が $n-1$ で割る理由と同じである。偏差 $X_i-\bar X$ は $n$ 個あるが、$\sum_i(X_i-\bar X)=0$ という1本の制約を満たすので、自由に動ける成分は $n-1$ 個しかない。$n=2$ では $X_1-\bar X=-(X_2-\bar X)$ で、独立な成分は $D$ の1個だけである。

定理 10.5 を式 (10.10) に入れると、$Z$ と $W=(n-1)S^2/\sigma^2\sim\chi^2_{n-1}$ は独立で、$T=Z/\sqrt{W/(n-1)}$ である。定義 10.4 から次の系が出る。

t 分布の性質

証明

(1) $Z$ と $-Z$ は同じ分布に従い、$W$ と独立なので、$T=Z/\sqrt{W/\nu}$ と $-T=(-Z)/\sqrt{W/\nu}$ は同じ分布に従う。密度の式 (10.11) の導出は2変数の変数変換を使うので、数理統計の解説 第5章 §5.2 に送る。この章で密度の式を使うのは図 10.2 を描くときだけである。

(2) 分散を示す。$Z$ と $W$ は独立なので、$Z^2$ と $\nu/W$ も独立で、

$$E[T^2]=E\!\left[Z^2\cdot\frac{\nu}{W}\right]=E[Z^2]\,E\!\left[\frac{\nu}{W}\right]=\nu\,E\!\left[\frac1W\right]$$

である。$E[1/W]$ を密度 (10.8) で計算する。$a=\nu/2-1>0$（$\nu\ge3$）とし、積分 $\int_0^\infty w^{a-1}\mathrm{e}^{-w/2}\,\mathrm{d} w$ を $w=2x$ で置換すると $2^a\Gamma(a)$ になることを使うと

$$E\!\left[\frac1W\right]=\frac{1}{2^{\nu/2}\Gamma(\nu/2)}\int_0^\infty w^{\nu/2-2}\mathrm{e}^{-w/2}\,\mathrm{d} w =\frac{2^{\nu/2-1}\Gamma(\nu/2-1)}{2^{\nu/2}\Gamma(\nu/2)} =\frac{\Gamma(\nu/2-1)}{2\cdot(\nu/2-1)\Gamma(\nu/2-1)}=\frac{1}{\nu-2}$$

となる。3つ目の等号で $\Gamma(\nu/2)=(\nu/2-1)\Gamma(\nu/2-1)$ を使った。よって $E[T^2]=\nu/(\nu-2)$ である。$E[T]$ は、$\nu\ge2$ なら $E[\lvert T\rvert ]<\infty$ であり（$E[1/\sqrt W]$ が同じ計算で有限になる）、(1) の対称性から $E[T]=0$ である。したがって $V[T]=E[T^2]-0^2=\nu/(\nu-2)$ である。

(3) $W/\nu$ は独立な $Z_i^2$（期待値 $1$・分散 $2$）の平均なので、$E[W/\nu]=1$、$V[W/\nu]=2\nu/\nu^2=2/\nu$ である。第4章の Chebyshev の不等式から、任意の $\varepsilon>0$ について

$$P\!\left(\Bigl|\frac W\nu-1\Bigr|\ge\varepsilon\right)\le\frac{2}{\nu\varepsilon^2}\ \longrightarrow\ 0\qquad(\nu\to\infty)$$

で、分母 $\sqrt{W/\nu}$ は $1$ の近くに集まっていく。分母がほぼ $1$ なら $T$ はほぼ $Z$ であり、$T$ の分布は $\mathrm N(0,1)$ に近づく。この最後の一歩（分母が確率収束するとき比の分布が収束すること）を厳密に示すには Slutsky の定理が要り、数理統計の解説 第5章 §5.3 で扱う。

分散 $\nu/(\nu-2)$ は $1$ より大きく、$\nu$ が小さいほど大きい。$\nu=5$ で $5/3=1.67$、$\nu=30$ で $30/28=1.07$ である。$\nu=2$ では $E[1/W]=\int_0^\infty\frac1w\cdot\frac12\mathrm{e}^{-w/2}\,\mathrm{d} w$ が $w=0$ の近くで発散するので、分散は無限大になる。$\nu=1$ では密度は $f_T(t)=1/\{\pi(1+t^2)\}$（Cauchy 分布）になり、$\int\lvert t\rvert f_T(t)\,\mathrm{d} t$ が発散するので期待値も存在しない。

裾が厚くなる仕組みは、条件付けで見ると分かりやすい。$W=w$ と固定すると、$T=Z\sqrt{\nu/w}$ は $\mathrm N(0,\nu/w)$ に従う。つまり $t$ 分布は、分散が $\nu/W$ という確率変数で揺れる正規分布を混ぜ合わせたもので、分散の平均が $E[\nu/W]=\nu/(\nu-2)$ になる。$W$ が小さい（標本では $S$ が小さい）ときに分散の大きな正規分布が混ざり、裾が持ち上がる。

t 分布表の引き方

$t_\nu$ の上側 $100\alpha\%$ 点を $t_\nu(\alpha)$ と書く。すなわち $T\sim t_\nu$ について $P(T>t_\nu(\alpha))=\alpha$ である。$t$ 分布表は、行が自由度 $\nu$、列が上側の確率 $\alpha$ で、交わる所に $t_\nu(\alpha)$ が載っている。分布が対称なので下側の点は $t_\nu(1-\alpha)=-t_\nu(\alpha)$ で、表には上側だけが載る。両側 $100(1-\alpha)\%$ の区間に使うのは $P(\lvert T\rvert \le c)=1-\alpha$ を満たす $c$ で、上下に $\alpha/2$ ずつ残すので $c=t_\nu(\alpha/2)$、すなわち $\alpha/2$ の列を引く。主な値を次に示す（最後の行 $\nu=\infty$ は標準正規分布の $z_\alpha$）。

どの列でも $\nu$ が大きくなると値は減り、$z_\alpha$ に近づく。どの $\nu$ でも $t_\nu(\alpha)>z_\alpha$ で、同じ信頼係数なら $t$ による区間の方が臨界値が大きい。

確認テスト

オリジナル

1. 10.3-1 正規母集団からの大きさ $12$ の標本で $T=(\bar X-\mu)/(S/\sqrt{12})$ を作る。$T$ を $Z\sim\mathrm N(0,1)$ と $W\sim\chi^2_\nu$ で表し、$W$ と自由度 $\nu$ を答えよ。
2. 10.3-2 $T\sim t_{10}$ とする（$t_{10}(0.05)=1.812$、$t_{10}(0.025)=2.228$）。$P(\lvert T\rvert \le c)=0.95$ を満たす $c$、$P(T\le-1.812)$、$P(-1.812\le T\le2.228)$ を求めよ。
3. 10.3-3 $t_3$・$t_5$・$t_{30}$ の分散を求めよ。また $t_2$ の分散が有限でないことを、$E[1/W]$（$W\sim\chi^2_2$）の積分から示せ。
4. 10.3-4 $W\sim\chi^2_\nu$ について、$E[Z^4]=3$ を使って $V[W]=2\nu$ を示し、$P(\lvert W/\nu-1\rvert \ge0.1)\le200/\nu$ を導け。