統計学の復習 第12章 §12.2 ★★★ p p p 値は H 0 H_0 H 0 のもとでの裾の確率で、H 0 H_0 H 0 が正しい確率ではない。p ≤ α p\le\alpha p ≤ α と「統計量が棄却域に入る」は同じ判定である
用語の定義
検定の材料を、§12.1 の手順の順に名前で呼ぶ。
定義 12.1(検定の用語)
帰無仮説 H 0 H_0 H 0 と対立仮説 H 1 H_1 H 1 :母数の取りうる値を2つに分けたもの。H 0 H_0 H 0 は、そのもとで検定統計量の分布が1つに決まる側に取る。H 0 H_0 H 0 が指定する母数の値(μ 0 \mu_0 μ 0 など)を帰無仮説の値と呼ぶ。
検定統計量 :標本から計算され、H 0 H_0 H 0 のもとでの分布が分かっている統計量。観測値を代入した値を実現値と呼び、z o b s z_{\mathrm{obs}} z obs ・t o b s t_{\mathrm{obs}} t obs と書く。
有意水準 α \alpha α :H 0 H_0 H 0 が正しいときに H 0 H_0 H 0 を棄却する確率の上限として、データを見る前に決める数。
棄却域 :「検定統計量がここに入れば H 0 H_0 H 0 を棄却する」と決めた値の集まり。その補集合を採択域 と呼ぶ。
H 0 H_0 H 0 を棄却することを「有意である」とも言い、「有意水準 5 % 5\% 5% で有意」のように水準を添える。
「採択」という語を使うが、採択域に入ったことは H 0 H_0 H 0 が正しいと認めたことを意味しない。§12.1 で見たとおり、棄却しなかったときに言えるのは「H 0 H_0 H 0 と矛盾するとはいえない」ことだけである。
p p p 値
棄却域に入るかどうかの二択の代わりに、観測値の珍しさを1つの数で表すのが p p p 値である。
定義 12.2(p p p 値)
検定統計量を T T T 、実現値を t o b s t_{\mathrm{obs}} t obs とする。H 0 H_0 H 0 のもとで、T T T が t o b s t_{\mathrm{obs}} t obs と同じかそれ以上に H 1 H_1 H 1 の方向へ極端な値をとる確率を p p p 値 と呼ぶ。
上側の対立仮説(大きい値が H 1 H_1 H 1 の証拠)のとき:p = P H 0 ( T ≥ t o b s ) p=P_{H_0}(T\ge t_{\mathrm{obs}}) p = P H 0 ( T ≥ t obs ) 。
下側の対立仮説のとき:p = P H 0 ( T ≤ t o b s ) p=P_{H_0}(T\le t_{\mathrm{obs}}) p = P H 0 ( T ≤ t obs ) 。
両側の対立仮説で、H 0 H_0 H 0 のもとでの T T T の分布が 0 0 0 について対称なとき:p = P H 0 ( ∣ T ∣ ≥ ∣ t o b s ∣ ) = 2 P H 0 ( T ≥ ∣ t o b s ∣ ) p=P_{H_0}(\lvert T\rvert \ge\lvert t_{\mathrm{obs}}\rvert )=2P_{H_0}(T\ge\lvert t_{\mathrm{obs}}\rvert ) p = P H 0 (∣ T ∣ ≥ ∣ t obs ∣) = 2 P H 0 ( T ≥ ∣ t obs ∣) 。
ここで P H 0 P_{H_0} P H 0 は H 0 H_0 H 0 が正しいとして計算した確率を表す。
T T T が連続型の確率変数なら P H 0 ( T = t o b s ) = 0 P_{H_0}(T=t_{\mathrm{obs}})=0 P H 0 ( T = t obs ) = 0 であり、観測値1点の確率では珍しさを測ることができない。定義の「同じかそれ以上に極端な」という部分は、1点でなく裾全体の確率を取るために必要な部分で、これによって p p p 値は正の値になる。両側の p p p 値が片側の2倍になるのは、極端と認める領域が左右に2つあるからである。
命題 12.3(p p p 値による判定と棄却域による判定は一致する)
上側の対立仮説で、H 0 H_0 H 0 のもとでの T T T の累積分布関数 F F F が連続で狭義に増加するとする。c = F − 1 ( 1 − α ) c=F^{-1}(1-\alpha) c = F − 1 ( 1 − α ) を上側 100 α % 100\alpha\% 100 α % 点とすると、
p ≤ α ⟺ t o b s ≥ c p\le\alpha\iff t_{\mathrm{obs}}\ge c p ≤ α ⟺ t obs ≥ c である。
H 0 H_0 H 0 のもとで、確率変数としての p p p 値 1 − F ( T ) 1-F(T) 1 − F ( T ) は区間 ( 0 , 1 ) (0,1) ( 0 , 1 ) 上の一様分布に従う。したがって P H 0 ( p ≤ α ) = α P_{H_0}(p\le\alpha)=\alpha P H 0 ( p ≤ α ) = α である。
証明 (1) p = P H 0 ( T ≥ t o b s ) = 1 − F ( t o b s ) p=P_{H_0}(T\ge t_{\mathrm{obs}})=1-F(t_{\mathrm{obs}}) p = P H 0 ( T ≥ t obs ) = 1 − F ( t obs ) である。p ≤ α ⟺ F ( t o b s ) ≥ 1 − α p\le\alpha\iff F(t_{\mathrm{obs}})\ge1-\alpha p ≤ α ⟺ F ( t obs ) ≥ 1 − α で、F F F は狭義に増加するので、これは t o b s ≥ F − 1 ( 1 − α ) = c t_{\mathrm{obs}}\ge F^{-1}(1-\alpha)=c t obs ≥ F − 1 ( 1 − α ) = c と同値である。
(2) 第6章の確率積分変換から U = F ( T ) ∼ U ( 0 , 1 ) U=F(T)\sim\mathrm U(0,1) U = F ( T ) ∼ U ( 0 , 1 ) である。0 < u < 1 0<u<1 0 < u < 1 に対して
P H 0 ( 1 − F ( T ) ≤ u ) = P ( U ≥ 1 − u ) = 1 − ( 1 − u ) = u P_{H_0}\bigl(1-F(T)\le u\bigr)=P(U\ge1-u)=1-(1-u)=u P H 0 ( 1 − F ( T ) ≤ u ) = P ( U ≥ 1 − u ) = 1 − ( 1 − u ) = u
なので、1 − F ( T ) 1-F(T) 1 − F ( T ) の累積分布関数は u u u で、これは U ( 0 , 1 ) \mathrm U(0,1) U ( 0 , 1 ) の累積分布関数である。u = α u=\alpha u = α とすれば P H 0 ( p ≤ α ) = α P_{H_0}(p\le\alpha)=\alpha P H 0 ( p ≤ α ) = α を得る。
(1) は、同じ判定に2つの書き方があり、不等号の向きが逆になることを述べている。統計量はずれの大きさなので「臨界値を超えたら棄却」、p p p 値は珍しさの確率なので「α \alpha α を下回ったら棄却」である。両方を計算した問題では、2つの判定が一致することで検算することができる。(2) は、p p p 値で判定する規則の第1種の過誤の確率が、宣言した α \alpha α にちょうど等しいことを保証している。
p p p 値は H 0 H_0 H 0 が正しい確率ではない
p p p 値を「H 0 H_0 H 0 が正しい確率」と読むのは誤りである。理由は2つある。
第一に、条件の向きが逆である。p p p 値は「H 0 H_0 H 0 が正しいという条件のもとで、データがこれ以上に極端になる確率」であり、確率が載っているのはデータの側で、条件になっているのが H 0 H_0 H 0 である。「H 0 H_0 H 0 が正しい確率」は「データという条件のもとで H 0 H_0 H 0 が成り立つ確率」で、条件と対象が入れ替わっている。第3章で見たとおり P ( A ∣ B ) P(A\mid B) P ( A ∣ B ) と P ( B ∣ A ) P(B\mid A) P ( B ∣ A ) は一般に異なる。
第二に、この章の枠組みでは母数 μ \mu μ は未知の定数で、μ = 200 \mu=200 μ = 200 は真か偽のどちらかに決まっている。確率変数なのは標本の側だけなので、「H 0 H_0 H 0 が正しい確率」という量はそもそも定義されない。これは第10章で「95 % 95\% 95% 信頼区間が μ \mu μ を含む確率が 0.95 0.95 0.95 」と読むのが誤りであったのと同じ構造である。
仮に H 0 H_0 H 0 が正しい確率 π 0 \pi_0 π 0 を外から与えれば、第3章の Bayes の定理で「棄却したときに H 0 H_0 H 0 が正しかった確率」を計算することはできる。対立仮説のもとでの棄却の確率(§12.3 の検出力)を 1 − β 1-\beta 1 − β とすると
P ( H 0 が正しい ∣ 棄却 ) = α π 0 α π 0 + ( 1 − β ) ( 1 − π 0 ) (12.1) P(H_0\text{ が正しい}\mid\text{棄却})=\frac{\alpha\,\pi_0}{\alpha\,\pi_0+(1-\beta)(1-\pi_0)}\tag{12.1} P ( H 0 が正しい ∣ 棄却 ) = α π 0 + ( 1 − β ) ( 1 − π 0 ) α π 0 ( 12.1 )
である。右辺には p p p 値でも α \alpha α だけでもなく、π 0 \pi_0 π 0 と検出力が入っている。データから得た p p p 値だけでは、H 0 H_0 H 0 が正しい確率は決まらない。母数を確率変数として扱う Bayes 統計の立場は数理統計の解説 第10章で扱う。
例題 12.2 p p p 値を計算して有意水準と比べる ★★★
オリジナル §12.1 の菓子の例(σ = 6 \sigma=6 σ = 6 、n = 36 n=36 n = 36 、x ˉ = 202.3 \bar x=202.3 x ˉ = 202.3 、μ 0 = 200 \mu_0=200 μ 0 = 200 )で、Φ ( 2.3 ) = 0.98928 \Phi(2.3)=0.98928 Φ ( 2.3 ) = 0.98928 とする。
対立仮説が H 1 : μ ≠ 200 H_1:\mu\ne200 H 1 : μ = 200 のときの p p p 値を求め、有意水準 5 % 5\% 5% と 1 % 1\% 1% での結論を述べよ。
対立仮説が H 1 : μ > 200 H_1:\mu>200 H 1 : μ > 200 のときの p p p 値を求め、有意水準 5 % 5\% 5% と 1 % 1\% 1% での結論を述べよ。
解答 (1) z o b s = ( 202.3 − 200 ) / ( 6 / 36 ) = 2.3 z_{\mathrm{obs}}=(202.3-200)/(6/\sqrt{36})=2.3 z obs = ( 202.3 − 200 ) / ( 6/ 36 ) = 2.3 である。両側なので
p = P ( ∣ Z ∣ ≥ 2.3 ) = 2 { 1 − Φ ( 2.3 ) } = 2 × 0.01072 = 0.0214. p=P(\lvert Z\rvert \ge2.3)=2\{1-\Phi(2.3)\}=2\times0.01072=0.0214. p = P (∣ Z ∣ ≥ 2.3 ) = 2 { 1 − Φ ( 2.3 )} = 2 × 0.01072 = 0.0214.
p < 0.05 p<0.05 p < 0.05 なので有意水準 5 % 5\% 5% では棄却し、p > 0.01 p>0.01 p > 0.01 なので有意水準 1 % 1\% 1% では棄却しない。統計量で書くと、5 % 5\% 5% の臨界値 1.960 1.960 1.960 を 2.3 2.3 2.3 は超え、1 % 1\% 1% の臨界値 2.576 2.576 2.576 は超えないので、同じ結論になる。
(2) 上側なので p = P ( Z ≥ 2.3 ) = 0.0107 p=P(Z\ge2.3)=0.0107 p = P ( Z ≥ 2.3 ) = 0.0107 である。5 % 5\% 5% では棄却する。1 % 1\% 1% では 0.0107 > 0.01 0.0107>0.01 0.0107 > 0.01 なので棄却しない(臨界値 z 0.01 = 2.326 z_{0.01}=2.326 z 0.01 = 2.326 を 2.3 2.3 2.3 はわずかに超えない)。同じデータでも、対立仮説の向きによって p p p 値は2倍違う。
確認テスト
オリジナル
12.2-1 次の文の正誤を答え、誤りなら理由を述べよ。(a) p p p 値が 0.03 0.03 0.03 なら、H 0 H_0 H 0 が正しい確率は 3 % 3\% 3% である。(b) p p p 値が小さいほど、データは H 0 H_0 H 0 に反する。(c) 有意水準は、p p p 値を見てから結論が出るように決めてよい。(d) 両側検定で p = 0.03 p=0.03 p = 0.03 なら、有意水準 5 % 5\% 5% では棄却し、1 % 1\% 1% では棄却しない。
12.2-2 母分散既知の z z z 検定で z o b s = − 1.8 z_{\mathrm{obs}}=-1.8 z obs = − 1.8 であった(Φ ( 1.8 ) = 0.96407 \Phi(1.8)=0.96407 Φ ( 1.8 ) = 0.96407 )。H 1 : μ ≠ μ 0 H_1:\mu\ne\mu_0 H 1 : μ = μ 0 のときと H 1 : μ < μ 0 H_1:\mu<\mu_0 H 1 : μ < μ 0 のときの p p p 値をそれぞれ求めよ。
12.2-3 式 (12.1) で α = 0.05 \alpha=0.05 α = 0.05 、検出力 1 − β = 0.5 1-\beta=0.5 1 − β = 0.5 、π 0 = 0.8 \pi_0=0.8 π 0 = 0.8 とするとき、棄却したときに H 0 H_0 H 0 が正しかった確率を求めよ。
12.2-4 Z ∼ N ( 0 , 1 ) Z\sim\mathrm N(0,1) Z ∼ N ( 0 , 1 ) のとき、両側の p p p 値 P = 2 { 1 − Φ ( ∣ Z ∣ ) } P=2\{1-\Phi(\lvert Z\rvert )\} P = 2 { 1 − Φ (∣ Z ∣)} が U ( 0 , 1 ) \mathrm U(0,1) U ( 0 , 1 ) に従うことを示せ。
AI(Claude)が書いた教材を、木下が勉強しながら公開しています。式と数値は検算していますが、誤りが残っているかもしれません。誤りのご指摘・削除のご依頼をいただければ直します。 連絡先:support@tecktom.com