統計学の復習 第9章 §9.4 ★★★ S は σ の不偏推定量にならない。標準誤差は推定量の標準偏差で、n とともに 1/n で小さくなる
不偏分散の平方根は σ を小さめに推定する
S2 が σ2 の不偏推定量なので、その平方根 S を σ の推定量に使うのは自然である。しかし E[S2]=σ2 から E[S]=σ は従わない。期待値と平方根の順序を入れ替えることができないためである。
命題 9.10(S の偏り)
E[S]≤σ が成り立つ。等号は S が確率 1 で定数のとき(母集団が1点に集中していて σ=0 のとき)に限る。
証明
S も確率変数なので分散は 0 以上で、第4章の公式から
0≤V[S]=E[S2]−(E[S])2=σ2−(E[S])2.
よって (E[S])2≤σ2、S≥0 なので E[S]≤σ。等号は V[S]=0、すなわち S が定数のときに限る。
不等号の大きさ σ−E[S] は、S のばらつきの大きさで決まる。n が小さく S が大きくばらつくほど、E[S] は σ を大きく下回る。
この命題は、より一般の Jensen の不等式の特別な場合である。
定理 9.11(Jensen の不等式)
φ が下に凸な微分可能な関数で、E[X] と E[φ(X)] が存在するとき、φ(E[X])≤E[φ(X)]。φ が上に凸なら不等号の向きが逆になる。
証明
m=E[X] とおく。下に凸な関数のグラフは接線より上にあるので、すべての x で φ(x)≥φ(m)+φ′(m)(x−m)。x に X を代入して期待値をとると、E[X−m]=0 から E[φ(X)]≥φ(m) が出る。
φ(x)=x は上に凸なので E[S2]≤E[S2]=σ となり、命題 9.10 が再び得られる。φ(x)=x2 は下に凸なので E[Xˉ2]≥μ2 となる(確認テスト 9.3-4 の偏り σ2/n はこの差である)。不偏性は1次式の変換 aθ^+b では保たれるが、平方根や2乗のような曲がった変換では一般に崩れる。
正規母集団では E[S] を正確に書くことができ、
E[S]=c4(n)σ,c4(n)=n−12⋅Γ((n−1)/2)Γ(n/2)(9.7)
となる。導出には (n−1)S2/σ2 がカイ二乗分布に従うこと(第11章)とガンマ関数の積分を使うので、ここでは結果だけを使う。値は c4(2)≈0.798、c4(5)≈0.940、c4(10)≈0.973、c4(30)≈0.991 で、n→∞ で 1 に近づく(図 9.3)。
n=2 の値は、次の例題で Γ 関数を使わずに導く。c4(n) は品質管理の管理図で σ を推定するときの補正係数として表に載っている。

図 9.3 正規母集団での E[S]/σ=c4(n)。どの n でも 1 より小さく、S は σ を小さめに推定する。偏りは n=2 で約 20%、n=10 で約 3% である。
S は不偏ではないが、σ の一致推定量である。S2 が σ2 の近くに集まれば、その平方根も σ の近くに集まるためで、一般には連続写像定理として数理統計の解説 第5章 §5.3 で扱う。
例題 9.5 n=2 での E[S] ★★
オリジナルX1,X2 を N(μ,σ2) からの無作為標本とする。
- Z∼N(0,1) について E[∣Z∣]=2/π を示せ。
- S=∣X1−X2∣/2 を示し、E[S]=2/πσ≈0.798σ を導け。
- σ の不偏推定量を S の定数倍の形で1つ作れ。
解答
(1) ∣z∣ϕ(z) は偶関数なので、正の側の積分の2倍になる。t=z2/2 と置換すると zdz=dt で
E[∣Z∣]=2∫0∞z2π1e−z2/2dz=2π2∫0∞e−tdt=2π2=π2.
(2) 例題 9.3 (2) から S2=(X1−X2)2/2 なので S=∣X1−X2∣/2。正規分布の再生性(第6章)から X1−X2∼N(0,2σ2) で、X1−X2=2σZ(Z∼N(0,1))と書ける。よって
E[S]=22σE[∣Z∣]=σπ2≈0.7979σ.
これは (9.7) で n=2 とした 2Γ(1)/Γ(1/2)=2/π と一致する。
(3) E[S]=2/πσ なので、π/2S=π∣X1−X2∣/2 の期待値は σ である。
標準誤差
定義 9.12(標準誤差)
推定量 θ^ の標準偏差 V[θ^] を θ^ の標準誤差と呼び、SE(θ^) と書く。その中の未知の母数を推定量で置き換えたものを、推定した標準誤差と呼ぶ。
標本平均では (9.2) から
SE(Xˉ)=nσ,推定した標準誤差 nS.(9.8)
母比率の推定量 p^ では、SE(p^)=p(1−p)/n、推定した標準誤差は p^(1−p^)/n である。Xˉ は不偏なので SE(Xˉ)2=E[(Xˉ−μ)2] で、標準誤差は「推定量が真の値から典型的にどれだけずれるか」を、ずれの2乗平均の平方根として表している。ただし標準誤差は、今回の1つの標本の誤差 xˉ−μ そのものではない。標本を同じ方法で何度も取り直したときの、誤差の散らばりの大きさである。
標準偏差・標準誤差・変動係数の区別
3つの量は、どの確率変数の散らばりを、何で割って表したかが違う。
| 量 | 式 | 単位 | n を増やすと | 何の散らばりか |
| 標準偏差 | σ(推定は s) | X と同じ | 変わらない | 個々の観測 Xi |
| 標準誤差 | σ/n(推定は s/n) | X と同じ | 1/n で小さくなる | 推定量 Xˉ |
| 変動係数 | σ/μ(第2章) | なし | 変わらない | 平均に対する相対的な観測の散らばり |
標準誤差は σ を「規格化」したものではない。Xˉ という別の確率変数の標準偏差であり、単位は X と同じで、n の取り方で値が変わる。したがって標準誤差は母数ではなく、母数と標本の大きさから決まる量である。推定した標準誤差 S/n は統計量である。
s と s2 の取り違え
推定した標準誤差は s/n で、s2/n ではない。問題文に「不偏分散 36」とあれば s=6 で、標準誤差は 6/n である。単位で確かめると取り違えに気づくことができる。X が cm なら s2 は cm2 で、s2/n は cm2 になり、平均(cm)の誤差の単位にならない。
標準誤差が 1/n に比例することから、標準誤差を半分にするには標本を 4 倍にする必要がある。次の章では、Xˉ を標準誤差で標準化した (Xˉ−μ)/(σ/n) を使って区間推定を組み立てる。σ が未知で推定した標準誤差 S/n を分母に使うと、分母もばらつくので、標準正規分布ではなく t 分布に従う(第10章)。
例題 9.6 標準誤差の計算と必要な標本の大きさ ★★★
オリジナル
- ある部品の長さを n=25 個測り、xˉ=172.4(mm)、不偏分散 s2=36(mm2)を得た。母平均の推定値と推定した標準誤差を求めよ。
- (1) と同じ散らばり(s=6 を母標準偏差とみなす)で、標準誤差を 0.5 mm 以下にするには何個測ればよいか。
- 400 人に調査して 120 人が「はい」と答えた。母比率の推定値と推定した標準誤差を求めよ。
- 母比率の標準誤差を p の値によらず 0.02 以下にするには、何人に調査すればよいか。
解答
(1) 推定値は xˉ=172.4 mm。s=36=6 なので、推定した標準誤差は s/n=6/5=1.2 mm である。s2/n=36/5=7.2 とするのは誤りである。
(2) 6/n≤0.5 は n≥12、すなわち n≥144 と同値なので、144 個。標準誤差を 1.2 から 0.5 へ約 0.42 倍にするために、標本は 25 から 144 へ 5.76 倍が必要になる(1/0.41672=5.76)。
(3) p^=120/400=0.3。推定した標準誤差は 0.3×0.7/400=0.000525≈0.0229。
(4) p(1−p)=41−(p−21)2≤41 なので、SE(p^)≤1/(4n)=1/(2n)。1/(2n)≤0.02 は n≥25、すなわち n≥625 と同値なので、625 人に調査すればよい。
確認テスト
オリジナル
- 9.4-1 n=64 のデータで不偏分散が s2=16 であった。標本平均の推定した標準誤差を求めよ。
- 9.4-2 母集団が値 0 と 2 を確率 1/2 ずつとる。n=2 の無作為標本について、S2 のとりうる値と確率を求め、E[S2]=σ2 と E[S]<σ を確かめよ。
- 9.4-3 X が正の値だけをとり、E[X] と E[1/X] が存在するとき、E[1/X]≥1/E[X] を Jensen の不等式(定理 9.11)で示せ。このことから、Xˉ が μ>0 の不偏推定量であっても、1/Xˉ は 1/μ の不偏推定量にならないことを説明せよ(Xˉ>0 とする)。
- 9.4-4 同じ母集団から標本の大きさを n=50 から n=200 に増やした。標準偏差の推定値 s、変動係数の推定値 s/xˉ、推定した標準誤差 s/n は、それぞれおよそどう変わるか答えよ。
- 9.4-5 母比率の推定で、推定した標準誤差が 0.015 以下になるようにしたい。事前に p がおよそ 0.2 と分かっている場合と、まったく分からない場合のそれぞれで、必要な最小の n を求めよ。
AI(Claude)が書いた教材を、木下が勉強しながら公開しています。式と数値は検算していますが、誤りが残っているかもしれません。誤りのご指摘・削除のご依頼をいただければ直します。 連絡先:support@tecktom.com