tecktom.com

標準偏差と標準誤差

2026年10月17日11分で読めますAI生成教科書『資格試験』第9章 点推定
目次
  1. 不偏分散の平方根は を小さめに推定する
  2. 標準誤差
  3. 確認テスト
  4. 木下の層

AI 生成・木下が未勉強

統計学の復習 第9章 §9.4 ★★★ SS は σ\sigma の不偏推定量にならない。標準誤差は推定量の標準偏差で、nn とともに 1/n1/\sqrt n で小さくなる

不偏分散の平方根は σ\sigma を小さめに推定する

S2S^2 が σ2\sigma^2 の不偏推定量なので、その平方根 SS を σ\sigma の推定量に使うのは自然である。しかし E[S2]=σ2E[S^2]=\sigma^2 から E[S]=σE[S]=\sigma は従わない。期待値と平方根の順序を入れ替えることができないためである。

命題 9.10(SS の偏り)

E[S]≤σE[S]\le\sigma が成り立つ。等号は SS が確率 11 で定数のとき(母集団が1点に集中していて σ=0\sigma=0 のとき)に限る。

証明

SS も確率変数なので分散は 00 以上で、第4章の公式から

0≤V[S]=E[S2]−(E[S])2=σ2−(E[S])2.0\le V[S]=E[S^2]-(E[S])^2=\sigma^2-(E[S])^2.

よって (E[S])2≤σ2(E[S])^2\le\sigma^2、S≥0S\ge0 なので E[S]≤σE[S]\le\sigma。等号は V[S]=0V[S]=0、すなわち SS が定数のときに限る。

不等号の大きさ σ−E[S]\sigma-E[S] は、SS のばらつきの大きさで決まる。nn が小さく SS が大きくばらつくほど、E[S]E[S] は σ\sigma を大きく下回る。

この命題は、より一般の Jensen の不等式の特別な場合である。

定理 9.11(Jensen の不等式)

φ\varphi が下に凸な微分可能な関数で、E[X]E[X] と E[φ(X)]E[\varphi(X)] が存在するとき、φ(E[X])≤E[φ(X)]\varphi(E[X])\le E[\varphi(X)]。φ\varphi が上に凸なら不等号の向きが逆になる。

証明

m=E[X]m=E[X] とおく。下に凸な関数のグラフは接線より上にあるので、すべての xx で φ(x)≥φ(m)+φ′(m)(x−m)\varphi(x)\ge\varphi(m)+\varphi'(m)(x-m)。xx に XX を代入して期待値をとると、E[X−m]=0E[X-m]=0 から E[φ(X)]≥φ(m)E[\varphi(X)]\ge\varphi(m) が出る。

φ(x)=x\varphi(x)=\sqrt x は上に凸なので E[S2]≤E[S2]=σE[\sqrt{S^2}]\le\sqrt{E[S^2]}=\sigma となり、命題 9.10 が再び得られる。φ(x)=x2\varphi(x)=x^2 は下に凸なので E[Xˉ2]≥μ2E[\bar X^2]\ge\mu^2 となる(確認テスト 9.3-4 の偏り σ2/n\sigma^2/n はこの差である)。不偏性は1次式の変換 aθ^+ba\hat\theta+b では保たれるが、平方根や2乗のような曲がった変換では一般に崩れる。

正規母集団では E[S]E[S] を正確に書くことができ、

E[S]=c4(n) σ,c4(n)=2n−1⋅Γ(n/2)Γ((n−1)/2)(9.7)E[S]=c_4(n)\,\sigma,\qquad c_4(n)=\sqrt{\frac{2}{n-1}}\cdot\frac{\Gamma(n/2)}{\Gamma\bigl((n-1)/2\bigr)}\tag{9.7}

となる。導出には (n−1)S2/σ2(n-1)S^2/\sigma^2 がカイ二乗分布に従うこと(第11章)とガンマ関数の積分を使うので、ここでは結果だけを使う。値は c4(2)≈0.798c_4(2)\approx0.798、c4(5)≈0.940c_4(5)\approx0.940、c4(10)≈0.973c_4(10)\approx0.973、c4(30)≈0.991c_4(30)\approx0.991 で、n→∞n\to\infty で 11 に近づく(図 9.3)。

n=2n=2 の値は、次の例題で Γ\Gamma 関数を使わずに導く。c4(n)c_4(n) は品質管理の管理図で σ\sigma を推定するときの補正係数として表に載っている。

図

図 9.3 正規母集団での E[S]/σ=c4(n)E[S]/\sigma=c_4(n)。どの nn でも 11 より小さく、SS は σ\sigma を小さめに推定する。偏りは n=2n=2 で約 20%20\%、n=10n=10 で約 3%3\% である。

SS は不偏ではないが、σ\sigma の一致推定量である。S2S^2 が σ2\sigma^2 の近くに集まれば、その平方根も σ\sigma の近くに集まるためで、一般には連続写像定理として数理統計の解説 第5章 §5.3 で扱う。

例題 9.5 n=2n=2 での E[S]E[S] ★★

オリジナルX1,X2X_1,X_2 を N(μ,σ2)\mathrm{N}(\mu,\sigma^2) からの無作為標本とする。

  1. Z∼N(0,1)Z\sim\mathrm{N}(0,1) について E[∣Z∣]=2/πE[\lvert Z\rvert ]=\sqrt{2/\pi} を示せ。
  2. S=∣X1−X2∣/2S=\lvert X_1-X_2\rvert /\sqrt2 を示し、E[S]=2/π σ≈0.798 σE[S]=\sqrt{2/\pi}\,\sigma\approx0.798\,\sigma を導け。
  3. σ\sigma の不偏推定量を SS の定数倍の形で1つ作れ。
解答

(1) ∣z∣ϕ(z)\lvert z\rvert \phi(z) は偶関数なので、正の側の積分の2倍になる。t=z2/2t=z^2/2 と置換すると z dz=dtz\,\mathrm{d} z=\mathrm{d} t で

E[∣Z∣]=2∫0∞z 12πe−z2/2 dz=22π∫0∞e−t dt=22π=2π.E[\lvert Z\rvert ]=2\int_0^\infty z\,\frac{1}{\sqrt{2\pi}}e^{-z^2/2}\,\mathrm{d} z=\frac{2}{\sqrt{2\pi}}\int_0^\infty e^{-t}\,\mathrm{d} t=\frac{2}{\sqrt{2\pi}}=\sqrt{\frac2\pi}.

(2) 例題 9.3 (2) から S2=(X1−X2)2/2S^2=(X_1-X_2)^2/2 なので S=∣X1−X2∣/2S=\lvert X_1-X_2\rvert /\sqrt2。正規分布の再生性(第6章)から X1−X2∼N(0,2σ2)X_1-X_2\sim\mathrm{N}(0,2\sigma^2) で、X1−X2=2 σZX_1-X_2=\sqrt2\,\sigma Z(Z∼N(0,1)Z\sim\mathrm{N}(0,1))と書ける。よって

E[S]=2 σ E[∣Z∣]2=σ2π≈0.7979 σ.E[S]=\frac{\sqrt2\,\sigma\,E[\lvert Z\rvert ]}{\sqrt2}=\sigma\sqrt{\frac2\pi}\approx0.7979\,\sigma.

これは (9.7) で n=2n=2 とした 2 Γ(1)/Γ(1/2)=2/π\sqrt2\,\Gamma(1)/\Gamma(1/2)=\sqrt2/\sqrt\pi と一致する。

(3) E[S]=2/π σE[S]=\sqrt{2/\pi}\,\sigma なので、π/2 S=π ∣X1−X2∣/2\sqrt{\pi/2}\,S=\sqrt{\pi}\,\lvert X_1-X_2\rvert /2 の期待値は σ\sigma である。

標準誤差

定義 9.12(標準誤差)

推定量 θ^\hat\theta の標準偏差 V[θ^]\sqrt{V[\hat\theta]} を θ^\hat\theta の標準誤差と呼び、SE(θ^)\mathrm{SE}(\hat\theta) と書く。その中の未知の母数を推定量で置き換えたものを、推定した標準誤差と呼ぶ。

標本平均では (9.2) から

SE(Xˉ)=σn,推定した標準誤差  Sn.(9.8)\mathrm{SE}(\bar X)=\frac{\sigma}{\sqrt n},\qquad\text{推定した標準誤差}\ \ \frac{S}{\sqrt n}.\tag{9.8}

母比率の推定量 p^\hat p では、SE(p^)=p(1−p)/n\mathrm{SE}(\hat p)=\sqrt{p(1-p)/n}、推定した標準誤差は p^(1−p^)/n\sqrt{\hat p(1-\hat p)/n} である。Xˉ\bar X は不偏なので SE(Xˉ)2=E[(Xˉ−μ)2]\mathrm{SE}(\bar X)^2=E[(\bar X-\mu)^2] で、標準誤差は「推定量が真の値から典型的にどれだけずれるか」を、ずれの2乗平均の平方根として表している。ただし標準誤差は、今回の1つの標本の誤差 xˉ−μ\bar x-\mu そのものではない。標本を同じ方法で何度も取り直したときの、誤差の散らばりの大きさである。

標準偏差・標準誤差・変動係数の区別

3つの量は、どの確率変数の散らばりを、何で割って表したかが違う。

量式単位nn を増やすと何の散らばりか
標準偏差σ\sigma(推定は ss)XX と同じ変わらない個々の観測 XiX_i
標準誤差σ/n\sigma/\sqrt n(推定は s/ns/\sqrt n)XX と同じ1/n1/\sqrt n で小さくなる推定量 Xˉ\bar X
変動係数σ/μ\sigma/\mu(第2章)なし変わらない平均に対する相対的な観測の散らばり

標準誤差は σ\sigma を「規格化」したものではない。Xˉ\bar X という別の確率変数の標準偏差であり、単位は XX と同じで、nn の取り方で値が変わる。したがって標準誤差は母数ではなく、母数と標本の大きさから決まる量である。推定した標準誤差 S/nS/\sqrt n は統計量である。

ss と s2s^2 の取り違え

推定した標準誤差は s/ns/\sqrt n で、s2/ns^2/\sqrt n ではない。問題文に「不偏分散 3636」とあれば s=6s=6 で、標準誤差は 6/n6/\sqrt n である。単位で確かめると取り違えに気づくことができる。XX が cm なら s2s^2 は cm2^2 で、s2/ns^2/\sqrt n は cm2^2 になり、平均(cm)の誤差の単位にならない。

標準誤差が 1/n1/\sqrt n に比例することから、標準誤差を半分にするには標本を 44 倍にする必要がある。次の章では、Xˉ\bar X を標準誤差で標準化した (Xˉ−μ)/(σ/n)(\bar X-\mu)/(\sigma/\sqrt n) を使って区間推定を組み立てる。σ\sigma が未知で推定した標準誤差 S/nS/\sqrt n を分母に使うと、分母もばらつくので、標準正規分布ではなく tt 分布に従う(第10章)。

例題 9.6 標準誤差の計算と必要な標本の大きさ ★★★

オリジナル

  1. ある部品の長さを n=25n=25 個測り、xˉ=172.4\bar x=172.4(mm)、不偏分散 s2=36s^2=36(mm2^2)を得た。母平均の推定値と推定した標準誤差を求めよ。
  2. (1) と同じ散らばり(s=6s=6 を母標準偏差とみなす)で、標準誤差を 0.50.5 mm 以下にするには何個測ればよいか。
  3. 400 人に調査して 120 人が「はい」と答えた。母比率の推定値と推定した標準誤差を求めよ。
  4. 母比率の標準誤差を pp の値によらず 0.020.02 以下にするには、何人に調査すればよいか。
解答

(1) 推定値は xˉ=172.4\bar x=172.4 mm。s=36=6s=\sqrt{36}=6 なので、推定した標準誤差は s/n=6/5=1.2s/\sqrt n=6/5=1.2 mm である。s2/n=36/5=7.2s^2/\sqrt n=36/5=7.2 とするのは誤りである。

(2) 6/n≤0.56/\sqrt n\le0.5 は n≥12\sqrt n\ge12、すなわち n≥144n\ge144 と同値なので、144144 個。標準誤差を 1.21.2 から 0.50.5 へ約 0.420.42 倍にするために、標本は 2525 から 144144 へ 5.765.76 倍が必要になる(1/0.41672=5.761/0.4167^2=5.76)。

(3) p^=120/400=0.3\hat p=120/400=0.3。推定した標準誤差は 0.3×0.7/400=0.000525≈0.0229\sqrt{0.3\times0.7/400}=\sqrt{0.000525}\approx0.0229。

(4) p(1−p)=14−(p−12)2≤14p(1-p)=\frac14-(p-\frac12)^2\le\frac14 なので、SE(p^)≤1/(4n)=1/(2n)\mathrm{SE}(\hat p)\le\sqrt{1/(4n)}=1/(2\sqrt n)。1/(2n)≤0.021/(2\sqrt n)\le0.02 は n≥25\sqrt n\ge25、すなわち n≥625n\ge625 と同値なので、625625 人に調査すればよい。

確認テスト

オリジナル

  1. 9.4-1 n=64n=64 のデータで不偏分散が s2=16s^2=16 であった。標本平均の推定した標準誤差を求めよ。
  2. 9.4-2 母集団が値 00 と 22 を確率 1/21/2 ずつとる。n=2n=2 の無作為標本について、S2S^2 のとりうる値と確率を求め、E[S2]=σ2E[S^2]=\sigma^2 と E[S]<σE[S]<\sigma を確かめよ。
  3. 9.4-3 XX が正の値だけをとり、E[X]E[X] と E[1/X]E[1/X] が存在するとき、E[1/X]≥1/E[X]E[1/X]\ge1/E[X] を Jensen の不等式(定理 9.11)で示せ。このことから、Xˉ\bar X が μ>0\mu>0 の不偏推定量であっても、1/Xˉ1/\bar X は 1/μ1/\mu の不偏推定量にならないことを説明せよ(Xˉ>0\bar X>0 とする)。
  4. 9.4-4 同じ母集団から標本の大きさを n=50n=50 から n=200n=200 に増やした。標準偏差の推定値 ss、変動係数の推定値 s/xˉs/\bar x、推定した標準誤差 s/ns/\sqrt n は、それぞれおよそどう変わるか答えよ。
  5. 9.4-5 母比率の推定で、推定した標準誤差が 0.0150.015 以下になるようにしたい。事前に pp がおよそ 0.20.2 と分かっている場合と、まったく分からない場合のそれぞれで、必要な最小の nn を求めよ。

木下の勉強ステータス

木下はまだこの記事を勉強していません。

AI(Claude)が書いた教材を、木下が勉強しながら公開しています。式と数値は検算していますが、誤りが残っているかもしれません。誤りのご指摘・削除のご依頼をいただければ直します。 連絡先:support@tecktom.com

← AI生成教科書『資格試験』の記事一覧へ