統計学の復習 第4章 §4.6 ★★★ 期待値は確率を重みにした平均(分布の重心)。E[g(X)] は g(x) を確率で重み付けして足すだけで求まり、E[aX+b]=aE[X]+b
定義
定義 4.9(期待値)
離散型の X(確率関数 p)については
E[X]=i∑xip(xi),
連続型の X(密度 f)については
E[X]=∫−∞∞xf(x)dx
を X の期待値(平均)と呼び、μ とも書く。ただし、和や積分が絶対収束する(∑∣xi∣p(xi)<∞、∫∣x∣f(x)dx<∞)ときに限って定義する。
期待値は、値 x を確率 p(x)(あるいは f(x)dx)で重み付けした平均である。数直線上の点 xi に質量 p(xi) を置いたと考えると、E[X] はその重心の位置に当たる。また、同じ試行を独立に何度も繰り返したときの値の平均は E[X] に近づく(大数の法則。第8章で示す)。
期待値が存在しない分布
例題 4.2 の p(k)=k(k+1)1 では、∑kkp(k)=∑kk+11=21+31+41+⋯ が調和級数と同じく発散する。確率関数としては正しく、どの値も有限なのに、期待値は存在しない。大きな値の確率の減り方 1/k2 が遅く、値 k を掛けると和が収まらない。連続型でも、確認テスト 4.3-2 の密度 1/x2(x≥1)は期待値をもたない(確認テスト 4.6-3)。2級で扱う分布はすべて期待値をもつが、「期待値はいつでも存在する」と思い込むと、第10章の t 分布(自由度 1 では期待値が存在しない)で誤る。
関数の期待値と線形性
確率変数の関数 Y=g(X) の期待値を求めるのに、Y の分布を求め直す必要はない。
定理 4.10(関数の期待値)
離散型なら E[g(X)]=∑ig(xi)p(xi)、連続型なら E[g(X)]=∫−∞∞g(x)f(x)dx(和や積分が絶対収束するとき)。
証明
離散型で示す。Y=g(X) のとる値を y1,y2,… とする。Y=yj となるのは g(xi)=yj を満たす xi のどれかを X がとるときなので、P(Y=yj)=∑i:g(xi)=yjp(xi)。期待値の定義から
E[Y]=j∑yjP(Y=yj)=j∑i:g(xi)=yj∑yjp(xi)=j∑i:g(xi)=yj∑g(xi)p(xi)=i∑g(xi)p(xi).
最後の等号は、xi を「g(xi) の値ごとに」分けて足していたものを、まとめて足し直しただけである(絶対収束なので和の順序を変えてよい)。
連続型で g が微分可能かつ狭義単調な場合は、定理 4.8 の密度を使い、x=g−1(y) と置換すると∫yfX(g−1(y))∣(g−1)′(y)∣dy=∫g(x)fX(x)dx となる。一般の g の場合は数理統計の解説 第2章 §2.3 で扱う。
定理 4.11(期待値の線形性)
定数 a,b について E[aX+b]=aE[X]+b。また E[g1(X)+g2(X)]=E[g1(X)]+E[g2(X)]。
証明
連続型で示す(離散型は積分を和に変えるだけ)。定理 4.10 と積分の線形性、∫f=1 から
E[aX+b]=∫(ax+b)f(x)dx=a∫xf(x)dx+b∫f(x)dx=aE[X]+b.
2つ目の式も同様に積分を2つに分ければよい。
2つの確率変数の和について E[X+Y]=E[X]+E[Y] が独立性なしで成り立つことは、第7章で同時分布を使って示す。
E[g(X)] と g(E[X]) は一般に違う
線形性が成り立つのは一次式 aX+b についてだけである。例えば E[X2] と (E[X])2 は一般に異なり、その差が §4.7 の分散になる。E[1/X] と 1/E[X] も異なる(例題 4.8)。g が下に凸なら E[g(X)]≥g(E[X]) が成り立つ(Jensen の不等式)。第9章で、不偏分散の平方根が標準偏差の不偏推定量にならない理由としてこの不等式を使う。
例題 4.7 2個のサイコロの大きい方・小さい方の期待値 ★★
オリジナル例題 4.1 の X=max(D1,D2)、W=min(D1,D2) について、E[X]、E[X2]、E[W] を求めよ。E[W] は、X+W=D1+D2 と線形性を使って求めよ。
解答
P(X=k)=(2k−1)/36 を使う。
E[X]=k=1∑6k⋅362k−1=362∑k2−∑k=362⋅91−21=36161≈4.472.
同様に、∑k=16k3=441 を使って
E[X2]=k=1∑6k2⋅362k−1=362∑k3−∑k2=362⋅441−91=36791.
2つの値の大きい方と小さい方を足すと、もとの2つの値の和になるので X+W=D1+D2。E[D1]=E[D2]=27 と、和の期待値が期待値の和になること(第7章で示す)から E[X]+E[W]=7。よってE[W]=7−36161=3691≈2.528。例題 4.1 (2) の分布 (13−2k)/36 から直接計算しても ∑k(13−2k)/36=(13⋅21−2⋅91)/36=91/36 で一致する。
例題 4.8 連続型の期待値と E[1/X] ★★
オリジナル密度 f(x)=3x2(0≤x≤1)の X について、E[X]、E[X2]、E[1/X] を求め、E[1/X] と 1/E[X] を比べよ。
解答
E[X]=∫01x⋅3x2dx=43、E[X2]=∫01x2⋅3x2dx=53、E[1/X]=∫01x1⋅3x2dx=∫013xdx=23。一方 1/E[X]=34 なので E[1/X]=23>34=1/E[X]。g(x)=1/x は x>0 で下に凸なので、Jensen の不等式の向きと合っている。例題 4.5 の密度 fY(y)=3y−4 から E[Y]=∫1∞y⋅3y−4dy=23 と計算しても同じ値になり、定理 4.10 の確認になる。
確認テスト
オリジナル
- 4.6-1 公正なサイコロの目 X について E[X]、E[2X+1]、E[X2] を求めよ。
- 4.6-2 密度 f(x)=2e−2x(x≥0)の X について、部分積分で E[X] を求めよ。また E[eX] を求めよ。
- 4.6-3 密度 f(x)=1/x2(x≥1)の X について、E[X] が存在しないことを示し、E[X] は存在してその値が 2 であることを示せ。
- 4.6-4 X が 0,1,2,… の値をとる離散型の確率変数で期待値をもつとき、E[X]=∑k=1∞P(X≥k) を示せ。これを使って例題 4.7 の E[X]=36161 を確かめよ。
AI(Claude)が書いた教材を、木下が勉強しながら公開しています。式と数値は検算していますが、誤りが残っているかもしれません。誤りのご指摘・削除のご依頼をいただければ直します。 連絡先:support@tecktom.com