tecktom.com

確率測度と基本公式

2026年10月15日19分で読めますAI生成教科書『基礎理論』第1章 確率空間
目次
  1. 確率測度と確率空間
  2. 公理から導く基本公式
  3. 確率の連続性
  4. ほとんど確実に
  5. 確認テスト
  6. 木下の層

AI 生成・木下が未勉強

確率論入門 第1章 §1.4 ★★★ Kolmogorov の公理と、そこから導く包除原理・単調性・劣加法性・連続性。「ほとんど確実に」の定義

確率測度と確率空間

定義 1.9(測度・確率測度・確率空間)

(Ω,F)(\Omega,\mathcal F) を可測空間とする。関数 μ:F→[0,∞]\mu:\mathcal F\to[0,\infty] が

  1. (M1) μ(∅)=0\mu(\emptyset)=0。
  2. (M2) 互いに交わらない A1,A2,⋯∈FA_1,A_2,\dots\in\mathcal F について次が成り立つ(可算加法性)。

μ(⋃nAn)=∑nμ(An).\mu\Bigl(\bigcup_nA_n\Bigr)=\sum_n\mu(A_n).

この2条件を満たすとき、μ\mu を (Ω,F)(\Omega,\mathcal F) 上の測度と呼ぶ。組 (Ω,F,μ)(\Omega,\mathcal F,\mu) を測度空間と呼ぶ。さらに P(Ω)=1P(\Omega)=1 を満たす測度 PP を確率測度と呼ぶ。このとき (Ω,F,P)(\Omega,\mathcal F,P) を確率空間と呼ぶ。

この形の公理化は A. N. Kolmogorov が1933年の著書で与えたもので、Kolmogorov の公理と呼ばれる。確率を「頻度の極限」や「主観的な信念の度合い」と解釈するかどうかは、この公理系の外の問題である。公理系は、どの解釈を採っても成り立つべき計算規則だけを定めている。

測度と確率測度の例

  1. 離散確率:Ω\Omega が可算で F=2Ω\mathcal F=2^\Omega とする。重み pω≥0p_\omega\ge0 を、∑ω∈Ωpω=1\sum_{\omega\in\Omega}p_\omega=1 となるように選ぶ。そのうえで P(A)=∑ω∈ApωP(A)=\sum_{\omega\in A}p_\omega と定める。非負の項の級数は、和の順序を入れ替えても値が変わらない。よって互いに交わらない AnA_n について

∑ω∈⋃Anpω=∑n∑ω∈Anpω\sum_{\omega\in\bigcup A_n}p_\omega=\sum_n\sum_{\omega\in A_n}p_\omega

となり、(M2) が成り立つ。2. Dirac 測度:点 a∈Ωa\in\Omega を固定し、δa(A)=1A(a)\delta_a(A)=\mathbf 1_A(a) と定める。確率 1 で aa が起こる確率測度である。3. 数え上げ測度:μ(A)=∣A∣\mu(A)=\left\vert A\right\vert(無限集合には +∞+\infty)。確率測度ではない測度の例である。4. Lebesgue 測度:R\mathbb{R} の区間に長さを割り当て、それを可算加法的に延長したもの。存在は第2章で示す。[0,1][0,1] に制限したものが一様分布の確率測度である。本書では Lebesgue 測度を Leb\mathrm{Leb} と書く(λ\lambda は指数分布のレートに使うため)。

公理から導く基本公式

以下、(Ω,F,P)(\Omega,\mathcal F,P) を確率空間とし、現れる集合はすべて F\mathcal F の要素とする。

命題 1.10(確率の基本性質)

  1. (有限加法性)互いに交わらない A1,…,AnA_1,\dots,A_n について P(⋃k=1nAk)=∑k=1nP(Ak)P\bigl(\bigcup_{k=1}^nA_k\bigr)=\sum_{k=1}^nP(A_k)。
  2. (余事象)P(Ac)=1−P(A)P(A^c)=1-P(A)。
  3. (差)A⊂BA\subset B なら P(B∖A)=P(B)−P(A)P(B\setminus A)=P(B)-P(A)。
  4. (単調性)A⊂BA\subset B なら P(A)≤P(B)P(A)\le P(B)。とくに 0≤P(A)≤10\le P(A)\le1。
  5. (2つの和)P(A∪B)=P(A)+P(B)−P(A∩B)P(A\cup B)=P(A)+P(B)-P(A\cap B)。
証明
  1. An+1=An+2=⋯=∅A_{n+1}=A_{n+2}=\cdots=\emptyset とおいて (M2) を使い、(M1) から P(∅)=0P(\emptyset)=0 の項を消す。

  2. AA とその補集合は交わらず、和は Ω\Omega である。よって 1 から P(A)+P(Ac)=P(Ω)=1P(A)+P(A^c)=P(\Omega)=1。

  3. A⊂BA\subset B なら、B=A∪(B∖A)B=A\cup(B\setminus A) は交わらない和である。よって P(B)=P(A)+P(B∖A)P(B)=P(A)+P(B\setminus A)。P(A)≤1P(A)\le1 は有限なので移項できる。

  4. 3 から P(B)−P(A)=P(B∖A)≥0P(B)-P(A)=P(B\setminus A)\ge0。

  5. A∪B=A∪(B∖(A∩B))A\cup B=A\cup(B\setminus(A\cap B)) は交わらない和である。また A∩B⊂BA\cap B\subset B なので、1 と 3 から

P(A∪B)=P(A)+P(B)−P(A∩B).P(A\cup B)=P(A)+P(B)-P(A\cap B).

2つの和の公式を nn 個に一般化したものが包除原理である。

定理 1.11(包除原理)

事象 A1,…,AnA_1,\dots,A_n について

P(⋃i=1nAi)=∑k=1n(−1)k+1Sk,Sk=∑1≤i1<⋯<ik≤nP(Ai1∩⋯∩Aik).(1.12)P\Bigl(\bigcup_{i=1}^nA_i\Bigr)=\sum_{k=1}^{n}(-1)^{k+1}S_k,\qquad S_k=\sum_{1\le i_1<\cdots<i_k\le n}P(A_{i_1}\cap\cdots\cap A_{i_k}).\tag{1.12}

証明

nn についての数学的帰納法で示す。n=1n=1 は自明で、n=2n=2 は命題 1.10 の5である。nn 個で成り立つとして、n+1n+1 個の場合を示す。B=⋃i=1nAiB=\bigcup_{i=1}^nA_i とおくと、2つの和の公式から

P(⋃i=1n+1Ai)=P(B)+P(An+1)−P(B∩An+1).P\Bigl(\bigcup_{i=1}^{n+1}A_i\Bigr)=P(B)+P(A_{n+1})-P(B\cap A_{n+1}).

分配法則から次が成り立つ。

B∩An+1=⋃i=1n(Ai∩An+1).B\cap A_{n+1}=\bigcup_{i=1}^n(A_i\cap A_{n+1}).

そこで帰納法の仮定を、nn 個の事象 Ai∩An+1A_i\cap A_{n+1} に使うと

P(B∩An+1)=∑k=1n(−1)k+1∑1≤i1<⋯<ik≤nP(Ai1∩⋯∩Aik∩An+1).P(B\cap A_{n+1})=\sum_{k=1}^n(-1)^{k+1}\sum_{1\le i_1<\cdots<i_k\le n}P(A_{i_1}\cap\cdots\cap A_{i_k}\cap A_{n+1}).

P(B)P(B) にも帰納法の仮定を使う。そのうえで、n+1n+1 個の事象から kk 個を選ぶ共通部分を2種類に分ける。

  • An+1A_{n+1} を含まないもの。これは P(B)P(B) の展開に現れる、kk 個の共通部分の項である。符号は (−1)k+1(-1)^{k+1} である。
  • An+1A_{n+1} を含むもの。これは、P(B∩An+1)P(B\cap A_{n+1}) の展開に現れる k−1k-1 個の共通部分に、この事象を加えたものである。ただし k=1k=1 では P(An+1)P(A_{n+1}) の項になる。−P(B∩An+1)-P(B\cap A_{n+1}) の展開での符号は次のとおりで、前者と同じである。

−(−1)(k−1)+1=(−1)k+1.-(-1)^{(k-1)+1}=(-1)^{k+1}.

したがって全体は、n+1n+1 個の事象についての (1.12) の右辺に一致する。

図

図 1.2 3つの事象の包除原理。各領域の数字は、S1−S2+S3S_1-S_2+S_3 の中でその領域が何回足され何回引かれるかを、S1,S2,S3S_1,S_2,S_3 の順に示す。どの領域も合計がちょうど 1 になる。

図 1.2 は、包除原理を指示関数の恒等式として見る別の証明の筋も示している。ある標本点が、ちょうど m≥1m\ge1 個の AiA_i に属するとする。SkS_k の中で、この点を含む共通部分は (mk)\binom mk 個ある。よってこの点の数えられる回数は

∑k=1m(−1)k+1(mk)=1−(1−1)m=1\sum_{k=1}^m(-1)^{k+1}\binom mk=1-(1-1)^m=1

になる(二項定理)。

定理 1.12(劣加法性)

任意の事象の列 A1,A2,…A_1,A_2,\dots(互いに交わらなくてもよい)について

P(⋃n=1∞An)≤∑n=1∞P(An).(1.13)P\Bigl(\bigcup_{n=1}^\infty A_n\Bigr)\le\sum_{n=1}^\infty P(A_n).\tag{1.13}

有限個の場合 P(⋃n=1NAn)≤∑n=1NP(An)P\bigl(\bigcup_{n=1}^NA_n\bigr)\le\sum_{n=1}^NP(A_n) も成り立つ(Boole の不等式)。

証明

重なりを取り除いた列を作る。

B1=A1,Bn=An∖(A1∪⋯∪An−1)(n≥2).B_1=A_1,\qquad B_n=A_n\setminus\bigl(A_1\cup\cdots\cup A_{n-1}\bigr)\quad(n\ge2).

BnB_n は次の3つの性質を持つ。

  1. Bn∈FB_n\in\mathcal F(命題 1.5)。
  2. 互いに交わらない。m<nm<n なら Bm⊂AmB_m\subset A_m である。一方 BnB_n は AmA_m と交わらない。
  3. ⋃nBn=⋃nAn\bigcup_nB_n=\bigcup_nA_n。標本点 ω\omega が属する最初の AnA_n を考える。その番号 nn について ω∈Bn\omega\in B_n となるからである。

Bn⊂AnB_n\subset A_n なので、(M2) と単調性から

P(⋃nAn)=P(⋃nBn)=∑nP(Bn)≤∑nP(An).P\Bigl(\bigcup_nA_n\Bigr)=P\Bigl(\bigcup_nB_n\Bigr)=\sum_nP(B_n)\le\sum_nP(A_n).

有限個の場合は AN+1=AN+2=⋯=∅A_{N+1}=A_{N+2}=\cdots=\emptyset とおけばよい。

確率の連続性

定理 1.13(確率の連続性)

  1. (下からの連続性)A1⊂A2⊂⋯A_1\subset A_2\subset\cdots なら P(⋃nAn)=lim⁡n→∞P(An)P\bigl(\bigcup_nA_n\bigr)=\lim_{n\to\infty}P(A_n)。
  2. (上からの連続性)A1⊃A2⊃⋯A_1\supset A_2\supset\cdots なら P(⋂nAn)=lim⁡n→∞P(An)P\bigl(\bigcap_nA_n\bigr)=\lim_{n\to\infty}P(A_n)。
  3. 一般に、lim⁡nAn\lim_nA_n が存在する(上極限と下極限が一致する)なら、P(lim⁡nAn)=lim⁡nP(An)P(\lim_nA_n)=\lim_nP(A_n)。
証明
  1. A0=∅A_0=\emptyset として Bn=An∖An−1B_n=A_n\setminus A_{n-1} とおく。BnB_n は互いに交わらず、次を満たす。

⋃k=1nBk=An,⋃k=1∞Bk=⋃kAk.\bigcup_{k=1}^nB_k=A_n,\qquad \bigcup_{k=1}^\infty B_k=\bigcup_kA_k .

(M2) と有限加法性から

P(⋃kAk)=∑k=1∞P(Bk)=lim⁡n→∞∑k=1nP(Bk)=lim⁡n→∞P(An).P\Bigl(\bigcup_kA_k\Bigr)=\sum_{k=1}^\infty P(B_k)=\lim_{n\to\infty}\sum_{k=1}^nP(B_k)=\lim_{n\to\infty}P(A_n).

  1. 補集合の列 AncA_n^c は増加列なので、1 と De Morgan の法則から

1−P(⋂nAn)=P(⋃nAnc)=lim⁡nP(Anc)=1−lim⁡nP(An).1-P\Bigl(\bigcap_nA_n\Bigr)=P\Bigl(\bigcup_nA_n^c\Bigr)=\lim_nP(A_n^c)=1-\lim_nP(A_n).

  1. 次の2つの列を考える。
  • Cn=⋂k≥nAkC_n=\bigcap_{k\ge n}A_k は増加列で、⋃nCn=lim inf⁡nAn\bigcup_nC_n=\liminf_nA_n。
  • Dn=⋃k≥nAkD_n=\bigcup_{k\ge n}A_k は減少列で、⋂nDn=lim sup⁡nAn\bigcap_nD_n=\limsup_nA_n。

Cn⊂An⊂DnC_n\subset A_n\subset D_n と単調性から P(Cn)≤P(An)≤P(Dn)P(C_n)\le P(A_n)\le P(D_n)。1 と 2 から、両端はそれぞれ P(lim inf⁡nAn)P(\liminf_nA_n) と P(lim sup⁡nAn)P(\limsup_nA_n) に収束する。仮定より、この2つはどちらも P(lim⁡nAn)P(\lim_nA_n) に等しい。はさみうちで P(An)→P(lim⁡nAn)P(A_n)\to P(\lim_nA_n)。

連続性は可算加法性の言い換えでもある。次の命題を使うと、可算加法性を別の方法で確かめることができる。第2章で確率測度を構成するときに使う。

命題 1.14(可算加法性と連続性の同値)

有限加法族 A\mathcal A 上の関数 PP を考える。PP は P(Ω)=1P(\Omega)=1 と有限加法性を満たすとする。このとき次は同値である。

  1. PP は A\mathcal A 上で可算加法的である。すなわち、交わらない An∈AA_n\in\mathcal A の和が再び A\mathcal A に入るときは、(M2) が成り立つ。
  2. 減少列 An∈AA_n\in\mathcal A の共通部分が空なら、P(An)→0P(A_n)\to0。
証明

1 から 2:定理 1.13 の2の証明は可算加法性と有限加法性だけを使っているので、A\mathcal A の上でもそのまま成り立ち、P(An)→P(∅)=0P(A_n)\to P(\emptyset)=0。

2 から 1:交わらない Ak∈AA_k\in\mathcal A で A=⋃kAk∈AA=\bigcup_kA_k\in\mathcal A とする。次の集合 RnR_n は A\mathcal A の要素の減少列で、共通部分は空である。

Rn=A∖(A1∪⋯∪An).R_n=A\setminus\bigl(A_1\cup\cdots\cup A_n\bigr).

有限加法性から

P(A)=∑k=1nP(Ak)+P(Rn).P(A)=\sum_{k=1}^nP(A_k)+P(R_n).

2 より P(Rn)→0P(R_n)\to0 なので、P(A)=∑k=1∞P(Ak)P(A)=\sum_{k=1}^\infty P(A_k) を得る。

上からの連続性には有限性が要る

定理 1.13 の2は、一般の測度では成り立たないことがある。N\mathbb{N} 上の数え上げ測度を μ\mu とする。An={n,n+1,n+2,… }A_n=\{n,n+1,n+2,\dots\} とすると、これは減少列で ⋂nAn=∅\bigcap_nA_n=\emptyset である。ところが、すべての nn で μ(An)=+∞\mu(A_n)=+\infty なので、

lim⁡nμ(An)=∞≠0=μ(∅)\lim_n\mu(A_n)=\infty\neq0=\mu(\emptyset)

となる。証明の中の引き算 1−P(⋅)1-P(\cdot) は、全体の測度が有限であることを使っている。確率測度では P(Ω)=1P(\Omega)=1 なので、この問題は起こらない。

ほとんど確実に

定義 1.15(零集合・ほとんど確実に)

P(N)=0P(N)=0 を満たす事象 NN を零集合と呼ぶ。ある性質が成り立つ ω\omega の集合を AA とする。P(A)=1P(A)=1 のとき、すなわち零集合を除いたすべての ω\omega で性質が成り立つとき、その性質はほとんど確実に(almost surely、a.s.)成り立つという。測度論一般では「ほとんど至るところ(a.e.)」と呼ぶ。

「確率 1」は「必ず」と同じではない。[0,1][0,1] の一様分布で「選んだ点が無理数である」はほとんど確実に成り立つが、有理数が選ばれる標本点は存在する(例題 1.1)。

可算個の零集合の和は、劣加法性 (1.13) から零集合である。したがって可算個の性質がそれぞれほとんど確実に成り立つなら、それらは同時にほとんど確実に成り立つ(確認テスト 1.4-5)。

非可算個では一般に成り立たない。一様分布で各点 xx について「選ばれた点は xx でない」は確率 1 だが、それらすべてが同時に成り立つ標本点は存在しない。

完備性

零集合の部分集合は「確率 0 であってほしい」が、F\mathcal F に入っているとは限らない。零集合のすべての部分集合が F\mathcal F に入る確率空間を完備と呼ぶ。どの確率空間も、零集合の部分集合を付け加えて PP を延長すれば完備にできる(完備化)。

Borel 集合族 §1.5 上の Lebesgue 測度を完備化したものが、Lebesgue 可測集合の族の上の Lebesgue 測度である。本書では完備性を前提にした議論は行わない。

例題 1.4 一致の問題と包除原理 ★★★

オリジナルnn 人がそれぞれ傘を1本ずつ預け、帰りに傘を無作為に1本ずつ受け取る。ここで無作為とは、nn 本の傘の n!n! 通りの並べ方が等しい確率で起こることをいう。少なくとも1人が自分の傘を受け取る確率 pnp_n を求め、n→∞n\to\infty の極限を求めよ。

解答

標本空間を、{1,…,n}\{1,\dots,n\} の置換 σ\sigma の全体とする。要素は n!n! 個あり、確率は (1.1) で定める。人 ii が自分の傘を受け取る事象を Ai={σ:σ(i)=i}A_i=\{\sigma:\sigma(i)=i\} とおく。求める確率は pn=P(⋃iAi)p_n=P\bigl(\bigcup_iA_i\bigr) である。

共通部分 Ai1∩⋯∩AikA_{i_1}\cap\cdots\cap A_{i_k} を考える。これは kk 人の受け取る傘が決まり、残りの n−kn-k 人が自由に並ぶ置換の全体である。よって要素は (n−k)!(n-k)! 個あり、確率は次のようになる。

P(Ai1∩⋯∩Aik)=(n−k)!n!.P(A_{i_1}\cap\cdots\cap A_{i_k})=\frac{(n-k)!}{n!}.

kk 人の選び方は (nk)\binom nk 通りある。よって包除原理 (1.12) の SkS_k は

Sk=(nk)(n−k)!n!=n!k! (n−k)!⋅(n−k)!n!=1k!S_k=\binom nk\frac{(n-k)!}{n!}=\frac{n!}{k!\,(n-k)!}\cdot\frac{(n-k)!}{n!}=\frac1{k!}

となる。よって

pn=∑k=1n(−1)k+1k!=1−12!+13!−⋯+(−1)n+1n!.(1.14)p_n=\sum_{k=1}^n\frac{(-1)^{k+1}}{k!}=1-\frac1{2!}+\frac1{3!}-\cdots+\frac{(-1)^{n+1}}{n!}.\tag{1.14}

指数関数の展開 e−1=∑k=0∞(−1)k/k!\mathrm{e}^{-1}=\sum_{k=0}^\infty(-1)^k/k! から

lim⁡n→∞pn=1−∑k=0∞(−1)kk!=1−e−1≈0.632121.\lim_{n\to\infty}p_n=1-\sum_{k=0}^\infty\frac{(-1)^k}{k!}=1-\mathrm{e}^{-1}\approx0.632121 .

誤差は交代級数の評価から、次のように抑えられる。

∣pn−(1−e−1)∣≤1(n+1)!.\left\vert p_n-(1-\mathrm{e}^{-1})\right\vert \le\frac1{(n+1)!}.

n=6n=6 ですでに誤差は 2×10−42\times10^{-4} 以下である(図 1.3)。人数を増やしても確率がほとんど変わらないのは、2つの効果が釣り合うからである。1つ1つの事象 AiA_i の確率 1/n1/n は小さくなる。その一方で、事象の数 nn は増える。

図

図 1.3 一致の問題の確率 pnp_n(実線)と極限 1−e−11-\mathrm{e}^{-1}(破線)。値は交互に極限の上下に振れながら近づく。

例題 1.5 連続性による確率の計算 ★★

オリジナル表の出る確率が pp(0<p<10<p<1)のコインを独立に投げ続ける。最初の nn 回の結果が特定の列になる確率は、その列の表の数を hh として次で与えられるとする。

ph(1−p)n−h.p^h(1-p)^{n-h}.

このような確率測度が存在することは、第2章で構成する [0,1)[0,1) 上の Lebesgue 測度を使って第4章 §4.2 で示す。

  1. 表が一度も出ない確率が 0 であることを、上からの連続性を使って示せ。
  2. 「表が無限回出る」がほとんど確実に起こることを示せ。
解答
  1. 「最初の nn 回がすべて裏」という事象を CnC_n とする。その確率は P(Cn)=(1−p)nP(C_n)=(1-p)^n である。C1⊃C2⊃⋯C_1\supset C_2\supset\cdots は減少列で、⋂nCn\bigcap_nC_n が「表が一度も出ない」事象になる。上からの連続性から

P(⋂nCn)=lim⁡n→∞(1−p)n=0(0<1−p<1 による).P\Bigl(\bigcap_nC_n\Bigr)=\lim_{n\to\infty}(1-p)^n=0 \qquad(0<1-p<1\text{ による}). 2. 「表が無限回出る」の余事象は、De Morgan の法則から lim inf⁡kHkc=⋃m⋂k≥mHkc\liminf_k H_k^c=\bigcup_{m}\bigcap_{k\ge m}H_k^c、すなわち「ある回 mm から先はずっと裏」である。mm を固定して、「第 mm 回以降ずっと裏」の確率を考える。第 mm 回から nn 回続けて裏が出る事象を考える。これは nn について減少列をなし、確率は (1−p)n(1-p)^n である。よって 1 と同じ議論で、求める確率は lim⁡n(1−p)n=0\lim_n(1-p)^n=0 になる。その可算個の和は劣加法性から確率 0 なので、余事象の確率は 0、もとの事象の確率は 1 である。

2 の議論は第4章の第2 Borel–Cantelli の補題の、最も簡単な場合になっている。

確認テスト

オリジナル

  1. 1.4-1 次の確率が与えられている。

P(A)=0.5,P(B)=0.4,P(A∪B)=0.7.P(A)=0.5,\qquad P(B)=0.4,\qquad P(A\cup B)=0.7 .

このとき P(A∩B)P(A\cap B) と P(A∩Bc)P(A\cap B^c) を求めよ。また「A,BA,B のちょうど一方が起こる」確率を求めよ。2. 1.4-2 公平なサイコロを4回振る。1,2,31,2,3 の目のうち少なくとも1つが一度も出ない確率を、包除原理で求めよ。3. 1.4-3 公平なコインを投げ続ける。最初の表が偶数回目に出る確率を求めよ。4. 1.4-4 次の不等式(Bonferroni の不等式)を示せ。

P(A∩B)≥P(A)+P(B)−1,P(⋂i=1nAi)≥1−∑i=1nP(Aic).P(A\cap B)\ge P(A)+P(B)-1,\qquad P\Bigl(\bigcap_{i=1}^nA_i\Bigr)\ge1-\sum_{i=1}^nP(A_i^c). 5. 1.4-5 事象の列 A1,A2,…A_1,A_2,\dots がすべて P(An)=1P(A_n)=1 を満たすとする。このとき P(⋂nAn)=1P\bigl(\bigcap_nA_n\bigr)=1 であることを示せ。

木下の勉強ステータス

木下はまだこの記事を勉強していません。

AI(Claude)が書いた教材を、木下が勉強しながら公開しています。式と数値は検算していますが、誤りが残っているかもしれません。誤りのご指摘・削除のご依頼をいただければ直します。 連絡先:support@tecktom.com

← AI生成教科書『基礎理論』の記事一覧へ