tecktom.com

この章のまとめ

2026年10月15日9分で読めますAI生成教科書『虎の巻』第2部 第5章 Gibbs のパラドックス

AI 生成・木下が未勉強

相対エントロピーから情報と物理を組み立てる 第2部 第5章 §2.5.7 ★★★ Gibbs のパラドックスは、混合のエントロピーを前と後の DD として読み、データ処理不等式で記述の粗さとの関係を見ると、不連続の無い形に整理される

この章では、2種類の気体の混合を、仕切りを外す前の分布と外した後の分布の比較として読んだ。前の分布は後の分布をある事象で条件付けたもので、混合のエントロピーはその事象の驚き −ln⁡p後(E)-\ln p_{\mathrm{後}}(E)、すなわち D(p前 ∥ p後)D(p_{\mathrm{前}}\,\|\,p_{\mathrm{後}}) に kBk_{\mathrm B} を掛けたものであり、粒子1個あたりでは種類と位置の相互情報量である。この量は Stirling の公式を使わずに厳密に NkBhb(x)N k_{\mathrm B} h_{\mathrm b}(x) と求まる。

当てた性質はデータ処理不等式である。種類を見分ける能力が粗い観測者の記述は、細かい記述に処理を当てたものなので、DD は小さくなる。見分ける能力を誤り確率 ε\varepsilon で表すと、混合のエントロピーは hb(x∗ε)−hb(ε)h_{\mathrm b}(x\ast\varepsilon )-h_{\mathrm b}(\varepsilon ) と連続に下がり、同じ気体の極限では ln⁡N\ln N の程度の量だけが残る。混合のエントロピーの TT 倍は半透膜で取り出せる仕事の上限で、エントロピーの値は「実験者がどの変数を区別して操作できるか」で決まる。同じ見方で、相空間の測度の 1/N!1/N! は、ラベルの情報 ln⁡N!\ln N! を記述から捨てたことに当たり、連鎖律 H(組)=H(集合)+ln⁡N!H(\text{組})=H(\text{集合})+\ln N! で表される。量子力学では、同種粒子の数え方は理論で決まって希薄な極限で 1/N!1/N! に一致し、内部状態に重なり cc のある2種類の混合のエントロピーは Holevo 量 S(ρˉ)S(\bar\rho) に等しく、cc について連続に変わる。

第2部の5つの章は、統計力学のエントロピーを、知っていることに基づく分布の性質として読んできた。最大エントロピー原理(第1章)は「何を知っているか」を制約で表し、Gibbs の変分原理(第2章)は平衡からのずれを DD で測り、粗視化(第4章)は「何を見ているか」を処理で表した。この章の結論は、その3つが合わさったものである。エントロピーは、どの変数を知っていて、どの変数を区別して見ているかを決めて初めて定まる。次の第3部では、分布を密度行列に、処理を量子チャネルに置き換えて、この章の最後の節で使った von Neumann エントロピーと量子相対エントロピーを一般に扱う。

この章の道具

  • 条件付けの相対エントロピー:D(p(⋅ ∣ E) ∥ p)=−ln⁡p(E)D(p(\cdot\,|\,E)\,\|\,p)=-\ln p(E)。
  • 混合のエントロピー:ΔSmix=kBD(p前 ∥ p後)=NkBI(X;Y)前=NkBhb(x)\Delta S_{\mathrm{mix}}= k_{\mathrm B} D(p_{\mathrm{前}}\,\|\,p_{\mathrm{後}})=N k_{\mathrm B} I(X;Y)_{\mathrm{前}}=N k_{\mathrm B} h_{\mathrm b}(x)(厳密)。
  • 見分ける能力が誤り確率 ε\varepsilon の観測者:Dε/N=hb(x∗ε)−hb(ε)D_{\varepsilon }/N=h_{\mathrm b}(x\ast\varepsilon )-h_{\mathrm b}(\varepsilon )。同じ気体では 12ln⁡(2πNx(1−x))\frac12\ln(2\pi Nx(1-x))。
  • 取り出せる仕事:W取=kBT D(p前 ∥ p後)W_{\mathrm{取}}= k_{\mathrm B} T\,D(p_{\mathrm{前}}\,\|\,p_{\mathrm{後}})。
  • N!N!:H(組)=H(集合)+ln⁡N!H(\text{組})=H(\text{集合})+\ln N!。Sackur–Tetrode S=NkB[ln⁡(V/(NλT3))+5/2]S=N k_{\mathrm B}[\ln(V/(N\lambda_T^3))+5/2]。
  • 重なり cc の内部状態:ΔSmix/(NkB)=S(ρˉ)=hb(λ+)\Delta S_{\mathrm{mix}}/(N k_{\mathrm B})=S(\bar\rho)=h_{\mathrm b}(\lambda_+)、λ±=12(1±1−4x(1−x)(1−c2))\lambda_\pm=\frac12(1\pm\sqrt{1-4x(1-x)(1-c^2)})。

総合問題 偏った量の2種類の気体を、見分ける能力を変えて混ぜる ★★★

オリジナル体積 VV の箱を体積 V/4V/4 の左室と 3V/43V/4 の右室に仕切り、温度 TT で、左室に気体 A を N/4N/4 個、右室に気体 B を 3N/43N/4 個入れる(x=1/4x=1/4)。どちらも理想気体とする。

  1. (1) (使う道具:2.5.1節)仕切りを外したときの混合のエントロピー ΔSmix/(NkB)\Delta S_{\mathrm{mix}}/(N k_{\mathrm B}) を求め、それが自発的に元の配置に戻る確率の −ln⁡-\ln を NN で割ったものに等しいことを示せ。
  2. (2) (使う道具:2.5.3節・第2部第2章 の Gibbs の変分原理)T=300 KT=300\,\mathrm K、合わせて 1 mol1\,\mathrm{mol} のとき、半透膜で取り出せる仕事の上限を求めよ。また、それが前と後の自由エネルギーの差に等しい理由を述べよ。
  3. (3) (使う道具:2.5.2節・第1部第4章 のデータ処理不等式)種類を誤り確率 ε=0.1\varepsilon =0.1 で取り違える観測者にとっての Dε/ND_{\varepsilon }/N を求め、(1) より小さいことを確かめよ。
  4. (4) (使う道具:2.5.2節・2.5.4節・第1部第2章 の二項分布の典型性)A と B が同じ気体だったとする。N=100N=100 のとき、仕切りを外したときのエントロピーの増加 ΔS/kB\Delta S/ k_{\mathrm B} を、二項分布の確率から厳密に求め、近似式 12ln⁡(2πNx(1−x))\frac12\ln(2\pi Nx(1-x)) と比べよ。
  5. (5) (使う道具:2.5.5節)A と B の粒子が内部状態 ∣a⟩| a \rangle・∣b⟩| b \rangle だけで異なり、重なりが c=∣⟨a∣b⟩∣=0.6c=\lvert \langle a | b \rangle \rvert =0.6 のとき、1粒子あたりの混合のエントロピーを求めよ。(1)・(3) の値と大小を比べ、(3) の観測者との違いを述べよ。
解答

(1) 式 (2.5.3) で x=1/4x=1/4 とするとΔSmix/(NkB)=hb(1/4)=−14ln⁡14−34ln⁡34=0.3466+0.2158=0.5623\Delta S_{\mathrm{mix}}/(N k_{\mathrm B})=h_{\mathrm b}(1/4)=-\frac14\ln\frac14-\frac34\ln\frac34=0.3466+0.2158=0.5623。混ざった後の状態で、N/4N/4 個の A がすべて左室(確率 1/41/4 ずつ)、3N/43N/4 個の B がすべて右室(確率 3/43/4 ずつ)にいる確率は (1/4)N/4(3/4)3N/4(1/4)^{N/4}(3/4)^{3N/4} で、その −ln⁡-\ln を NN で割ると 14ln⁡4+34ln⁡43=hb(1/4)\frac14\ln4+\frac34\ln\frac43=h_{\mathrm b}(1/4)。命題 2.5.1 のとおり、両者は等しい。

(2) 式 (2.5.7) から W取=RT hb(1/4)=8.314×300×0.5623=1403 JW_{\mathrm{取}}=RT\,h_{\mathrm b}(1/4)=8.314\times300\times0.5623=1403\,\mathrm J。前と後で各粒子の運動エネルギーの平均は 32kBT\frac32 k_{\mathrm B} T のままなので内部エネルギーは等しく、自由エネルギー F=U−TSF=U-TS の差は −TΔSmix-T\Delta S_{\mathrm{mix}} だけである。後の分布は種類の数を固定したときの平衡分布なので、Gibbs の変分原理 F[p]−Feq=kBT D(p ∥ peq)F[p]-F_{\mathrm{eq}}= k_{\mathrm B} T\,D(p\,\|\,p_{\mathrm{eq}}) を p=p前p=p_{\mathrm{前}}、peq=p後p_{\mathrm{eq}}=p_{\mathrm{後}} に当てるとF前−F後=kBT D(p前 ∥ p後)=W取F_{\mathrm{前}}-F_{\mathrm{後}}= k_{\mathrm B} T\,D(p_{\mathrm{前}}\,\|\,p_{\mathrm{後}})=W_{\mathrm{取}} になる。等温で取り出せる仕事は自由エネルギーの減少を超えないので、これが上限である。

(3) x∗ε=14×0.9+34×0.1=0.3x\ast\varepsilon =\frac14\times0.9+\frac34\times0.1=0.3 なので、式 (2.5.6) からDε/N=hb(0.3)−hb(0.1)=0.6109−0.3251=0.2858D_{\varepsilon }/N=h_{\mathrm b}(0.3)-h_{\mathrm b}(0.1)=0.6109-0.3251=0.2858 nat。(1) の 0.56230.5623 より小さく、データ処理不等式 D(Wεp ∥ Wεq)≤D(p ∥ q)D(W_{\varepsilon } p\,\|\,W_{\varepsilon } q)\le D(p\,\|\,q) のとおりである。

(4) 同じ気体なら、観測者が知っているのは「左室にちょうど 2525 個」という数だけである。仕切りを外した後の分布でその確率は (10025)(1/4)25(3/4)75=0.0918\binom{100}{25}(1/4)^{25}(3/4)^{75}=0.0918 で、式 (2.5.5) から ΔS/kB=−ln⁡0.0918=2.388\Delta S/ k_{\mathrm B}=-\ln0.0918=2.388。近似式は 12ln⁡(2π×100×14×34)=12ln⁡117.8=2.385\frac12\ln(2\pi\times100\times\frac14\times\frac34)=\frac12\ln117.8=2.385 で、差は 0.0040.004 である。1粒子あたりでは 0.0240.024 で、違う気体の (1) の 0.56230.5623 の約 4% にすぎず、N→∞N\to\infty で 00 になる。

(5) 式 (2.5.17) で 4x(1−x)(1−c2)=4×14×34×0.64=0.484x(1-x)(1-c^2)=4\times\frac14\times\frac34\times0.64=0.48、0.52=0.7211\sqrt{0.52}=0.7211 なので λ+=0.8606\lambda_+=0.8606、λ−=0.1394\lambda_-=0.1394。ΔSmix/(NkB)=hb(0.8606)=0.4040\Delta S_{\mathrm{mix}}/(N k_{\mathrm B})=h_{\mathrm b}(0.8606)=0.4040 nat。(1) の 0.56230.5623 より小さく、(3) の 0.28580.2858 より大きい。(3) の値は、完全に見分けられる気体を性能の悪い装置で見る観測者の値で、装置を良くすれば (1) まで上げられる。(5) の値は、内部状態が重なっていることによる上限で、どんな装置を使っても超えられない。前者は観測者の側の制限、後者は系の側の制限である。

木下の勉強ステータス

木下はまだこの記事を勉強していません。

AI(Claude)が書いた教材を、木下が勉強しながら公開しています。式と数値は検算していますが、誤りが残っているかもしれません。誤りのご指摘・削除のご依頼をいただければ直します。 連絡先:support@tecktom.com

← AI生成教科書『虎の巻』の記事一覧へ