相対エントロピーから情報と物理を組み立てる 第2部 第4章 §2.4.5 ★★ 粗視化をマクロな平均値での最大エントロピーへの射影にすると Jaynes の第二法則、熱浴との相関を忘れる粗視化にすると Clausius の不等式が出る
最大エントロピーへの射影と Jaynes の論法
熱力学で実際に測るのは、区画の確率よりもさらに粗い、いくつかのマクロな量（エネルギー・体積・粒子数・磁化など）の平均値である。関数 A 1 ( Γ ) , … , A m ( Γ ) A_1(\Gamma),\dots,A_m(\Gamma) A 1 ( Γ ) , … , A m ( Γ ) ρ M E ∝ exp ( − ∑ i λ i A i ( Γ ) ) \rho_{\mathrm{ME}}\propto\exp\bigl(-\sum_i\lambda_iA_i(\Gamma)\bigr) ρ ME ∝ exp ( − ∑ i λ i A i ( Γ ) ) λ i \lambda_i λ i 第2部第1章 ）。ρ \rho ρ ρ M E \rho_{\mathrm{ME}} ρ ME Π M E \Pi_{\mathrm{ME}} Π ME
D ( ρ ∥ u ) = D ( ρ ∥ Π M E ρ ) + D ( Π M E ρ ∥ u ) (2.4.16) D(\rho\,\|\,u)=D(\rho\,\|\,\Pi_{\mathrm{ME}}\rho)+D(\Pi_{\mathrm{ME}}\rho\,\|\,u)\tag{2.4.16} D ( ρ ∥ u ) = D ( ρ ∥ Π ME ρ ) + D ( Π ME ρ ∥ u ) ( 2.4.16 )
が成り立つ（u u u λ i = 0 \lambda_i=0 λ i = 0 2.4.4 と同じで、ln ( Π M E ρ / u ) \ln(\Pi_{\mathrm{ME}}\rho/u) ln ( Π ME ρ / u ) A i A_i A i ρ \rho ρ Π M E ρ \Pi_{\mathrm{ME}}\rho Π ME ρ H ( Π M E ρ ) − H ( ρ ) = D ( ρ ∥ Π M E ρ ) ≥ 0 H(\Pi_{\mathrm{ME}}\rho)-H(\rho)=D(\rho\,\|\,\Pi_{\mathrm{ME}}\rho)\ge0 H ( Π ME ρ ) − H ( ρ ) = D ( ρ ∥ Π ME ρ ) ≥ 0
Jaynes（1965）1 1 E. T. Jaynes (1965), Am. J. Phys. 33 , 391.a ( 0 ) a^{(0)} a ( 0 ) ρ 0 = ρ M E ( a ( 0 ) ) \rho_0=\rho_{\mathrm{ME}}(a^{(0)}) ρ 0 = ρ ME ( a ( 0 ) ) H ( ρ t ) = H ( ρ 0 ) H(\rho_t)=H(\rho_0) H ( ρ t ) = H ( ρ 0 ) t t t a ( t ) a^{(t)} a ( t ) ρ t \rho_t ρ t
S M E ( a ( t ) ) ≥ k B H ( ρ t ) = k B H ( ρ 0 ) = S M E ( a ( 0 ) ) (2.4.17) S_{\mathrm{ME}}(a^{(t)})\ge k_{\mathrm B} H(\rho_t)= k_{\mathrm B} H(\rho_0)=S_{\mathrm{ME}}(a^{(0)})\tag{2.4.17} S ME ( a ( t ) ) ≥ k B H ( ρ t ) = k B H ( ρ 0 ) = S ME ( a ( 0 ) ) ( 2.4.17 )
となる。左辺と右辺はどちらも、マクロな量の値だけで決まる熱力学のエントロピーである。断熱的な操作の前後で熱力学のエントロピーは減らない。この論法では、時刻 t t t a ( t ) a^{(t)} a ( t ) 第2部第3章 ）が保証する。
例題 2.4.5 自由膨張で隠れる情報 ★★★
オリジナル 体積 2 V 2V 2 V N N N
粒子の位置の分布だけを見て、初めの最大エントロピーの密度と、広がった後に体積 2 V 2V 2 V 1 1 1
細かい密度 ρ t \rho_t ρ t ρ M E \rho_{\mathrm{ME}} ρ ME D D D
広がった後の ρ M E \rho_{\mathrm{ME}} ρ ME N N N N = 100 N=100 N = 100
解答 (1) 運動量の分布はエネルギーが変わらないので同じで、差は位置の部分だけである。粒子1個あたりの位置の分布は体積 V V V 2 V 2V 2 V H H H ln 2 V − ln V = ln 2 \ln2V-\ln V=\ln2 ln 2 V − ln V = ln 2 N N N N ln 2 N\ln2 N ln 2 N k B ln 2 N k_{\mathrm B}\ln2 N k B ln 2 1 1 1 R ln 2 = 8.314 × 0.693 = 5.76 J / K R\ln2=8.314\times0.693=5.76\,\mathrm{J/K} R ln 2 = 8.314 × 0.693 = 5.76 J/K
(2) 細かい密度は Liouville の定理により H ( ρ t ) = H ( ρ 0 ) H(\rho_t)=H(\rho_0) H ( ρ t ) = H ( ρ 0 ) (2.4.16) からD ( ρ t ∥ ρ M E ) = H ( ρ M E ) − H ( ρ t ) = N ln 2 D(\rho_t\,\|\,\rho_{\mathrm{ME}})=H(\rho_{\mathrm{ME}})-H(\rho_t)=N\ln2 D ( ρ t ∥ ρ ME ) = H ( ρ ME ) − H ( ρ t ) = N ln 2 0 0 0
(3) ρ M E \rho_{\mathrm{ME}} ρ ME 1 / 2 1/2 1/2 2 − N = e − N ln 2 2^{-N}=\mathrm{e}^{-N\ln2} 2 − N = e − N l n 2 D D D N = 100 N=100 N = 100 2 − 100 = 7.89 × 10 − 31 2^{-100}=7.89\times10^{-31} 2 − 100 = 7.89 × 1 0 − 31 D D D
熱浴と接した系：Clausius の不等式
系 S が温度 T T T ρ S ( 0 ) \rho_{\mathrm S}(0) ρ S ( 0 ) ρ B c a n = e − β E B / Z B \rho_{\mathrm B}^{\mathrm{can}}=\mathrm{e}^{-\beta E_{\mathrm B}}/Z_{\mathrm B} ρ B can = e − β E B / Z B Q ≔ − ( ⟨ E B ⟩ t − ⟨ E B ⟩ 0 ) Q\coloneqq-\bigl(\langle E_{\mathrm B} \rangle _t-\langle E_{\mathrm B} \rangle _0\bigr) Q : = − ( ⟨ E B ⟩ t − ⟨ E B ⟩ 0 )
定理 2.4.7（エントロピー生成は相関と熱浴のずれの和 ★★★）
上の設定で、時刻 t t t ρ S ( t ) , ρ B ( t ) \rho_{\mathrm S}(t),\rho_{\mathrm B}(t) ρ S ( t ) , ρ B ( t )
Σ ≔ H ( ρ S ( t ) ) − H ( ρ S ( 0 ) ) − β Q = I ( S ; B ) t + D ( ρ B ( t ) ∥ ρ B c a n ) ≥ 0. (2.4.18) \Sigma\coloneqq H(\rho_{\mathrm S}(t))-H(\rho_{\mathrm S}(0))-\beta Q=I(\mathrm S;\mathrm B)_t+D\bigl(\rho_{\mathrm B}(t)\,\|\,\rho_{\mathrm B}^{\mathrm{can}}\bigr)\ge0 .\tag{2.4.18} Σ : = H ( ρ S ( t )) − H ( ρ S ( 0 )) − β Q = I ( S ; B ) t + D ( ρ B ( t ) ∥ ρ B can ) ≥ 0. ( 2.4.18 )
とくに k B Δ H ( ρ S ) ≥ Q / T k_{\mathrm B}\Delta H(\rho_{\mathrm S})\ge Q/T k B Δ H ( ρ S ) ≥ Q / T
証明 全体の密度のエントロピーは一定なので、H ( ρ S B ( t ) ) = H ( ρ S ( 0 ) ) + H ( ρ B c a n ) H(\rho_{\mathrm{SB}}(t))=H(\rho_{\mathrm S}(0))+H(\rho_{\mathrm B}^{\mathrm{can}}) H ( ρ SB ( t )) = H ( ρ S ( 0 )) + H ( ρ B can ) I ( S ; B ) t = H ( ρ S ( t ) ) + H ( ρ B ( t ) ) − H ( ρ S B ( t ) ) I(\mathrm S;\mathrm B)_t=H(\rho_{\mathrm S}(t))+H(\rho_{\mathrm B}(t))-H(\rho_{\mathrm{SB}}(t)) I ( S ; B ) t = H ( ρ S ( t )) + H ( ρ B ( t )) − H ( ρ SB ( t )) I ( S ; B ) t = Δ H ( ρ S ) + H ( ρ B ( t ) ) − H ( ρ B c a n ) I(\mathrm S;\mathrm B)_t=\Delta H(\rho_{\mathrm S})+H(\rho_{\mathrm B}(t))-H(\rho_{\mathrm B}^{\mathrm{can}}) I ( S ; B ) t = Δ H ( ρ S ) + H ( ρ B ( t )) − H ( ρ B can ) ln ρ B c a n = − β E B − ln Z B \ln\rho_{\mathrm B}^{\mathrm{can}}=-\beta E_{\mathrm B}-\ln Z_{\mathrm B} ln ρ B can = − β E B − ln Z B D ( ρ B ( t ) ∥ ρ B c a n ) = − H ( ρ B ( t ) ) + β ⟨ E B ⟩ t + ln Z B D(\rho_{\mathrm B}(t)\,\|\,\rho_{\mathrm B}^{\mathrm{can}})=-H(\rho_{\mathrm B}(t))+\beta\langle E_{\mathrm B} \rangle _t+\ln Z_{\mathrm B} D ( ρ B ( t ) ∥ ρ B can ) = − H ( ρ B ( t )) + β ⟨ E B ⟩ t + ln Z B 0 0 0 0 0 0 H ( ρ B c a n ) = β ⟨ E B ⟩ 0 + ln Z B H(\rho_{\mathrm B}^{\mathrm{can}})=\beta\langle E_{\mathrm B} \rangle _0+\ln Z_{\mathrm B} H ( ρ B can ) = β ⟨ E B ⟩ 0 + ln Z B I + D = Δ H ( ρ S ) + β ( ⟨ E B ⟩ t − ⟨ E B ⟩ 0 ) = Δ H ( ρ S ) − β Q I+D=\Delta H(\rho_{\mathrm S})+\beta(\langle E_{\mathrm B} \rangle _t-\langle E_{\mathrm B} \rangle _0)=\Delta H(\rho_{\mathrm S})-\beta Q I + D = Δ H ( ρ S ) + β (⟨ E B ⟩ t − ⟨ E B ⟩ 0 ) = Δ H ( ρ S ) − β Q
この等式は Esposito, Lindenberg, Van den Broeck（2010）2 2 M. Esposito, K. Lindenberg, C. Van den Broeck (2010), New J. Phys. 12 , 013013.Σ \Sigma Σ k B k_{\mathrm B} k B ρ S B ( t ) \rho_{\mathrm{SB}}(t) ρ SB ( t ) × \times × D ( ρ S B ( t ) ∥ ρ S ( t ) ρ B c a n ) D\bigl(\rho_{\mathrm{SB}}(t)\,\|\,\rho_{\mathrm S}(t)\rho_{\mathrm B}^{\mathrm{can}}\bigr) D ( ρ SB ( t ) ∥ ρ S ( t ) ρ B can ) (2.4.8) で2つに分けたものである。熱力学の Clausius の不等式は、「熱浴はいつも平衡にあり、系とは相関を持たない」と見る粗視化から出てくる。この見方は、熱浴が大きく、相関が熱浴の膨大な自由度に散って二度と系に戻らないときに正しい。2.4.7 節の総合問題で、小さな熱浴を使ってこの等式を数値で確かめる。
1 E. T. Jaynes (1965), Am. J. Phys. 33 , 391.
2 M. Esposito, K. Lindenberg, C. Van den Broeck (2010), New J. Phys. 12 , 013013.
AI（Claude）が書いた教材を、木下が勉強しながら公開しています。式と数値は検算していますが、誤りが残っているかもしれません。誤りのご指摘・削除のご依頼をいただければ直します。 連絡先：support@tecktom.com
