tecktom.com

この章のまとめ

2026年10月15日12分で読めますAI生成教科書『虎の巻』第2部 第2章 Gibbs の変分原理

AI 生成・木下が未勉強

相対エントロピーから情報と物理を組み立てる 第2部 第2章 §2.2.7 ★★★ Gibbs 分布と比べた相対エントロピーに kBTk_{\mathrm B} T を掛けると自由エネルギーの余りになり、そこから仕事の上限・平均場近似・熱容量が出る

この章では、任意の分布 pp と熱浴の Gibbs 分布 peqp_{\mathrm{eq}} を比べた。非平衡の自由エネルギー F[p]=⟨E⟩p−kBT H(p)F[p]=\langle E \rangle _p- k_{\mathrm B} T\,H(p) を定めると、F[p]−Feq=kBT D(p ∥ peq)F[p]-F_{\mathrm{eq}}= k_{\mathrm B} T\,D(p\,\|\,p_{\mathrm{eq}}) が成り立ち、非負性から自由エネルギーは Gibbs 分布でただ1つの最小をとる。大正準の系でも量子系でも同じ形である。

当てた性質は凸性と Pythagoras の分解である。Gibbs 分布の対数がエネルギーの1次式であることから、pp と同じ平均エネルギーの Gibbs 分布 pβ∗p_{\beta^*} を経由してD(p ∥ pβ)=D(p ∥ pβ∗)+D(pβ∗ ∥ pβ)D(p\,\|\,p_\beta)=D(p\,\|\,p_{\beta^*})+D(p_{\beta^*}\,\|\,p_\beta) と分かれ、第1項は同じ平均エネルギーでのエントロピーの不足、第2項は温度の違いになる。前の章の最大エントロピー原理は第1項の非負性である。

出てきたものは3つある。1つめは、熱浴と接した系から取り出せる仕事の上限が kBT D(p ∥ peq)k_{\mathrm B} T\,D(p\,\|\,p_{\mathrm{eq}}) であることで、急にエネルギーを変えてからゆっくり戻す操作で上限に達する。2つめは、試す分布を独立な分布に限ると平均場近似になり、その自由エネルギーが厳密な値の上界で、誤差が kBTmin⁡D(q ∥ peq)k_{\mathrm B} T\min D(q\,\|\,p_{\mathrm{eq}}) に等しいことである。3つめは、温度の違う2つの Gibbs 分布の相対エントロピーが ln⁡Z\ln Z の凸性で書け、その2次の係数が Var(E)=kBT2C\mathrm{Var}(E)= k_{\mathrm B} T^2C であることで、熱容量は隣り合う温度の見分けやすさを表す。授業で習う Gibbs–Bogoliubov の不等式・Weiss の平均場・Landau の展開は、どれも試す分布を選んだ Gibbs の変分原理である。

次の章(第2部第3章)では、比べる相手を「全体が純粋状態のときの部分系」に変え、ランダムな純粋状態の部分系がほとんどの場合 Gibbs 分布に近いこと(典型性)を示す。自由エネルギーの余りが仕事に変わる過程を1本1本の経路の確率で書く話は 第4部第3章、測定で得た情報を仕事に変える Szilard エンジンは 第4部第4章 で扱う。

この章で使える道具

  • F[p]=⟨E⟩p−kBT H(p)F[p]=\langle E \rangle _p- k_{\mathrm B} T\,H(p)、F[p]−Feq=kBT D(p ∥ peq)≥0F[p]-F_{\mathrm{eq}}= k_{\mathrm B} T\,D(p\,\|\,p_{\mathrm{eq}})\ge0(大正準は E→E−μNE\to E-\mu N、量子は D(ρ^ ∥ ρ^eq)D(\hat\rho\,\|\,\hat\rho_{\mathrm{eq}}))。
  • Pythagoras の分解:⟨E⟩p=⟨E⟩pβ∗\langle E \rangle _p=\langle E \rangle _{p_{\beta^*}} なら D(p ∥ pβ)=[H(pβ∗)−H(p)]+D(pβ∗ ∥ pβ)D(p\,\|\,p_\beta)=\bigl[H(p_{\beta^*})-H(p)\bigr]+D(p_{\beta^*}\,\|\,p_\beta)。
  • 非平衡の第二法則:Won≥F[pfin]−F[p]W_{\mathrm{on}}\ge F[p_{\mathrm{fin}}]-F[p]。取り出せる仕事の上限は kBT D(p ∥ peq)k_{\mathrm B} T\,D(p\,\|\,p_{\mathrm{eq}})。
  • 平均場:FMF=Feq+kBTmin⁡qD(q ∥ peq)≥FeqF_{\mathrm{MF}}=F_{\mathrm{eq}}+ k_{\mathrm B} T\min_qD(q\,\|\,p_{\mathrm{eq}})\ge F_{\mathrm{eq}}。Gibbs–Bogoliubov は F[p0]≥FeqF[p_0]\ge F_{\mathrm{eq}}。
  • D(pβ ∥ pβ′)=ln⁡Z(β′)−ln⁡Z(β)+(β′−β)U(β)≈12Varβ(E) δβ2D(p_\beta\,\|\,p_{\beta'})=\ln Z(\beta')-\ln Z(\beta)+(\beta'-\beta)U(\beta)\approx\frac12\mathrm{Var}_\beta(E)\,\delta\beta^2、Varβ(E)=kBT2C\mathrm{Var}_\beta(E)= k_{\mathrm B} T^2C。

総合問題 2つのスピンの平均場と対称性の破れ ★★★

オリジナル2つのスピン s1,s2=±1s_1,s_2=\pm1 が E(s)=−J0s1s2E(s)=-J_0s_1s_2(J0>0J_0>0)で結合し、温度 TT の熱浴と接している。βJ0=2\beta J_0=2 とする。状態は (s1,s2)=(+,+),(+,−),(−,+),(−,−)(s_1,s_2)=(+,+),(+,-),(-,+),(-,-) の順に並べる。

  1. (1) (使う道具:2.2.1節・第2部第1章の最大エントロピー原理)Gibbs 分布 peqp_{\mathrm{eq}} と FeqF_{\mathrm{eq}} を求めよ。peqp_{\mathrm{eq}} が、平均エネルギー ⟨E⟩\langle E \rangle を決めたときにエントロピーを最大にする分布でもあることを、peqp_{\mathrm{eq}} がエネルギーだけの関数であることから説明せよ。
  2. (2) (使う道具:2.2.4節)独立な分布 qm(s)=1+ms121+ms22q_m(s)=\frac{1+ms_1}{2}\frac{1+ms_2}{2} に限った自由エネルギー F[qm]F[q_m] を書き、停留条件 m=tanh⁡(βJ0m)m=\tanh(\beta J_0m) を導け。m>0m>0 の解 m∗m^* と FMF=F[qm∗]F_{\mathrm{MF}}=F[q_{m^*}]、D(qm∗ ∥ peq)D(q_{m^*}\,\|\,p_{\mathrm{eq}}) を求めよ。
  3. (3) (使う道具:2.2.2節の Pythagoras の分解)qm∗q_{m^*} と同じ平均エネルギーを持つ Gibbs 分布 pβ∗p_{\beta^*} の β∗J0\beta^*J_0 を求め、D(qm∗ ∥ peq)D(q_{m^*}\,\|\,p_{\mathrm{eq}}) を2つの項に分けよ。
  4. (4) (使う道具:2.2.2節の凸性・2.2.4節)2つの平均場の解を等しく混ぜた分布 qˉ=12(qm∗+q−m∗)\bar q=\frac12(q_{m^*}+q_{-m^*}) を求め、qˉ=pβ∗\bar q=p_{\beta^*} であることを示せ。混ぜたことで自由エネルギーはどれだけ下がるか。
  5. (5) (使う道具:2.2.5節・2.2.3節・第1部第1章の Fisher 情報)βJ0=2\beta J_0=2 での Var(E)\mathrm{Var}(E) と熱容量 C/kBC/ k_{\mathrm B} を求め、βJ0=2.2\beta J_0=2.2 の Gibbs 分布との相対エントロピーを厳密な値と2次の近似で比べよ。また、系が qm∗q_{m^*} にあるとき熱浴と接したまま取り出せる仕事の上限を kBTk_{\mathrm B} T 単位で求めよ。
解答

(1) エネルギーは (+,+)(+,+) と (−,−)(-,-) で −J0-J_0、(+,−)(+,-) と (−,+)(-,+) で +J0+J_0 なので、Z=2e2+2e−2=4cosh⁡2≈15.049Z=2\mathrm{e}^{2}+2\mathrm{e}^{-2}=4\cosh2\approx15.049。

peq=14cosh⁡2(e2,e−2,e−2,e2)≈(0.4910, 0.0090, 0.0090, 0.4910),Feq=−kBTln⁡(4cosh⁡2)≈−2.7113 kBT.\begin{gathered} p_{\mathrm{eq}}=\frac{1}{4\cosh2}\bigl(\mathrm{e}^2,\mathrm{e}^{-2},\mathrm{e}^{-2},\mathrm{e}^2\bigr)\approx(0.4910,\,0.0090,\,0.0090,\,0.4910),\\ F_{\mathrm{eq}}=- k_{\mathrm B} T\ln(4\cosh2)\approx-2.7113\, k_{\mathrm B} T . \end{gathered}

peqp_{\mathrm{eq}} の対数は EE の1次式なので、式 (2.2.8) で pβ∗=peqp_{\beta^*}=p_{\mathrm{eq}} とおけば、同じ平均エネルギーの任意の pp について H(peq)−H(p)=D(p ∥ peq)≥0H(p_{\mathrm{eq}})-H(p)=D(p\,\|\,p_{\mathrm{eq}})\ge0 となる。平均エネルギーを決めたときエントロピーは peqp_{\mathrm{eq}} で最大で、これは前の章の最大エントロピー原理の結論と同じである。

(2) qmq_m のもとで ⟨s1s2⟩=m2\langle s_1s_2 \rangle =m^2、2つのスピンは独立なので H(qm)=2hb(1+m2)H(q_m)=2h_{\mathrm b}\bigl(\frac{1+m}2\bigr) で、

F[qm]=−J0m2−2kBT hb(1+m2).F[q_m]=-J_0m^2-2 k_{\mathrm B} T\,h_{\mathrm b}\Bigl(\frac{1+m}{2}\Bigr).

mm で微分すると −2J0m+2kBTartanh⁡m=0-2J_0m+2 k_{\mathrm B} T\operatorname{artanh}m=0 で、m=tanh⁡(βJ0m)m=\tanh(\beta J_0m) を得る。これは式 (2.2.15) で z=1z=1、h=0h=0 とした式である。m=tanh⁡(2m)m=\tanh(2m) の m>0m>0 の解は m∗≈0.9575m^*\approx0.9575。J0=2kBTJ_0=2 k_{\mathrm B} T を使うと FMF=−2m∗2kBT−2kBT hb(0.9788)≈(−1.8336−0.2057)kBT=−2.0393 kBTF_{\mathrm{MF}}=-2m^{*2} k_{\mathrm B} T-2 k_{\mathrm B} T\,h_{\mathrm b}(0.9788)\approx(-1.8336-0.2057) k_{\mathrm B} T=-2.0393\, k_{\mathrm B} T。m=0m=0 の値 −2ln⁡2 kBT≈−1.386 kBT-2\ln2\, k_{\mathrm B} T\approx-1.386\, k_{\mathrm B} T より低いが、FeqF_{\mathrm{eq}} より高い。式 (2.2.16) から D(qm∗ ∥ peq)=(−2.0393+2.7113)≈0.672D(q_{m^*}\,\|\,p_{\mathrm{eq}})=(-2.0393+2.7113)\approx0.672 nat。各成分から直接 ∑qln⁡(q/peq)\sum q\ln(q/p_{\mathrm{eq}}) を計算しても同じ値になる。

(3) qm∗q_{m^*} の平均エネルギーは −J0m∗2≈−0.9168 J0-J_0m^{*2}\approx-0.9168\,J_0。Gibbs 分布の平均エネルギーは −J0tanh⁡(β′J0)-J_0\tanh(\beta'J_0) なので、tanh⁡(β∗J0)=m∗2\tanh(\beta^*J_0)=m^{*2} から β∗J0=artanh⁡(0.9168)≈1.569\beta^*J_0=\operatorname{artanh}(0.9168)\approx1.569(T∗≈1.275 TT^*\approx1.275\,T)。H(pβ∗)−H(qm∗)≈0.6604H(p_{\beta^*})-H(q_{m^*})\approx0.6604、D(pβ∗ ∥ peq)≈0.0115D(p_{\beta^*}\,\|\,p_{\mathrm{eq}})\approx0.0115 で、和は 0.67190.6719 となり (2) と一致する。平均場の誤差のほとんど(約98 %)は温度の違いではなく、同じ平均エネルギーでのエントロピーの不足である。

(4) q−m∗q_{-m^*} は qm∗q_{m^*} の (+,+)(+,+) と (−,−)(-,-) を入れ替えた分布なので、

qˉ(+,+)=qˉ(−,−)=(1+m∗)2+(1−m∗)28=1+m∗24≈0.4792,qˉ(+,−)=qˉ(−,+)=2(1−m∗)(1+m∗)8=1−m∗24≈0.0208.\begin{gathered} \bar q(+,+)=\bar q(-,-)=\frac{(1+m^*)^2+(1-m^*)^2}{8}=\frac{1+m^{*2}}{4}\approx0.4792,\\ \bar q(+,-)=\bar q(-,+)=\frac{2(1-m^*)(1+m^*)}{8}=\frac{1-m^{*2}}{4}\approx0.0208 . \end{gathered}

qˉ\bar q はエネルギーの等しい状態に等しい確率を置くので、エネルギーだけの関数で、平均エネルギーは −J0m∗2-J_0m^{*2} である。2つの値をとるエネルギーの関数は必ず e−β′E\mathrm{e}^{-\beta'E} の形に書けるので、qˉ\bar q はこの平均エネルギーを持つ Gibbs 分布 pβ∗p_{\beta^*} に等しい。平均エネルギーは混ぜても変わらないので、自由エネルギーの変化は −kBT[H(qˉ)−H(qm∗)]=−kBT D(qm∗ ∥ pβ∗)≈−0.660 kBT- k_{\mathrm B} T\bigl[H(\bar q)-H(q_{m^*})\bigr]=- k_{\mathrm B} T\,D(q_{m^*}\,\|\,p_{\beta^*})\approx-0.660\, k_{\mathrm B} T で、F[qˉ]≈−2.6997 kBTF[\bar q]\approx-2.6997\, k_{\mathrm B} T となる。混ぜた後の残りの誤差 F[qˉ]−Feq=kBT D(pβ∗ ∥ peq)≈0.0115 kBTF[\bar q]-F_{\mathrm{eq}}= k_{\mathrm B} T\,D(p_{\beta^*}\,\|\,p_{\mathrm{eq}})\approx0.0115\, k_{\mathrm B} T は温度の違いの分だけである。平均場の解が対称性を破ったことによる誤差は、混ぜれば消える。混合で下がった量 0.6600.660 は ln⁡2≈0.693\ln2\approx0.693 より小さい。q+m∗q_{+m^*} と q−m∗q_{-m^*} は (+,−)(+,-) と (−,+)(-,+) に同じ確率を置き、互いに重なっているからである。

(5) Var(E)=J02(1−tanh⁡2(βJ0))=J02/cosh⁡22≈0.0707 J02\mathrm{Var}(E)=J_0^2\bigl(1-\tanh^2(\beta J_0)\bigr)=J_0^2/\cosh^22\approx0.0707\,J_0^2、C/kB=β2Var(E)=4/cosh⁡22≈0.283C/ k_{\mathrm B}=\beta^2\mathrm{Var}(E)=4/\cosh^22\approx0.283。δβJ0=0.2\delta\beta J_0=0.2 で2次の近似は 12×0.0707×0.04≈0.00141\frac12\times0.0707\times0.04\approx0.00141、式 (2.2.17) の厳密な値は ln⁡cosh⁡2.2−ln⁡cosh⁡2−0.2tanh⁡2≈0.00125\ln\cosh2.2-\ln\cosh2-0.2\tanh2\approx0.00125 で、比は 0.880.88 である。仕事の上限は式 (2.2.11) から kBT D(qm∗ ∥ peq)≈0.672 kBTk_{\mathrm B} T\,D(q_{m^*}\,\|\,p_{\mathrm{eq}})\approx0.672\, k_{\mathrm B} T である。平均場の解がもし本当に系の状態であれば、その平衡からのずれは仕事として 0.672 kBT0.672\, k_{\mathrm B} T まで取り出せる。平均場近似の誤差と、その分布から取り出せる仕事の上限が、同じ相対エントロピーで測られている。

木下の勉強ステータス

木下はまだこの記事を勉強していません。

AI(Claude)が書いた教材を、木下が勉強しながら公開しています。式と数値は検算していますが、誤りが残っているかもしれません。誤りのご指摘・削除のご依頼をいただければ直します。 連絡先:support@tecktom.com

← AI生成教科書『虎の巻』の記事一覧へ