tecktom.com

von Neumann エントロピーと Gibbs の変分原理

2026年10月17日10分で読めますAI生成教科書『虎の巻』第4部 第4章 熱平衡と量子統計
目次
  1. エントロピーは混ぜ方の不確かさの最小値
  2. Klein の不等式
  3. 自由エネルギーの変分原理
  4. 木下の層

AI 生成・木下が未勉強

量子力学の様々な構成方法　第4部 第4章 §4.4.2　★★★ エネルギーの期待値を決めたときエントロピーを最大にする状態、温度を決めたとき自由エネルギーを最小にする状態が、どちらも ρ^β\hat\rho_\beta である。差は相対エントロピー D(ρ^ ∥ ρ^β)D(\hat\rho\,\|\,\hat\rho_\beta) で測られる

エントロピーは混ぜ方の不確かさの最小値

密度演算子 ρ^\hat\rho の固有値を λk\lambda_k とし、von Neumann エントロピーを

S(ρ^)=−Tr⁡(ρ^ln⁡ρ^)=−∑kλkln⁡λk(4.4.6)S(\hat\rho)=-\operatorname{Tr}(\hat\rho\ln\hat\rho)=-\sum_k\lambda_k\ln\lambda_k\tag{4.4.6}

で定義する。固有値だけで決まるので、ユニタリな時間発展 ρ^↦U^ρ^U^†\hat\rho\mapsto\hat U\hat\rho\hat U^\dagger で変わらず、von Neumann 方程式に従う孤立系では一定である。純粋状態で 00、dd 次元で 1d1\tfrac1d\mathbf 1 のとき最大値 ln⁡d\ln d をとる。

第4部第3章（第4部第3章）では、同じ ρ^\hat\rho を与えるアンサンブル {pi,∣ψi⟩}\{p_i,| \psi_i \rangle \} の重みが固有値に多数化され、重みの Shannon エントロピーについて H(p)≥S(ρ^)H(p)\ge S(\hat\rho) が成り立ち、等号が固有アンサンブルで成り立つことを示した。2つを合わせると

S(ρ^)=min⁡{pi,∣ψi⟩}: ∑ipi∣ψi⟩⟨ψi∣=ρ^H(p)(4.4.7)S(\hat\rho)=\min_{\{p_i,| \psi_i \rangle \}:\ \sum_ip_i| \psi_i \rangle \langle \psi_i |=\hat\rho}H(p)\tag{4.4.7}

である。ρ^\hat\rho を純粋状態の混合として作るとき、どの純粋状態を何回引くかの不確かさは少なくとも S(ρ^)S(\hat\rho) あり、固有状態で混ぜたときにちょうど S(ρ^)S(\hat\rho) になる。アンサンブルの選び方は観測できなかった（第4部第3章）が、その最小値 S(ρ^)S(\hat\rho) は ρ^\hat\rho だけで決まる量になっている。熱平衡状態ではエネルギー固有状態の混合 pn=e−βEn/Zp_n=\mathrm{e}^{-\beta E_n}/Z が固有アンサンブルなので、S(ρ^β)S(\hat\rho_\beta) は Boltzmann の重みの Shannon エントロピー H(p)H(p) に等しい。

Klein の不等式

量子相対エントロピーを D(ρ^ ∥ σ^)=Tr⁡ρ^(ln⁡ρ^−ln⁡σ^)D(\hat\rho\,\|\,\hat\sigma)=\operatorname{Tr}\hat\rho(\ln\hat\rho-\ln\hat\sigma) と書く（σ^\hat\sigma は正定値とする）。

補題 4.4.2（Klein の不等式）

密度演算子 ρ^\hat\rho、σ^\hat\sigma について D(ρ^ ∥ σ^)≥0D(\hat\rho\,\|\,\hat\sigma)\ge0 で、等号は ρ^=σ^\hat\rho=\hat\sigma のときに限る。

証明

ρ^=∑iri∣ri⟩⟨ri∣\hat\rho=\sum_ir_i| r_i \rangle \langle r_i |、σ^=∑jsj∣sj⟩⟨sj∣\hat\sigma=\sum_js_j| s_j \rangle \langle s_j | と固有分解し、Pij=∣⟨ri∣sj⟩∣2P_{ij}=\lvert \langle r_i | s_j \rangle \rvert ^2 と置く。Pij≥0P_{ij}\ge0 で、∑jPij=∑iPij=1\sum_jP_{ij}=\sum_iP_{ij}=1 である。Tr⁡ρ^ln⁡ρ^=∑iriln⁡ri=∑ijPijriln⁡ri\operatorname{Tr}\hat\rho\ln\hat\rho=\sum_ir_i\ln r_i=\sum_{ij}P_{ij}r_i\ln r_i、Tr⁡ρ^ln⁡σ^=∑ijPijriln⁡sj\operatorname{Tr}\hat\rho\ln\hat\sigma=\sum_{ij}P_{ij}r_i\ln s_j なので

D(ρ^ ∥ σ^)=∑ijPij (riln⁡ri−riln⁡sj).D(\hat\rho\,\|\,\hat\sigma)=\sum_{ij}P_{ij}\,(r_i\ln r_i-r_i\ln s_j).

正の r,sr,s について rln⁡r−rln⁡s≥r−sr\ln r-r\ln s\ge r-s が成り立つ（ln⁡(s/r)≤s/r−1\ln(s/r)\le s/r-1 に rr を掛ける。r=0r=0 でも 0≥−s0\ge-s で成り立つ）。等号は r=sr=s のときに限る。これを各項に当てると D≥∑ijPij(ri−sj)=∑iri−∑jsj=0D\ge\sum_{ij}P_{ij}(r_i-s_j)=\sum_ir_i-\sum_js_j=0。等号なら Pij>0P_{ij}>0 のすべての組で ri=sjr_i=s_j で、σ^∣ri⟩=∑jsj∣sj⟩⟨sj∣ri⟩=ri∣ri⟩\hat\sigma| r_i \rangle =\sum_js_j| s_j \rangle \langle s_j | r_i \rangle =r_i| r_i \rangle となり、ρ^=σ^\hat\rho=\hat\sigma である。

自由エネルギーの変分原理

任意の密度演算子 ρ^\hat\rho について、自由エネルギーの汎関数を

F[ρ^]=Tr⁡(ρ^H^)−kBT S(ρ^)(4.4.8)F[\hat\rho]=\operatorname{Tr}(\hat\rho\hat H)- k_{\mathrm B} T\,S(\hat\rho)\tag{4.4.8}

と置く（角括弧は汎関数の印）。熱平衡状態ではこれが F=−kBTln⁡ZF=- k_{\mathrm B} T\ln Z になる。

定理 4.4.3（Gibbs の変分原理）

Tr⁡e−βH^<∞\operatorname{Tr}\mathrm{e}^{-\beta\hat H}<\infty のとき、任意の密度演算子 ρ^\hat\rho について

F[ρ^]−F=kBT D(ρ^ ∥ ρ^β)≥0,F=−kBTln⁡Z(4.4.9)F[\hat\rho]-F= k_{\mathrm B} T\,D(\hat\rho\,\|\,\hat\rho_\beta)\ge0,\qquad F=- k_{\mathrm B} T\ln Z\tag{4.4.9}

が成り立ち、等号は ρ^=ρ^β\hat\rho=\hat\rho_\beta のときに限る。とくに Tr⁡(ρ^H^)=Tr⁡(ρ^βH^)\operatorname{Tr}(\hat\rho\hat H)=\operatorname{Tr}(\hat\rho_\beta\hat H) の ρ^\hat\rho の中では S(ρ^)≤S(ρ^β)S(\hat\rho)\le S(\hat\rho_\beta) で、等号は ρ^=ρ^β\hat\rho=\hat\rho_\beta のときに限る。

証明

ln⁡ρ^β=−βH^−ln⁡Z\ln\hat\rho_\beta=-\beta\hat H-\ln Z なので

D(ρ^ ∥ ρ^β)=−S(ρ^)+βTr⁡(ρ^H^)+ln⁡Z=β(F[ρ^]−F).D(\hat\rho\,\|\,\hat\rho_\beta)=-S(\hat\rho)+\beta\operatorname{Tr}(\hat\rho\hat H)+\ln Z=\beta\big(F[\hat\rho]-F\big).

Klein の不等式（補題 4.4.2）から前半が出る。後半は、ρ^β\hat\rho_\beta にも同じ式を当てて S(ρ^β)=βU+ln⁡ZS(\hat\rho_\beta)=\beta U+\ln Z（U=Tr⁡ρ^βH^U=\operatorname{Tr}\hat\rho_\beta\hat H）とし、引き算すると

S(ρ^β)−S(ρ^)=D(ρ^ ∥ ρ^β)−β(Tr⁡(ρ^H^)−U)(4.4.10)S(\hat\rho_\beta)-S(\hat\rho)=D(\hat\rho\,\|\,\hat\rho_\beta)-\beta\big(\operatorname{Tr}(\hat\rho\hat H)-U\big)\tag{4.4.10}

となるので、エネルギーが等しければ右辺の第2項が消えて D≥0D\ge0 に帰着する。

定理 4.4.3 は、第4.4.1節とは別の道で同じ ρ^β\hat\rho_\beta を選んでいる。前の節は熱浴の状態数を数える力学的な導出で、こちらは「エネルギーの期待値だけを知っているとき、それ以外については最も偏りの少ない状態を選ぶ」という推論の原理（最大エントロピー原理）である。古典の確率分布での同じ定理と、その情報理論からの読み方は相対エントロピーから情報と物理を組み立てる 第2部第1章・第2部第2章にあり、解析力学の巻では同じ式を量子統計力学の出発点に使っている（解析力学から様々な理論分野を組み立てる 第5部第1章）。

熱力学の量は分配関数から出る。U=Tr⁡ρ^βH^=−∂ln⁡Z/∂βU=\operatorname{Tr}\hat\rho_\beta\hat H=-\partial\ln Z/\partial\beta、F=−kBTln⁡ZF=- k_{\mathrm B} T\ln Z で、熱力学のエントロピーは

S熱=U−FT=kB(βU+ln⁡Z)=kB S(ρ^β)(4.4.11)S_{\text{熱}}=\frac{U-F}{T}= k_{\mathrm B}\big(\beta U+\ln Z\big)= k_{\mathrm B}\,S(\hat\rho_\beta)\tag{4.4.11}

と von Neumann エントロピーの kBk_{\mathrm B} 倍に一致する。(4.4.9) は、熱浴の温度で測った自由エネルギーの余り F[ρ^]−FF[\hat\rho]-F が kBT Dk_{\mathrm B} T\,D に等しいことを言っている。この余りは、状態 ρ^\hat\rho から熱浴だけを使って取り出せる仕事の上限で、その読み方は相対エントロピーから情報と物理を組み立てる 第4部第5章で扱われている。

例題 4.4.2　量子ビットの純粋状態の自由エネルギーの余り ★★

オリジナル量子ビット H^=ℏω02σz\hat H=\tfrac{\hbar\omega_0}{2}\sigma_z が βℏω0=ln⁡3\beta\hbar\omega_0=\ln3 の熱浴に触れている。

  1. (1) ρ^β\hat\rho_\beta の励起確率 PeP_e、ZZ、S(ρ^β)S(\hat\rho_\beta) を求めよ。
  2. (2) 状態 ∣+⟩=(∣e⟩+∣g⟩)/2| + \rangle =(| e \rangle +| g \rangle )/\sqrt2 について F[∣+⟩⟨+∣]−FF[| + \rangle \langle + |]-F を2通り（F[ρ^]F[\hat\rho] と FF を別々に計算する方法、DD を計算する方法）で求めよ。
解答

(1) 固有値 ±ℏω0/2\pm\hbar\omega_0/2 の Boltzmann 因子の比は e−βℏω0=13\mathrm{e}^{-\beta\hbar\omega_0}=\tfrac13 なので Pe=14P_e=\tfrac14、Pg=34P_g=\tfrac34。Z=e−ln⁡3/2+eln⁡3/2=1/3+3=4/3Z=\mathrm{e}^{-\ln3/2}+\mathrm{e}^{\ln3/2}=1/\sqrt3+\sqrt3=4/\sqrt3、ln⁡Z=0.8370\ln Z=0.8370。S(ρ^β)=hb(14)=0.5623S(\hat\rho_\beta)=h_{\mathrm b}(\tfrac14)=0.5623 である。

(2) ∣+⟩| + \rangle では ⟨σz⟩=0\langle \sigma_z \rangle =0 なので Tr⁡(ρ^H^)=0\operatorname{Tr}(\hat\rho\hat H)=0、純粋なので S=0S=0、よって F[∣+⟩⟨+∣]=0F[| + \rangle \langle + |]=0。F=−kBTln⁡ZF=- k_{\mathrm B} T\ln Z だから F[∣+⟩⟨+∣]−F=kBTln⁡Z=0.8370 kBTF[| + \rangle \langle + |]-F= k_{\mathrm B} T\ln Z=0.8370\, k_{\mathrm B} T。DD の方では、∣+⟩⟨+∣| + \rangle \langle + | の固有値の対数の項は 00 で、−⟨+∣ln⁡ρ^β∣+⟩=−12ln⁡14−12ln⁡34=12ln⁡163=0.8370-\langle + | \ln\hat\rho_\beta | + \rangle =-\tfrac12\ln\tfrac14-\tfrac12\ln\tfrac34=\tfrac12\ln\tfrac{16}{3}=0.8370。2つは一致する。熱平衡より自由エネルギーが 0.837 kBT0.837\, k_{\mathrm B} T 高い分は、∣+⟩| + \rangle の持つ重ね合わせ（σz\sigma_z の基底での非対角要素）と、エネルギー固有状態への重みの偏り（Pe=12P_e=\tfrac12 と 14\tfrac14 の差）の両方に由来する。

木下の勉強ステータス

木下はまだこの記事を勉強していません。

AI（Claude）が書いた教材を、木下が勉強しながら公開しています。式と数値は検算していますが、誤りが残っているかもしれません。誤りのご指摘・削除のご依頼をいただければ直します。 連絡先：support@tecktom.com

目次

この記事が含まれている連載

連載AI生成教科書『虎の巻』授業とは別に、分野をまたいで気になったことを AI（Claude）が教材にし、木下が勉強しながら公開しています。上の段は AI が書いた本文、下の段は木下が勉強したあとに書いた文です。1787本の記事・木下 智貴
← AI生成教科書『虎の巻』の記事一覧へ