授業で習った形との対応

相対エントロピーから情報と物理を組み立てる　第3部 第2章 §3.2.6　★★ 量子統計力学の $S=- k_{\mathrm B}\operatorname{Tr}\hat\rho\ln\hat\rho$、量子情報の講義の底2の書き方、統計力学の Gibbs–Bogoliubov の不等式を、この章の式と並べる

量子統計力学のエントロピー

量子統計力学の授業では、エントロピーを

$$S=- k_{\mathrm B}\operatorname{Tr}(\hat\rho\ln\hat\rho)$$

と $k_{\mathrm B}$ を付けて定義し、カノニカル分布 $\hat\rho=\mathrm{e}^{-\beta\hat H}/Z$ に代入して $S=(U-F)/T$、$F=- k_{\mathrm B} T\ln Z$ を導くことが多い。この章の von Neumann エントロピーは無次元（nat）で、熱力学のエントロピーとは

$$S_{\text{熱}}= k_{\mathrm B}\,S(\hat\rho_\beta)\tag{3.2.29}$$

の関係にある。$k_{\mathrm B}$ は nat を $\mathrm{J/K}$ に換える係数で、情報の量としての中身は $S(\hat\rho_\beta)$ が持っている。授業の式 $TS_{\text{熱}}=U-F$ は、式 (3.2.24) で $\hat\rho=\hat\rho_\beta$ としたものである。

量子情報の講義の書き方

量子情報の講義や教科書では、エントロピーを底2の対数で $S(\rho)=-\operatorname{Tr}\rho\log_2\rho$（単位ビット）と書き、量子相対エントロピーを $S(\rho\,\|\,\sigma)=\operatorname{Tr}\rho\log_2\rho-\operatorname{Tr}\rho\log_2\sigma$ と書くことが多い。この巻では、古典と量子で同じ記号 $D$ を使い、自然対数で書く。換算はビットの値 $=$ nat の値 $/\ln2$ である。記号 $S(\rho\,\|\,\sigma)$ を使わない理由は、$S$ がすでに作用とエントロピーに使われていることと、古典の $D(p\,\|\,q)$ と量子の $D(\hat\rho\,\|\,\hat\sigma)$ が命題 3.2.2 で直接つながることを記号の上でも見せるためである。また講義では Klein の不等式を「$\ln$ が作用素単調である」ことや Lagrange の未定乗数法で示すことがあるが、この章の証明（二重確率行列と Jensen）は古典の Gibbs の不等式の証明をそのまま使っている。

統計力学の Gibbs–Bogoliubov の不等式

統計力学の変分法では、解ける Hamiltonian $\hat H_0$ を選び、その平衡状態 $\hat\rho_0=\mathrm{e}^{-\beta\hat H_0}/Z_0$ を使って

$$F\le F_0+\langle \hat H-\hat H_0 \rangle _0\tag{3.2.30}$$

を示す（Gibbs–Bogoliubov の不等式、Feynman の変分原理とも呼ぶ）。ここで $F_0=- k_{\mathrm B} T\ln Z_0$、$\langle \cdot \rangle _0=\operatorname{Tr}(\hat\rho_0\,\cdot)$ である。これは定理 3.2.12 で試行状態を $\hat\rho_0$ に選んだものである。実際、$S(\hat\rho_0)=\beta(\langle \hat H_0 \rangle _0-F_0)$ なので

$$F(\hat\rho_0)=\langle \hat H \rangle _0- k_{\mathrm B} T S(\hat\rho_0)=F_0+\langle \hat H-\hat H_0 \rangle _0,$$

で、$F(\hat\rho_0)-F= k_{\mathrm B} T\,D(\hat\rho_0\,\|\,\hat\rho_\beta)$ が上界と真の値の差になる。授業で平均場近似を「1体の有効 Hamiltonian $\hat H_0=-\sum_ih_{\mathrm{eff}}Z_i$ を選んで$h_{\mathrm{eff}}$ について右辺を最小にする」と習った場合、これは 3.2.5節の積状態の族の中での最小化と同じ問題である。