当てる道具：定常性・掛け算の性質・未定乗数

解析力学から様々な理論分野を組み立てる　第3部 第3章 §3.3.2　★★★ Liouville の定理と未定乗数という第1部の道具だけで、$\mathrm{e}^{-\beta H}$ の形が決まる

定常な分布は $H$ の関数

熱浴と平衡にある系の分布は時間がたっても変わらない。相空間の密度 $\rho(\Gamma,t)$ は Liouville 方程式$\partial\rho/\partial t=\{H,\rho\}$ に従うので（第3部第1章）、定常な分布は $\{H,\rho\}=0$ を満たす。これは $\rho$ が運動の保存量であることと同じ条件で、$H$ の任意の関数 $\rho=f(H)$ は $\{H,f(H)\}=f'(H)\{H,H\}=0$ により条件を満たす。容器に閉じ込められた粒子の系では、運動量や角運動量は壁との衝突で保存しないので、時間によらない保存量として残るのはエネルギーだけと考えてよい。そこで、この節では平衡の分布を $\rho=f(H)$ の形に限る。

定常性の条件だけでは関数 $f$ は決まらない。ミクロカノニカル分布（$H$ がある値の近くでだけ $0$ でない $f$）もカノニカル分布も、どちらも定常である。$f$ を決めるには、もう1つの条件が要る。

独立な部分の掛け算の性質

系が2つの部分 $1$, $2$ からなり、相互作用のエネルギーが各部分のエネルギーに比べて無視できるとする。すると$H(\Gamma_1,\Gamma_2)=H_1(\Gamma_1)+H_2(\Gamma_2)$ で、2つの部分は統計的に独立とみなせるので、分布は積に分かれる。

$$\rho(\Gamma_1,\Gamma_2)=\rho_1(\Gamma_1)\,\rho_2(\Gamma_2).$$

対数をとると $\ln\rho=\ln\rho_1+\ln\rho_2$ で、$\ln\rho$ はエネルギーと同じく足し算で組み合わさる量になる。各部分も定常なので$\rho_1=f_1(H_1)$, $\rho_2=f_2(H_2)$, $\rho=f(H_1+H_2)$ と書くと

$$\ln f(H_1+H_2)=\ln f_1(H_1)+\ln f_2(H_2)\tag{3.3.5}$$

が、$H_1$ と $H_2$ のあらゆる値について成り立たなければならない。両辺を $H_1$ で微分すると $(\ln f)'(H_1+H_2)=(\ln f_1)'(H_1)$ で、左辺は $H_2$ を変えても右辺は変わらないので、$(\ln f)'$ は定数である。この定数を $-\beta$ と書くと $\ln f=\text{定数}-\beta H$、すなわち

$$f(H)\propto\mathrm{e}^{-\beta H}$$

となる。同じ議論から $(\ln f_1)'=(\ln f_2)'=-\beta$ も出るので、接している2つの部分は同じ $\beta$ を持つ。この共通の $\beta$ が温度の逆数 $1/( k_{\mathrm B} T)$ にあたることは3.3.3節で示す。

この議論では、エネルギーが足し算で組み合わさり、独立な確率が掛け算で組み合わさる、という2つの性質を使った。足し算を掛け算に変える連続な関数は指数関数に限られる。

エントロピーの汎関数を最大にする

同じ分布を、第1部の未定乗数の方法（第1部第6章）でも導くことができる。第1部第6章では状態が離散的な場合を扱ったので、ここでは相空間の密度 $\rho(\Gamma)$ を変数とする汎関数で行う。相空間の分布 $\rho$ に対して Gibbs のエントロピーを

$$S_{\mathrm G}[\rho]=- k_{\mathrm B}\int\rho(\Gamma)\ln\rho(\Gamma)\,\mathrm{d}\Gamma\tag{3.3.6}$$

で定める（$\rho$ は $\mathrm{d}\Gamma$ に関する密度で無次元なので、対数の中身に単位の問題は起きない）。$\rho$ は $\mathrm{d}\Gamma$ に対する密度なので、第3部第1章の式 (3.1.18) と同じものである。規格化 $\int\rho\,\mathrm{d}\Gamma=1$ と平均のエネルギー$\int\rho H\,\mathrm{d}\Gamma=U$ の2つの拘束のもとで $S_{\mathrm G}[\rho]$ を最大にする。乗数を $\alpha$, $\beta$ として汎関数

$$\Phi[\rho]=\frac{S_{\mathrm G}[\rho]}{ k_{\mathrm B}}-\alpha\Bigl(\int\rho\,\mathrm{d}\Gamma-1\Bigr)-\beta\Bigl(\int\rho H\,\mathrm{d}\Gamma-U\Bigr)$$

をつくり、汎関数微分（第1部第3章。ここでは $\delta\Phi=\int\frac{\delta\Phi}{\delta\rho(\Gamma)}\delta\rho(\Gamma)\,\mathrm{d}\Gamma$ で定める）を計算する。$\rho\ln\rho$ を $\rho$ で微分すると $\ln\rho+1$ なので

$$\frac{\delta\Phi}{\delta\rho(\Gamma)}=-\ln\rho(\Gamma)-1-\alpha-\beta H(\Gamma)=0 \quad\Longrightarrow\quad\rho(\Gamma)=\mathrm{e}^{-1-\alpha}\,\mathrm{e}^{-\beta H(\Gamma)} .\tag{3.3.7}$$

規格化から $\mathrm{e}^{1+\alpha}=Z$ となり、カノニカル分布 (3.3.3) が出る。2次の変分は$\delta^2\Phi=-\frac12\int(\delta\rho)^2/\rho\,\mathrm{d}\Gamma<0$ なので、停留点は最大点である。

自由エネルギーの汎関数と相対エントロピー

最大エントロピーの議論は「$U$ を決めて $S$ を最大」という形をしていたが、熱浴に接した系では $U$ でなく温度 $T$ が決まっている。温度を決めたときに対応する言い方は、次の汎関数を最小にすることである。任意の分布 $\rho$ に対して

$$F[\rho]=\int\rho H\,\mathrm{d}\Gamma-T\,S_{\mathrm G}[\rho]\tag{3.3.8}$$

とおく。カノニカル分布での値を $F=F[\rho_\beta]$ と書くと、次が成り立つ。

証明

$\ln\rho_\beta=-\beta H-\ln Z$ を使うと $\int\rho\ln\rho_\beta\,\mathrm{d}\Gamma=-\beta\int\rho H\,\mathrm{d}\Gamma-\ln Z$。よって

$$k_{\mathrm B} T\,D(\rho\,\|\,\rho_\beta)= k_{\mathrm B} T\int\rho\ln\rho\,\mathrm{d}\Gamma- k_{\mathrm B} T\int\rho\ln\rho_\beta\,\mathrm{d}\Gamma=-T S_{\mathrm G}[\rho]+\int\rho H\,\mathrm{d}\Gamma+ k_{\mathrm B} T\ln Z=F[\rho]+ k_{\mathrm B} T\ln Z .$$

$\rho=\rho_\beta$ を入れると左辺は $0$ なので $F=- k_{\mathrm B} T\ln Z$、これを戻すと式 (3.3.9) の等式になる。不等式は $\ln x\le x-1$（等号は $x=1$ のときだけ）から出る。$x=\rho_\beta/\rho$ とおくと$-D=\int\rho\ln(\rho_\beta/\rho)\,\mathrm{d}\Gamma\le\int\rho(\rho_\beta/\rho-1)\,\mathrm{d}\Gamma=1-1=0$ で、等号は $\rho_\beta/\rho=1$ がほとんどいたるところで成り立つときである。

$D(\rho\,\|\,\rho_\beta)$ は相対エントロピー（Kullback–Leibler ダイバージェンス）と呼ばれる量で、2つの分布の隔たりを測る。定理 3.3.2 は、温度 $T$ の熱浴に接した系では、カノニカル分布から外れた分布の自由エネルギーが、外れ具合の相対エントロピーに $k_{\mathrm B} T$ を掛けた分だけ高いことを述べている。この関係を情報の言葉で読み直すことは 相対エントロピーから情報と物理を組み立てる 第2部第2章で、最大エントロピーの原理としての見方は 相対エントロピーから情報と物理を組み立てる 第2部第1章で扱う。