比べる2つの分布：経路の確率と逆回しの経路の確率

相対エントロピーから情報と物理を組み立てる　第4部 第3章 §4.3.1　★★★ 経路の確率と逆回しの経路の確率の比の対数は、局所詳細つり合いのもとで「系の驚きの変化 $-\beta Q$」に等しい

熱浴と接した小さな系を1本の軌道として追いかけると、仕事や熱は軌道ごとに違う値をとる確率変数になる（第4部第1章）。前の章では、ある軌道の確率と、手順を逆にたどったときにその軌道を逆向きにたどる確率の比が $\mathrm{e}^{\beta(W-\Delta F)}$ になること（Crooks の関係）と、その平均から出る Jarzynski 等式 $\langle \mathrm{e}^{-\beta W} \rangle =\mathrm{e}^{-\beta\Delta F}$ を示した（第4部第2章）。この章は、この比の対数の平均を、この巻の背骨である相対エントロピー $D$ として読み直す。

比べる2つの分布は、実際に起こる経路の確率 $P[\Gamma]$ と、時間を逆回しにした過程で同じ経路を逆向きにたどる確率 $\tilde P[\tilde\Gamma]$ である。この2つの $D$ をエントロピー生成と定義すると、第二法則は「$D\ge0$」の1行になる。初めの分布と逆回しの過程の初めの分布の選び方を変えると、等温の第二法則 $\langle W \rangle \ge\Delta F$、Clausius の不等式、非平衡の自由エネルギーで書いた第二法則が、同じ $D$ の別の姿として出てくる（4.3.3 節）。経路を1時刻の分布に縮める操作や、状態を粗く見る操作にデータ処理不等式を当てると、エントロピー生成の下からの評価が得られる（4.3.4 節）。最後に、手順を動かさずに外から力で駆動し続ける非平衡定常状態では、エントロピー生成の速さが「1歩あたりの経路の $D$」になり、それが流れと親和力の積の形に書けること、またそれが観測した経路の記録から時間の向きを判定するときの誤りの減る速さの指数であることを示す（4.3.5 節）。

この章では、系の状態は有限個の値 $x$ をとり、時間は整数の刻み $t=0,1,\dots,n$ で進むとする。連続な時間と Langevin 方程式の場合は 4.3.6 節で対応をつける。エントロピーと $D$ の対数は自然対数で、単位は nat とする。熱力学のエントロピーに直すときは $k_{\mathrm B}$ を掛ける。この巻の約束どおり $p,q$ は確率分布に取っておき、遷移の確率行列は第4部第2章と同じ $K_\lambda(x'\,|\,x)$ と書く（第1部の確率行列 $W$ と同じもの。仕事 $W$ と分けるため $K$）。熱 $Q$ は系がもらう熱を正とし、第一法則は $\Delta E=W+Q$ である。定義には記号 $\coloneqq$ を使う。

手順と経路の確率

系のエネルギーは外から動かせるパラメータ $\lambda$ に依存し、状態 $x$ のエネルギーを $E_\lambda(x)$ と書く。外の操作者は、あらかじめ決めた手順 $\lambda_0,\lambda_1,\dots,\lambda_n$ に沿って $\lambda$ を動かす。1刻みのあいだに起こることを次の2段に分ける。

1. 系の状態を $x_t$ のまま、パラメータを $\lambda_t$ から $\lambda_{t+1}$ へ変える。このとき系がされる仕事は $E_{\lambda_{t+1}}(x_t)-E_{\lambda_t}(x_t)$ である。
2. パラメータを $\lambda_{t+1}$ に保ったまま、系が熱浴とエネルギーをやりとりして $x_t$ から $x_{t+1}$ へ移る。移る確率は $K_{\lambda_{t+1}}(x_{t+1}\,|\,x_t)$ で、系がもらう熱は $E_{\lambda_{t+1}}(x_{t+1})-E_{\lambda_{t+1}}(x_t)$ である。

エネルギーの変化を「パラメータが動いた分」と「状態が動いた分」に分け、前者を仕事、後者を熱と呼ぶ。この割り当ては Sekimoto が Langevin 方程式で導入したもの¹1K. Sekimoto (1998), Prog. Theor. Phys. Suppl. 130, 17–27。下の脚注へ閉じるを離散の状態に移したもので、第4部第1章 の約束と同じである。

状態の列 $\Gamma=(x_0,x_1,\dots,x_n)$ を経路と呼ぶ。初めの分布を $p_0$ とすると、経路の確率は

$$P[\Gamma]=p_0(x_0)\prod_{t=0}^{n-1}K_{\lambda_{t+1}}(x_{t+1}\,|\,x_t)\tag{4.3.1}$$

である。経路ごとに、仕事と熱は

$$W[\Gamma]=\sum_{t=0}^{n-1}\bigl(E_{\lambda_{t+1}}(x_t)-E_{\lambda_t}(x_t)\bigr),\qquad Q[\Gamma]=\sum_{t=0}^{n-1}\bigl(E_{\lambda_{t+1}}(x_{t+1})-E_{\lambda_{t+1}}(x_t)\bigr)\tag{4.3.2}$$

で、足すと各項が打ち消し合って $W[\Gamma]+Q[\Gamma]=E_{\lambda_n}(x_n)-E_{\lambda_0}(x_0)$ になる。第一法則は経路1本ごとに成り立つ。

逆回しの過程

時間を逆にたどる過程（逆回しの過程）を考える。逆回しの過程では、系は $x_n$ から出発し、パラメータは $\lambda_n$ から $\lambda_0$ へ逆の順に動き、各刻みの2段の順番も逆になる（先に状態が跳び、その後でパラメータが動く）。逆回しの過程の初めの分布を $\tilde p_0$ とすると、逆回しの過程が経路 $\Gamma$ を逆向きにたどる確率、すなわち $\tilde\Gamma=(x_n,x_{n-1},\dots,x_0)$ を実現する確率は

$$\tilde P[\tilde\Gamma]=\tilde p_0(x_n)\prod_{t=0}^{n-1}K_{\lambda_{t+1}}(x_t\,|\,x_{t+1})\tag{4.3.3}$$

である。順回しで $x_t\to x_{t+1}$ の跳びに使った $K_{\lambda_{t+1}}$ を、逆回しでは $x_{t+1}\to x_t$ の跳びに使う。$\tilde P$ は経路 $\Gamma$ の集合の上の確率分布で（$\Gamma$ について和をとると 1）、$P$ と同じ集合の上で比べることができる。

定義 (4.3.5) は、エントロピー生成が「観測した経路が順回しの過程から来たか、逆回しの過程から来たか」を見分ける手がかりの量であることを表している（第1部第3章 の対数尤度比の平均）。1本の経路を見て、それが順回しの過程から来たか、逆回しの過程から来たかを判定するとき、$\Sigma[\Gamma]$ はその経路の対数尤度比で、$\langle \Sigma \rangle$ はその平均である。この定義には熱もエントロピーも現れていない。熱力学との結びつきは次の仮定で入る。

局所詳細つり合い

熱浴の温度を $T$、$\beta=1/( k_{\mathrm B} T)$ とする。パラメータを $\lambda$ に固定したときの遷移が

$$K_\lambda(x'\,|\,x)\,\mathrm{e}^{-\beta E_\lambda(x)}=K_\lambda(x\,|\,x')\,\mathrm{e}^{-\beta E_\lambda(x')}\qquad(\text{すべての }x,x')\tag{4.3.6}$$

を満たすことを仮定する。これを局所詳細つり合いと呼ぶ。式 (4.3.6) は、パラメータを止めておけば Gibbs 分布$p_{\mathrm{eq}}^\lambda(x)=\mathrm{e}^{-\beta E_\lambda(x)}/Z_\lambda$ が動かず、しかも各組 $x,x'$ のあいだの確率の流れが釣り合っていることを表す。両辺を割ると、1回の跳びの順と逆の確率の比が、その跳びで系がもらう熱だけで決まる：

$$\ln\frac{K_\lambda(x'\,|\,x)}{K_\lambda(x\,|\,x')}=-\beta\bigl(E_\lambda(x')-E_\lambda(x)\bigr).$$

これを式 (4.3.1)・(4.3.3) の比に入れると、各刻みの比の対数が熱の項になり、次の式が出る。

証明

式 (4.3.1) を式 (4.3.3) で割り、対数をとると

$$\ln\frac{P[\Gamma]}{\tilde P[\tilde\Gamma]}=\ln\frac{p_0(x_0)}{\tilde p_0(x_n)}+\sum_{t=0}^{n-1}\ln\frac{K_{\lambda_{t+1}}(x_{t+1}\,|\,x_t)}{K_{\lambda_{t+1}}(x_t\,|\,x_{t+1})} =\ln\frac{p_0(x_0)}{\tilde p_0(x_n)}-\beta\sum_{t=0}^{n-1}\bigl(E_{\lambda_{t+1}}(x_{t+1})-E_{\lambda_{t+1}}(x_t)\bigr).$$

最後の和は式 (4.3.2) の $Q[\Gamma]$ である。

式 (4.3.7) の右辺の3つの項は、それぞれ熱力学の量として読むことができる。$-\ln p(x)$ は状態 $x$ にいるという驚き（第1部第2章）で、その平均は Shannon エントロピーである。第1項と第2項の差は「系の驚きの変化」で、系のエントロピーの変化を経路1本ごとにしたもの、$-\beta Q=-Q/( k_{\mathrm B} T)$ は熱浴へ出した熱を温度で割ったもの、すなわち熱浴のエントロピーの増加である。この形の経路ごとのエントロピー生成は Seifert が Langevin 方程式で導入した²2U. Seifert (2005), Phys. Rev. Lett. 95, 040602。下の脚注へ閉じる。式 (4.3.7) が成り立つのは局所詳細つり合いを仮定したからで、この仮定が「確率の比」という情報の量と「熱」という熱力学の量をつなぐ唯一の橋である。

この節の出発点の2つの仮定、すなわち熱浴と接した系の運動を Markov 過程で書くことと、その遷移が局所詳細つり合いを満たすことは、ともに近似である。系と熱浴の結合が弱く、熱浴の緩和が系の運動よりずっと速い極限で、系の縮約された運動は Markov 過程になり、その遷移の比は熱浴の温度の Gibbs 因子で決まる。弱結合の極限でのこの導出は Davies による³3E. B. Davies (1974), Commun. Math. Phys. 39, 91–110。下の脚注へ閉じる。

1　K. Sekimoto (1998), Prog. Theor. Phys. Suppl. 130, 17–27。

2　U. Seifert (2005), Phys. Rev. Lett. 95, 040602。

3　E. B. Davies (1974), Commun. Math. Phys. 39, 91–110。