比べる2つの分布：今の分布と瞬間の平衡分布

相対エントロピーから情報と物理を組み立てる　第4部 第1章 §4.1.1　★★★ 過減衰の Langevin 方程式と Fokker–Planck 方程式を置き、$D(p_t\,\|\,\pi_{\lambda_t})$ が非平衡の自由エネルギーの余り $(F[p_t]-F_{\mathrm{eq}})/ k_{\mathrm B} T$ に等しいことを確かめる

水の中に浮かぶ直径 $1\,\mu\mathrm{m}$ ほどの粒子を光で作ったばね（光ピンセット）でとらえると、粒子は熱運動で絶えず揺れる。ばねの位置や強さを人が動かすと、粒子にはそのたびに仕事がなされ、粒子は水と熱をやりとりする。こうした小さな系では、1回ごとの仕事や熱が揺らぎと同じ大きさを持つので、熱力学の量を平均だけでなく1本の軌道ごとに定義する必要がある。この章は、その定義（確率熱力学、または確率エネルギー論と呼ばれる）を Langevin 方程式の上で組み立て、平均をとったときに第二法則がどの形で出るかを、この巻の背骨である相対エントロピー $D$ で書く。

比べる2つの分布は、時刻 $t$ の粒子の位置の分布 $p_t$ と、そのときのばねの設定 $\lambda_t$ で決まる平衡分布 $\pi_{\lambda_t}$ である。第1節で模型と2つの分布を置き、$D(p_t\,\|\,\pi_{\lambda_t})$ が非平衡の自由エネルギーの余りであることを確かめる。第2節で、設定を止めたとき $D$ が単調に減り、減る速さがエントロピー生成の速さに等しいことを示す（当てる性質は第1部第1章のデータ処理不等式の、連続時間の形である）。出てくるものは3つある。1本の軌道の第一法則（Sekimoto の熱と仕事）、平均の第二法則 $\langle W \rangle -\Delta F= k_{\mathrm B} T\,[\Delta D+\langle \Sigma \rangle ]$、そして有限の時間で操作するときに避けられない余分な仕事の下限である。最後に、授業で習う Langevin 方程式・Einstein の関係・Clausius の不等式・最大仕事の原理と並べる。

エントロピーの対数は自然対数で単位は nat、エントロピー生成 $\Sigma$ は $k_{\mathrm B}$ を単位とする無次元の量とする。この巻の約束どおり $p,\pi$ は確率分布に取っておき、粒子の位置は $x$ と書く。$W$ は系がされる仕事、$Q$ は系が受け取る熱で、どちらも正の向きをこの向きに取る。定義には記号 $\coloneqq$ を使う。

過減衰の Langevin 方程式

位置 $x$ の粒子が、外から設定できるパラメータ $\lambda$ を持つポテンシャル $U(x,\lambda)$ の中にいて、温度 $T$ の液体に浸かっているとする。光ピンセットなら $U(x,\lambda)=\frac{k}{2}(x-\lambda)^2$ で、$\lambda$ はばねの中心、$k$ はばねの強さである。液体は粒子に2種類の力を及ぼす。速度に比例する摩擦 $-\gamma\dot x$ と、分子の衝突による乱雑な力 $\xi(t)$ である。ここで $\gamma$ は摩擦係数（単位 $\mathrm{kg\,s^{-1}}$）で、半径 $a$ の球が粘性率 $\eta$ の液体の中を動くときは Stokes の式 $\gamma=6\pi\eta a$ で与えられる。

粒子の質量を $M$ とすると Newton の運動方程式は $M\ddot x=-\partial_xU-\gamma\dot x+\xi$ である。速度が摩擦で落ち着くまでの時間 $M/\gamma$ が、ばねの中で位置が落ち着くまでの時間 $\gamma/k$ よりはるかに短いときは、慣性の項 $M\ddot x$ を落としてよい（例題 4.1.1 で数値を見る）。これを過減衰の極限と呼び、残る式は

$$\gamma\dot x=-\partial_xU(x,\lambda_t)+\xi(t),\qquad \langle \xi(t) \rangle =0,\quad \langle \xi(t)\xi(s) \rangle =2\gamma k_{\mathrm B} T\,\delta(t-s)\tag{4.1.1}$$

である。乱雑な力の強さ $2\gamma k_{\mathrm B} T$ は自由に選べる量ではない。振動子の集まりでできた熱浴を Hamiltonian に含めて消去すると、摩擦と乱雑な力の両方がそろって出てきて、両者の比が $k_{\mathrm B} T$ に固定される（解析力学から様々な理論分野を組み立てる 第3部第9章）。この章ではその結果を借りる。強さを $2\gamma k_{\mathrm B} T$ にしておかないと、粒子の分布が平衡分布に落ち着かないことは、あとで式 (4.1.4) から分かる。

式 (4.1.1) の $\xi$ は時間について相関を持たない（白色雑音）。現実の液体の衝突には $10^{-13}\,\mathrm{s}$ 程度の記憶があるが、観測する時間の刻みがそれより十分長ければ、記憶を0とみなしてよい。

分布の時間発展：Fokker–Planck 方程式

同じ準備をした粒子を何度も放したときの位置の分布を $p(x,t)$ と書く。$p$ は次の Fokker–Planck 方程式に従う。

$$\frac{\partial p}{\partial t}=-\frac{\partial j}{\partial x},\qquad j(x,t)\coloneqq-\frac{1}{\gamma}\,\partial_xU(x,\lambda_t)\,p-\frac{ k_{\mathrm B} T}{\gamma}\,\partial_xp .\tag{4.1.2}$$

$j$ は確率の流れで、第1項は力に押されて流れる分、第2項は乱雑な力で濃い所から薄い所へ広がる分である。第2項の係数 $k_{\mathrm B} T/\gamma$ が拡散の速さを表す。式 (4.1.2) は、確率が湧いたり消えたりせず、流れ $j$ で運ばれるだけであることを表す連続の式の形をしている。導き方は標準的で、短い時間 $\mathrm{d} t$ のあいだの変位 $\mathrm{d} x$ の平均 $-\partial_xU\,\mathrm{d} t/\gamma$ と分散 $2 k_{\mathrm B} T\,\mathrm{d} t/\gamma$ から、分布の変化を $\mathrm{d} t$ の1次まで求めればよい。

ばねの設定を $\lambda$ に止めたときの平衡分布は Boltzmann 分布

$$\pi_\lambda(x)\coloneqq\frac{\mathrm{e}^{-\beta U(x,\lambda)}}{Z(\lambda)},\qquad Z(\lambda)=\int\mathrm{e}^{-\beta U(x,\lambda)}\,\mathrm{d} x,\qquad F_{\mathrm{eq}}(\lambda)=- k_{\mathrm B} T\ln Z(\lambda)\tag{4.1.3}$$

である（$\beta=1/ k_{\mathrm B} T$）。$\ln\pi_\lambda=-\beta U+\beta F_{\mathrm{eq}}$ なので $\partial_x\ln\pi_\lambda=-\beta\,\partial_xU$ で、流れの式は

$$j=-\frac{ k_{\mathrm B} T}{\gamma}\,p\,\partial_x\ln\frac{p}{\pi_\lambda}\tag{4.1.4}$$

と書き直せる。$p=\pi_\lambda$ なら流れはどこでも0で、$\pi_\lambda$ は確かに止まった分布になる。乱雑な力の強さを $2\gamma k_{\mathrm B} T$ 以外の値にすると、式 (4.1.2) の第2項の係数が変わり、止まる分布が $\mathrm{e}^{-\beta U}$ からずれる。これが前の節で「強さは自由に選べない」と書いた理由である。

2つの分布の $D$ と非平衡の自由エネルギー

比べる2つの分布は、今の分布 $p_t$ と、今の設定での平衡分布 $\pi_{\lambda_t}$ である。その相対エントロピーを

$$D(p_t\,\|\,\pi_{\lambda_t})=\int p(x,t)\ln\frac{p(x,t)}{\pi_{\lambda_t}(x)}\,\mathrm{d} x\tag{4.1.5}$$

と書く。連続の分布の $D$ は長さの単位の取り方によらず、$D\ge0$ で等号は $p_t=\pi_{\lambda_t}$ のときに限る（第2部第4章）。任意の分布 $p$ の自由エネルギーを、第1部第1章と同じく

$$F[p,\lambda]\coloneqq\langle U(\cdot,\lambda) \rangle _p- k_{\mathrm B} T\,H(p),\qquad H(p)=-\int p\ln p\,\mathrm{d} x\tag{4.1.6}$$

と定めると、$\ln\pi_\lambda=-\beta U+\beta F_{\mathrm{eq}}(\lambda)$ を式 (4.1.5) に入れるだけで

$$F[p,\lambda]-F_{\mathrm{eq}}(\lambda)= k_{\mathrm B} T\,D(p\,\|\,\pi_\lambda)\tag{4.1.7}$$

が出る（第1部第1章・第2部第2章 の Gibbs の変分原理を、連続の位置の分布で書いたもの）。$H(p)$ は連続の分布では長さの単位で定数だけずれるが、そのずれは $F_{\mathrm{eq}}$ の中の $\ln Z$ のずれと打ち消し合い、差の式 (4.1.7) には残らない。

調和ばね $U=\frac k2(x-\lambda)^2$ では、平衡分布は平均 $\lambda$・分散 $\sigma_{\mathrm{eq}}^2= k_{\mathrm B} T/k$ の正規分布である。今の分布も平均 $m$・分散 $\sigma^2$ の正規分布なら、$s\coloneqq\sigma^2/\sigma_{\mathrm{eq}}^2$ として

$$D(p\,\|\,\pi_\lambda)=\underbrace{\frac{k(m-\lambda)^2}{2 k_{\mathrm B} T}}_{\text{平均のずれ}}+\underbrace{\frac12\bigl(s-1-\ln s\bigr)}_{\text{幅のずれ}}\tag{4.1.8}$$

になる。この章の例はすべて調和ばねで、分布は正規分布のまま動くので、$D$ はこの2項で書ける。2項目の関数 $\frac12(s-1-\ln s)$ は $s=1$ で0になり、$s=1$ の近くで $\frac14(s-1)^2$ のようにふるまう。