tecktom.com

第二法則はデータ処理不等式の1つの姿

2026年10月15日11分で読めますAI生成教科書『虎の巻』第7部 第8章 終章:相対エントロピー1本で何が言えたか
目次
  1. 1つの定理
  2. 4つの場面
  3. 木下の層

AI 生成・木下が未勉強

相対エントロピーから情報と物理を組み立てる 第7部 第8章 §7.8.2 ★★★ 止まる状態 σ\sigma を保つチャネルを当てると D(ρ ∥ σ)D(\rho\,\|\,\sigma) は増えない。この1つの定理に、H 定理・Clausius の不等式・量子の H 定理・一般化第二法則の4つが入る

1つの定理

巻の各部に出てきた第二法則は、すべて次の形をしている。

定理 7.8.1(止まる状態に対する単調性 ★★★)

チャネル N\mathcal N(確率行列・量子チャネル・部分トレース・部分代数への制限のどれでもよい)と状態 σ^\hat\sigma が N(σ^)=σ^\mathcal N(\hat\sigma)=\hat\sigma を満たすなら、任意の状態 ρ^\hat\rho について

D(N(ρ^) ∥ σ^)≤D(ρ^ ∥ σ^)(7.8.1)D(\mathcal N(\hat\rho)\,\|\,\hat\sigma)\le D(\hat\rho\,\|\,\hat\sigma)\tag{7.8.1}

が成り立つ。N\mathcal N をくり返し当てた列 ρ^n=Nn(ρ^0)\hat\rho_n=\mathcal N^n(\hat\rho_0) では、D(ρ^n ∥ σ^)D(\hat\rho_n\,\|\,\hat\sigma) は nn について増えない。

証明

データ処理不等式 D(N(ρ^) ∥ N(σ^))≤D(ρ^ ∥ σ^)D(\mathcal N(\hat\rho)\,\|\,\mathcal N(\hat\sigma))\le D(\hat\rho\,\|\,\hat\sigma)(古典は 第1部第4章、量子は 第3部第3章)の左辺で N(σ^)=σ^\mathcal N(\hat\sigma)=\hat\sigma と置けばよい。列については、ρ^n+1=N(ρ^n)\hat\rho_{n+1}=\mathcal N(\hat\rho_n) に同じ不等式を当てる。

定理には「時間」も「エネルギー」も入っていない。物理の入力は、何をチャネルとし、何を止まる状態 σ^\hat\sigma とするかの2つだけである。4つの場面を、この2つの選び方で並べたのが図 7.8.1 である。

図

図 7.8.1 第二法則の4つの場面は、定理 7.8.1 のチャネル N\mathcal N と止まる状態 σ^\hat\sigma の選び方だけが違う。

4つの場面

(a) Markov 連鎖の H 定理(第1部第4章)では、N\mathcal N は確率行列 WW、σ^\hat\sigma は定常分布 π\pi である。D(pn ∥ π)D(p_n\,\|\,\pi) は増えない。Shannon エントロピーが増えると言えるのは π\pi が一様なときだけで、D(p ∥ u)=ln⁡∣X∣−H(p)D(p\,\|\,u)=\ln\lvert \mathcal X\rvert -H(p) だからである。一般の π\pi では増えるのは HH でなく −D-D である。

(b) 熱浴と接した系(第2部第2章・第4部第1章)では、σ^\hat\sigma は熱浴の温度の Gibbs 分布 peqp_{\mathrm{eq}} で、Gibbs の変分原理

F[p]−Feq=kBT D(p ∥ peq)(7.8.2)F[p]-F_{\mathrm{eq}}= k_{\mathrm B} T\,D(p\,\|\,p_{\mathrm{eq}})\tag{7.8.2}

により、定理の不等式は「非平衡の自由エネルギー F[p]=⟨E⟩p−kBTH(p)F[p]=\langle E \rangle _p- k_{\mathrm B} TH(p) が増えない」と読める。系がもらう熱を QQ、系のエントロピーの変化を ΔH\Delta H とすると、外から仕事をしない緩和では Δ⟨E⟩=Q\Delta\langle E \rangle =Q なので、ΔH−Q/(kBT)=D(p0 ∥ peq)−D(p1 ∥ peq)≥0\Delta H-Q/( k_{\mathrm B} T)=D(p_0\,\|\,p_{\mathrm{eq}})-D(p_1\,\|\,p_{\mathrm{eq}})\ge0、すなわち Clausius の不等式になる(例題 7.8.2)。第4部では、ここで σ^\hat\sigma を決めない場合まで広げた。経路の確率 PP と逆回しの P~\tilde P の DD がエントロピー生成 ⟨Σ⟩\langle \Sigma \rangle で(第4部第3章)、これは駆動が時間とともに変わり止まる状態が無い場合にも成り立つ。止まる状態の代わりに、局所詳細つり合い(遷移の比が Boltzmann 因子)という仮定を入れている。

(c) 量子の H 定理(第3部第3章・第4部第8章)では、N\mathcal N は量子チャネルで、σ^\hat\sigma はその不動点である。Lindblad 方程式の時間発展が熱状態 ρ^β\hat\rho_\beta を止める場合、連続時間の形が Spohn の不等式 ddtD(ρ^t ∥ ρ^β)≤0\frac{\mathrm{d}}{\mathrm{d} t}D(\hat\rho_t\,\|\,\hat\rho_\beta)\le0 である。ここでも単調なのは DD で、von Neumann エントロピー S(ρ^t)S(\hat\rho_t) は一般に単調でない。

(d) 一般化第二法則(第7部第1章)では、地平面の時刻 tt の切り口より外にある場の状態を ρ^t\hat\rho_t、同じ領域に制限した真空を σ^t\hat\sigma_t とする。後の時刻 t′>tt'>t の切り口の外は、前の時刻の切り口の外に含まれる(地平面は光の速さで外へ逃げないので、外の領域は時間とともに狭まる)。後の外への制限はチャネル(部分トレースの一般化)で、真空は地平面に沿った並進で変わらないので、真空を制限すると後の時刻の真空になる。定理から D(ρ^t′ ∥ σ^t′)≤D(ρ^t ∥ σ^t)D(\hat\rho_{t'}\,\|\,\hat\sigma_{t'})\le D(\hat\rho_t\,\|\,\hat\sigma_t) を得る。K^t=−ln⁡σ^t\hat K_t=-\ln\hat\sigma_t(モジュラー Hamiltonian。第7部第1章の式 (7.1.5) と定数 ln⁡Z\ln Z だけ違い、差 Δ⟨K^t⟩\Delta\langle \hat K_t \rangle は同じ)と書けば、第7部第1章の式 (7.1.8) と同じ

D(ρ^t ∥ σ^t)=Δ⟨K^t⟩−ΔSt(7.8.3)D(\hat\rho_t\,\|\,\hat\sigma_t)=\Delta\langle \hat K_t \rangle -\Delta S_t\tag{7.8.3}

で、Δ\Delta は真空の値からの差を表す(場の量子論ではエントロピーそのものは領域の境界で発散するが、真空との差は有限である)。Wall は、場の反作用を1次まで入れた半古典の重力で、地平面の面積の変化を表す Raychaudhuri 方程式から Δ⟨K^t⟩=(A∞−A(t))/(4ℓP2)\Delta\langle \hat K_t \rangle =(A_\infty-A(t))/(4\ell_{\mathrm P}^2) を示した(A∞A_\infty は最後の面積。第7部第1章の式 (7.1.18)・定理 7.1.1)。これを式 (7.8.3) に入れると

A(t)4ℓP2+ΔSt=A∞4ℓP2−D(ρ^t ∥ σ^t)(7.8.4)\frac{A(t)}{4\ell_{\mathrm P}^2}+\Delta S_t=\frac{A_\infty}{4\ell_{\mathrm P}^2}-D(\hat\rho_t\,\|\,\hat\sigma_t)\tag{7.8.4}

となり、左辺の一般化エントロピー(kBk_{\mathrm B} を掛ければ SBH+kBΔStS_{\mathrm{BH}}+ k_{\mathrm B}\Delta S_t)は時間とともに増えない DD を引いたものなので、減らない1A. C. Wall (2012), Phys. Rev. D 85, 104049。証明は地平面に制限した場の代数がいくつかの公理(決定性・超局所性など)を満たすことを前提にし、それが確かめられているのは自由場と2次元の共形場理論である。下の脚注へ。ブラックホールに物を落として外のエントロピーが減っても、地平面の面積の増え方がそれを上回ることを、この式は DD の単調性1つで言っている。

4つの場面に共通する読み方は次のとおりである。第二法則で増える量は、エントロピーそのものでなく「止まる状態からの近さ」−D(ρ^ ∥ σ^)-D(\hat\rho\,\|\,\hat\sigma) である。エントロピーが増えるように見える場合は、σ^\hat\sigma が一様(孤立系のミクロカノニカル)か、σ^\hat\sigma との DD をエネルギーの項とエントロピーの項に分け、エネルギーの項を熱浴や地平面の側のエントロピーとして数えた場合(Clausius の不等式・一般化第二法則)である。

例題 7.8.2 熱化する2準位系で DD と SS を比べる ★★★

オリジナルエネルギーの差 ε\varepsilon の2準位系が温度 TT の熱浴と接し、βε=ln⁡9\beta\varepsilon =\ln9 とする(熱平衡で上の準位の確率 peeq=0.1p_{\mathrm e}^{\mathrm{eq}}=0.1)。時刻 00 に上の準位にいて(純粋状態)、上の準位の確率が pe(t)=0.1+0.9 e−t/T1p_{\mathrm e}(t)=0.1+0.9\,\mathrm{e}^{-t/T_1} で緩和する。状態は対角のまま変わる。

  1. (1) D(ρ^t ∥ ρ^β)D(\hat\rho_t\,\|\,\hat\rho_\beta) と S(ρ^t)S(\hat\rho_t) を t/T1=0, 0.5, 1, 2, 4t/T_1=0,\ 0.5,\ 1,\ 2,\ 4 で求めよ。
  2. (2) S(ρ^t)S(\hat\rho_t) が最大になる時刻とその値、そのときの DD を求めよ。
  3. (3) t=0t=0 から t→∞t\to\infty までのエントロピー生成 Σ=ΔS−βQ\Sigma=\Delta S-\beta Q(QQ は系がもらう熱)を求め、D(ρ^0 ∥ ρ^β)D(\hat\rho_0\,\|\,\hat\rho_\beta) と比べよ。
解答

(1) D=(1−pe)ln⁡1−pe0.9+peln⁡pe0.1D=(1-p_{\mathrm e})\ln\frac{1-p_{\mathrm e}}{0.9}+p_{\mathrm e}\ln\frac{p_{\mathrm e}}{0.1}、S=hb(pe)S=h_{\mathrm b}(p_{\mathrm e}) である。t=0t=0 では pe=1p_{\mathrm e}=1 で D=ln⁡10=2.3026D=\ln10=2.3026、S=0S=0。t/T1=0.5t/T_1=0.5 で D=0.8745D=0.8745・S=0.6500S=0.6500、11 で D=0.3689D=0.3689・S=0.6836S=0.6836、22 で D=0.0635D=0.0635・S=0.5292S=0.5292、44 で D=0.00144D=0.00144・S=0.3599S=0.3599 である。DD は単調に減るが、SS は増えてから減る(図 7.8.2)。

(2) S=hb(pe)S=h_{\mathrm b}(p_{\mathrm e}) が最大の ln⁡2=0.6931\ln2=0.6931 になるのは pe=1/2p_{\mathrm e}=1/2、すなわち 0.9 e−t/T1=0.40.9\,\mathrm{e}^{-t/T_1}=0.4 から t/T1=ln⁡(9/4)=0.8109t/T_1=\ln(9/4)=0.8109 のときである。そのときの D=12ln⁡0.50.9+12ln⁡0.50.1=0.5108D=\frac12\ln\frac{0.5}{0.9}+\frac12\ln\frac{0.5}{0.1}=0.5108 で、DD はまだ 00 でない。この後 SS は hb(0.1)=0.3251h_{\mathrm b}(0.1)=0.3251 まで下がる。系のエントロピーは、系が熱を熱浴へ渡して下の準位へ落ちるので下がり、これは第二法則に反しない。

(3) ΔS=hb(0.1)−0=0.3251\Delta S=h_{\mathrm b}(0.1)-0=0.3251。系がもらう熱は Q=ε Δpe=−0.9εQ=\varepsilon \,\Delta p_{\mathrm e}=-0.9\varepsilon なので −βQ=0.9ln⁡9=1.9775-\beta Q=0.9\ln9=1.9775。Σ=0.3251+1.9775=2.3026=ln⁡10\Sigma=0.3251+1.9775=2.3026=\ln10 で、D(ρ^0 ∥ ρ^β)−D(ρ^∞ ∥ ρ^β)=ln⁡10−0D(\hat\rho_0\,\|\,\hat\rho_\beta)-D(\hat\rho_\infty\,\|\,\hat\rho_\beta)=\ln10-0 に一致する。単調に減る量は DD で、エントロピー生成はその減った分である。

図

図 7.8.2 例題 7.8.2 の2準位系。実線は熱状態からの相対エントロピー(単調に減る)、点線は von Neumann エントロピー(t/T1=0.81t/T_1=0.81 で ln⁡2\ln2 まで増えてから hb(0.1)h_{\mathrm b}(0.1) へ減る)。どちらも厳密な値。

1 A. C. Wall (2012), Phys. Rev. D 85, 104049。証明は地平面に制限した場の代数がいくつかの公理(決定性・超局所性など)を満たすことを前提にし、それが確かめられているのは自由場と2次元の共形場理論である。

木下の勉強ステータス

木下はまだこの記事を勉強していません。

AI(Claude)が書いた教材を、木下が勉強しながら公開しています。式と数値は検算していますが、誤りが残っているかもしれません。誤りのご指摘・削除のご依頼をいただければ直します。 連絡先:support@tecktom.com

← AI生成教科書『虎の巻』の記事一覧へ