tecktom.com

DD の値は3通りに読める

2026年10月15日6分で読めますAI生成教科書『虎の巻』第7部 第8章 終章:相対エントロピー1本で何が言えたか
目次
  1. 指数・仕事・曲がり
  2. ブラックホールでの3つの読み方
  3. 木下の層

AI 生成・木下が未勉強

相対エントロピーから情報と物理を組み立てる 第7部 第8章 §7.8.3 ★★★ DD は、くり返しの確率の指数・kBTk_{\mathrm B} T を掛けた仕事・2次の係数としての推定の精度の3通りに読め、3つは同じ数を指す

指数・仕事・曲がり

表 7.8.1 の「出てきたもの」の欄の量は、どれも DD の値の読み方の違いである。読み方は3つに分かれる。

第一は確率の指数としての読み方である。qq から独立に nn 個取った列が pp のように見える確率は e−nD(p ∥ q)\mathrm{e}^{-nD(p\,\|\,q)} で減る(Sanov の定理)。符号化定理(第1部第5・6章)の典型集合の大きさ、Stein の補題の第2種の誤りの指数(第1部第8章・第3部第8章)、Bell の不等式の破れで局所的な模型を棄却するのに要る試行の数(第3部第5章)が、この読み方に当たる。通信路容量 C=min⁡rmax⁡xD(Wx ∥ r)C=\min_r\max_xD(W_x\,\|\,r) も、受け手の側で独立とみなした分布から見て、送った符号語の出力がどれだけ見分けやすいかの指数である。

第二は仕事としての読み方である。熱浴の温度 TT のもとで、分布 pp の系から取り出せる仕事の上限は kBT D(p ∥ peq)k_{\mathrm B} T\,D(p\,\|\,p_{\mathrm{eq}}) である(式 (7.8.2))。測定で得た相互情報量 II から取り出せる仕事 kBTIk_{\mathrm B} TI(第4部第4章)、消去のコスト(第4部第5章)、Crooks の関係の散逸仕事 kBT D(PF ∥ P~R)k_{\mathrm B} T\,D(P_{\mathrm F}\,\|\,\tilde P_{\mathrm R})(第4部第2章)がこの読み方に当たる。

第三は曲がりとしての読み方である。パラメータを δ\delta だけずらした2つの分布の DD は 12Jδ2\frac12J\delta^2 で、Fisher 情報 JJ は推定の誤差の下限 1/J1/J を決める(第1部第7章)。量子 Fisher 情報と Heisenberg 限界(第3部第8章・第6部第2章)、熱力学的不確定性関係(第4部第6章)がこの読み方に当たる。

3つの読み方が同じ数を指すことには理由がある。第一と第二は、Gibbs 分布の重み e−βE\mathrm{e}^{-\beta E} が「エネルギーを使って確率を数える」指数であることでつながり、熱浴にとって kBT Dk_{\mathrm B} T\,D の仕事は、確率の比の対数を kBTk_{\mathrm B} T の単位で測ったものである。第三は第一の局所版で、近い2つの分布を見分ける指数 D≈12Jδ2D\approx\frac12J\delta^2 が、誤差 δ\delta の推定に要る回数 n≈1/(Jδ2)n\approx1/(J\delta^2) を決める。

例題 7.8.3 光ピンセットの粒子で3つの読み方を確かめる ★★★

オリジナルばね定数 k=1.0×10−6 N m−1k=1.0\times10^{-6}\,\mathrm{N\,m^{-1}} の光の罠に捕まえた粒子が、温度 300 K で熱平衡にある(過減衰の Langevin 方程式。第4部第1章)。罠の中心が x=0x=0 のときの位置の分布を qq、罠の中心が Δμ=50\Delta\mu=50 nm にずれていたときの分布を pp とする。

  1. (1) 位置の標準偏差 σ\sigma と D(p ∥ q)D(p\,\|\,q) を求め、Fisher 情報 J=1/σ2J=1/\sigma^2 による 12JΔμ2\frac12J\Delta\mu^2 と比べよ。
  2. (2) 罠の中心が 00 に戻った直後、粒子の分布はまだ pp である。取り出せる仕事の上限 kBTDk_{\mathrm B} TD を求め、ばねのエネルギー 12kΔμ2\frac12k\Delta\mu^2 と比べよ。
  3. (3) 緩和時間より長い間隔で位置を測って独立な値を得る。罠がずれていないのに「ずれている」と判断する確率を固定し、ずれを見逃す確率を 10−310^{-3} にするには何回測ればよいか(Stein の補題の主要項)。同じ回数の平均で中心を推定したときの標準偏差はいくらか。
解答

(1) 熱平衡の分布は正規分布で、σ2=kBT/k=4.142×10−21/10−6=4.142×10−15 m2\sigma^2= k_{\mathrm B} T/k=4.142\times10^{-21}/10^{-6}=4.142\times10^{-15}\,\mathrm{m^2}、σ=64.4\sigma=64.4 nm である。分散が等しい2つの正規分布の DD は D=Δμ2/(2σ2)=(50)2/(2×64.362)=0.302D=\Delta\mu^2/(2\sigma^2)=(50)^2/(2\times64.36^2)=0.302 nat。12JΔμ2=Δμ2/(2σ2)\frac12J\Delta\mu^2=\Delta\mu^2/(2\sigma^2) なので、正規分布の位置のずれでは2次の展開が厳密に成り立つ。

(2) kBTD=kBT⋅kΔμ22kBT=12kΔμ2=12×10−6×(5×10−8)2=1.25×10−21k_{\mathrm B} TD= k_{\mathrm B} T\cdot\frac{k\Delta\mu^2}{2 k_{\mathrm B} T}=\frac12k\Delta\mu^2=\frac12\times10^{-6}\times(5\times10^{-8})^2=1.25\times10^{-21} J で、両者は一致する。実際、2つの分布はエントロピーが等しいので、自由エネルギーの差は平均のエネルギーの差 12k(Δμ2+σ2)−12kσ2\frac12k(\Delta\mu^2+\sigma^2)-\frac12k\sigma^2 だけになる。取り出すには、罠の中心を一瞬で Δμ\Delta\mu へ動かし(仕事は粒子の分布の平均で −12kΔμ2-\frac12k\Delta\mu^2)、そこから準静的に 00 へ戻せばよい。

(3) n=ln⁡(103)/D=6.908/0.302=22.9n=\ln(10^3)/D=6.908/0.302=22.9、つまり約23回である。23回の平均の標準偏差は σ/23=13.4\sigma/\sqrt{23}=13.4 nm で、ずれ 5050 nm の約 1/41/4 になる。指数 DD と推定の精度 σ/n=1/nJ\sigma/\sqrt n=1/\sqrt{nJ} は、同じ JΔμ2J\Delta\mu^2 を別の形で表している。

同じ数 0.3020.302 が、確率の指数・kBTk_{\mathrm B} T 単位の仕事・Fisher 情報の2次の係数の3つに現れた。

ブラックホールでの3つの読み方

第7部でも、同じ3つの読み方が現れる。Bekenstein 上限は、領域に制限した状態と真空の D≥0D\ge0 を式 (7.8.3) の形で書いた ΔS≤Δ⟨K^⟩\Delta S\le\Delta\langle \hat K \rangle であり1H. Casini (2008), Class. Quantum Grav. 25, 205021。下の脚注へ、平坦な時空の Rindler の楔では K^\hat K がエネルギーに比例する(2π2\pi と境界からの距離を掛けたもの)ので、エネルギー EE・大きさ RR の物体のエントロピーが 2πkBER/(ℏc)2\pi k_{\mathrm B} ER/(\hbar c) で押さえられる2J. D. Bekenstein (1981), Phys. Rev. D 23, 287 の上限 S≤2πkBER/(ℏc)S\le2\pi k_{\mathrm B} ER/(\hbar c)。下の脚注へ。これは第二の読み方(DD をエネルギーで測る)の重力版である。一般化第二法則(式 (7.8.4))では、DD は面積の単位 4ℓP24\ell_{\mathrm P}^2 で測った「まだ地平面に吸い込まれていない分」として現れる。JLMS の等式(境界の2状態の DD と内部の2状態の DD が等しい。第7部第6章の定理 7.6.1)は、単調性の等号が両向きに成り立つ場合で、等号条件の読み方の延長にある。

1 H. Casini (2008), Class. Quantum Grav. 25, 205021。

2 J. D. Bekenstein (1981), Phys. Rev. D 23, 287 の上限 S≤2πkBER/(ℏc)S\le2\pi k_{\mathrm B} ER/(\hbar c)。

木下の勉強ステータス

木下はまだこの記事を勉強していません。

AI(Claude)が書いた教材を、木下が勉強しながら公開しています。式と数値は検算していますが、誤りが残っているかもしれません。誤りのご指摘・削除のご依頼をいただければ直します。 連絡先:support@tecktom.com

← AI生成教科書『虎の巻』の記事一覧へ