巻の構成と読み方

相対エントロピーから情報と物理を組み立てる　第1部 第1章 §1.1.5　★★ 7部46章が、比べる分布の種類（古典・平衡・量子・経路・多体・計算・重力）で並んでいることを示し、記号の約束を述べる

7部の並び

この巻は7部46章からなる（図 1.1.3）。並びは、比べる2つの分布（状態）の種類で決めてある。

第1部（8章）は古典の情報理論で、比べるのは有限個の値の上の確率分布である。$D$ の定義と性質（第2〜4章）を整えたあと、圧縮の限界（第5章）、通信路容量（第6章）、Fisher 情報と推定（第7章）、大偏差と検定（第8章）を、それぞれ比べる相手の選び方として導く。後の部は全部、第1部の定義と言い回しを前提にする。

第2部（5章）は統計力学を情報で読む部で、比べる相手を Gibbs 分布に選ぶ。最大エントロピー原理（第1章）と Gibbs の変分原理（第2章）は1.1.4節の議論を広げたもので、第3〜5章では典型性・粗視化・Gibbs のパラドックスを扱う。統計力学には、相空間の上の力学から入る読み方もあり、そちらは 解析力学から様々な理論分野を組み立てる 第3部第1章 が受け持つ。2つの読み方は「Liouville の定理はエントロピーを保つのに、なぜ第二法則が成り立つのか」という1つの問いで出会う（第2部第4章）。

第3部（10章）は量子情報理論で、比べるのは密度行列である。量子チャネル（第1章）と量子相対エントロピー（第2章）を定義し、量子データ処理不等式（第3章）を証明の骨格まで追う。そのうえで、エンタングルメント・Bell の不等式・テレポーテーション・Holevo 限界・量子計測・量子誤り訂正・量子鍵配送を、それぞれ何と何の $D$ を測っているかで読む。

第4部（8章）は情報熱力学で、比べるのは1本1本の経路の確率と、時間を逆回しにした経路の確率である。ゆらぎの定理と、測定とフィードバックを含む第二法則¹1T. Sagawa and M. Ueda (2010), Phys. Rev. Lett. 104, 090602。下の脚注へ閉じるを、経路の $D$ の非負性として導く。

第5部（2章）は多体系の情報で、エンタングルメント・エントロピーの面積則と、位相秩序を量子誤り訂正符号として読む見方を扱う。第6部（5章）は量子計算で、アルゴリズムは相対エントロピーとの縁が薄いので無理に $D$ で書かず、各章に「情報の側から見ると」の節を1つずつ置く。第7部（8章）はブラックホールの情報問題で、一般化第二法則が相対エントロピーの単調性で示されることを中心に、巻の主張を重力まで延ばして閉じる。

図 1.1.3　巻の7部と、それぞれで比べる分布（状態）。矢印は、後の部が前の部の結果を使うことを表す。第7部は第3部（強劣加法性・誤り訂正）と第5部（面積則・トーリック符号）を使い、重力の側の前提は解析力学から様々な理論分野を組み立てる 第2部・第5部から借りる。

章の形と記号の約束

第2章以降の各章は、同じ順で書く。まずその章で比べる2つの分布（状態）を1行で書き、次に $D$ のどの性質を当てるかを述べ、出てくる結果を導き、最後に授業や資格の勉強で習った形とどう対応するかを式で並べる。章の頭と各節の頭には重要度の印（★の数と色）を付けた。基準は、その章や節が「相対エントロピーで各分野を読む」という巻の主題にとってどれだけ中心にあるかである。各節に例題を1問以上置き、章の最後のまとめの節に、章全体と前の章をつなぐ総合問題を1問置く。近似を使った節の末尾には、その近似を数学の言葉でどう裏付けるかを書いた札を置き、証明は近似の数理（近似の数理 第1章）へ送る。

記号の約束のうち、最初から気をつけてほしいのは3つである。1つ目は対数で、自然対数 $\ln$ と単位 nat を既定にする。符号の長さや通信路容量をビットで述べる所だけ $\log_2$ と書き、「ビット」と単位を添える。自然対数を既定にするのは、式 (1.1.11) のように $D$ を熱力学の量へつなぐとき、$k_{\mathrm B} T$ を掛けるだけで済むようにするためである。2つ目は文字 $p$, $q$ で、この巻では確率分布に使う。運動量が要る所では太字の $\bm{p}$ を使い、相空間の点はまとめて $\Gamma$ と書く。3つ目は $H$ と $S$ で、引数が確率変数か分布の $H(X)$, $H(p)$ は Shannon エントロピー、エネルギーは $E_i$ や $\langle E \rangle _p$ と書いて Hamiltonian の $H$ と混ぜない。熱力学のエントロピー $S$ は $k_{\mathrm B}$ 込み（単位 J/K）で、von Neumann エントロピー $S(\hat\rho)$ は引数を必ず付けた無次元の量である。