tecktom.com

出てくるもの(1):1つの系のエントロピーの性質

2026年10月15日10分で読めますAI生成教科書『虎の巻』第3部 第2章 von Neumann エントロピーと量子相対エントロピー
目次
  1. 上限:完全に混ざった状態と比べる
  2. 対角部分と比べる:どの基底で測ってもエントロピーは増える
  3. 混合と比べる:凹性と Holevo 量
  4. 木下の層

AI 生成・木下が未勉強

相対エントロピーから情報と物理を組み立てる 第3部 第2章 §3.2.3 ★★★ 相手を 1/d\mathbf 1/d・対角部分・混合状態に取ると、SS の上限・「どの基底で測っても SS 以上」・凹性・混合の上界がすべて Klein の不等式から出る

上限:完全に混ざった状態と比べる

σ^=1/d\hat\sigma=\mathbf 1/d とすると ln⁡σ^=−(ln⁡d)1\ln\hat\sigma=-(\ln d)\mathbf 1 なので

D(ρ^ ∥ 1/d)=−S(ρ^)+ln⁡d ≥0,0≤S(ρ^)≤ln⁡d.(3.2.14)D(\hat\rho\,\|\,\mathbf 1/d)=-S(\hat\rho)+\ln d\ \ge0,\qquad 0\le S(\hat\rho)\le\ln d .\tag{3.2.14}

下限 00 は純粋状態(固有値の1つが 11)で、上限 ln⁡d\ln d は ρ^=1/d\hat\rho=\mathbf 1/d のときに限って達成される。古典の H(p)≤ln⁡∣X∣H(p)\le\ln\lvert \mathcal X\rvert と同じ形で、ln⁡d−S(ρ^)\ln d-S(\hat\rho) は「完全に混ざった状態からどれだけ離れているか」を DD で測った量である。

対角部分と比べる:どの基底で測ってもエントロピーは増える

正規直交基底 B={∣bk⟩}\mathcal B=\{| b_k \rangle \} を1つ選び、ρ^\hat\rho のこの基底での非対角成分を 00 にする写像を

ΔB(ρ^)≔∑k∣bk⟩⟨bk∣ ρ^ ∣bk⟩⟨bk∣=∑k⟨bk∣ρ^∣bk⟩ ∣bk⟩⟨bk∣(3.2.15)\Delta_{\mathcal B}(\hat\rho)\coloneqq\sum_k| b_k \rangle \langle b_k |\,\hat\rho\,| b_k \rangle \langle b_k |=\sum_k\langle b_k | \hat\rho | b_k \rangle \,| b_k \rangle \langle b_k |\tag{3.2.15}

と書く。これは Kraus 演算子 ∣bk⟩⟨bk∣| b_k \rangle \langle b_k | を持つ量子チャネルで、前の章の言葉では完全な位相緩和(デフェージング)である。ΔB(ρ^)\Delta_{\mathcal B}(\hat\rho) の対角成分 ρkk=⟨bk∣ρ^∣bk⟩\rho_{kk}=\langle b_k | \hat\rho | b_k \rangle は、ρ^\hat\rho をこの基底で測ったときの結果の分布になる。

命題 3.2.6(対角部分との相対エントロピー)

D(ρ^ ∥ ΔB(ρ^))=S(ΔB(ρ^))−S(ρ^) ≥0.(3.2.16)D\bigl(\hat\rho\,\|\,\Delta_{\mathcal B}(\hat\rho)\bigr)=S\bigl(\Delta_{\mathcal B}(\hat\rho)\bigr)-S(\hat\rho)\ \ge0 .\tag{3.2.16}

したがって、ρ^\hat\rho をどの正規直交基底で測っても、結果の分布の Shannon エントロピー H(ρ11,ρ22,… )H(\rho_{11},\rho_{22},\dots) は S(ρ^)S(\hat\rho) 以上で、等号は ρ^\hat\rho の固有基底で測ったときに成り立つ。つまり S(ρ^)=min⁡BH(B で測った結果の分布)S(\hat\rho)=\min_{\mathcal B}H({\mathcal B}\text{ で測った結果の分布}) である。

証明

ln⁡ΔB(ρ^)=∑kln⁡ρkk∣bk⟩⟨bk∣\ln\Delta_{\mathcal B}(\hat\rho)=\sum_k\ln\rho_{kk}| b_k \rangle \langle b_k | は B\mathcal B で対角なので、Tr⁡ρ^ln⁡ΔB(ρ^)=∑kρkkln⁡ρkk=−S(ΔB(ρ^))\operatorname{Tr}\hat\rho\ln\Delta_{\mathcal B}(\hat\rho)=\sum_k\rho_{kk}\ln\rho_{kk}=-S(\Delta_{\mathcal B}(\hat\rho))。これを式 (3.2.3) に入れると等式を得る。非負性は Klein の不等式、等号条件は ρ^=ΔB(ρ^)\hat\rho=\Delta_{\mathcal B}(\hat\rho)、つまり ρ^\hat\rho が B\mathcal B で対角のときである。

式 (3.2.16) の左辺は、ρ^\hat\rho が基底 B\mathcal B で持つ非対角成分(コヒーレンス)の量を DD で測ったもので、コヒーレンスの相対エントロピーと呼ばれる。例えば ∣+⟩=(∣0⟩+∣1⟩)/2| + \rangle =(| 0 \rangle +| 1 \rangle )/\sqrt2 は ZZ 基底で測ると結果が五分五分になり、D(∣+⟩⟨+∣ ∥ 1/2)=ln⁡2−0=ln⁡2D(| + \rangle \langle + |\,\|\,\mathbf 1/2)=\ln2-0=\ln2 のコヒーレンスを持つ。

混合と比べる:凹性と Holevo 量

状態 ρ^x\hat\rho_x を確率 pxp_x で混ぜた ρˉ=∑xpxρ^x\bar\rho=\sum_xp_x\hat\rho_x を考える。各 ρ^x\hat\rho_x を ρˉ\bar\rho と比べて平均すると、式 (3.2.4) の第2項が ∑xpxTr⁡ρ^xln⁡ρˉ=Tr⁡ρˉln⁡ρˉ\sum_xp_x\operatorname{Tr}\hat\rho_x\ln\bar\rho=\operatorname{Tr}\bar\rho\ln\bar\rho とまとまるので

χ({px,ρ^x})≔∑xpx D(ρ^x ∥ ρˉ)=S(ρˉ)−∑xpxS(ρ^x) ≥ 0(3.2.17)\chi(\{p_x,\hat\rho_x\})\coloneqq\sum_xp_x\,D(\hat\rho_x\,\|\,\bar\rho)=S(\bar\rho)-\sum_xp_xS(\hat\rho_x)\ \ge\ 0\tag{3.2.17}

を得る。左辺の量を Holevo 量と呼ぶ。第3部第7章(第3部第7章)では、状態 ρ^x\hat\rho_x に古典の記号 xx を載せて送るとき、受け手が測定で得られる相互情報量の上限が χ\chi であること(Holevo 限界)を示す。この章では非負性だけを使う。

定理 3.2.7(凹性と混合の上界 ★★★)

ρˉ=∑xpxρ^x\bar\rho=\sum_xp_x\hat\rho_x について

∑xpxS(ρ^x) ≤ S(ρˉ) ≤ H(p)+∑xpxS(ρ^x).(3.2.18)\sum_xp_xS(\hat\rho_x)\ \le\ S(\bar\rho)\ \le\ H(p)+\sum_xp_xS(\hat\rho_x).\tag{3.2.18}

左の等号は px>0p_x>0 のすべての ρ^x\hat\rho_x が等しいとき、右の等号は ρ^x\hat\rho_x の台が互いに直交するときに成り立つ。

証明

左の不等式は式 (3.2.17) と Klein の不等式の等号条件から従う。

右の不等式は、まず ρ^x=∣ψx⟩⟨ψx∣\hat\rho_x=| \psi_x \rangle \langle \psi_x | がすべて純粋状態の場合に示す。xx の値の集合を基底 {∣x⟩}\{| x \rangle \} に持つ空間から H\mathcal{H} への行列A^=∑xpx∣ψx⟩⟨x∣\hat A=\sum_x\sqrt{p_x}| \psi_x \rangle \langle x | を作ると、A^A^†=∑xpx∣ψx⟩⟨ψx∣=ρˉ\hat A\hat A^\dagger=\sum_xp_x| \psi_x \rangle \langle \psi_x |=\bar\rho であり、G^≔A^†A^\hat G\coloneqq\hat A^\dagger\hat A の成分は Gxy=pxpy ⟨ψx∣ψy⟩G_{xy}=\sqrt{p_xp_y}\,\langle \psi_x | \psi_y \rangle である。A^A^†\hat A\hat A^\dagger と A^†A^\hat A^\dagger\hat A は 00 でない固有値が重複度まで一致する(特異値分解 A^=∑kλk∣uk⟩⟨vk∣\hat A=\sum_k\sqrt{\lambda_k}| u_k \rangle \langle v_k | から、どちらの固有値も λk\lambda_k)。したがって S(ρˉ)=S(G^)S(\bar\rho)=S(\hat G)。G^\hat G を基底 {∣x⟩}\{| x \rangle \} で測った結果の分布はその対角成分 Gxx=pxG_{xx}=p_x なので、命題 3.2.6 から S(G^)≤H(p)S(\hat G)\le H(p)。

一般の場合は、各 ρ^x\hat\rho_x を固有値分解 ρ^x=∑kλxk∣ψxk⟩⟨ψxk∣\hat\rho_x=\sum_k\lambda_{xk}| \psi_{xk} \rangle \langle \psi_{xk} | し、ρˉ\bar\rho を純粋状態 ∣ψxk⟩| \psi_{xk} \rangle の確率 pxλxkp_x\lambda_{xk} の混合とみる。純粋状態の場合の結果から S(ρˉ)≤H({pxλxk})=H(p)+∑xpxH(λx)=H(p)+∑xpxS(ρ^x)S(\bar\rho)\le H(\{p_x\lambda_{xk}\})=H(p)+\sum_xp_xH(\lambda_x)=H(p)+\sum_xp_xS(\hat\rho_x)(2つ目の等号は Shannon エントロピーの連鎖律)。

右の等号条件は、純粋状態の場合には G^\hat G が対角、つまり ⟨ψx∣ψy⟩=0\langle \psi_x | \psi_y \rangle =0(x≠yx\ne y)のときで、一般の場合も同様に固有ベクトルが互いに直交するときである。

凹性は「状態を混ぜるとエントロピーは平均以上になる」こと、右の上界は「混ぜることで増えるエントロピーは、どの状態を混ぜたかという古典の驚き H(p)H(p) を超えない」ことを言う。状態どうしが直交していなければ、混ぜた後の状態から xx を完全には読み出せないので、増える分は H(p)H(p) より小さい。

もう1つ、式 (3.2.17) の左辺の形から、任意の σ^\hat\sigma について

∑xpxD(ρ^x ∥ σ^)−D(ρˉ ∥ σ^)=∑xpxD(ρ^x ∥ ρˉ)=χ({px,ρ^x}) ≥0(3.2.19)\sum_xp_xD(\hat\rho_x\,\|\,\hat\sigma)-D(\bar\rho\,\|\,\hat\sigma)=\sum_xp_xD(\hat\rho_x\,\|\,\bar\rho)=\chi(\{p_x,\hat\rho_x\})\ \ge0\tag{3.2.19}

が出る(左辺の σ^\hat\sigma を含む項は −∑xpxTr⁡ρ^xln⁡σ^+Tr⁡ρˉln⁡σ^=0-\sum_xp_x\operatorname{Tr}\hat\rho_x\ln\hat\sigma+\operatorname{Tr}\bar\rho\ln\hat\sigma=0 で消える)。これは DD が第1引数について凸であることを示している。

例題 3.2.3 直交しない2状態を混ぜる ★★

オリジナル∣0⟩| 0 \rangle と ∣+⟩| + \rangle を確率 1/21/2 ずつで混ぜた ρˉ=12∣0⟩⟨0∣+12∣+⟩⟨+∣\bar\rho=\frac12| 0 \rangle \langle 0 |+\frac12| + \rangle \langle + | を考える。

  1. ρˉ\bar\rho の固有値を求め、S(ρˉ)S(\bar\rho) を計算せよ。
  2. 証明の行列 G^\hat G を書き下し、固有値が ρˉ\bar\rho と一致することを確かめよ。
  3. 定理 3.2.7 の両側の不等式を確かめ、Holevo 量 χ\chi を求めよ。
解答

(1) ∣0⟩⟨0∣=12(1+Z)| 0 \rangle \langle 0 |=\frac12(\mathbf 1+Z)、∣+⟩⟨+∣=12(1+X)| + \rangle \langle + |=\frac12(\mathbf 1+X) なので、ρˉ=12(1+12X+12Z)\bar\rho=\frac12\bigl(\mathbf 1+\frac12X+\frac12Z\bigr)。Bloch ベクトルの長さは 1/21/\sqrt2 で、固有値は 12(1±1/2)=cos⁡2(π/8), sin⁡2(π/8)=0.8536, 0.1464\frac12(1\pm1/\sqrt2)=\cos^2(\pi/8),\ \sin^2(\pi/8)=0.8536,\ 0.1464。よって S(ρˉ)=hb(cos⁡2(π/8))=0.4165S(\bar\rho)=h_{\mathrm b}(\cos^2(\pi/8))=0.4165 nat。

(2) px=1/2p_x=1/2、⟨0∣+⟩=1/2\langle 0 | + \rangle =1/\sqrt2 から G^=12(11/21/21)\hat G=\frac12\begin{pmatrix}1&1/\sqrt2\\1/\sqrt2&1\end{pmatrix}。固有値は 12(1±1/2)\frac12(1\pm1/\sqrt2) で (1) と同じである。

(3) ρ^x\hat\rho_x は純粋状態なので ∑xpxS(ρ^x)=0\sum_xp_xS(\hat\rho_x)=0。0≤0.4165≤ln⁡2=0.69310\le0.4165\le\ln2=0.6931 で両側が成り立つ。上界に達しないのは ∣0⟩| 0 \rangle と ∣+⟩| + \rangle が直交していないからである。χ=S(ρˉ)−0=0.4165\chi=S(\bar\rho)-0=0.4165 nat で、混ぜた状態から「どちらを混ぜたか」について測定で得られる情報はこれ以下になる(第3部第7章)。

木下の勉強ステータス

木下はまだこの記事を勉強していません。

AI(Claude)が書いた教材を、木下が勉強しながら公開しています。式と数値は検算していますが、誤りが残っているかもしれません。誤りのご指摘・削除のご依頼をいただければ直します。 連絡先:support@tecktom.com

← AI生成教科書『虎の巻』の記事一覧へ