比べる2つの分布：ミクロカノニカル分布の周辺とカノニカル分布

相対エントロピーから情報と物理を組み立てる　第2部 第3章 §2.3.1　★★★ 全体では $\tfrac12\ln N$ の程度離れている2つの分布が、小さな部分系に制限すると $D\approx k(k-1)/(4N^2)$ まで近づく。量子の典型性の古典版

統計力学の教科書は、孤立系のエネルギー殻の上の状態に等しい確率を割り当てる等重率の仮定から出発し、そこから小さな部分系のカノニカル分布を導く。しかし、量子力学に従う孤立系はある時刻に1つの状態にあり、その状態は時間とともにユニタリに発展するだけである。全体が1つの純粋状態にあるのに、なぜ部分系の測定結果は温度 $T$ の Gibbs 状態で予言できるのか。この章はこの問いに相対エントロピーの言葉で答える。

比べる2つの状態は、全体の状態を部分系 $A$ に制限したものと、ミクロカノニカル状態を同じ $A$ に制限したものである。全体どうしを比べると、1つの純粋状態とエネルギー殻の上の一様な混合は $D=\ln d_R$（$d_R$ はエネルギー殻の次元）だけ離れていて、ほぼ最大に区別できる。ところが部分系 $A$ に制限すると、ほとんどすべての純粋状態について $D$ は $d_A/d_B^{\mathrm{eff}}$ の程度（$d_A$ は $A$ の次元、$d_B^{\mathrm{eff}}$ は残りの部分の実効的な次元）まで小さくなる。これが正準典型性（canonical typicality）で、等重率の仮定は「状態をエネルギー殻からでたらめに選べば、ほとんどどれを選んでも部分系は同じに見える」という主張に置き換わる。当てる $D$ の性質は、部分トレースで $D$ が増えないこと（データ処理不等式）、$D$ が2次の量 $\chi^2$ で上から押さえられること、Pinsker の不等式で観測量の差に直せることの3つである。

章の前半は準備として、古典の場合（ミクロカノニカル分布の周辺とカノニカル分布）から始める。これは 第1部第2章 でBoltzmann のエントロピーと Gibbs のエントロピーが1粒子あたり一致することを示した計算の続きである。後半では、ランダムに選んだ状態でなく、決まった初期状態から時間発展した状態でも、部分系が長い時間のほとんどで平衡に落ち着くこと（平衡化）を示し、落ち着いた先がミクロカノニカル状態と一致するための条件（固有状態熱化仮説）を「授業で習った形との対応」の節で述べる。

記号の約束。この章では $D$ と von Neumann エントロピー $S(\hat\rho)$ を自然対数（nat）で書き、熱力学のエントロピーは $k_{\mathrm B}$ を掛けて $S^{\mathrm{mc}}$・$S^{\mathrm{can}}$ のように添字を付ける。部分系は量子情報の慣例どおり $A$（小さい側）と $B$（残り）で表し、$d_A$・$d_B$ をそれぞれの Hilbert 空間の次元とする。密度行列と部分トレースは 第3部第1章 で整えるので、この章では使う所だけを最小限に定義する。

模型：2準位の粒子 $N$ 個

基底状態のエネルギー $0$、励起状態のエネルギー $\varepsilon$ の2準位の粒子を $N$ 個並べた孤立系を考える。粒子 $i$ が励起していれば $n_i=1$、基底状態なら $n_i=0$ とし、配置を $s=(n_1,\dots,n_N)$ で表す。全エネルギーは $E(s)=\varepsilon \sum_in_i$ である。粒子どうしの相互作用は、エネルギーをやりとりさせるだけの弱いものとして式には残さない。

全エネルギーを $E=M\varepsilon$ に固定したミクロカノニカル分布は、励起がちょうど $M$ 個の配置に等しい確率を与える分布で、

$$p^{\mathrm{mc}}(s)=\begin{cases}1/W(E) & (\sum_in_i=M)\\ 0 & (\text{それ以外})\end{cases},\qquad W(E)=\binom NM\tag{2.3.1}$$

である。一方、温度 $T$ のカノニカル分布は、各粒子が独立に確率 $x=1/(\mathrm{e}^{\beta\varepsilon }+1)$ で励起する分布

$$p^{\mathrm{can}}(s)=\frac{\mathrm{e}^{-\beta E(s)}}{Z}=\prod_{i=1}^Nx^{n_i}(1-x)^{1-n_i},\qquad Z=(1+\mathrm{e}^{-\beta\varepsilon })^N\tag{2.3.2}$$

である。2つを比べるために、平均のエネルギーがそろうように $\beta$ を選ぶ。$\langle E \rangle _{p^{\mathrm{can}}}=N\varepsilon x=M\varepsilon$ から $x=M/N$ になる。

全体どうしを比べる

まず全体の分布どうしの相対エントロピーを計算する。$p^{\mathrm{can}}$ の対数 $\ln p^{\mathrm{can}}(s)=-\beta E(s)-\ln Z$ はエネルギーだけの関数で、$p^{\mathrm{mc}}$ が確率を置く配置の上では一定値 $-\beta E-\ln Z$ をとる。したがって

$$D(p^{\mathrm{mc}}\,\|\,p^{\mathrm{can}})=\sum_sp^{\mathrm{mc}}(s)\ln\frac{p^{\mathrm{mc}}(s)}{p^{\mathrm{can}}(s)} =-\ln W(E)+\beta E+\ln Z=\frac{S^{\mathrm{can}}-S^{\mathrm{mc}}}{ k_{\mathrm B}}\tag{2.3.3}$$

を得る。ここで $S^{\mathrm{mc}}= k_{\mathrm B}\ln W(E)$ は Boltzmann のエントロピー、$S^{\mathrm{can}}= k_{\mathrm B}(\beta U+\ln Z)$（$U=E$）はカノニカル分布の Gibbs のエントロピーである。この計算は2準位の模型に限らない。どんな系でも、エネルギー殻の上の一様分布と、平均エネルギーをそろえたカノニカル分布の相対エントロピーは、2つの熱力学エントロピーの差を $k_{\mathrm B}$ で割ったものになる。$D\ge0$ から $S^{\mathrm{mc}}\le S^{\mathrm{can}}$ がいつも成り立ち、これはカノニカル分布が「平均エネルギーだけを固定した中でエントロピー最大の分布」であること（第2部第1章）と同じ内容である。

2準位の模型では、第1部第2章 の二項係数の評価から

$$D(p^{\mathrm{mc}}\,\|\,p^{\mathrm{can}})=Nh_{\mathrm b}(x)-\ln\binom NM\approx\frac12\ln\bigl(2\pi Nx(1-x)\bigr)\tag{2.3.4}$$

になる。全体の $D$ は $N$ とともに $\ln N$ の速さで増える。2つの分布は全体としては次第に見分けやすくなる。ただし1粒子あたりでは $D/N\to0$ で、第1部第2章で「Boltzmann と Gibbs のエントロピーは1粒子あたり一致する」と述べたのは、式 (2.3.3) の左辺を $N$ で割ったものが $0$ に行くことである。

部分系に制限して比べる

次に、最初の $k$ 個の粒子だけからなる部分系 $A$ を見る。部分系の配置 $s_A=(n_1,\dots,n_k)$ の中で励起している数を $m$ とする。ミクロカノニカル分布の周辺は、残りの $N-k$ 個に励起を $M-m$ 個配る場合の数を数えて

$$p^{\mathrm{mc}}_A(s_A)=\frac{\binom{N-k}{M-m}}{\binom NM}\tag{2.3.5}$$

である。カノニカル分布の周辺は独立な粒子の積なので $p^{\mathrm{can}}_A(s_A)=x^m(1-x)^{k-m}$ のままである。

周辺を取る操作は確率行列を掛ける操作の1つなので、データ処理不等式（第1部第4章）から$D(p^{\mathrm{mc}}_A\,\|\,p^{\mathrm{can}}_A)\le D(p^{\mathrm{mc}}\,\|\,p^{\mathrm{can}})$ は分かる。実際の減り方はこの不等式よりはるかに大きい。

証明の筋

比の対数を $\delta(s_A)=\ln\bigl(p^{\mathrm{mc}}_A/p^{\mathrm{can}}_A\bigr)$ とおく。式 (2.3.5) を階乗で書き、$M=Nx$ を使うと

$$\delta=\sum_{i=0}^{m-1}\ln\Bigl(1-\frac{i}{Nx}\Bigr)+\sum_{j=0}^{k-m-1}\ln\Bigl(1-\frac{j}{N(1-x)}\Bigr)-\sum_{l=0}^{k-1}\ln\Bigl(1-\frac lN\Bigr) =-\frac{f(m)}{2N}+\mathcal{O}(N^{-2}),$$

$$f(m)=\frac{m(m-1)}{x}+\frac{(k-m)(k-m-1)}{1-x}-k(k-1)$$

となる。$p^{\mathrm{mc}}_A=p^{\mathrm{can}}_A\mathrm{e}^{\delta}$ で $\delta$ が小さいとき、$\sum_{s_A}p^{\mathrm{can}}_A\mathrm{e}^\delta=1$ を使って $D=\langle \delta\,\mathrm{e}^\delta \rangle _{p^{\mathrm{can}}_A}$ を $\delta$ の2次まで展開すると$D=\frac12\mathrm{Var}_{p^{\mathrm{can}}_A}(\delta)+\mathcal{O}(\delta^3)$ になる（第1部第3章の「$D$ はずれの2乗のように振る舞う」の具体形）。残りは $f$ の分散の計算である。$m(m-1)=\sum_{i\neq j}n_in_j$ と書けるので、$i\ne j$ の組ごとに

$$g_{ij}=\frac{n_in_j}{x}+\frac{(1-n_i)(1-n_j)}{1-x}-1$$

とおけば $f=\sum_{i\neq j}g_{ij}=2\sum_{i<j}g_{ij}$ になる。カノニカル分布のもとで $g_{ij}$ は、$n_i=n_j=1$（確率 $x^2$）で $(1-x)/x$、$n_i=n_j=0$（確率 $(1-x)^2$）で $x/(1-x)$、それ以外（確率 $2x(1-x)$）で $-1$ をとるので、平均 $0$、2乗の平均 $(1-x)^2+x^2+2x(1-x)=1$ である。さらに $n_i$ を固定して $n_j$ について平均すると $g_{ij}$ は $0$ になるので、添字を1つでも共有しない組はもちろん、1つ共有する組どうしも無相関である。したがって $\langle f^2 \rangle =4\binom k2=2k(k-1)$、$\mathrm{Var}(\delta)=2k(k-1)/(4N^2)$、$D\approx k(k-1)/(4N^2)$ となる。

全体では $\frac12\ln N$ の程度離れていた2つの分布が、$k$ 個の粒子に制限すると $N^{-2}$ の速さで区別できなくなる。$k=1$ では周辺がちょうど一致する（$D=0$）。1粒子の励起確率は、ミクロカノニカル分布でも $M/N=x$ で、カノニカル分布と同じだからである。$D$ の主要項に $k(k-1)$ が付くのは、ずれが「粒子の組の相関」から生じることを表している。ミクロカノニカル分布では励起の総数が決まっているので、1つの粒子が励起していると、ほかの粒子が励起している確率はわずかに下がる。この負の相関が組ごとに $1/N$ の大きさで残り、$D$ にはその2乗が組の数 $\binom k2$ だけ足し合わされる。

この節の比較は、分布どうし（アンサンブルどうし）の比較である。古典の系では1つの微視状態 $s$ を決めると部分系の配置 $s_A$ も1つに決まるので、「1つの微視状態の部分系がカノニカル分布に従う」という言い方はできない。部分系の分布を語るには、全体の分布（等重率の仮定）を持ち込む必要がある。量子の系ではこの事情が変わる。全体が1つの純粋状態にあっても、部分系の状態は一般に混合状態で、それ自体が確率分布を持つ。次の節からはこの点を使う。