この章のまとめ

(1) 同時分布は $p(\mathrm L,\text{点})=\frac12\cdot\frac34=\frac38$、$p(\mathrm L,\text{消})=\frac12\cdot\frac14=\frac18$、$p(\mathrm R,\text{消})=\frac12$、$p(\mathrm R,\text{点})=0$ である。$p(\text{点})=3/8$ なので $H(Y)=h_{\mathrm b}(3/8)=0.6616$、$H(Y\,|\,X)=\frac12h_{\mathrm b}(1/4)+\frac12\cdot0=\frac12\times0.5623=0.2812$ で、

$$I(X;Y)=H(Y)-H(Y\,|\,X)=0.6616-0.2812=0.3804\ \text{nat}$$

である。

(2) 定理 4.4.2 から、最適な $q_y$ は事後分布である。点灯したときは分子は確実に左なので $q_{\text{点}}(\mathrm L)=1$（仕切りを右の壁まで動かす）。消えているときは $p(\mathrm L\,|\,\text{消})=\frac{1/8}{5/8}=\frac15$ なので $q_{\text{消}}(\mathrm L)=1/5$（仕切りを左へ動かし、左の部屋を全体の $1/5$ に縮める）。式 (4.4.7) の形で

$$(\mathrm L,\text{点})\ \ln\frac{1}{1/2}=0.6931,\qquad(\mathrm L,\text{消})\ \ln\frac{1/5}{1/2}=-0.9163,\qquad(\mathrm R,\text{消})\ \ln\frac{4/5}{1/2}=0.4700$$

である。平均は $\frac38\times0.6931+\frac18\times(-0.9163)+\frac12\times0.4700=0.2599-0.1145+0.2350=0.3804$ で、(1) の $I(X;Y)$ に等しい。読み落としの回（$\mathrm L$ で消）は仕事を払うが、その確率は $1/8$ と小さい。

(3) 最適な操作では、どの経路でも $-\beta W=\ln\frac{p(x\,|\,y)}{p(x)}=I(x;y)$ なので $\mathrm{e}^{-\beta W-I}=1$ で、平均も $1$ である。$\gamma=\langle \mathrm{e}^{-\beta W} \rangle =\frac38\times2+\frac18\times0.4+\frac12\times1.6=0.75+0.05+0.8=1.6$ である。逆回しの過程で求め直す。「点」の操作の逆回しは、仕切りを右の壁の位置に入れて（分子は確実に左）真ん中まで戻し、検出器で見るので、「点」が出る確率は $3/4$ である。「消」の操作の逆回しは、仕切りを割合 $1/5$ の位置に入れて（分子は確率 $1/5$ で左）真ん中まで戻すので、「消」が出る確率は $\frac15\cdot\frac14+\frac45\cdot1=0.85$ である。$\gamma=0.75+0.85=1.6$ で一致する。

(4) 「消」のときの終わりの位置が $q_{\text{消}}=(1/2,1/2)$ になるので、式 (4.4.9) から損失は

$$p(\text{消})\,D\bigl((1/5,4/5)\,\|\,(1/2,1/2)\bigr)=\frac58\bigl(\ln2-h_{\mathrm b}(1/5)\bigr)=\frac58(0.6931-0.5004)=0.1205$$

で、取り出す仕事の平均は $0.3804-0.1205=0.2599$ である。経路ごとには、$(\mathrm L,\text{点})$ が $-\beta W=\ln2$、$I=\ln\frac{3/4}{3/8}=\ln2$、$(\mathrm L,\text{消})$ が $-\beta W=0$、$I=\ln\frac{1/4}{5/8}=\ln0.4$、$(\mathrm R,\text{消})$ が $-\beta W=0$、$I=\ln\frac{1}{5/8}=\ln1.6$ なので

$$\langle \mathrm{e}^{-\beta W-I} \rangle =\frac38\times1+\frac18\times\frac{1}{0.4}+\frac12\times\frac{1}{1.6}=0.375+0.3125+0.3125=1$$

で、等式は操作が最適でなくても成り立つ。

(5) 仕切りを位置 $a$ に入れると $p(x)=(a,1-a)$ で、仕切りの初めの体積の割合は $p(x)$ に等しいので、式 (4.4.9) がそのまま使え、最適なフィードバックでの仕事の平均は $k_{\mathrm B} T\,I(X;Y)$ である。$I$ は入力の分布 $(a,1-a)$ と通信路 $p(y\,|\,x)$ で決まり、

$$I(a)=h_{\mathrm b}\bigl(a(1-s)\bigr)-a\,h_{\mathrm b}(s)$$

である。$a$ について最大にしたものが通信路容量 $C$ で、取り出す仕事の上限は $k_{\mathrm B} T\,C$ になる。$\frac{\mathrm{d} I}{\mathrm{d} a}=(1-s)\ln\frac{1-a(1-s)}{a(1-s)}-h_{\mathrm b}(s)=0$ を解くと$a^*=\dfrac{1}{(1-s)\bigl(1+\mathrm{e}^{h_{\mathrm b}(s)/(1-s)}\bigr)}=0.4278$ で、$C=I(a^*)=0.3869$ nat（$0.558$ ビット）である。$300\,\mathrm K$ では $k_{\mathrm B} T\,C=1.60\times10^{-21}\,\mathrm J$ になる。仕切りを真ん中より少し左に入れると、読み落としのある「点」側の不確かさが減り、$a=1/2$ の $0.3804$ より仕事が増える。

(6) $p(\text{点})=a^*(1-s)=0.3209$ なので $H(Y)=h_{\mathrm b}(0.3209)=0.6275$ nat である。記録を消すのに $k_{\mathrm B} T\,H(Y)$ 以上が要るなら、1周の正味の取り出す仕事は

$$k_{\mathrm B} T\bigl[I(X;Y)-H(Y)\bigr]=- k_{\mathrm B} T\,H(Y\,|\,X)=- k_{\mathrm B} T\,a^*h_{\mathrm b}(s)=-0.2406\, k_{\mathrm B} T$$

以下で、負である。測定器の雑音 $H(Y\,|\,X)$ の分は、記録には残るが系についての情報ではないので、消すときに払うだけになる。測定と消去を合わせた代償が $k_{\mathrm B} T\,I$ まで下がりうること（メモリーを工夫して $H(Y\,|\,X)$ の分を取り戻す方法）は 第4部第5章 で扱う。