tecktom.com

出てくるもの(3):情報の側から見ると

2026年10月15日11分で読めますAI生成教科書『虎の巻』第6部 第4章 Grover と探索の下界
目次
  1. 当たりを確率変数とみる
  2. 問い合わせで得られる情報量の上限
  3. Fano の不等式と合わせる
  4. Grover の状態での Holevo 量
  5. 木下の層

AI 生成・木下が未勉強

相対エントロピーから情報と物理を組み立てる 第6部 第4章 §6.4.5 ★★★ 当たりを一様な確率変数 VV とみると、kk 回の後に得られる情報量は Holevo 量 χk=S(ρˉk)\chi_k=S(\bar\rho_k) で押さえられ、χk≤hb(δk)+δkln⁡(N−1)\chi_k\le h_{\mathrm b}(\delta_k)+\delta_k\ln(N-1)(δk≤4k2/N\delta_k\le4k^2/N)。情報量は問い合わせの回数の2乗に比例して増える

当たりを確率変数とみる

当たり vv が一様に分布する確率変数 VV だとする。アルゴリズムは V=vV=v のとき状態 ∣ψkv⟩| \psi_k^v \rangle を作り、それを測って答え V^\hat V を出すので、V→(量子状態)→V^V\to(\text{量子状態})\to\hat V は古典の値を量子状態に載せて送り、受け手が測る通信と同じ形をしている(第3部第7章)。送る状態の集まりは {1/N,∣ψkv⟩}\{1/N,| \psi_k^v \rangle \} で、平均の状態は

ρˉk=1N∑v∣ψkv⟩⟨ψkv∣(6.4.24)\bar\rho_k=\frac1N\sum_v| \psi_k^v \rangle \langle \psi_k^v |\tag{6.4.24}

である。比べる2つの状態は、ここでは各 ∣ψkv⟩⟨ψkv∣| \psi_k^v \rangle \langle \psi_k^v | と平均の ρˉk\bar\rho_k になる。その相対エントロピーの平均が Holevo 量

χk=1N∑vD(∣ψkv⟩⟨ψkv∣ ∥ ρˉk)=S(ρˉk)−1N∑vS(∣ψkv⟩⟨ψkv∣)=S(ρˉk)(6.4.25)\chi_k=\frac1N\sum_vD\bigl(| \psi_k^v \rangle \langle \psi_k^v |\,\big\|\,\bar\rho_k\bigr)=S(\bar\rho_k)-\frac1N\sum_vS\bigl(| \psi_k^v \rangle \langle \psi_k^v |\bigr)=S(\bar\rho_k)\tag{6.4.25}

で(純粋状態の von Neumann エントロピーは 00)、Holevo の限界から、どんな測定をしても

I(V;V^)≤χk=S(ρˉk)(6.4.26)I(V;\hat V)\le\chi_k=S(\bar\rho_k)\tag{6.4.26}

が成り立つ。∣ψkv⟩| \psi_k^v \rangle がどれも同じなら ρˉk\bar\rho_k は純粋で χk=0\chi_k=0、互いに直交していれば ρˉk\bar\rho_k は NN 次元の上で一様で χk=ln⁡N\chi_k=\ln N になる。χk\chi_k は「NN 個の状態が平均からどれだけ離れているか」を相対エントロピーで測った量で、6.4.1 節の Δk\Delta_k が距離で測った同じ量の言い換えになっている。

問い合わせで得られる情報量の上限

命題 6.4.6(kk 回で得られる情報量 ★★★)

δk=Δk/N\delta_k=\Delta_k/N が 1−1/N1-1/N 以下なら、

I(V;V^)≤χk≤hb(δk)+δkln⁡(N−1),δk≤4k2N.(6.4.27)I(V;\hat V)\le\chi_k\le h_{\mathrm b}(\delta_k)+\delta_k\ln(N-1),\qquad\delta_k\le\frac{4k^2}N .\tag{6.4.27}

証明

ρˉk\bar\rho_k の最大固有値を下から押さえる。空の状態 ∣ψk⟩| \psi_k \rangle での期待値は⟨ψk∣ρˉk∣ψk⟩=1N∑v∣⟨ψk∣ψkv⟩∣2\langle \psi_k | \bar\rho_k | \psi_k \rangle =\frac1N\sum_v\lvert \langle \psi_k | \psi_k^v \rangle \rvert ^2 である。∥∣ψkv⟩−∣ψk⟩∥2=2−2Re⁡⟨ψk∣ψkv⟩\lVert | \psi_k^v \rangle -| \psi_k \rangle \rVert ^2=2-2\operatorname{Re}\langle \psi_k | \psi_k^v \rangle からRe⁡⟨ψk∣ψkv⟩=1−(dkv)2/2\operatorname{Re}\langle \psi_k | \psi_k^v \rangle =1-(d_k^v)^2/2 で、(dkv)2<1(d_k^v)^2<1 なら ∣⟨ψk∣ψkv⟩∣2≥(1−(dkv)2/2)2≥1−(dkv)2\lvert \langle \psi_k | \psi_k^v \rangle \rvert ^2\ge(1-(d_k^v)^2/2)^2\ge1-(d_k^v)^2、(dkv)2≥1(d_k^v)^2\ge1 なら右辺が 00 以下なので同じ不等式が成り立つ。平均を取ると、最大固有値 λmax⁡\lambda_{\max} は λmax⁡≥⟨ψk∣ρˉk∣ψk⟩≥1−δk\lambda_{\max}\ge\langle \psi_k | \bar\rho_k | \psi_k \rangle \ge1-\delta_k を満たす。ρˉk\bar\rho_k は NN 個の純粋状態の平均なので、0 でない固有値は高々 NN 個である。最大固有値が 1−δ1-\delta 以上で、0 でない固有値が NN 個以下の分布のエントロピーは、最大固有値がちょうど 1−δ1-\delta で残りの δ\delta が N−1N-1 個に等分されたときに最大で(δ≤1−1/N\delta\le1-1/N のとき)、その値が hb(δ)+δln⁡(N−1)h_{\mathrm b}(\delta)+\delta\ln(N-1) である。この値は δ\delta について 1−1/N1-1/N まで増加するので、δk\delta_k で押さえた式 (6.4.27) を得る。δk≤4k2/N\delta_k\le4k^2/N は定理 6.4.3 である。

この上限は、kk が小さいうちは χk≲(4k2/N)ln⁡N\chi_k\lesssim(4k^2/N)\ln N になる。比べるために古典の手順を見ておく。kk 回の問い合わせで kk 個の候補を調べると、答えの記録は「当たりが jj 番目だった」(各確率 1/N1/N)か「どれも外れ」(確率 1−k/N1-k/N)のどれかで、そこから得られる情報量は

Ikcl=kNln⁡N−(1−kN)ln⁡(1−kN)≈kN(ln⁡N+1)(6.4.28)I_k^{\mathrm{cl}}=\frac kN\ln N-\Bigl(1-\frac kN\Bigr)\ln\Bigl(1-\frac kN\Bigr)\approx\frac kN(\ln N+1)\tag{6.4.28}

である。古典の問い合わせは1回ごとにほぼ一定の情報量 (ln⁡N)/N(\ln N)/N 程度を足し、kk に比例して情報を集める。量子の問い合わせで得られる情報量の上限は k2k^2 に比例して増え、上限の増え方で見ると、kk 回目の問い合わせが足せる分はおよそ (8k/N)ln⁡N(8k/N)\ln N で、後の問い合わせほど多くを足せる。振幅が kk に比例して増え、情報は確率(振幅の2乗)の大きさで入ってくるからである。問い合わせ1回あたりの平均で見ても χk/k≲(4k/N)ln⁡N\chi_k/k\lesssim(4k/N)\ln N で、これが ln⁡N\ln N の全体を集めるのに k∼Nk\sim\sqrt N 回を要する理由になる。

Fano の不等式と合わせる

誤りなく当てる(V^=V\hat V=V)なら I(V;V^)=H(V)=ln⁡NI(V;\hat V)=H(V)=\ln N が要る。式 (6.4.27) の右辺が ln⁡N\ln N に達するのは δk=1−1/N\delta_k=1-1/N のときだけなので(その値を入れると hb(1/N)+(1−1/N)ln⁡(N−1)=ln⁡Nh_{\mathrm b}(1/N)+(1-1/N)\ln(N-1)=\ln N)、

4k2N≥1−1N,すなわちk≥N−12(6.4.29)\frac{4k^2}N\ge1-\frac1N,\qquad\text{すなわち}\qquad k\ge\frac{\sqrt{N-1}}2\tag{6.4.29}

が要る。誤りを許すなら、Fano の不等式(第1部第6章)H(V ∣ V^)≤hb(Perr)+Perrln⁡(N−1)H(V\,|\,\hat V)\le h_{\mathrm b}(P_{\mathrm{err}})+P_{\mathrm{err}}\ln(N-1) とH(V ∣ V^)=ln⁡N−I(V;V^)≥ln⁡N−χkH(V\,|\,\hat V)=\ln N-I(V;\hat V)\ge\ln N-\chi_k を合わせて、誤りの確率の下限が出る。情報の側からの下界 (6.4.29) は、6.4.4 節の下界 (6.4.22) と同じ N/2\sqrt N/2 になる。2つの議論は同じ不等式 Δk≤4k2\Delta_k\le4k^2 から出発しているので、これは偶然ではない。

Grover の状態での Holevo 量

Grover のアルゴリズムでは χk\chi_k が閉じた形で求まる。ρˉk\bar\rho_k は候補の入れ替えで不変なので、∣s⟩| s \rangle と、それに直交する N−1N-1 次元の空間とで対角になる。∣s⟩| s \rangle 方向の固有値は 1N∑v∣⟨s∣ψkv⟩∣2=cos⁡2(2kθ)\frac1N\sum_v\lvert \langle s | \psi_k^v \rangle \rvert ^2=\cos^2(2k\theta) で、残りの sin⁡2(2kθ)\sin^2(2k\theta) は N−1N-1 次元に等分される。したがって

χkGrover=hb(sin⁡2(2kθ))+sin⁡2(2kθ)ln⁡(N−1)(6.4.30)\chi_k^{\mathrm{Grover}}=h_{\mathrm b}\bigl(\sin^2(2k\theta)\bigr)+\sin^2(2k\theta)\ln(N-1)\tag{6.4.30}

で、命題 6.4.6 の上限の形そのものになる(δk\delta_k の代わりに sin⁡2(2kθ)≤4k2/N\sin^2(2k\theta)\le4k^2/N が入る)。計算基底で測ったときの情報量は、当たりが確率 PkP_k で出て、外れが残りの N−1N-1 個に等分されるので

IkGrover=ln⁡N−hb(Pk)−(1−Pk)ln⁡(N−1),Pk=sin⁡2((2k+1)θ)(6.4.31)I_k^{\mathrm{Grover}}=\ln N-h_{\mathrm b}(P_k)-(1-P_k)\ln(N-1),\qquad P_k=\sin^2\bigl((2k+1)\theta\bigr)\tag{6.4.31}

である。図 6.4.3 に N=256N=256 でこれらを示す。

図

図 6.4.3 N=256N=256(ln⁡N=8\ln N=8 ビット)で、kk 回の問い合わせの後に得られる情報量。実線は命題 6.4.6 の上限 hb(δ)+δln⁡(N−1)h_{\mathrm b}(\delta)+\delta\ln(N-1)(δ=min⁡(4k2/N,1−1/N)\delta=\min(4k^2/N,1-1/N))、丸は Grover の状態の Holevo 量 (6.4.30)、三角は計算基底で測ったときの情報量 (6.4.31)、四角は古典の手順の (6.4.28)(点線の3本は厳密な値)。上限は k≥255/2=7.98k\ge\sqrt{255}/2=7.98 で 88 ビットに届き、Grover は k∗=12k_*=12 回でほぼ 88 ビットを得る。古典は12回で 0.440.44 ビット。

図から2つのことが読み取れる。1つ目は、Grover の状態の Holevo 量が上限にほぼ沿って k2k^2 に比例して立ち上がることで、Grover のアルゴリズムは情報の側から見ても問い合わせを使い切っている。2つ目は、計算基底で測って実際に取り出せる情報量 IkI_k が、途中では χk\chi_k よりかなり小さいことである。途中の状態 ∣ψkv⟩| \psi_k^v \rangle たちは互いに直交しておらず、1つずつ計算基底で測るとその重なりの分だけ情報を取りこぼす。最後の k∗k_* 回目で状態がほぼ ∣v⟩| v \rangle になり、直交するようになって初めて、χk\chi_k と IkI_k が揃って ln⁡N\ln N に近づく。

例題 6.4.5 1回目の問い合わせで得られる情報量 ★★

オリジナルN=1024N=1024(ln⁡N=10\ln N=10 ビット)とする。

  1. Grover の反復を1回した後の Holevo 量 χ1\chi_1 と、計算基底で測ったときの情報量 I1I_1 をビットで求めよ。命題 6.4.6 の上限とも比べよ。
  2. 古典の手順で1回問い合わせたときの情報量をビットで求めよ。
  3. 最適な回数 k∗=25k_*=25 での χ25\chi_{25} と I25I_{25} をビットで求めよ。
解答

(1) θ=arcsin⁡(1/32)\theta=\arcsin(1/32)、sin⁡2(2θ)=4sin⁡2θcos⁡2θ=4N(1−1N)=0.0039024\sin^2(2\theta)=4\sin^2\theta\cos^2\theta=\frac4N\bigl(1-\frac1N\bigr)=0.0039024。式 (6.4.30) からχ1=[hb(0.0039024)+0.0039024ln⁡1023]/ln⁡2=0.0759\chi_1=[h_{\mathrm b}(0.0039024)+0.0039024\ln1023]/\ln2=0.0759 ビット。上限は δ=4/N=0.0039063\delta=4/N=0.0039063 を入れて 0.07590.0759 ビットで(4桁目で違う)、ほぼ等号である。成功確率は P1=sin⁡2(3θ)=0.008766P_1=\sin^2(3\theta)=0.008766 で、式 (6.4.31) から I1=0.0166I_1=0.0166 ビット。

(2) 式 (6.4.28) で k=1k=1:[11024ln⁡1024−10231024ln⁡10231024]/ln⁡2=0.0112[\frac1{1024}\ln1024-\frac{1023}{1024}\ln\frac{1023}{1024}]/\ln2=0.0112 ビット。1回目の問い合わせだけを見ると、量子で測った情報量 0.01660.0166 ビットは古典の 1.51.5 倍ほどで、大きな差はない。Holevo 量 0.07590.0759 ビットは古典の約7倍あるが、そのほとんどはまだ直交していない状態の重なりの中にあって、1回目の直後に測っても取り出せない。

(3) sin⁡2(50θ)=0.99994\sin^2(50\theta)=0.99994 で χ25=9.999\chi_{25}=9.999 ビット、P25=sin⁡2(51θ)=0.99946P_{25}=\sin^2(51\theta)=0.99946 で I25=9.988I_{25}=9.988 ビット。25回の問い合わせでほぼ10ビットを得た。古典の手順では25回で 0.2790.279 ビットである。

木下の勉強ステータス

木下はまだこの記事を勉強していません。

AI(Claude)が書いた教材を、木下が勉強しながら公開しています。式と数値は検算していますが、誤りが残っているかもしれません。誤りのご指摘・削除のご依頼をいただければ直します。 連絡先:support@tecktom.com

← AI生成教科書『虎の巻』の記事一覧へ