ラグランジュ未定乗数法とKKT条件 — 「接するとき」は何を計算しているのか
問いは木下が出したもので、答えは Claude Code と調べて書いたものです。
ある進学塾での会話を骨組みに再構成した教材。高校で「直線を平行移動して、領域に接するところを 探す」と教えているあの操作が、大学のラグランジュ未定乗数法・KKT条件・線形計画法の双対と 同じものであることを一本の筋で書く。授業で板書する内容ではなく、教える側が全体像を 持つための地図として使う。
0. 全体像 — 4つの名前は同じ絵の一部
| 手法 | 制約 | 目的関数 | 最適点で成り立つこと |
|---|---|---|---|
| 等位線を動かす(高校の解法) | 何でも | 何でも | 等位線が実行可能集合に触れる限界の |
| ラグランジュ未定乗数法 | 等式 (曲線の上を動く) | 何でも | (等位線と制約曲線が接する) |
| KKT条件 | 不等式 (領域の中を動く) | 何でも | が活性な制約の法線が張る錐の中に入る |
| 線形計画法 | 1次不等式(凸多角形) | 1次 | 最適値を与える点が頂点に必ず存在する |
下へ行くほど仮定が強くなり、その分だけ言えることも強くなる。高校の解法は最上段にいるので、 どの問題にも使える代わりに「候補を挙げて値を比べる」という手続きから逃れられない。
1. 高校の解法が実際にやっていること
領域 の中を が動くときの の範囲を求めよ、という問題で、 とおいて 「この図形が と共有点をもつ の範囲」を読む。ここで を動かすと は曲線の族を 描く。これが の等位線(レベルセット) で、地形図の等高線と同じものである。 が の 値そのものなので、等位線の族を動かして に触れる限界を見つければ、それが最大・最小になる。
なぜ「触れる限界」が最適なのかは背理法で見える。もし等位線が を突き抜けて交わっているなら、 その交点から の内部を等位線を横切る向きに少し動けば の値はさらに増やせる。だから最適点では 等位線は を横切れず、境界に接する(あるいは境界の角で止まる)ほかない。
2. 「接する」= = ラグランジュ未定乗数法
制約 のもとで を最大化するとき、最適点では
が成り立つ、というのがラグランジュ未定乗数法である。 は の等位線に垂直、 は制約曲線に 垂直なベクトルだから、この式は2本の曲線の法線が平行、すなわち等位線と制約曲線が接すると 言っているだけになる。高校で図の上で目視している条件と、式が完全に一致する。
導出も同じ絵から出る。制約曲線を媒介変数で と表すと、その上での の変化は 連鎖律から である。最適点ではこれが 。一方、曲線が の 上に乗り続けることから も成り立つ。つまり と はどちらも接ベクトル と直交する。平面では接ベクトルに直交する向きは1方向しかないので、 と は平行、 すなわち となる。 はその比を表す係数にすぎない。
第22回でいえば、練習37(領域 かつ の上で の最大最小)で「円に接するときも 候補にせよ」と言っているのがこれである。、円の境界を とすると 、 だから、 は「位置ベクトル が に平行」と 同値になる。単位円上でこれを満たすのは と の2点で、 を満たすのは 後者だけ。そこで となり、これが最小値である。図で接点を読むのと、ラグランジュを 解くのは、文字どおり同じ計算になっている。なお最大値のほうは円弧と直線 の交点 で取り、こちらは接点ではなく角なので次節の3番目にあたる。
3. λ に図の上の意味がある — 感度・潜在価格
は計算の途中で消える補助文字ではなく、制約をわずかに緩めたときに最適値がどれだけ動くかを 表す。制約を と書き、その下での最適値を とすると、包絡線定理から
が成り立つ。経済学ではこれを潜在価格(shadow price)と呼び、「資源の上限をあと1単位増やしたら 利益はいくら増えるか」と読む。線形計画法では双対問題の変数がこの にあたる。制約が実際には 効いていない(等号で押さえられていない)場合は になり、これは「緩めても最適値は動かない」 という当たり前の事実の式である。
4. 領域(不等式)になると候補は3種類になる
未定乗数法が扱うのは という等式制約、つまり曲線の上を動く場合である。ところが 第22回の問題の制約はすべて不等式で、動く先は領域になる。このとき最大・最小の候補は3種類に 分かれる。
- 領域の内部の停留点()。制約がまったく効いていない場合。
- 滑らかな境界の上で等位線が接する点()。ラグランジュそのもの。
- 境界の角(頂点)。境界が微分できないので「接する」という言い方ができない。
頂点はラグランジュでは拾えない。角では法線が1本に定まらないので という式が 書けないからである。第22回の解法が「頂点を通るときと接するときの両方を候補にせよ」と言うのは 横着ではなく、この3分類を図の上で漏れなく拾う手続きになっている。
| 問 | 目的関数 | 領域 | 効いている場合 |
|---|---|---|---|
| 例題36 | (1次) | 三角形(1次不等式3本) | 3(頂点)。正真正銘の線形計画法 |
| 練習37 | (1次) | かつ の半月形 | 2(円弧に接する=最小)と 3(交点=最大) |
| 例題37 | 、(2次) | 三角形 | 1(原点)と 3(頂点 ) |
| 練習38 | (1次)、(2次) | 放物線 と直線 で囲まれた領域 | 2(放物線に接する)と 3(端点 ) |
5. KKT条件 — 不等式制約への一般化
3分類をひとつの式にまとめたものが KKT条件(Karush–Kuhn–Tucker)である。制約を と 書いて を最大化するとき、最適点では
が成り立つ。3本目が相補性条件で、「効いていない制約()の は でなければならない」 と言っている。§3 の「緩めても最適値が動かない制約の感度は 」がここに入っている。1本目は 幾何的には が活性な制約の法線が張る錐(cone)の中に入るという意味で、活性な制約が1本の ときは に退化してラグランジュへ戻り、2本のときが角にあたる。
例題37(1) で確かめられる。領域は の直角三角形で、頂点は 。 の最大は で 、最小は原点で になる。
- 最小の原点: なので をすべて にとれる。制約が効いていない場合1にあたる。 自身の最小点がたまたま領域に入っていたので、制約は何も仕事をしていない。
- 最大の :活性なのは と の2本。 を と表そうとすると 、 が出て、どちらも 以上になる。 KKT が満たされている。
同じ計算を でやると 、 でこれも KKT を満たす。つまり KKT は必要条件に すぎず、満たす点が複数ある。だから最後は の値を比べて選ぶ。高校で候補を全部挙げてから 大小を比べるのは、この事情をそのまま実行している。
6. 線形計画法と呼べるのはどれか
線形計画法は目的関数と制約条件がどちらも1次式のときの呼び名である。この2つが揃って初めて 実行可能領域が凸多角形になり、「最適値を与える点が頂点に必ず存在する」という線形計画法の 基本定理が働く。これがこの手法の中身なので、名前を広く使いすぎると定理の効き目まで一緒に 持ち込んでしまう。
- 例題36 は制約も目的関数も1次。線形計画法である。
- 例題37 は目的関数が 、 で2次。線形計画法ではない。等位線が直線でなく円・ 放物線になるので、頂点だけ調べれば済むという保証も消える。
- 練習37 は目的関数こそ1次だが制約に円が入るので、厳密には線形計画法ではない(凸計画ではある)。
なお「最適値を与える点が頂点に存在する」は「頂点でしか達成されない」ではない。等位線が 辺と平行なときは辺全体が最適になる。それでも頂点はその中に含まれるので、頂点だけ調べれば 最適値は必ず得られる。
7. 物理・他分野での同じ道具
- 統計力学:エントロピー を、規格化 とエネルギー期待値 の2つの制約のもとで最大化すると、カノニカル分布 が出る。 このときエネルギー制約についた未定乗数 が逆温度 にあたる。§3 の「制約を緩めた ときの感度」という読み方がそのまま効いていて、温度とはエネルギーを1単位与えたときに エントロピーがどれだけ増えるかの逆数、という熱力学の定義に一致する。
- 解析力学:拘束条件つきのラグランジアンに未定乗数を入れて変分をとると、 が拘束力 (束縛力)そのものになる。糸の張力や垂直抗力が計算の副産物として出てくるのはこのため。
- 経済学・オペレーションズリサーチ: が潜在価格。線形計画法の双対問題の変数がこれで、 資源制約の希少性の値段として解釈される。
8. 教える側への含意
中3の授業では「等位線を動かして、頂点を通るときと接するときの両方を候補にする」で必要十分で あり、ラグランジュやKKTを持ち出す意味はない。ただしなぜ両方を見るのかと聞かれたときに、 角では法線が定まらないから接する条件が書けないのだ、と答えられるかどうかで説明の質が変わる。 「そういうものだ」ではなく「境界が折れているところは別扱いが要る」と言えば、生徒が自分で 候補の漏れを点検できるようになる。
線形計画法という語も、例題36 に限って使い、例題37 では使わないのが正確である。授業ノートの POINT と今回のまとめは「線形計画法の考え方」という書き方で区別を保っている。
関連
- 授業ノート:第22回 図形と式(7) §5-4(例題36・37、練習37・38)
- 索引:
中3数学前期_各回要約と例題索引 - 大学側の接続先:統計力学(カノニカル分布の導出)、解析力学(拘束力)、凸最適化・単体法