C.6 · Multivariable extrema and constrained optimisation

大学卒GRE準備。検証済みETS範囲内の地域的な目標；これは独自の教育であり、公式テストや得点予測器ではありません。

前提知識：偏微分、二次形式、コンパクト性および拘束条件。

• ヘッセ行列を用いて2変数の臨界点を分類する
• 正規な拘束条件に対してラグランジュ乗数法を用いる
• 正規な拘束条件の下での極値と到達可能値を比較する

ヘッセ行列: 局所的な曲率を調べるために用いられる2階偏微分の行列。

ラグランジュ乗数: 拘束された極値において目的関数と正規な拘束条件の勾配を結びつけるスカラー量。

開集合上の微分可能な関数において、内部の局所極値では勾配がゼロになる。この条件は必要十分条件ではなく、必要条件に過ぎない。2変数の場合、臨界点において D=f_xx f_yy−(f_xy)² とおく。D>0 かつ f_xx>0 のとき厳密な局所最小となり、f_xx<0 のとき厳密な局所最大となる；D<0 のとき鞍点となる。これらの判定には、点近傍での適当な2階導関数の正則性が要求される。

D=0 のとき2階導関数の判定は不決であり、鞍点である証拠ではない。関数 x⁴+y⁴ と x⁴−y⁴ は原点で同じゼロのヘッセ行列を持つが、前者は厳密な最小を持ち、後者は符号が変わる。異なる方向に沿って評価するか、直接の不等式を用いる。二次形式においては、正定常性はより一般的なヘッセ行列の解釈を与える。

滑らかな等式拘束 g(x,y)=c（勾配 g がゼロでない）において、勾配 f = λ × 勾配 g と g=c を連立して解く。これらの方程式は候補を生成するが、極値の分類や全域極値の保証にはならない。拘束条件の勾配が零なら正則性条件が破れ、乗数方程式が拘束極値を見逃すことがある。此类の点は別扱いとする。x²+y²=a および xy=b>0 のとき、(x−y)²=a−2b は必要性 a≥2b を示す。これは十分条件でもある：s=√(a+2b)、d=√(a−2b)、x=(s+d)/2、y=(s−d)/2 と置けば、これら実数値は xy=b かつ x²+y²=a を満たす。最小化条件だけでは、実現可能性を確認するためにこの検証が必要である。

コンパクトな実行可能集合上の連続関数は全体的な極値をとる。それらを見つけるには、すべての内部候補と、角や端点を含む境界の各部分と比較する。長方形については、各辺における制限を最適化する。円盤については、円周の境界にパラメータまたは乗数を用いることができる。無制約勾配のみを解くと、境界による勝者が見落とされる可能性がある。

制約 x+y=6 のもとで x²+y² を最小化せよ。制約の勾配は (1,1) であるため、2x=lambda および 2y=lambda となる。したがって x=y であり、制約により x=y=3 となり、その値は 18 である。直線上での平方完成により、x²+(6−x)²=2(x−3)²+18 となり、これが全域最小であることを示す。この有界でない直線上には最大値はなく、未定乗数の候補が存在するにもかかわらずである。

ラグランジュの未定乗数の解は候補に過ぎず、自動的に最大値または最小値であるわけではない。正則性と完全な実行可能集合を確認せよ。

$f(x,y)=x^2-y^2$ および $g(x,y)=x^4+y^4$ について原点を分類せよ。ヘッセ行列の検定量がゼロであることにより何就说明できるか述べよ。

解例

f についてヘッセ行列は $\operatorname{diag}(2,-2)$ で検定量は -4 であり、原点は鞍点である。座標軸に沿うと値は異符号となる。g について原点でのヘッセ行列はゼロであり、2階導関数の判定は不決である。しかし nonetheless $x^4+y^4\ge0$ であり、等号は原点のみで成立する；これは厳密な全体的最小である。不決の判定は点の分類ではない。

$f(x,y)=xy$ に対して拘束 ⟨$x^2+y^2=2$⟩ の下で全ての極値を求めよ。直線 ⟨$x+y=4$⟩ 上で ⟨$x^2+y^2$⟩ を最小化することと比較し、最大値が存在するかどうかも含めよ。

解答後の確認

円はコンパクトであり、その拘束の勾配 $(2x,2y)$ はそこで決してゼロにならない。乗数により $y=2\lambda x$、$x=2\lambda y$ が得られる。 stationary point においてどちらの座標もゼロになり得ないため、$y=\pm x$ となる。4つの候補 $(1,1),(-1,-1),(1,-1),(-1,1)$ により全体的な最大値 1 と最小値 -1 が得られる。境界 ⟨$2|xy|\le x^2+y^2=2$⟩ は完全性の確認を行う。 直線上では $x^2+(4-x)^2=2(x-2)^2+8$ であるため、最小値は $(2,2)$ における 8 である。式是无界であるため最大値はない。乗数による候補のみでは、コンパクト性を確立できない。