多元极值与约束优化
引入| English | 释义 | 拼音 |
|---|---|---|
| saddle/ˈsædl/ | 鞍点 | ān diǎn |
| Lagrange multipliers/ˈlæɡreɪndʒ ˌmʌltɪˈplaɪəz/ | 拉格朗日乘数 | lā gé lǎng rì chéng shù |
| critical point/ˈkrɪtɪkl pɔɪnt/ | 临界点 | lín jiè diǎn |
平坦点可以是任何类型
- 曲面$x^2+y^2$、$-x^2-y^2$和$x^2-y^2$在原点处均有水平切平面。然而原点分别是极小值点、极大值点和鞍点。梯度为零仅找到候选点,并不能对其进行分类。
- 我们将使用二阶导数、直接不等式和拉格朗日乘数来判定哪些值是实际取得的。允许的定义域至关重要:环境中的鞍点在施加约束后可能变为极小值。
局部、全局和严格是不同的断言
- 局部极小值在足够邻近的允许点处没有更小的值;全局极小值在整个定义域内没有更小的值。严格极小值还排除了在邻近不同点处取等值的情况。对于极大值,不等号方向相反。例如,$x^2$在平面上沿整个$y$轴具有非严格极小值。
- 内部临界点(critical point)是定义域内梯度为零或不存在的一点。驻点(stationary point)特指梯度为零的点。函数$\sqrt{x^2+y^2}$在原点处取得严格的全局极小值,但其梯度在该点不存在。这类奇异候选点需要直接检验。
在分类之前先找出候选点
- 在可微的内部局部极值点处,费马条件给出$f_x=f_y=0$。可微性和内部性至关重要:边界极值点的梯度不一定为零。对于$f=x^2+xy+y^2$,方程$2x+y=0$和$x+2y=0$仅得出原点。
- 在非驻点处,正定的海森矩阵不能用于极值判定。对于$f=x+x^2+y^2$,原点处的二阶偏导数均为正,但$f_x(0,0)=1$不成立。在$x$轴上取值既高于又低于$f(0,0)$且任意接近原点,因此原点不是极值点。
支持 $f=x+x^2+y^2$, positive definiteness of the Hessian at the origin proves a local minimum there.
难度 1/5 · 今日首次完成可获 100 金币及少量额外奖励
The gradient at the origin is (1,0), so the point is not stationary. On the x-axis, x+x² takes both signs arbitrarily near zero. The stationary-point hypothesis is essential.
海森矩阵测试需要光滑性和驻点条件
- 假设$f$在驻点的邻域内具有连续的二阶偏导数。在该点处,记作$A=f_{xx}$、$B=f_{xy}$和$C=f_{yy}$;海森矩阵是以行$(A,B)$和$(B,C)$构成的对称矩阵。其行列式为$D=AC-B^2$。
- 若$D>0$且$A>0$,则给出严格的局部极小值;若$A<0$,则给出严格的局部极大值。若$D<0$,二次项取正负两值,该点为鞍点。若$D=0$,此测试无效。对于$x^2+xy+y^2$、$A=C=2$、$B=1$和$D=3$,给出严格的极小值。
支持 $f = x^2 + xy + y^2$, compute $D = f_{xx}f_{yy} - f_{xy}^2$ at the origin.
难度 2/5 · 今日首次完成可获 140 金币及少量额外奖励
$2 \cdot 2 - 1$; with $f_{xx} > 0$, a minimum.
混合项可能推翻纯偏导数的结论
- 对于 $f=x^2+4xy+y^2$、$A=C=2$ 和 $B=4$,因此有 $D=-12$。沿 $y=x$,当 $x\ne0$ 时值为 $6x^2>0$;沿 $y=-x$,其值为 $-2x^2<0$。这两条路径验证了鞍点的存在,尽管两个纯二阶偏导数均为正。
- 对于原始习题$f=3x^2-6xy+y^2$,梯度在原点和$D=6\cdot2-(-6)^2=-24$处消失。沿$y=0$方向值为正;沿$y=3x$方向值为$-6x^2$。同样,混合项至关重要;仅检查$f_{xx}$和$f_{yy}$会导致对该点分类错误。
The origin is a critical point of $f = 3x^2 - 6xy + y^2$. It is
难度 1/5 · 今日首次完成可获 100 金币及少量额外奖励
$D = 6 \cdot 2 - 36 < 0$.
Classify the origin for $f=x^2+4xy+y^2$. Verify stationarity, compute all Hessian entries and $D$, then confirm the verdict with two paths. Explain why the pure second partials alone are insufficient.
将你的论证与模型及检查表进行比较。
行列式为零时需采用其他论证方法
- 在原点处,$x^4+y^4$由非负性保证取得严格的全局极小值,而$-x^4-y^4$取得严格的全局极大值。两者在原点处的海森矩阵行列式均为零。函数$x^4-y^4$则在坐标轴上取异号值,因此具有鞍点,且其行列式与$D=0$相同。
- 邻域不等式可用于证明极小值或极大值。两条符号相反的路径可否定任一类型的极值。但仅检查若干条路径并发现全为正值,并不能控制所有邻近点;即使所有直线也可能遗漏一个包含负值的弯曲区域。
If $D = 0$ at a critical point, the second-derivative test is inconclusive.
难度 1/5 · 今日首次完成可获 100 金币及少量额外奖励
True. $x^4 + y^4$ (minimum), $-x^4 - y^4$ (maximum) and $x^4 - y^4$ (saddle) all have $D = 0$ at the origin.
每一条直线都可能错过问题所在
- 令$F(x,y)=(y-x^2)(y-2x^2)$。在满足$m\ne0$的固定直线$y=mx$上,对于足够小的非零$x$,其变为$x^2(m-x)(m-2x)>0$。在$y=0$上为$2x^4>0$,在垂直直线$x=0$上为$y^2>0$。每条直线单独在原点处均有严格极小值。
- 原点处梯度为零,即 $D=0$。但在曲线轨迹 $y=3x^2/2$ 上,对于 $x\ne0$,有 $F=-x^4/4<0$。正值也在原点附近任意接近出现,因此这是一个鞍点。仅通过直线检验允许的邻域可能依赖于斜率;它无法提供一个覆盖所有方向和曲线轨迹的统一邻域。
原点处是什么?
分类临界点,包括 D = 0 的情形。
If a smooth function has a strict minimum at the origin on every straight line through it, then it has a local minimum in the plane.
难度 1/5 · 今日首次完成可获 100 金币及少量额外奖励
For F=(y-x²)(y-2x²), every fixed line has a strict minimum at zero, but on y=3x²/2 the value is -x⁴/4. No single neighbourhood is controlled by all separate line checks.
支持 $G(x,y)=(y-2x^2)(y-3x^2)$, show that each straight-line restriction through the origin has a strict minimum there, yet the origin is not a local minimum in the plane.
将你的论证与模型及检查表进行比较。
正则约束导致乘子候选点
- 假设$f$和$g$在受约束局部极值点附近的邻域内具有一阶连续偏导数,且在$g(x,y)=c$上满足$\nabla g\ne0$。必要条件为$\nabla f=\lambda\nabla g$,连同$g=c$。乘子$\lambda$为未知量,极值点为$f(x,y)$。
- 在正则约束极值点处,$f$沿约束切线的导数为零。因此$\nabla f$与法向量$\nabla g$平行,包括$\nabla f=0$的可能性。这些方程产生候选解;仍需检查可行性、奇异点、受限端点和全局行为。
奇异可行点不可遗漏
- 考虑受$g(x,y)=x^2+y^2=0$约束的$f(x,y)=x$。唯一的可行点是原点,因此它既是约束全局最小值也是最大值,值为零。但在该点处$\nabla g=0$。
- 乘子方程要求$(1,0)=\lambda(0,0)$,但无解。这并不否定极值的存在;这是因为正则性假设失效。应将奇异可行点加入候选列表并直接分析,而非除以可能为零的梯度分量。
If the Lagrange equations have no solution, a constrained extremum cannot exist.
难度 1/5 · 今日首次完成可获 100 金币及少量额外奖励
For f=x under x²+y²=0, the origin is the only feasible point and is both a global minimum and maximum. The constraint gradient vanishes, so the regular multiplier theorem does not apply.
证明原直线约束下的最小值
- 在约束 $x+y=6$ 下最小化 $f=x^2+y^2$。由于 $\nabla g=(1,1)\ne0$,乘子方程给出 $2x=\lambda=2y$,进而得到 $x=y=3$ 及目标函数值 $18$。代入后得 $f(x,6-x)=2(x-3)^2+18$,从而在整个直线上得出 $f\ge18$。
- 不存在最大值,因为可行点$(3+t,3-t)$取到值$18+2t^2\to\infty$。仅凭无界直线不足以证明此结论:同一直线上的$-(x^2+y^2)$具有全局最大值$-18$。应考察目标函数在可行点上的实际增长情况。
A function on an unbounded constraint set cannot attain a global maximum.
难度 1/5 · 今日首次完成可获 100 金币及少量额外奖励
The function -(x²+y²) on x+y=6 has a global maximum -18 at (3,3), despite the unbounded line. One must inspect the objective, not only the domain.
凹限制给出最大值
- 在约束 $x+y=10$ 下针对 $f=xy$,正则乘子给出 $y=\lambda=x$,进而推得 $(5,5)$。在约束曲线上,有 $f=x(10-x)=25-(x-5)^2$。因此全局最大值为 $25$,仅在 $(5,5)$ 处取得。
- 整条直线上无最小值,因$(5+t,5-t)$取到$25-t^2\to-\infty$。若施加额外界限如$x,y\ge0$,可行集将变为闭区间;其端点将成为搜索的一部分。在声称全局结果前,须先明确整个约束集。
Maximise $xy$ subject to $x + y = 10$.
难度 2/5 · 今日首次完成可获 140 金币及少量额外奖励
Substitute y = 10 − x: xy = 10x − x², maximised at x = 5 (Lagrange gives y = λ = x). Then xy = 5 · 5 = 25.
紧域保证存在性但不保证位置
- 欧氏空间中非空闭有界子集上的连续函数必达到全局最小值和最大值。对于具分段光滑边界的区域,需检验内部驻点与奇异候选解,对每条边界段分别限制分析,并包含角点和端点。比较实际函数值。
- 该定理不定位极值点,也不表明极值点必位于角点。即使无紧性,极值仍可能存在,但该定理不再保证存在性。若无连续性,仅靠紧性不足;两者条件缺一不可。
遍历正方形的每一条边
- 在 $[-1,1]^2$ 上考虑 $f=x^2-y^2$,唯一的内部驻点是鞍点 $(0,0)$,其值为零。在边界 $x=\pm1$ 上,$f=1-y^2$,因此最大的边界值为 $1$,位于 $y=0$。在 $y=\pm1$ 上,$f=x^2-1$,因此最小的边界值为 $-1$,位于 $x=0$。
- 四个角点值均为零。因$0\le x^2,y^2\le1$,全局上下界为$-1\le f\le1$。最大值在$(\pm1,0)$处取得,最小值在$(0,\pm1)$处取得。仅考察角点会遗漏两者;内部鞍点也不能单独解决全局问题。
What is the maximum of $x^2 - y^2$ on the square $[-1, 1] \times [-1, 1]$?
难度 2/5 · 今日首次完成可获 140 金币及少量额外奖励
At (±1, 0), on the boundary.
What is the global minimum of $x^2-y^2$ on $[-1,1]^2$?
难度 2/5 · 今日首次完成可获 140 金币及少量额外奖励
The bound x²-y² ≥ -1 is attained at (0,1) and (0,-1). Corners have value zero and would miss this minimum.
圆形约束使候选解比较有限
- 在$x^2+y^2=1$上最大化与最小化$f=x+2y$。圆非空且紧,其约束梯度永不消失。乘子给出$1=2\lambda x$和$2=2\lambda y$。于是$\lambda\ne0$、$y=2x$,可行候选解为$(1,2)/\sqrt5$和$-(1,2)/\sqrt5$。
- 其值分别为$\sqrt5$和$-\sqrt5$。因极值存在且所有候选解均已考虑,故即为全局最大值与最小值。不等式$|x+2y|\le\sqrt5\sqrt{x^2+y^2}$独立验证了界及等号成立点。
What is the global maximum of $x+2y$ on $x^2+y^2=1$? Give a decimal to three places.
难度 2/5 · 今日首次完成可获 140 金币及少量额外奖励
The maximum is √5 ≈ 2.236 at (1/√5, 2/√5). Cauchy–Schwarz gives |x+2y| ≤ √5 on the unit circle.
The unit circle can be written as $x^2+y^2=1$ or as $(x^2+y^2-1)^2=0$. For $f=x+2y$, explain why the squared representation breaks the regular multiplier equations, then recover the extrema using the regular representation.
将你的论证与模型及检查表进行比较。
约束与无约束分类可能不同
- 原点是无约束鞍点 $f=x^2-y^2$。在 $y=0$ 上限制时,函数为 $x^2$ 且具有严格约束极小值;在 $x=0$ 上限制时,函数为 $-y^2$ 且具有严格约束极大值。每个判定仅比较可行的邻近点。
- 平面上的完整黑塞矩阵测试可回答无约束问题。对于约束问题,需检查限制或采用适当的约束测试;切勿将无约束鞍点标签直接作为最终判定。应综合检查定义域、正则性、候选方程及所达数值。
由此可得出哪些极值结论?
检查平稳性、正则性及可行边界。
At the origin, how is $f=x^2-y^2$ classified when the allowed points satisfy $y=0$?
难度 1/5 · 今日首次完成可获 100 金币及少量额外奖励
On the constraint the restriction is x², so the origin is a strict constrained minimum. The ambient saddle classification compares points that are not feasible here.
Find all global extrema of $f=x^2-y^2$ on $[-2,1]\times[-1,3]$. Inspect interior candidates, every edge and the corners; give both values and all attaining points.
将你的论证与模型及检查表进行比较。
复习要点
- 鞍点:一个驻点,其任意邻近处均有高于和低于该点的值。
- 拉格朗日乘数法:一种寻找正则约束极值候选点的方法,通过使目标梯度成为约束梯度的倍数来实现。
- 临界点:函数定义域内部一点,其梯度为零或不存在。
- 仅在假设条件下使用黑塞矩阵测试,直接处理 $D=0$,并在决定全局极值前检查所有可行边界或奇异候选点。