函数是
f(x,y) = x+xy-x²-y²,
令
fx = 1-y-2x = 0,
fy = x-2y = 0,
解得稳定点 (x1,y1) = (2/5,1/5),比较函数在该点及边界上函数值
f(2/5,1/5) = 7/25,
f(0,y) = -y² (0≤y≤2),
f(1,y) = y-y² (0≤y≤2),
f(x,0) = x-x² (0≤x≤1),
f(x,2) = 3x-x²-4 (0≤x≤1)
(其中后面4个一元函数还得求最大最小值,……,留给你)的大小,就可知道 f(x,y) 在所给区域的最大最小值,……。(结果可参考下图)