机电工程学院：《机械优化设计》课程教学资源（PPT课件）第二章 优化方法的数学基础

第二章优化方法的数学基础 §2-1方向导数与梯度 §2-2凸集、凸函数与凸规划 §23二次函数及正定矩阵 §2-4无约束优化问题的极值条件 §2-5有约束优化问题的极值条件

第二章 优化方法的数学基础 §2-1 方向导数与梯度 §2-2 凸集、凸函数与凸规划 §2-3 二次函数及正定矩阵 §2-4 无约束优化问题的极值条件 §2-5 有约束优化问题的极值条件

§2-1方向导数与梯度 方向导数 二元函数在点x处沿某一方向s的方向导数 OF F(x10+△x1,x20+△x2)-F(x0,x20 as △S→0 △s 方向导数是偏导数概念的推广 方向导数与偏导数之间的数量关系是 aF aF OF cos 6+ cos e as ax 2x0

§2-1 方向导数与梯度 0 10 1 20 2 10 20 0 ( , ) ( , ) lim S F F x x x x F x x s s  →  +  +  − =   x 0 0 0 1 2 1 2 cos cos F F F s x x      = +    x x x 一、方向导数 二元函数在点x0处沿某一方向s的方向导数 方向导数是偏导数概念的推广。 方向导数与偏导数之间的数量关系是

n元函数在点x0处沿s方向的方向导数 OF OF OF aF cos0+ cose.+ cose as 四OF cose △ △ △ 图2

n元函数在点x0处沿s方向的方向导数 0 0 0 0 0 1 2 1 2 1 cos cos cos cos n n n i i i F F F F s x x x F x     =     = + + +      =   x x x x x O x2 x10 x1 x20 x0 x1 x2 s x S  1  2 图2-1

梯度 二元函数的梯度 aF aF aF coS cose OFOF COS 6 Ox1Ox2」 COS OF ax OFOF VF(x) 为函数F(x1,x2) OF Ox1Ox⊥.在x0点处的梯度

二、 梯度 二元函数的梯度 0 0 0 1 2 1 2 cos cos F F F s x x      = +    x x x 0 1 1 2 2 cos cos F F x x         =         x   0 0 1 0 1 2 2 ( ) T F x F F F F x x x            = =                x x x 为函数F(x1，x2 ) 在x0点处的梯度

cOS 设 cose OF OF OF‖cosO ax. a COS VF. S=VF.scos(VF, s 梯度方向和s方向重合时,方向导数值最大。 梯度的模: OF OF VE

梯度的模： ( ) 1 1 2 2 cos cos cos , T F F F s x x F s F s F s         =          =   =    2 2 1 2 F F F x x        = +           设 1 2 cos cos s     =     梯度方向和s方向重合时，方向导数值最大

cos e 设 为单位向量 COS OF 则有 as/==VF(xo)'s=VF(xo)cos(VF, S) 梯度方向是函数值变化最快的方向,而梯度 的模就是函数变化率的最大值 vfO 最速上升方向 vfo 上升方向 最速下降方向 下降方向变化率为零的方向 x 图22梯度方向与等值线的关系

1 2 cos cos s          O x2 x1 x0 变化率为零的方向 最速下降方向 下降方向 上升方向 最速上升方向 －f(x0 ) f(x0 ) 梯度方向是函数值变化最快的方向，而梯度 的模就是函数变化率的最大值。 图2-2 梯度方向与等值线的关系 0 0 0 ( ) ( ) cos( , ) F T F s F F s s  =  =    x x x 设： 则有 为单位向量

多元函数的梯度 aF OF OFOF aF VF(o= ax, X Ox aF aF naF 2Dx cos 0, =VF(xo)d=VF(xo)cOs(VF, s) S

多元函数的梯度 0 0 1 0 2 1 2 ( ) T n n F x F F F F F x x x x F x                     =                      x x x 0 0 0 0 1 cos ( ) ( ) cos( , ) n T i i i F F F F F s s x  =   = =  =     x x  x d x

梯度ⅤF(x)模: 、OF |vF(x)=∑ ax 函数的梯度方向与函数等值面相垂直,也就是 和等值面上过x0的一切曲线相垂直 由于梯度的模因点而异,即函数在不同点处的 最大变化率是不同的。因此,梯度是函数的一种局 部性质

0 1 2 2 0 1 ( ) ( ) n i i F F = x     =       x x 函数的梯度方向与函数等值面相垂直，也就是 和等值面上过x0的一切曲线相垂直。 由于梯度的模因点而异，即函数在不同点处的 最大变化率是不同的。因此，梯度是函数的一种局 部性质。 0 ⚫梯度 F( ) x 模：

梯度两个重要性质: 性质一函数在某点的梯度不为零,则必与过该点 的等值面垂直; 性质二梯度方向是函数具有最大变化率的方向 vf(xo) 最速上升方向 上升方向 最速下降方向 下降方向变化率为零的方向 x 图22梯度方向与等值面的关系

梯度两个重要性质： 性质一 函数在某点的梯度不为零，则必与过该点 的等值面垂直； 性质二 梯度方向是函数具有最大变化率的方向。 O x2 x1 x0 变化率为零的方向 最速下降方向 下降方向 上升方向 最速上升方向 －f(x0 ) f(x0 ) 图2-2 梯度方向与等值面的关系

例题2-1 求函数f(x)=x2+x2-4x+4在点3,2「的梯度。 解: 2x,-4 Vf(x) 在点x()=3,2处的梯度为 2x,-4 Vf(x) 4

例题 2-1 求函数 在点[3,2]T 的 梯度。 2 2 1 2 1 f x x x ( ) 4 4 x = + − + 1 1 2 2 2 4 ( ) 2 f x x f f x x         −  = =              x (1) (1) 1 2 2 4 2 ( ) 2 4 x x f x   −    = =         x 在点x (1)=[3,2]T处的梯度为： ⚫解：