黑塞矩阵
二阶偏导数构成的方阵
黑塞矩阵(Hessian Matrix),又译作海森矩阵、海瑟矩阵、海塞矩阵等,是一个多元函数的二阶偏导数构成的方阵,描述了函数的局部曲率。黑塞矩阵最早于19世纪由德国数学家Ludwig Otto Hesse提出,并以其名字命名。黑塞矩阵常用于牛顿法解决优化问题,利用黑塞矩阵可判定多元函数的极值问题。在工程实际问题的优化设计中,所列的目标函数往往很复杂,为了使问题简化,常常将目标函数在某点邻域展开成泰勒多项式来逼近原函数,此时函数在某点泰勒展开式的矩阵形式中会涉及到黑塞矩阵。
定义
在工程实际问题的优化设计中,所列的目标函数往往很复杂,为了使问题简化,常常将目标函数在某点邻域展开成泰勒多项式来逼近原函数
二元函数的黑塞矩阵
由高等数学知识可知,若一元函数 在 点的某个邻域内具有任意阶导数,则 在 点处的泰勒展开式为: ,其中 , 。
二元函数 在 点处的泰勒展开式为:
其中, 。
将上述展开式写成矩阵形式,则有:
即:
其中:
是 在 点处的黑塞矩阵。它是由函数 在 点处的二阶偏导数所组成的方阵。
多元函数的黑塞矩阵
将二元函数的泰勒展开式推广到多元函数,则 在 点处的泰勒展开式的矩阵形式为:
其中:
(1) ,它是 在 点处的梯度。
(2) 为函数 在 点处的黑塞矩阵。
黑塞矩阵是由目标函数 在点X处的二阶偏导数组成的 阶对称矩阵
对称性
如果函数 在 区域内二阶连续可导,那么 黑塞矩阵 在 内为对称矩阵
原因:如果函数 的二阶偏导数连续,则二阶偏导数的求导顺序没有区别,即
则对于矩阵 ,有 ,所以 为对称矩阵。
应用
定理
设n多元实函数 在点 的邻域内有二阶连续偏导,若有:
并且
则有如下结果:
(1)当A正定矩阵时, 在 处是极小值;
(2)当A负定矩阵时, 在 处是极大值
(3)当A不定矩阵时, 不是极值点。
(4)当A为半正定矩阵或半负定矩阵时, 是“可疑”极值点,尚需要利用其他方法来判定。
实例
求三元函数的极值。
解:因为,故该三元函数的驻点是。
又因为,
故有:
因为A是正定矩阵,故是极小值点,且极小值。
参考资料
最新修订时间:2023-01-08 21:38
目录
概述
定义
参考资料