梯度_数学名词 - 威林百科weilinceramic.com

梯度

数学名词

梯度是多元实值函数对应的一个向量值函数；在场论中也可认为是一个将标量场作用为向量场的算子。它代表多元函数的值改变“最快”的方向。

定义

二元函数

对于可求偏导的函数，其梯度是一个向量值函数，定义为

有时也记为。

在点处，梯度的取值为

例如对于二元函数，其偏导为

那么在点处，梯度的取值为

一般的多元函数

对于可求各方向偏导的函数，其梯度定义为

在点处，梯度的取值为

方向导数

方向导数定义

对于定义在上的多元函数，在点处，沿着向量的方向导数定义为

特别地，如果的模长为1，那么

其中的被称为向量的方向余弦，是与各方向坐标轴正向的夹角，称为向量的方向角。

方向导数的定义是一元实函数的导数在多元实函数中的自然推广，它表示了多元函数限制在某个特定方向上后降维为一元函数后的导数。如果上述的向量与坐标轴平行，那么方向导数即为偏导数。

梯度的含义

给定一点，多元函数在该点处梯度的取值是一个向量。可微函数沿该向量的方向导数是最大的。

证明：给定点，设的模长为1，那么可微函数沿着该向量的方向导数

显然，当且仅当与梯度同向时，该式取得最大值。最大值为梯度的模长。

应用举例

梯度下降法

梯度下降法是机器学习中最常用的模型优化方法之一。它通过迭代更新参数的方式，沿着负梯度的方向逐步接近最优解，又叫最速下降法。

场论

梯度是场论中的一个经典算子。其与散度、旋度等在场论中可以组合出许多恒等式，得到许多关于向量场的结论。

一个标量场的梯度是向量场，该向量场是无旋的势场，例如电势场等。势场与物理中的保守作用有关。

参考资料

最新修订时间：2024-12-24 10:22

条目作者

概述

定义

方向导数

参考资料