参考视频1:https://www.bilibili.com/video/BV1H64y1T7zQ/?spm_id_from=333.337.search-card.all.click
参考视频2(正定矩阵):https://www.bilibili.com/video/BV1Ag411M76G/?spm_id_from=333.337.search-card.all.click&vd_source=7a1a0bc74158c6993c7355c5490fc600
首先先来看一下 Hessian 矩阵的定义
计算 Hessian 矩阵有两种方法
1.从定义出发:
这种方法很简单,看上图的定义,计算多元二次函数的所有偏导,然后把它们填进 Hessian 矩阵即可
2.先转成二次型,然后再计算 Hessian 矩阵
参考正定矩阵那个视频,我们先把 多元二次 函数按照 “二次矩阵” 的方式写下来,如下图
如果能写成那个矩阵乘法的形式,那么此时它的二次偏导矩阵 (Hessian矩阵) 就是 A
以下是一个例子:
The calculation process is as follows: