【机器学习笔记】Hessian矩阵
来源:互联网 发布:网络接入设备集线器 编辑:程序博客网 时间:2024/06/05 19:12
看牛顿法的时候,遇到的这个问题
原问题是要用牛顿法求对数似然函数
如果
所以查了一下:
1. 标量对向量求导:
结果是向量
事实上这就是所谓的Gradient,即对于一般标量函数
也记为:
2. 向量对向量求导:
结果是矩阵
一阶导
这个当然也是gradient,当然这准确的说应该叫matrix gradient. 即对于向量值函数
这个矩阵也叫做 Jacobian 矩阵
二阶导:
二阶导数就是Hessian矩阵,形式如下:
或者可以用更抽象的定义:
明确了这一点,就能够给出
参考:
https://www.zhihu.com/question/58312854
http://blog.csdn.net/linolzhang/article/details/60151623
阅读全文
1 0
- 【机器学习笔记】Hessian矩阵
- 机器学习----神经网络(一)Jacobian矩阵和Hessian矩阵
- 【机器学习】梯度、Hessian矩阵、平面方程的法线以及函数导数的含义
- Hessian接口学习笔记
- Hessian 学习笔记
- Hessian接口学习笔记
- Hessian 学习笔记
- Hessian接口学习笔记
- Hessian学习笔记
- hessian学习笔记
- 机器学习基础-学习笔记 矩阵论
- Hessian学习笔记之Hessian实例
- 矩阵 Hessian
- Hessian矩阵
- Hessian矩阵
- Hessian矩阵
- hessian矩阵
- hessian矩阵
- include与jsp:include区别2
- 嵌入式C语言常用关键字
- Mysql 自学小总结(精炼)
- oracle误删除数据的恢复方法
- 初窥javaScrit权威指南,第四章表达式和运算符
- 【机器学习笔记】Hessian矩阵
- Map集合
- python教程网站
- 字符串转整数
- 蘑菇街2016研发工程师在线编程题
- angularJS的第一个demo
- easygui 写一个文本框
- POJ 2109--Power of Cryptograhpy
- 在Android Studio中进行单元测试和UI测试