求解LambdaMART的疑惑？



求解LambdaMART的疑惑？

研究这个LambdaMART好久了，无奈自己在这瞎研究，脑子实在不够用，网上也看了博客，到最后还是看不懂，我明白的是MART是一个学习打分的算法，通过让多棵树进行线性融合，结果得出一个分数，而每一轮就是不断的学习残差的过程。但是我不明白的是，LambdaMART中的Lambda到底是怎么会代表着梯度（它是从RankNet中推导的，但是实在是没明白），它的物理意义是什么？请大神用通俗易懂的话讲给在下，求讲解LambdaMART算法的每一步具体的含义，有理解的，请来吧，谢谢了。

添加评论

分享

 

0赞同反对，不会显示你的姓名

姜国华 ，小程序员

是梯度。RankNet在推导的时候只用了Ui比Uj的相关性高还是低（-1, 0, 1），没用上包含位置信息的评估指标（如NDCG），就推出了梯度lambda。所以LambdaMART的lambda，就强硬的在RankNet的lambda上乘上了评估指标的变化（因为评估指标不连续导致目标函数难以推…显示全部

是梯度。RankNet在推导的时候只用了Ui比Uj的相关性高还是低（-1, 0, 1），没用上包含位置信息的评估指标（如NDCG），就推出了梯度lambda。所以LambdaMART的lambda，就强硬的在RankNet的lambda上乘上了评估指标的变化（因为评估指标不连续导致目标函数难以推导）。注意RankNet到LambdaMART的目标函数，从代价函数变成了效用函数，所以从使用负梯度变成了正梯度。