LightGBM中的一些tips
来源:互联网 发布:淘宝网吧二手电脑 编辑:程序博客网 时间:2024/06/05 05:44
改进
直方图算法(Histogram)
根据直方图中的离散值,遍历寻找最优分割点:
把连续的浮点特征离散 -> k个整数 -> 宽为k的直方图
遍历,离散化的值作为索引,在直方图中累积统计量
加速
- 叶子 = 父 - 兄弟 (直方图做差)
- Leaf-wise带深度限制的叶子生长策略
- 支持categorical feature
并行
- feature parallel:每个worker中有所有feature数据,本地split
- data parallel:只汇总不同worker的不同feature的直方图,在汇总的直方图上split
带深度限制的Leaf-wise
- Level-wise (GBDT, XGB):一次分裂同一层的叶子,易多线程优化,不易过拟合;但很多叶子分裂增益低,存在不必要的搜索和分裂
- Leaf-wise:从所有叶子中找Gain最大的叶子进行分裂,但易过拟合 -> 增加最大深度限制
阅读全文
0 0
- LightGBM中的一些tips
- 自定义ViewGroup中的一些Tips
- iOS开发中的一些tips
- 总结的一些PHP开发中的tips
- 总结的一些PHP开发中的tips
- Kotlin在安卓中的一些tips
- keras中的一些小tips(一)
- python网络数据包处理中的一些tips
- 一些Tips
- 一些tips
- (转)总结的一些PHP开发中的tips
- Python开发中的一些小的tips记录
- C++中stl使用过程中的一些tips
- 常用并行计算算子原理及其在LightGBM中的实现
- VPC 的一些tips
- tips 一些小东西
- UE一些设置tips
- Linux的一些Tips
- Git常见命令总结
- 欢迎使用CSDN-markdown编辑器
- 小小的IP,大大的耦合,你痛过吗?
- 订单中心,究竟是分还是合?
- java maven 本地添加jar包
- LightGBM中的一些tips
- leetcode编程记录14 #62 Unique Paths
- PE文件结构详解(三)PE导出表
- liunx设置定时任务脚本执行
- strncpy和snprintf的正确用法详解
- 解析指针数组,数组指针,函数指针,函数指针数组,指向函数指针数组的指针
- PHP微信公众平台接口(三)——自定义菜单
- mongodb type
- PE文件结构详解(四)PE导入表