多种数据过滤与降维算法
来源:互联网 发布:华泰证券网络培训学院 编辑:程序博客网 时间:2024/05/21 03:27
数据过滤
1. 缺失值比率 (Missing Values Ratio)
方法的是基于包含太多缺失值的数据列包含有用信息的可能性较少。因此,可以将数据列缺失值大于某个阈值的列去掉。阈值越高,降维方法更为积极,即降维越少。
2. 低方差滤波 (Low Variance Filter)
与上个方法相似,该方法假设数据列变化非常小的列包含的信息量少。因此,所有的数据列方差小的列被移除。需要注意的一点是:方差与数据范围相关的,因此在采用该方法前需要对数据做归一化处理。
3. 高相关滤波 (High Correlation Filter)
高相关滤波认为当两列数据变化趋势相似时,它们包含的信息也显示。这样,使用相似列中的一列就可以满足机器学习模型。对于数值列之间的相似性通过计算相关系数来表示,对于名词类列的相关系数可以通过计算皮尔逊卡方值来表示。相关系数大于某个阈值的两列只保留一列。同样要注意的是:相关系数对范围敏感,所以在计算之前也需要对数据进行归一化处理。
4. 随机森林/组合树 (Random Forests)
组合决策树通常又被成为随机森林,它在进行特征选择与构建有效的分类器时非常有用。一种常用的降维方法是对目标属性产生许多巨大的树,然后根据对每个属性的统计结果找到信息量最大的特征子集。例如,我们能够对一个非常巨大的数据集生成非常层次非常浅的树,每颗树只训练一小部分属性。如果一个属性经常成为最佳分裂属性,那么它很有可能是需要保留的信息特征。对随机森林数据属性的统计评分会向我们揭示与其它属性相比,哪个属性才是预测能力最好的属性。
降维
1. 主成分分析 (PCA)
主成分分析是一个统计过程,该过程通过正交变换将原始的 n 维数据集变换到一个新的被称做主成分的数据集中。变换后的结果中,第一个主成分具有最大的方差值,每个后续的成分在与前述主成分正交条件限制下与具有最大方差。降维时仅保存前 m(m < n) 个主成分即可保持最大的数据信息量。需要注意的是主成分变换对正交向量的尺度敏感。数据在变换前需要进行归一化处理。同样也需要注意的是,新的主成分并不是由实际系统产生的,因此在进行 PCA 变换后会丧失数据的解释性。如果说,数据的解释能力对你的分析来说很重要,那么 PCA 对你来说可能就不适用了。
2. 反向特征消除 (Backward Feature Elimination)
在该方法中,所有分类算法先用 n 个特征进行训练。每次降维操作,采用 n-1 个特征对分类器训练 n 次,得到新的 n 个分类器。将新分类器中错分率变化最小的分类器所用的 n-1 维特征作为降维后的特征集。不断的对该过程进行迭代,即可得到降维后的结果。第k 次迭代过程中得到的是 n-k 维特征分类器。通过选择最大的错误容忍率,我们可以得到在选择分类器上达到指定分类性能最小需要多少个特征。
3. 前向特征构造 (Forward Feature Construction)
前向特征构建是反向特征消除的反过程。在前向特征过程中,我们从 1 个特征开始,每次训练添加一个让分类器性能提升最大的特征。前向特征构造和反向特征消除都十分耗时。它们通常用于输入维数已经相对较低的数据集。
降维方法的比较
最后的准确度与损失率也与选择的数据分析模型有关。因此,最后的降维率与准确度的比较是在三种模型中进行,这三种模型分别是:决策树,神经网络与朴素贝叶斯。通过运行优化循环,最佳循环终止意味着低纬度与高准确率取决于七大降维方法与最佳分类模型。最后的最佳模型的性能通过采用所有特征进行训练模型的基准准确度与 ROC 曲线下的面积来进行比较。
从上表中的对比可知,数据降维算法不仅仅是能够提高算法执行的速度,同时也能过提高分析模型的性能。 在对数据集采用:缺失值降维、低方差滤波,高相关滤波或者随机森林降维时,表中的 AoC 在测试数据集上有小幅度的增长。确实在大数据时代,数据越多越好似乎已经成为公理。我们再次解释了当数据数据集宝航过多的数据噪声时,算法的性能会导致算法的性能达不到预期。移除信息量较少甚至无效信息唯独可能会帮助我们构建更具扩展性、通用性的数据模型。该数据模型在新数据集上的表现可能会更好。
参考文献
- 降维算法:PCA、MDS、LDA、lsomap、LLE、t-SNE、Deep Autoencoder Networks
- 四大机器学习降维算法:PCA、LDA、LLE、Laplacian Eigenmaps
- 多种数据过滤与降维算法
- 数据结构与算法 多种排序算法
- 数据挖掘算法之协同过滤算法
- 协同过滤算法与推荐系统
- SQL 重复数据的提取与过滤
- 数据过滤
- 多种排序算法基于web演示的设计与实现
- 0-1背包问题的多种算法设计与分析
- 算法设计与分析 0-1背包的多种求法
- Android之ListActivity:布局与多种数据绑定
- RecyclerView实现多种布局与OkHttp结合获取数据
- 大数据过滤及判断算法 -- Bitmap / Bloomfilter
- 数据挖掘之【协同过滤算法简版】
- 数据挖据-协同过滤算法 (collaborative-filtering, CF)
- 隐性反馈行为数据的协同过滤推荐算法
- 从item-base到svd再到rbm,多种Collaborative Filtering(协同过滤算法)从原理到实现
- 从item-base到svd再到rbm,多种Collaborative Filtering(协同过滤算法)从原理到实现
- 从item-base到svd再到rbm,多种Collaborative Filtering(协同过滤算法)从原理到实现
- ISDIGIT算法问题:两次比较与表查找比较谁更快
- linux shell 之if-------用if做判断
- 技术代码分析模板
- 优化sql
- C#中 如何通过路径实现文件上传功能
- 多种数据过滤与降维算法
- 函数 数组 指针 三者之间的关系
- 开源一个Java Class实现Openfire登陆、推出、消息发送,方便其他系统集成IM功能了
- 使用PopWindow时距离边界有间隙的解决办法
- java 中关于接口定义的要求
- (转)Android动画效果之Tween Animation(补间动画)
- 变量和变量使用
- oracle回收站
- JavaScript闭包