★选择业务数据集合(三)

来源:互联网 发布:热门小说软件下载 编辑:程序博客网 时间:2024/06/14 08:27

在确定关键性业务问题后,根据映射的数据挖掘问题,来选择原始业务数据集合。通常要理解业务数据的表结构和说明。

  需要注意的是在选择数据之前,要确定目标的实验单元,即数据的主题,或者粒度等。比如客户,账目就是不同的主题,但是都是从两张表中抽取的。

 可以用可视化,如直方图,分布图,统计图(箱式图)来查看数据集的连续和离散字段,检查可能出现的异常值,NULL值,空值等。

     字段离散值超过25个值时,很难从中发现有用的模式。

     空值超过总体98%的字段可以考虑删除。

     抽取源字段时,考虑字段间的关联性,重复列等信息

     数据量过大可以考虑抽样,但要注意产生抽样偏差

     对抽取转换清洗工作进行归档,保留元数据。

     处理异常值,NULL值,空值的方法。

     还原数据源中数据编码的原意。

     决策树和关联规则比其他算法要适合空值的数据情况。

   这一步骤相当于Extraction

原创粉丝点击