Hadoop学习日志1-结构化数据与非结构化数据
来源:互联网 发布:有哪些网络调查网站 编辑:程序博客网 时间:2024/06/08 01:08
非结构化数据库是指其字段长度可变,并且每个字段的记录又可以由可重复或不可重复的子字段构成的数据库,用它不仅可以处理结构化数据(如数字、符号等信息)而且更适合处理非结构化数据(全文文本、图象、声音、影视、超媒体等信息)。
非结构化数据,包括所有格式的办公文档、文本、图片、XML、HTML、各类报表、图像和音频/视频信息等等
结构化数据:
能够用数据或统一的结构加以表示,我们称之为结构化数据,如数字、符号。传统的关系数据模型、行数据,存储于数据库,可用二维表结构表示。
半结构化数据:
所谓半结构化数据,就是介于完全结构化数据(如关系型数据库、面向对象数据库中的数据)和完全无结构的数据(如声音、图像文件等)之间的数据,XML、HTML文档就属于半结构化数据
非结构化数据:
非结构化数据库是指其字段长度可变,并且每个字段的记录又可以由可重复或不可重复的子字段构成的数据库,用它不仅可以处理结构化数据(如数字、符号等信息)而且更适合处理非结构化数据(全文文本、图象、声音、影视、超媒体等信息)。
非结构化数据,包括所有格式的办公文档、文本、图片、XML、HTML、各类报表、图像和音频/视频信息等等
数据清洗:
因为数据仓库中的数据是面向某一主题的数据的集合,这些数据从多个业务系统中抽取而来而且包含历史数据,这样就避免不了有的数据是错误数据、有的数据相互之间有冲突,这些错误的或有冲突的数据显然是我们不想要的,称为“脏数据”。我们要按照一定的规则把“脏数据”“洗掉”,这就是数据清洗.而数据清洗的任务是过滤那些不符合要求的数据,将过滤的结果交给业务主管部门,确认是否过滤掉还是由业务单位修正之后再进行抽取。不符合要求的数据主要是有不完整的数据、错误的数据、重复的数据三大类。
(1)不完整的数据
这一类数据主要是一些应该有的信息缺失,如供应商的名称、分公司的名称、客户的区域信息缺失、业务系统中主表与明细表不能匹配等。对于这一类数据过滤出来,按缺失的内容分别写入不同Excel文件向客户提交,要求在规定的时间内补全。补全后才写入数据仓库。
(2)错误的数据
这一类错误产生的原因是业务系统不够健全,在接收输入后没有进行判断直接写入后台数据库造成的,比如数值数据输成全角数字字符、字符串数据后面有一个回车操作、日期格式不正确、日期越界等。这一类数据也要分类,对于类似于全角字符、数据前后有不可见字符的问题,只能通过写SQL语句的方式找出来,然后要求客户在业务系统修正之后抽取。日期格式不正确的或者是日期越界的这一类错误会导致ETL运行失败,这一类错误需要去业务系统数据库用SQL的方式挑出来,交给业务主管部门要求限期修正,修正之后再抽取。
(3)重复的数据
对于这一类数据——特别是维表中会出现这种情况——将重复数据记录的所有字段导出来,让客户确认并整理。
- Hadoop学习日志1-结构化数据与非结构化数据
- 结构化数据与非结构化数据
- 结构化数据与非结构化数据
- 结构化数据与非结构化数据的区别
- 非结构化数据
- 结构化数据,非结构化数据
- 非结构化数据存储
- 非结构化数据介绍
- 非结构化数据介绍
- 2.非结构化数据
- 非结构化数据是什么
- 结构化、半结构化和非结构化数据
- 结构化/半结构化/非结构化数据
- 结构化,半结构化,非结构化数据
- 半结构化、结构化以及非结构化数据
- 结构化、半结构化和非结构化数据
- 结构化、半结构化和非结构化数据
- 结构化数据和非结构化数据
- sklearn学习之K近邻算法
- 献给杭电五十周年校庆的礼物 HDU 1290
- CSS中关于定位的那些问题
- Qt笔记·第四篇子类化QDialog
- 工作日报
- Hadoop学习日志1-结构化数据与非结构化数据
- Curl get/post传值
- hibernate之概述,入门案例(配置文件,api)(01)
- 关于hibernate的见解
- 查找数组的相对“平衡点”
- 面向对象
- UE4 PAK热更新
- hdu1224 spfa 最大路
- java se 面向网络的编程(IP,端口,协议)