4.hadoop中的压缩
来源:互联网 发布:teamview linux命令行 编辑:程序博客网 时间:2024/06/06 17:06
所有的压缩算法都会考虑时间和空间的权衡
列出一些可以用于Hadoop的常见压缩格式以及特性
Hadoop压缩api应用实例
获得具体的[编码/解码]方式
egg1:通过传入压缩的方式名反射
egg2:通过文件拓展名获得,通过[编码/解码]工厂CompressionCodecFactory
对于工厂方法而言,用于创建多种产品
Hadoop压缩框架
1.编码/解码器
CompressionCodec
接口实现了[编码/解码器],提供了一系列方法
CompressionCodecFactory:
使用者可以通过它提供的方法获得CompressionCodec:
其中成员变量codecs是一个键有序的map集合,存储着映射关系:[文件拓展名:CompressionCodec]
2.解压器和压缩器
Compressor
- setInput()接受数据到内部缓冲区
- needsInput()内部缓冲区是否已满
- compress()获取压缩后的数据,释放缓冲区空间
- finish()为了通知压缩器所有数据已写入
- finished()判断压缩器中是否还有未读取的压缩数据
Decompressor
类似Compressor,略
3.压缩流和解压缩流
0 0
- 4.hadoop中的压缩
- Hadoop MapReduce中的压缩
- Hadoop中的压缩Codec
- hadoop I/O中的压缩
- 压缩在hadoop中的应用
- Hadoop中的压缩(2) Mapper中使用压缩
- [hadoop]常用压缩格式在Hadoop中的应用(spark)
- hadoop 压缩
- Hadoop压缩
- hadoop深入研究:(九)——mapreduce中的压缩
- hadoop深入研究:(九)——mapreduce中的压缩
- hadoop深入研究:(九)——mapreduce中的压缩
- hadoop深入研究:(九)——mapreduce中的压缩
- Hadoop中的压缩(1) 概述与实例
- 4种常用压缩格式在Hadoop中的应用
- 关于几种压缩算法以及hadoop和hbase中的压缩配置说明
- 关于几种压缩算法以及hadoop和hbase中的压缩配置说明
- 关于几种压缩算法以及hadoop和hbase中的压缩配置说明
- android:圆形、圆角图片
- python调用shell脚本
- PE总结13 --PE文件结构之 解析资源表
- Happy Number
- Jenkins构建Android项目持续集成之创建项目
- 4.hadoop中的压缩
- hdu1754 I hate it (线段树)
- 【转】字符设备模型
- 文章标题
- nginx配置详解
- 5.对于RMI的理解
- 随机显示TOP 8 条记录
- dwr使用方法
- mygrep