Hive数据导入预处理-分隔符处理

来源:互联网 发布:新东方游学数据 编辑:程序博客网 时间:2024/05/29 11:08

偶尔会遇到需要把本地数据导入到hive的情况,我们知道hive字段之间的默认分隔符是\x01,而导入的数据字段之间经常是使用制表符分隔。为了在数据导入到hive时能够正常识别,我们需要先对数据进行处理。

想到的最常用的工具自然是sed命令,使用sed替换命令可以简单的把文本中的制表符都替换成我们想要的文本。

那么问题来了,\x01是一个特殊字符,直接在sed命令中输入显然是行不通的。通过网上查找资料,知道了\x01这个字符在linux中显示为^A,那么怎么在sed命令中输入这个字符呢?

操作很简单,首先按组合键:ctrl+v,然后再输入对应的字符的组合键,例如要输入^A的话再按:ctrl+A就行了。所以最终的指令为:

sed -i 's/\t/^A/g' input
原创粉丝点击