infobright中导入数据避免特殊字符问题
来源:互联网 发布:淘宝总部大楼图片 编辑:程序博客网 时间:2024/06/08 03:17
目前在用的是社区版的infobright,不支持DML功能,只能用LOAD DATA方式导入数据。如果元数据中有特殊控制字符,导入过程中经常会报错,很是恼火。应对策略有两种方法:
1.设置Reject File
导入之前,设定@BH_REJECT_FILE_PATH和@BH_ABORT_ON_COUNT就可以忽略多少条导入失败的记录,并且将这些记录保存在指定文件/** when the number of rows rejected reaches 10, abort process ** / set @BH_REJECT_FILE_PATH = '/tmp/reject_file'; set @ BH_ABORT_ON_COUNT = 10;
BH_ABORT_ON_COUNT设定为-1的话,表示永不忽略。
也可以设置BH_ABORT_ON_THRESHOLD选项,该选项表示有最多多少百分比的数据允许被忽略,因此该选项的值是小数格式,例如BH_ABORT_ON_THRESHOLD = 0.03 (表示3%)
2.导出时指定结束符
此外,还可以在导出数据时指定结束符,并且设定忽略哪些转义字符(\、"、‘等字符),例如:
select fields_list... into outfile '/tmp/outfile.csv' fields terminated by '||' ESCAPED BY '\\' lines terminated by '\r\n' from mytable;
1.或者,将行间隔符设定为其他特殊标识,例如:
select fields_list ... into outfile '/tmp/outfile.csv' fields terminated by '||' ESCAPED BY '\\' lines terminated by '$$$$$' from mytable;
当然了,这种情况下,实际数据行中就不能存在"$$$$$"这个值了,否则会被当成换行标识。
- infobright中导入数据避免特殊字符问题
- infobright中导入数据避免特殊字符问题
- infobright字段中含有特殊字符
- sqoop 导入数据特殊字符问题
- mysql数据导入到infobright中
- MySQL数据导入到infobright中
- infobright数据导入和导出
- Infobright 导入时候的小问题
- 避免mysql注入应该避免特殊字符
- 用Base64加密数据解决json传输数据中特殊字符问题
- JSON中数据特殊字符的处理
- JSON中数据特殊字符的处理
- JSON中数据特殊字符的处理
- JSON中数据特殊字符的处理
- oracle 导入数据时对 & 和 ' 特殊字符处理
- 关于Infobright中text字段的问题
- url中特殊字符编码的问题
- 上传服务器 避免String 特殊字符
- 生产者/消费者模式(阻塞队列)
- 文本内容查看(less/cat/tac/more/less/head/tail)
- unite2017相关
- 【计算机网络】端口的分类及用途
- PHP开发规范
- infobright中导入数据避免特殊字符问题
- 利用Android Studio 上传项目到 github
- -bash: wget: command not found
- 线程池 ExecutorService 详细介绍以及注意点区别
- 最初的java--记事本HELLOWORD
- ConstraintLayout完全解析-Android可视化界面布局
- es6基础回顾--async函数
- 多维数组和多维指针
- C# 文件上传服务器