Apache Pig字符串截取实战小例子

来源:互联网 发布:java中public方法 编辑:程序博客网 时间:2024/06/06 00:33
记录一个Pig字符串截取的实战小例子:

需求如下,从下面的字符串里提取出第2列(冒号后面)的值:

Java代码 复制代码 收藏代码
  1. 1 2  3 4  
  2. a:ab#c#d   
  3. a:c#c#d   
  4. a:dd#c#d   
  5. a:zz#c#d  


如果是在java里,方法可能有很多种,比如substring,或者split多次等,在pig也大致如此,可以使用SUBSTRING内置函数来完成,但散仙推荐使用下面的方式,这种方式比较灵活,适合大部分场景的数据提取,需要用到的2个函数如下:

(1)REGEX_EXTRACT('原始字符串','正则式',int类型的返回索引)

(2)STRSPLIT('原始字符串', '正则式', 限制返回的个数)


pig脚本写法:

Java代码 复制代码 收藏代码
  1.   
  2. a = laod '/tmp/data' as (data:chararray)   
  3. //注意逻辑是,先获取冒号后面的数据,然后split成tuple,再通过$1(下标访问元素)获取我们需要的数据即可。  
  4. b = foreach a generate STRSPLIT (REGEX_EXTRACT (data, '(.*):(.*)'2) ,'#',5).$0;   
  5.   
  6. dump b;  

0 0
原创粉丝点击