hadoop学习第七节：Pig介绍、安装与应用案例

来源：互联网发布：淘宝店铺可以换类目吗编辑：程序博客网时间：2024/06/01 08:32

1 搭建环境

Hadoop搭建环境：

虚拟机操作系统： CentOS7.1 64位，单核，1G内存
JDK：1.7 64位
Hadoop：2.2.0

2 Pig介绍

Pig是yahoo捐献给apache的一个项目，使用SQL-like语言，是在MapReduce上构建的一种高级查询语言，把一些运算编译进MapReduce模型的Map和Reduce中。Pig 有两种运行模式： Local 模式和 MapReduce 模式

本地模式：Pig运行于本地模式，只涉及到单独的一台计算机
MapReduce模式：Pig运行于MapReduce模式，需要能访问一个Hadoop集群，并且需要装上HDFS

Pig的调用方式：

Grunt shell方式：通过交互的方式，输入命令执行任务；
Pig script方式：通过script脚本的方式来运行任务；
嵌入式方式：嵌入java源代码中，通过java调用来运行任务。

3 搭建Pig环境

3.1 下载并解压安装包

在Apache下载最新的Pig软件包，点击下载会推荐最快的镜像站点，以下为下载地址：

http://mirrors.aliyun.com/apache/pig/

此处输入图片的描述

也可以在/home/shiyanlou/install-pack目录中找到该安装包，解压该安装包并把该安装包复制到/app目录中

cd /home/shiyanlou/install-pack
tar -xzf pig-0.13.0.tar.gz
mv pig-0.13.0 /app

此处输入图片的描述

3.2 设置环境变量

使用如下命令编辑/etc/profile文件：

sudo vi /etc/profile

此处输入图片的描述

设置pig的class路径和在path加入pig的路径，其中PIG_CLASSPATH参数是设置pig在MapReduce工作模式：

export PIG_HOME=/app/pig-0.13.0
export PIG_CLASSPATH=/app/hadoop-1.1.2/conf
export PATH=$PATH:$PIG_HOME/bin

此处输入图片的描述

编译配置文件/etc/profile，并确认生效

source /etc/profile
echo $PATH

3.3 验证安装完成

重新登录终端，确保hadoop集群启动，键入pig命令，应该能看到pig连接到hadoop集群的信息并且进入了grunt shell命令行模式（

如果提示ERROR:JAVA_HOME doesn't exist! 这里是读hadoop2.2.0/etc/hadoop/hadoop-env.sh 里的JAVA_HOME的，在该目录里执行source hadoop-env.sh 即可）：

此处输入图片的描述

4 测试例子

4.1 测试例子内容

在/home/shiyanlou/install-pack/class7中有website_log.zip测试数据文件，该文件是某网站访问日志，请大家使用pig计算出每个ip的点击次数，例如 123.24.56.57 13 24.53.23.123 7 34.56.78.120 20 .... 等等

4.2 程序代码

//加载HDFS中访问日志，使用空格进行分割，只加载ip列records = LOAD 'hdfs://hadoop:9000/class7/input/website_log.txt' USING PigStorage(' ') AS (ip:chararray);// 按照ip进行分组，统计每个ip点击数records_b = GROUP records BY ip;records_c = FOREACH records_b GENERATE group,COUNT(records) AS click;// 按照点击数排序，保留点击数前10个的ip数据records_d = ORDER records_c by click DESC;top10 = LIMIT records_d 10;// 把生成的数据保存到HDFS的class7目录中STORE top10 INTO 'hdfs://hadoop:9000/class7/out';