Nutch 2.0 之 Apache Gora MR介绍

Nutch 2.0 之 Apache Gora MR介绍
-----------------

1. 介绍

  Apapche Gora内建了对于Apache Hadoop的支持，而Gora的dataStore可以用来做为InputFormat与OutputFormat的输入与输出，然而这些输出的对象都会被序列化，Gora扩展了Avro的DatumWriters来实现的。

2. 一个简单的例子

  下面是gora-tutorial中的一个简单的例子来说明Gora MR的用法，这个例子是使用了上一个例子的输出，作为其输入，用MR来分析日志的信息，用于统计单个URL一天之中的访问量，然后把分析后的结果写回HBase中的一个例子，当然，你也可以把输出写回SQL或者虽的数据库中，这个例子可以在t gora-tutorial/src/main/java/org/apache/gora/tutorial/log/LogAnalytics.java找到。


  为了对日志数据进行分析，mapper方法以pageview为输入，输出的Key为<URL,timestamp>对，Value为1，表示一次，在reducer中对相同key的value进行聚合，得到一个总数，然后生成一个MetricDatum对象，把这个对象序列化到数据库中去。


  数据模型的定义，这里我们用到了MetricDatum这个对象，它的定义在gora-tutorial/src/main/avro/metricdatum.json，我们要用bin/gora compile来产生它的一个java文件，


json的定义文件如下：

{  "type": "record",  "name": "MetricDatum",  "namespace": "org.apache.gora.tutorial.log.generated",  "fields" : [    {"name": "metricDimension", "type": "string"},    {"name": "timestamp", "type": "long"},    {"name": "metric", "type" : "long"}  ]}

   我们可以看到，它的类型为record, 名称空间为org.apache.gora.tutorial.log.generated,还有三个字段，分别定义了字段名与类型。


  下面我们还要定义datastore的一个映射文件，内容如下：
  

<class name="org.apache.gora.tutorial.log.generated.MetricDatum" keyClass="java.lang.String" table="Metrics">    <field name="metricDimension" family="common"  qualifier="metricDimension"/>    <field name="timestamp" family="common" qualifier="ts"/>    <field name="metric" family="common" qualifier="metric"/>  </class>

  
  我们可以看到，在class中定义了类名，key的类型，还有表名Metrics。在field中定义了相应的字段名，family还有qualifier。


  好了，下面我们来命令这个MR程式，输入如下命令：

$ bin/gora loganalytics

  有一些输入，部分如下：

12/07/21 13:35:16 INFO mapreduce.GoraRecordWriter: gora.buffer.write.limit = 1000012/07/21 13:35:17 INFO mapred.TaskRunner: Task:attempt_local_0001_r_000000_0 is done. And is in the process of commiting12/07/21 13:35:17 INFO mapred.LocalJobRunner: reduce > reduce12/07/21 13:35:17 INFO mapred.TaskRunner: Task 'attempt_local_0001_r_000000_0' done.12/07/21 13:35:17 INFO mapred.JobClient:  map 100% reduce 100%12/07/21 13:35:17 INFO mapred.JobClient: Job complete: job_local_000112/07/21 13:35:17 INFO mapred.JobClient: Counters: 1212/07/21 13:35:17 INFO mapred.JobClient:   FileSystemCounters12/07/21 13:35:17 INFO mapred.JobClient:     FILE_BYTES_READ=56164512/07/21 13:35:17 INFO mapred.JobClient:     FILE_BYTES_WRITTEN=112660612/07/21 13:35:17 INFO mapred.JobClient:   Map-Reduce Framework12/07/21 13:35:17 INFO mapred.JobClient:     Reduce input groups=303312/07/21 13:35:17 INFO mapred.JobClient:     Combine output records=012/07/21 13:35:17 INFO mapred.JobClient:     Map input records=1000012/07/21 13:35:17 INFO mapred.JobClient:     Reduce shuffle bytes=012/07/21 13:35:17 INFO mapred.JobClient:     Reduce output records=303312/07/21 13:35:17 INFO mapred.JobClient:     Spilled Records=2000012/07/21 13:35:17 INFO mapred.JobClient:     Map output bytes=51251012/07/21 13:35:17 INFO mapred.JobClient:     Combine input records=012/07/21 13:35:17 INFO mapred.JobClient:     Map output records=1000012/07/21 13:35:17 INFO mapred.JobClient:     Reduce input records=1000012/07/21 13:35:17 INFO log.LogAnalytics: Log completed with success

完成以后可以查看一下HBase的Metrics表，使用如下命令

hbase(main):007:0> scan 'Metrics' ,{LIMIT=>1}  ROW                              COLUMN+CELL                                                                                    /?a=1__-znawtuabsy&k=96804_1236 column=common:metric, timestamp=1342848916670, value=\x00\x00\x00\x00\x00\x00\x00\x09          902400000                                                                                                                      /?a=1__-znawtuabsy&k=96804_1236 column=common:metricDimension, timestamp=1342848916670, value=/?a=1__-znawtuabsy&k=96804       902400000                                                                                                                      /?a=1__-znawtuabsy&k=96804_1236 column=common:ts, timestamp=1342848916670, value=\x00\x00\x01\x1F\xFD \xD0\x00                 902400000                                                                                                                     1 row(s) in 0.0200 seconds

我们已经可以看到分析后的数据已经存储到Metrics表中了。

3. 程式代码分析

   在定义Hadoop的任务的时候，我们可以选择是否使用Gora来做为其输入与输出， Gora定义了自己的GoraInputFormat 与GoraOutputFormat,而且Gora还定义自己的GoraMapper与GoraReducer类，提供一些方法的初始化静态方法 。在下面的代码中，就使用了Gora(Mapper|reducer)的一些静态方法来进行初始始化。下面是Job初始化代码：

     public Job createJob(DataStore<Long, Pageview> inStore      , DataStore<String, MetricDatum> outStore, int numReducer) throws IOException {    Job job = new Job(getConf());    job.setJobName("Log Analytics");    job.setNumReduceTasks(numReducer);    job.setJarByClass(getClass());    /* Mappers are initialized with GoraMapper.initMapper() or      * GoraInputFormat.setInput()*/    GoraMapper.initMapperJob(job, inStore, TextLong.class, LongWritable.class        , LogAnalyticsMapper.class, true);    /* Reducers are initialized with GoraReducer#initReducer().     * If the output is not to be persisted via Gora, any reducer      * can be used instead. */    GoraReducer.initReducerJob(job, outStore, LogAnalyticsReducer.class);        return job;  }        

  下面是它的run函数的代码：

   @Override  public int run(String[] args) throws Exception {        DataStore<Long, Pageview> inStore;    DataStore<String, MetricDatum> outStore;    Configuration conf = new Configuration();        if(args.length > 0) {      String dataStoreClass = args[0];      inStore = DataStoreFactory.          getDataStore(dataStoreClass, Long.class, Pageview.class, conf);      if(args.length > 1) {        dataStoreClass = args[1];      }      outStore = DataStoreFactory.          getDataStore(dataStoreClass,  String.class, MetricDatum.class, conf);    } else {inStore = DataStoreFactory.getDataStore(Long.class, Pageview.class, conf);outStore = DataStoreFactory.getDataStore(String.class, MetricDatum.class, conf);    }        Job job = createJob(inStore, outStore, 3);    boolean success = job.waitForCompletion(true);        inStore.close();    outStore.close();        log.info("Log completed with " + (success ? "success" : "failure"));        return success ? 0 : 1;  }

  我们可以看到，生成两个输入与输出的dataStore。


  下来看一下自定义的LogAnalyticsMapper代码，它扩展自GoraMapper,它的输入为<Long,Pageview>，部分代码如下：

     private TextLong tuple;    protected void map(Long key, Pageview pageview, Context context)       throws IOException ,InterruptedException {            Utf8 url = pageview.getUrl();      long day = getDay(pageview.getTimestamp());            tuple.getKey().set(url.toString());      tuple.getValue().set(day);            context.write(tuple, one);    };

而LogAnalyticsReducer也扩展自GoraReducer，部分代码如下：

    protected void reduce(TextLong tuple        , Iterable<LongWritable> values, Context context)       throws IOException ,InterruptedException {            long sum = 0L; //sum up the values      for(LongWritable value: values) {        sum+= value.get();      }            String dimension = tuple.getKey().toString();      long timestamp = tuple.getValue().get();            metricDatum.setMetricDimension(new Utf8(dimension));      metricDatum.setTimestamp(timestamp);            String key = metricDatum.getMetricDimension().toString();      metricDatum.setMetric(sum);            context.write(key, metricDatum);    };

我们可以看到，它输出的Value类型是metricDatum,这个就是我们之前在json中定义的数据模型，它会被序列化到数据库中去。

4. 参考

http://gora.apache.org/docs/current/tutorial.html