Oryx Serving 层解析

1、程序入口 com.cloudera.oryx.serving.Main

public static void main(String[] args) throws Exception {
  try (ServingLayer servingLayer = new ServingLayer(ConfigUtils.getDefault())) {
    JVMUtils.closeAtShutdown(servingLayer);
    servingLayer.start();
    servingLayer.await();
  }
}

调用Lambda层的com.cloudera.oryx.lambda.serving.SpeedLayer.start()

属性的配置文件有2个：

1）oryx-common下面的reference.conf

2）运行项目时提供的oryx.conf

SpeedLayer.start()主要做的事情就是： 配置并启动Tomcat

1、重点分析makeContext()这个方法

要加载的哪些应用都是在makeContext里配置

this.appResourcesPackages =

  config.getString("oryx.serving.application-resources") + "," +  "com.cloudera.oryx.lambda.serving"; 

// OryxApplication only needs one config value, so just pass it

context.addParameter(OryxApplication.class.getName() + ".packages", appResourcesPackages);

tomcat会加载oryx.serving.application-resources指定的类和com.cloudera.oryx.lambda.serving下面的类。

2、com.cloudera.oryx.lambda.serving.ModelManagerListener

ModelManagerListener继承了ServletContextListener

在ModelManagerListener 里，会做2件事

1）生成一个input-topic的生产者producer，放入到servletContext里面

2）生成一个update-topic的消费者consumer, 加载实现ServingModelManager接口的子类，例如：ALSServingModelManager。 

然后单独起一个线程从update-topic里获取模型（modelManager.consume(consumer )）

3、WEBAPI部分

以recommend为例，有一个对应的Recommend 类来处理对/recommend的请求

@Path("/recommend")
public final class Recommend extends AbstractALSResource {

在Recommend里，会去获取相应的model，然后给出topN个结果model.topN

ALSServingModel model = getALSServingModel();

Stream<Pair<String,Double>> topIDDots = model.topN(
    new DotsFunction(userVector),
    rescoreFn,
    howManyOffset,
    allowedFn);
return toIDValueResponse(topIDDots, howMany, offset);

暴露webapi需要定义自己对请求处理的类

例如Recommend或者example里的ADD，需要实现OryxResource接口

**
 * Responds to a POST request to {@code /add/[line]}. Adds a new line of input for processing.
 * Also responds to a POST to {@code /add} which contains lines in the request body.
 */
@Path("/add")
public final class Add extends OryxResource {

  @POST
  @Path("{line}")
  public void add(@PathParam("line") String line) {
    getProducer().send(null, line);
  }

  @POST
  @Consumes({MediaType.TEXT_PLAIN, MediaType.APPLICATION_JSON})
  public void post(Reader reader) throws IOException {
    TopicProducer<?,String> inputProducer = getProducer();
    BufferedReader buffered = new BufferedReader(reader);
    for (String line; (line = buffered.readLine()) != null;) {
      inputProducer.send(null, line);
    }
  }

  private TopicProducer<?,String> getProducer() {
    @SuppressWarnings("unchecked")
    TopicProducer<?,String> inputProducer = (TopicProducer<?,String>) getInputProducer();
    return inputProducer;
  }