Disruptor

来源:互联网 发布:闪电分期go淘宝商铺 编辑:程序博客网 时间:2024/06/06 01:39
  1. 简介
    Martin Fowler在自己网站上写了一篇LMAX架构的文章,在文章中他介绍了LMAX是一种新型零售金融交易平台,它能够以很低的延迟产生大量交易。这个系统是建立在JVM平台上,其核心是一个业务逻辑处理器,它能够在一个线程里每秒处理6百万订单。业务逻辑处理器完全是运行在内存中,使用事件源驱动方式。业务逻辑处理器的核心是Disruptor。
    Disruptor它是一个开源的并发框架,并获得2011 Duke’s 程序框架创新奖,能够在无锁的情况下实现网络的Queue并发操作。
    Disruptor是一个高性能的异步处理框架,或者可以认为是最快的消息框架(轻量的JMS),也可以认为是一个观察者模式的实现,或者事件监听模式的实现。
  2. 主要类说明
    RingBuffer: 被看作Disruptor最主要的组件,然而从3.0开始RingBuffer仅仅负责存储和更新在Disruptor中流通的数据。对一些特殊的使用场景能够被用户(使用其他数据结构)完全替代。
    Sequence: Disruptor使用Sequence来表示一个特殊组件处理的序号。和Disruptor一样,每个消费者(EventProcessor)都维持着一个Sequence。大部分的并发代码依赖这些Sequence值的运转,因此Sequence支持多种当前为AtomicLong类的特性。
    Sequencer: 这是Disruptor真正的核心。实现了这个接口的两种生产者(单生产者和多生产者)均实现了所有的并发算法,为了在生产者和消费者之间进行准确快速的数据传递。
    SequenceBarrier: 由Sequencer生成,并且包含了已经发布的Sequence的引用,这些的Sequence源于Sequencer和一些独立的消费者的Sequence。它包含了决定是否有供消费者来消费的Event的逻辑。
    WaitStrategy:决定一个消费者将如何等待生产者将Event置入Disruptor。
    Event:从生产者到消费者过程中所处理的数据单元。Disruptor中没有代码表示Event,因为它完全是由用户定义的。
    EventProcessor:主要事件循环,处理Disruptor中的Event,并且拥有消费者的Sequence。它有一个实现类是BatchEventProcessor,包含了event loop有效的实现,并且将回调到一个EventHandler接口的实现对象。
    EventHandler:由用户实现并且代表了Disruptor中的一个消费者的接口。
    Producer:由用户实现,它调用RingBuffer来插入事件(Event),在Disruptor中没有相应的实现代码,由用户实现。
    WorkProcessor:确保每个sequence只被一个processor消费,在同一个WorkPool中的处理多个WorkProcessor不会消费同样的sequence。
    WorkerPool:一个WorkProcessor池,其中WorkProcessor将消费Sequence,所以任务可以在实现WorkHandler接口的worker吃间移交
    LifecycleAware:当BatchEventProcessor启动和停止时,于实现这个接口用于接收通知。
  3. RingBuffer的使用逻辑
    举个例子: Disruptor说的是生产者和消费者的故事. 有一个数组.生产者往里面扔芝麻.消费者从里面捡芝麻. 但是扔芝麻和捡芝麻也要考虑速度的问题. 1 消费者捡的比扔的快 那么消费者要停下来.生产者扔了新的芝麻,然后消费者继续. 2 数组的长度是有限的,生产者到末尾的时候会再从数组的开始位置继续.这个时候可能会追上消费者,消费者还没从那个地方捡走芝麻,这个时候生产者要等待消费者捡走芝麻,然后继续。
    具体RingBuffer和大家常用的队列之间的区别是,我们不删除buffer中的数据,也就是说这些数据一直存放在buffer中,直到新的数据覆盖他们。这就是和维基百科版本相比,我们不需要尾指针的原因。ringbuffer本身并不控制是否需要重叠。
  4. 可选的等待策略
    Disruptor默认的等待策略是BlockingWaitStrategy。这个策略的内部适用一个锁和条件变量来控制线程的执行和等待(Java基本的同步方法)。BlockingWaitStrategy是最慢的等待策略,但也是CPU使用率最低和最稳定的选项。然而,可以根据不同的部署环境调整选项以提高性能。
    SleepingWaitStrategy
    和BlockingWaitStrategy一样,SpleepingWaitStrategy的CPU使用率也比较低。它的方式是循环等待并且在循环中间调用LockSupport.parkNanos(1)来睡眠,(在Linux系统上面睡眠时间60µs).然而,它的优点在于生产线程只需要计数,而不执行任何指令。并且没有条件变量的消耗。但是,事件对象从生产者到消费者传递的延迟变大了。SleepingWaitStrategy最好用在不需要低延迟,而且事件发布对于生产者的影响比较小的情况下。比如异步日志功能。重点内容
    YieldingWaitStrategy
    YieldingWaitStrategy是可以被用在低延迟系统中的两个策略之一,这种策略在减低系统延迟的同时也会增加CPU运算量。YieldingWaitStrategy策略会循环等待sequence增加到合适的值。循环中调用Thread.yield()允许其他准备好的线程执行。如果需要高性能而且事件消费者线程比逻辑内核少的时候,推荐使用YieldingWaitStrategy策略。例如:在开启超线程的时候。
    BusySpinWaitStrategy
    BusySpinWaitStrategy是性能最高的等待策略,同时也是对部署环境要求最高的策略。这个性能最好用在事件处理线程比物理内核数目还要小的时候。例如:在禁用超线程技术的时候。

  5. 使用场景
    1.在复杂场景下使用RingBuffer(希望P1生产的数据给C1、C2并行执行,最后C1、C2执行结束后C3执行)
    这里写图片描述
    如上图所示,我们可以实现一个菱形的并发,也可以实现其他多边形的并发方式,具体代码如下
    main类实例化Disruptor实例,配置一系列参数。然后我们对Disruptor实例绑定监听事件类,接受并处理数据

public class Main {      public static void main(String[] args) throws InterruptedException {          long beginTime=System.currentTimeMillis();          int bufferSize=1024;          ExecutorService executor=Executors.newFixedThreadPool(8);          Disruptor<Trade> disruptor = new Disruptor<Trade>(new EventFactory<Trade>() {              @Override              public Trade newInstance() {                  return new Trade();              }          }, bufferSize, executor, ProducerType.SINGLE, new BusySpinWaitStrategy());          //菱形操作        /**        //使用disruptor创建消费者组C1,C2          EventHandlerGroup<Trade> handlerGroup =                 disruptor.handleEventsWith(new Handler1(), new Handler2());        //声明在C1,C2完事之后执行JMS消息发送操作 也就是流程走到C3         handlerGroup.then(new Handler3());        */        //顺序操作        /**        disruptor.handleEventsWith(new Handler1()).            handleEventsWith(new Handler2()).            handleEventsWith(new Handler3());        */        //六边形操作.         /**        Handler1 h1 = new Handler1();        Handler2 h2 = new Handler2();        Handler3 h3 = new Handler3();        Handler4 h4 = new Handler4();        Handler5 h5 = new Handler5();        disruptor.handleEventsWith(h1, h2);        disruptor.after(h1).handleEventsWith(h4);        disruptor.after(h2).handleEventsWith(h5);        disruptor.after(h4, h5).handleEventsWith(h3);        */        disruptor.start();//启动          CountDownLatch latch=new CountDownLatch(1);          //生产者准备          executor.submit(new TradePublisher(latch, disruptor));        latch.await();//等待生产者完事.         disruptor.shutdown();          executor.shutdown();          System.out.println("总耗时:"+(System.currentTimeMillis()-beginTime));      }  } 

**Trade**Event类

public class Trade {      private String id;//ID      private String name;    private double price;//金额      private AtomicInteger count = new AtomicInteger(0);    public String getId() {        return id;    }    public void setId(String id) {        this.id = id;    }    public String getName() {        return name;    }    public void setName(String name) {        this.name = name;    }    public double getPrice() {        return price;    }    public void setPrice(double price) {        this.price = price;    }    public AtomicInteger getCount() {        return count;    }    public void setCount(AtomicInteger count) {        this.count = count;    } }  

TradePublisher该类用于发布event给消费者使用

public class TradePublisher implements Runnable {      Disruptor<Trade> disruptor;      private CountDownLatch latch;      private static int LOOP=10;//模拟百万次交易的发生      public TradePublisher(CountDownLatch latch,Disruptor<Trade> disruptor) {          this.disruptor=disruptor;          this.latch=latch;      }      @Override      public void run() {          TradeEventTranslator tradeTransloator = new TradeEventTranslator();          for(int i=0;i<LOOP;i++){              disruptor.publishEvent(tradeTransloator);          }          latch.countDown();      }  }  class TradeEventTranslator implements EventTranslator<Trade>{      private Random random=new Random();      @Override      public void translateTo(Trade event, long sequence) {          this.generateTrade(event);      }      private Trade generateTrade(Trade trade){          trade.setPrice(random.nextDouble()*9999);          return trade;      }  }  

Handler也就是消费者,这个实现是根据具体的业务去写的,只要实现了EventHandler或者WorkHandler都是可以的,这里就不贴代码了
2.多消费者多生产者的情况

public class Main {    public static void main(String[] args) throws Exception {        //创建ringBuffer        RingBuffer<Order> ringBuffer =                 RingBuffer.create(ProducerType.MULTI,  //这里要改为多生产者类型                        new EventFactory<Order>() {                              @Override                              public Order newInstance() {                                  return new Order();                              }                          },                         1024 * 1024,                         new YieldingWaitStrategy());        SequenceBarrier barriers = ringBuffer.newBarrier();        Consumer[] consumers = new Consumer[3];        for(int i = 0; i < consumers.length; i++){            consumers[i] = new Consumer("c" + i);        }        WorkerPool<Order> workerPool =                 new WorkerPool<Order>(ringBuffer,                         barriers,                         new IntEventExceptionHandler(),                        consumers);        ringBuffer.addGatingSequences(workerPool.getWorkerSequences());          workerPool.start(Executors.newFixedThreadPool(Runtime.getRuntime().availableProcessors()));          final CountDownLatch latch = new CountDownLatch(1);        for (int i = 0; i < 100; i++) {              final Producer p = new Producer(ringBuffer);            new Thread(new Runnable() {                @Override                public void run() {                    try {                        latch.await();                    } catch (InterruptedException e) {                        e.printStackTrace();                    }                    for(int j = 0; j < 100; j ++){                        p.onData(UUID.randomUUID().toString());                    }                }            }).start();        }         Thread.sleep(2000);        System.out.println("---------------开始生产-----------------");        latch.countDown();        Thread.sleep(5000);        System.out.println("总数:" + consumers[0].getCount() );    }    static class IntEventExceptionHandler implements ExceptionHandler {          public void handleEventException(Throwable ex, long sequence, Object event) {}          public void handleOnStartException(Throwable ex) {}          public void handleOnShutdownException(Throwable ex) {}      } }
public class Consumer implements WorkHandler<Order>{    private String consumerId;    private static AtomicInteger count = new AtomicInteger(0);    public Consumer(String consumerId){        this.consumerId = consumerId;    }    @Override    public void onEvent(Order order) throws Exception {        System.out.println("当前消费者: " + this.consumerId + ",消费信息:" + order.getId());        count.incrementAndGet();    }    public int getCount(){        return count.get();    }}
public class Order {      private String id;//ID      private String name;    private double price;//金额      public String getId() {        return id;    }    public void setId(String id) {        this.id = id;    }    public String getName() {        return name;    }    public void setName(String name) {        this.name = name;    }    public double getPrice() {        return price;    }    public void setPrice(double price) {        this.price = price;    }}  
public class Producer {    private final RingBuffer<Order> ringBuffer;    public Producer(RingBuffer<Order> ringBuffer){        this.ringBuffer = ringBuffer;    }    /**     * onData用来发布事件,每调用一次就发布一次事件     * 它的参数会用过事件传递给消费者     */    public void onData(String data){        //可以把ringBuffer看做一个事件队列,那么next就是得到下面一个事件槽        long sequence = ringBuffer.next();        try {            //用上面的索引取出一个空的事件用于填充(获取该序号对应的事件对象)            Order order = ringBuffer.get(sequence);            //获取要通过事件传递的业务数据            order.setId(data);        } finally {            //发布事件            //注意,最后的 ringBuffer.publish 方法必须包含在 finally 中以确保必须得到调用;如果某个请求的 sequence 未被提交,将会堵塞后续的发布操作或者其它的 producer。            ringBuffer.publish(sequence);        }    }}
0 0
原创粉丝点击