SpringMVC异步化请求初探(续-請求背压)

来源:互联网 发布:51单片机怎么烧程序 编辑:程序博客网 时间:2024/06/03 19:59

SpringMVC异步化请求初探(续-請求背压)

基础

有时候可能会遇到服务器请求数过大的情况,如果不做处理,服务器很容易被拖垮,这时候需要限流保证一部分请求正常处理,拒绝超过阈值的请求,优先保证服务器的可用性。

RxJava2.0 支持backpressure, 但是SpringMVC 目前还不支持响应式请求,所以我在这里使用了ThreadPoolExecutor的RejectedExecutionHandler来做限流和拒绝请求。

直接上代码:

    # battleService.battle() 方法专用的线程池    private final Executor executor =     new ThreadPoolExecutor(20, 200, 60L, TimeUnit.SECONDS,new LinkedBlockingDeque<>(400), new ThreadPoolExecutor.AbortPolicy());    # 异步请求    @RequestMapping("/battle")    public Single<APIResponse<BattleSimulationResult>> battle(@ModelAttribute(MEMBER_ID) final long member_id, @Validated final BattleForm form, final BindingResult result) {        checkArgument(!result.hasErrors());        return Single                .create((SingleOnSubscribe<APIResponse<BattleSimulationResult>>) e ->                        e.onSuccess(APIResponse.<BattleSimulationResult>builder().data(battleService.battle(member_id, form)).build()))                .subscribeOn(Schedulers.from(executor));    }

这样做可以保证battle方法有独立的线程资源,其他线程出现问题也不会占用battle的资源,同时,battle方法也实现了限流,遇到高流量也不会压垮服务器,处理不过来的请求直接报错返回。还可以动态灵活的设置线程池大小,手动清空线程池,保证服务可用。

缺点是需要对每个方法的代码进行修改,工作量大。不如使用nginx limit模块对整个服务进行限流。

0 0