TCP通信转HTTP桥接器(转发zabbix数据为例)

需求场景

由于项目需要我们有大量服务器部署在互联网上，需要zabbix_agent监控服务器数据，但是用于接收监控数据的zabbix_server对访问安全要求较为严格。zabbix_server部署在专网内，仅接收来自CDN的HTTP请求，同时对Host访问地址有大量限制。

zabbix默认的通信协议为基于TCP协议的自定义通信协议详见:zabbix sender协议的研究，因此必然无法通过CDN，防火墙最终到达zabbix_server。因此我们需要将zabbix_agent与server之间的通信通过HTTP桥接起来。

将原TCP通信的C/S结构软件的数据经由HTTP转发。即：

SERVER <-TCP-> CLIENT

转为：

SERVER <-TCP-> BRIDGE <- HTTP -> BRIDGE <- TCP -> CLIENT

由此实现了C/S间穿过CDN,防火墙等复杂网络设备下的通信。

需要注意的是，由于客户端服务器无固定IP，这里的zabbix_agent使用active模式主动往server汇报数据，并接受server的响应。

当然，本文程序由于不涉及处理TCP数据，因此只要是基于TCP的C/S结构软件，均可以使用本文的方法实现HTTP桥接。

流程与程序设计

数据传输流程

分别在客户端与服务端开启桥接器服务，在客户端桥接器启用TCP监听，在服务端桥接器启用HTTP监听。

• 1、zabbix_agent 启动，通过TCP发起check active查询，被客户端桥接器监听到。
• 2、客户端桥接器将TCP数据（byte[]）经过Base64编码，通过HTTP方式发送到服务端桥接器。（此时TCP与HTTP连接均未断开）
• 3、服务端桥接器接收到HTTP请求，解析Base64编码的数据后将其恢复成原始byte[]，通过TCP方式发送到zabbix_server，并接受响应。将响应数据经过Base64编码后通过HTTP返回给客户端。
• 4、客户端获得HTTP 200响应后，从中解析响应字符串，通过Base64恢复为原zabbix_server响应的byte[]，并通过TCP发送给zabbix_agent，断开socket。（zabbix_agent 规定一次TCP通信只允许发送一条数据，所以此处断开SOCKET是正确的）
• 一次桥接通信完成。

程序设计

支持两种启动模式

桥接器功能简单，无需分别实现TCP,HTTP两套程序。只要封装在一个程序里，支持两种启动模式即可。

// 启动服务端HTTP服务java -jar tcp2httpbridge.jar HTTP// 启动客户端TCP服务java -jar tcp2httpbridge.jar TCP

主程序入口如下

public static void main(String[] args) {        if(args.length<1){            // 没有指定启动方式            System.out.println("USAGE : java -jar tcp2httpbridge.jar [HTTP/TCP]");        } else if(args[0].toUpperCase().equals(StaticValue.APPTYPE.HTTP)){            // 以HTTP方式启动            HTTPServer.start();        } else if(args[0].toUpperCase().equals(StaticValue.APPTYPE.TCP)){            // 以TCP方式启动            TCPServer.startServer(                Integer.parseInt(ConfigLoader.getInstance().getValue("local.tcp.port")),                 TCPServer.class);        } else {            //参数不合法            System.out.println("USAGE : java -jar tcp2httpbridge.jar [HTTP/TCP]");        }    }

程序参数支持配置

将程序常用参数写入app.properties文件中，实现程序的灵活配置。
本示例提取的参数有：

# 应用HTTP项目名称app.project=tcp2httpbridge# 最大TCP/HTTP读取缓冲大小app.maxbuffer=20480# 最大HTTP监听数量app.maxhttphandler=100# TCP模式时，本地TCP监听端口(zabbix_agent配置中将ServerActive端口改为此即可被监听)local.tcp.port=1234# HTTP模式时，本地HTTP监听端口local.http.port=8888# 转发HTTP服务器地址(此处指部署有zabbix_server的服务器地址)remote.http.server=http://xxx.xxx.xxx.xxx# 转发HTTP服务端口remote.http.port=8888# 发送TCP目的地址(IP或域名均可)remote.tcp.server=localhost# 发送TCP目的端口(10051对应zabbix_server监听agent数据的端口)remote.tcp.port=10051# HTTP请求API地址api.zabbix=zabbix

关键步骤

多线程监听TCP请求

由于一次TCP通信桥接可能较为耗时，若有多个zabbix_agent客户端同时经过此桥接器转接，可能出现多个TCP请求并发的情况，因此不能仅靠一个TCP线程监听，这样会阻塞后续的TCP请求。
因此应该在接到TCP请求后，马上将其交给一个线程单独处理，主线程马上恢复监听。
参考来源：java tcp 端口监听，代码如下

public class TCPServer extends Thread{    protected Socket socket;    private static final Logger logger = LoggerFactory.getLogger(TCPServer.class);    public void run() {        try {            InputStream is = socket.getInputStream();            byte[] buf = new byte[Integer.parseInt(ConfigLoader.getInstance().getValue("app.maxbuffer"))];              int length = is.read(buf);            byte[] data = new byte[length];            for(int i=0;i<length;i++){                data[i] = buf[i];            }            logger.info("TCP server 接收到数据: " + new String(data));            socket.shutdownInput();            ResultInfo result = HttpSender.send(                    ConfigLoader.getInstance().getValue("remote.http.server")+":"+                    ConfigLoader.getInstance().getValue("remote.http.port")+"/"+                    ConfigLoader.getInstance().getValue("app.project")+"/"+                    ConfigLoader.getInstance().getValue("api.zabbix"), data);            if(result.getStateId()<0){                logger.error("状态码不为0,"+result.getErrorMsg());            } else {                logger.info("HTTP返回:"+result);                byte[] en = result.getContent().getBytes();                byte[] de = Base64Util.decryBytes(en);                logger.info("TCP 写入:"+new String(de));                OutputStream os = socket.getOutputStream();                os.write(de);                os.flush();                socket.shutdownOutput();            }            logger.info("完成TCP交互，退出socket");            socket.close();        } catch (Exception e) {            logger.error("接收TCP数据出现错误", e);        }    }    public static void startServer(int port, Class obj){        ServerSocket serverSocket;        try {            serverSocket = new ServerSocket(port);            logger.info("TCP server 监听 : " + port);            while(true){                Socket e =null;                try {                    // 在这里一直等待链接                    e = serverSocket.accept();                    // 一旦链接，将socket转入新进程进行处理，主进程重新监听新请求                    logger.info("建立新连接...");                    TCPServer server = (TCPServer) obj.newInstance();                    server.socket = e;                    server.start();                } catch (InstantiationException e1) {                    logger.error("建立TCP连接错误",e1);                    e.close();                } catch (IllegalAccessException e1) {                    logger.error("建立TCP连接错误",e1);                    e.close();                }             }        } catch (IOException e) {            logger.error("启动TCP监听错误",e);        }    }}

多线程监听HTTP请求

通过Jersey和sun httpserver建立一个简单的HTTP服务即可。代码如下：

public class HTTPServer {    private static final Logger logger = LoggerFactory.getLogger(HTTPServer.class);    public static void start() {        try {            ContextLoader.load();              HttpServerProvider provider = HttpServerProvider.provider();              HttpServer httpserver =provider.createHttpServer(                    new InetSocketAddress(Integer.parseInt(ConfigLoader.getInstance().getValue("local.http.port"))),                     Integer.parseInt(ConfigLoader.getInstance().getValue("app.maxhttphandler")));            httpserver.createContext(ContextLoader.contextPath, new CoreHandler());               httpserver.setExecutor(null);              httpserver.start();              logger.info("HTTP 服务开启成功 :" + Integer.parseInt(ConfigLoader.getInstance().getValue("local.http.port")));        } catch (NumberFormatException e) {            logger.error("HTTP 服务开启失败",e);        } catch (IOException e) {            logger.error("HTTP 服务开启失败",e);        }    }}

Socket的处理

socket处理简单的接受inputstrea和输出outputstream就不细说了，这里说明我遇到的问题：

1、不管是zabbix_agent或是zabbix_server均没有输出结束标志，因此简单的通过DataoutputStream或者BufferedStreamReader的readLine()方式均会遇到程序不知道TCP数据合适传输结束，连接一直保持等待输入直到超时断开为止。

这种处理是不可行的，此处应该直接处理inputstream，将TCP数据一次性读到byte[]中，有多少读多少，然后直接开始处理。

        byte[] responseData =             new byte[Integer.parseInt(ConfigLoader.getInstance().getValue("app.maxbuffer"))];        int readCount = 0;        while (true) {            int read = is.read(responseData, 0, responseData.length - readCount);            if (read <= 0) {                break;            }            readCount += read;        }        byte[] r = new byte[readCount];        for(int i = 0 ; i < readCount; i ++){            r[i] = responseData[i];        }// responseData缓冲预留太长，r是最终的byte[]

2、遇到与server交互，既需要TCP输入也需要TCP输出的交互情景，inputstream和outputstream一定要同时获取到

outputstream要flush后才能获得服务器响应。

        Socket socket = new Socket(ip, port);        OutputStream os = socket.getOutputStream();        InputStream is = socket.getInputStream();        logger.info("开始输出socket...");        os.write(content);        os.flush();        logger.info("开始读入socket...");        byte[] responseData = new byte[Integer.parseInt(ConfigLoader.getInstance().getValue("app.maxbuffer"))];        int readCount = 0;        while (true) {            int read = is.read(responseData, 0, responseData.length - readCount);            if (read <= 0) {                break;            }            readCount += read;        }        byte[] r = new byte[readCount];        for(int i = 0 ; i < readCount; i ++){            r[i] = responseData[i];        }        logger.info("关闭socket...");        os.close();        is.close();        socket.close();        logger.info("读入socket结束，接收返回:"+new String(r));        return r;

HTTP数据封装

如果需要传递byte[]，一定要经过Base64编码，同时，如果包装过返回数据结构，并通过fastJson或者其他序列化工具处理的话，目前由于为止原因，fastJson无法处理HashMap<String, byte[]>这种类型，所以本文程序我只通过HTTP传输Base64处理后的String。

效果

客户端

zabbix_agent请求被桥接器监听到->通过HTTP发送->接收到HTTP返回->将返回数据通过TCP发送回zabbix_agent

服务端

桥接器接到HTTP请求->转为TCP数据发送给zabbix_server->接收到zabbix_server响应->通过HTTP发回响应

zabbix_server监控页面效果

成功在server端注册agent，并上传了一个监控数据。