I/O Multiplexing & epoll

来源:互联网 发布:手机广告平面设计软件 编辑:程序博客网 时间:2024/05/02 06:12

什么是epoll?


epoll是在2.6内核中提出的,是之前的select和poll的增强版本。它能显著提高程序在大量并发连接中只有少量活跃的情况下的系统CPU利用率。


epoll的优点?


相对于select和poll来说,epoll有如下优点:

(1)支持一个进程打开大数目的socket描述符
        select 最不能忍受的是一个进程所打开的FD是有一定限制的,由FD_SETSIZE设置,默认值是1024。对于那些需要支持的上万连接数目的IM服务器来说显然太少了。这时候你一是可以选择修改这个宏然后重新编译服务器代码,不过资料也同时指出这样会带来网络效率的下降。


(2)IO效率不随FD数目增加而线性下降
        传统的select/poll另一个致命弱点就是当你拥有一个很大的socket集合,不过由于网络延时,任一时间只有部分的socket是“活跃”的,但是select/poll每次调用都会线性扫描全部的集合,导致效率呈现线性下降。但是epoll不存在这个问题,它只会对“活跃”的socket进行操作---这是因为在内核实现中epoll是根据每个fd上面的callback函数实现的。那么,只有“活跃”的socket才会主动的去调用 callback函数,其他idle状态socket则不会

(3)使用mmap加速内核与用户空间的消息传递
        无论是select,poll还是epoll都需要内核把FD消息通知给用户空间,如何避免不必要的内存拷贝就很重要,在这点上,epoll是通过内核与用户空间mmap同一块内存实现的。


epoll使用说明


#include <sys/epoll.h>int epoll_create(int size);int epoll_ctl(int epfd, int op, int fd, struct epoll_event *event);int epoll_wait(int epfd, struct epoll_event * events, int maxevents, int timeout);

1) int epoll_create(int size);


    创建一个epoll的句柄,size用来告诉内核这个监听的数目一共有多大。这个参数不同于select()中的第一个参数,给出最大监听的fd+1的值。需要注意的是,当创建好epoll句柄后,它就是会占用一个fd值,在linux下如果查看/proc/进程id/fd/,是能够看到这个fd的,所以在使用完epoll后,必须调用close()关闭,否则可能导致fd被耗尽。


(2)int epoll_ctl(int epfd, int op, int fd, struct epoll_event *event);


  epoll的事件注册函数,它不同与select()是在监听事件时告诉内核要监听什么类型的事件,而是在这里先注册要监听的事件类型。
第一个参数是epoll_create()的返回值,第二个参数表示动作,用三个宏来表示:
EPOLL_CTL_ADD:注册新的fd到epfd中;
EPOLL_CTL_MOD:修改已经注册的fd的监听事件;
EPOLL_CTL_DEL:从epfd中删除一个fd;
    第三个参数是需要监听的fd,第四个参数是告诉内核需要监听什么事。struct epoll_event结构如下:


typedef union epoll_data {    void *ptr;    int fd;    __uint32_t u32;    __uint64_t u64;} epoll_data_t;struct epoll_event {  __uint32_t events;  /* Epoll events */  epoll_data_t data;  /* User data variable */};//events可以是以下几个宏的集合:EPOLLIN :表示对应的文件描述符可以读(包括对端SOCKET正常关闭);EPOLLOUT:表示对应的文件描述符可以写;EPOLLPRI:表示对应的文件描述符有紧急的数据可读(这里应该表示有带外数据到来);EPOLLERR:表示对应的文件描述符发生错误;EPOLLHUP:表示对应的文件描述符被挂断;EPOLLET: 将EPOLL设为边缘触发(Edge Triggered)模式,这是相对于水平触发(Level Triggered)来说的。EPOLLONESHOT:只监听一次事件,当监听完这次事件之后,如果还需要继续监听这个socket的话,需要再次把这个socket加入到EPOLL队列里

(3) int epoll_wait(int epfd, struct epoll_event * events, int maxevents, int timeout);
  

        等待事件的产生,类似于select()调用。参数events用来从内核得到事件的集合,maxevents告之内核这个events有多大,这个maxevents的值不能大于创建epoll_create()时的size,参数timeout是超时时间(毫秒,0会立即返回,-1将不确定,也有说法说是永久阻塞)。该函数返回需要处理的事件数目,如返回0表示已超时。


epoll的两种模式LT和ET



二者的差异在于level-trigger模式下只要某个socket处于readable/writable状态,无论什么时候进行epoll_wait都会返回该socket;而edge-trigger模式下只有某个socket从unreadable变为readable或从unwritable变为writable时,epoll_wait才会返回该socket。
LT支持阻塞和非阻塞,ET只支持非阻塞,以避免由于一个文件句柄的阻塞读/阻塞写操作把处理多个文件描述符的任务饿死。


返回EAGAIN或者EWOULDBLOCK错误,这个错误表示资源暂时不够,能read时,读缓冲区没有数据,或者write时,写缓冲区满了。


如果是阻塞socket,则会一直阻塞,直到能read或者能write。(当然如果你通过setsockopt设置了读写超时,超时时间到了还是会返回-1和EAGAIN,如果没有设置还是返回-1,则表示网络出错了)
如果是非阻塞socket,则会直接返回-1, 同时errno设置为EAGAIN



所以,在epoll的ET模式下,正确的读写方式为:
读:只要可读,就一直读,直到返回0,或者 errno = EAGAIN
写:只要可写,就一直写,直到数据发送完,或者 errno = EAGAIN


贴一个epoll,ET模式的简单HTTP服务器代码


#include <sys/socket.h>#include <sys/wait.h>#include <netinet/in.h>#include <netinet/tcp.h>#include <sys/epoll.h>#include <sys/sendfile.h>#include <sys/stat.h>#include <unistd.h>#include <stdio.h>#include <stdlib.h>#include <string.h>#include <strings.h>#include <fcntl.h>#include <errno.h> #define MAX_EVENTS 10#define PORT 8080//设置socket连接为非阻塞模式void setnonblocking(int sockfd) {    int opts;    opts = fcntl(sockfd, F_GETFL);    if(opts < 0) {        perror("fcntl(F_GETFL)\n");        exit(1);    }    opts = (opts | O_NONBLOCK);    if(fcntl(sockfd, F_SETFL, opts) < 0) {        perror("fcntl(F_SETFL)\n");        exit(1);    }}int main(){    struct epoll_event ev, events[MAX_EVENTS];    int addrlen, listenfd, conn_sock, nfds, epfd, fd, i, nread, n;    struct sockaddr_in local, remote;    char buf[BUFSIZ];    //创建listen socket    if( (listenfd = socket(AF_INET, SOCK_STREAM, 0)) < 0) {        perror("sockfd\n");        exit(1);    }    setnonblocking(listenfd);    bzero(&local, sizeof(local));    local.sin_family = AF_INET;    local.sin_addr.s_addr = htonl(INADDR_ANY);;    local.sin_port = htons(PORT);    if( bind(listenfd, (struct sockaddr *) &local, sizeof(local)) < 0) {        perror("bind\n");        exit(1);    }    listen(listenfd, 20);    epfd = epoll_create(MAX_EVENTS);    if (epfd == -1) {        perror("epoll_create");        exit(EXIT_FAILURE);    }    ev.events = EPOLLIN;    ev.data.fd = listenfd;    if (epoll_ctl(epfd, EPOLL_CTL_ADD, listenfd, &ev) == -1) {        perror("epoll_ctl: listen_sock");        exit(EXIT_FAILURE);    }    for (;;) {        nfds = epoll_wait(epfd, events, MAX_EVENTS, -1);        if (nfds == -1) {            perror("epoll_pwait");            exit(EXIT_FAILURE);        }        for (i = 0; i < nfds; ++i) {            fd = events[i].data.fd;            if (fd == listenfd) {                while ((conn_sock = accept(listenfd,(struct sockaddr *) &remote,                                 (size_t *)&addrlen)) > 0) {                    setnonblocking(conn_sock);                    ev.events = EPOLLIN | EPOLLET;                    ev.data.fd = conn_sock;                    if (epoll_ctl(epfd, EPOLL_CTL_ADD, conn_sock,                                &ev) == -1) {                        perror("epoll_ctl: add");                        exit(EXIT_FAILURE);                    }                }                if (conn_sock == -1) {                    if (errno != EAGAIN && errno != ECONNABORTED                             && errno != EPROTO && errno != EINTR)                         perror("accept");                }                continue;            }              if (events[i].events & EPOLLIN) {                n = 0;                while ((nread = read(fd, buf + n, BUFSIZ-1)) > 0) {                    n += nread;                }                if (nread == -1 && errno != EAGAIN) {                    perror("read error");                }                ev.data.fd = fd;                ev.events = events[i].events | EPOLLOUT;                if (epoll_ctl(epfd, EPOLL_CTL_MOD, fd, &ev) == -1) {                    perror("epoll_ctl: mod");                }            }            if (events[i].events & EPOLLOUT) {                sprintf(buf, "HTTP/1.1 200 OK\r\nContent-Length: %d\r\n\r\nHello World", 11);                int nwrite, data_size = strlen(buf);                n = data_size;                while (n > 0) {                    nwrite = write(fd, buf + data_size - n, n);                    if (nwrite < n) {                        if (nwrite == -1 && errno != EAGAIN) {                            perror("write error");                        }                        break;                    }                    n -= nwrite;                }                close(fd);            }        }    }    return 0;}


再贴一个epoll & LT 模式简单的服务器代码


#include <stdio.h>#include <stdlib.h>#include <string.h>#include <errno.h>#include <netinet/in.h>#include <sys/socket.h>#include <arpa/inet.h>#include <sys/epoll.h>#include <unistd.h>#include <sys/types.h>#define IPADDRESS   "127.0.0.1"#define PORT        8787#define MAXSIZE     1024#define LISTENQ     5#define FDSIZE      1000#define EPOLLEVENTS 100//函数声明//创建套接字并进行绑定static int socket_bind(const char* ip,int port);//IO多路复用epollstatic void do_epoll(int listenfd);//事件处理函数static voidhandle_events(int epollfd,struct epoll_event *events,int num,int listenfd,char *buf);//处理接收到的连接static void handle_accpet(int epollfd,int listenfd);//读处理static void do_read(int epollfd,int fd,char *buf);//写处理static void do_write(int epollfd,int fd,char *buf);//添加事件static void add_event(int epollfd,int fd,int state);//修改事件static void modify_event(int epollfd,int fd,int state);//删除事件static void delete_event(int epollfd,int fd,int state);int main(int argc,char *argv[]){    int  listenfd;    listenfd = socket_bind(IPADDRESS,PORT);    listen(listenfd,LISTENQ);    do_epoll(listenfd);    return 0;}static int socket_bind(const char* ip,int port){    int  listenfd;    struct sockaddr_in servaddr;    listenfd = socket(AF_INET,SOCK_STREAM,0);    if (listenfd == -1)    {        perror("socket error:");        exit(1);    }    bzero(&servaddr,sizeof(servaddr));    servaddr.sin_family = AF_INET;    inet_pton(AF_INET,ip,&servaddr.sin_addr);    servaddr.sin_port = htons(port);    if (bind(listenfd,(struct sockaddr*)&servaddr,sizeof(servaddr)) == -1)    {        perror("bind error: ");        exit(1);    }    return listenfd;}static void do_epoll(int listenfd){    int epollfd;    struct epoll_event events[EPOLLEVENTS];    int ret;    char buf[MAXSIZE];    memset(buf,0,MAXSIZE);    //创建一个描述符    epollfd = epoll_create(FDSIZE);    //添加监听描述符事件    add_event(epollfd,listenfd,EPOLLIN);    for ( ; ; )    {        //获取已经准备好的描述符事件        ret = epoll_wait(epollfd,events,EPOLLEVENTS,-1);        handle_events(epollfd,events,ret,listenfd,buf);    }    close(epollfd);}static voidhandle_events(int epollfd,struct epoll_event *events,int num,int listenfd,char *buf){    int i;    int fd;    //进行选好遍历    for (i = 0;i < num;i++)    {        fd = events[i].data.fd;        //根据描述符的类型和事件类型进行处理        if ((fd == listenfd) &&(events[i].events & EPOLLIN))            handle_accpet(epollfd,listenfd);        else if (events[i].events & EPOLLIN)            do_read(epollfd,fd,buf);        else if (events[i].events & EPOLLOUT)            do_write(epollfd,fd,buf);    }}static void handle_accpet(int epollfd,int listenfd){    int clifd;    struct sockaddr_in cliaddr;    socklen_t  cliaddrlen;    clifd = accept(listenfd,(struct sockaddr*)&cliaddr,&cliaddrlen);    if (clifd == -1)        perror("accpet error:");    else    {        printf("accept a new client: %s:%d\n",inet_ntoa(cliaddr.sin_addr),cliaddr.sin_port);        //添加一个客户描述符和事件        add_event(epollfd,clifd,EPOLLIN);    }}static void do_read(int epollfd,int fd,char *buf){    int nread;    nread = read(fd,buf,MAXSIZE);    if (nread == -1)    {        perror("read error:");        close(fd);        delete_event(epollfd,fd,EPOLLIN);    }    else if (nread == 0)    {        fprintf(stderr,"client close.\n");        close(fd);        delete_event(epollfd,fd,EPOLLIN);    }    else    {        printf("read message is : %s",buf);        //修改描述符对应的事件,由读改为写        modify_event(epollfd,fd,EPOLLOUT);    }}static void do_write(int epollfd,int fd,char *buf){    int nwrite;    nwrite = write(fd,buf,strlen(buf));    if (nwrite == -1)    {        perror("write error:");        close(fd);        delete_event(epollfd,fd,EPOLLOUT);    }    else        modify_event(epollfd,fd,EPOLLIN);    memset(buf,0,MAXSIZE);}static void add_event(int epollfd,int fd,int state){    struct epoll_event ev;    ev.events = state;    ev.data.fd = fd;    epoll_ctl(epollfd,EPOLL_CTL_ADD,fd,&ev);}static void delete_event(int epollfd,int fd,int state){    struct epoll_event ev;    ev.events = state;    ev.data.fd = fd;    epoll_ctl(epollfd,EPOLL_CTL_DEL,fd,&ev);}static void modify_event(int epollfd,int fd,int state){    struct epoll_event ev;    ev.events = state;    ev.data.fd = fd;    epoll_ctl(epollfd,EPOLL_CTL_MOD,fd,&ev);}


参考:


Epoll在LT和ET模式下的读写方式
http://www.ccvita.com/515.html

IO多路复用之epoll总结
http://www.cnblogs.com/Anker/p/3263780.html

epoll使用详解
http://blog.csdn.net/ljx0305/article/details/4065058



0 0