epoll学习笔记

converse

epoll有两种模式,Edge Triggered(简称ET) 和 Level Triggered.在采用这两种模式时要注意的是,如果采用ET模式,那么仅当状态发生变化时才会通知,而采用LT模式类似于原来的 select/poll操作,只要还有没有处理的事件就会一直通知.

以代码来说明问题:
首先给出server的代码,需要说明的是每次accept的连接,加入可读集的时候采用的都是ET模式,而且接收缓冲区是5字节的,也就是每次只接收5字节的数据:

1. 
   
2. #include <iostream>
   
3. #include <sys/socket.h>
   
4. #include <sys/epoll.h>
   
5. #include <netinet/in.h>
   
6. #include <arpa/inet.h>
   
7. #include <fcntl.h>
   
8. #include <unistd.h>
   
9. #include <stdio.h>
   
10. #include <errno.h>
    
11. 
    
12. using namespace std;
    
13. 
    
14. #define MAXLINE 5
    
15. #define OPEN_MAX 100
    
16. #define LISTENQ 20
    
17. #define SERV_PORT 5000
    
18. #define INFTIM 1000
    
19. 
    
20. void setnonblocking(int sock)
    
21. {
    
22.     int opts;
    
23.     opts=fcntl(sock,F_GETFL);
    
24.     if(opts<0)
    
25.     {
    
26.         perror("fcntl(sock,GETFL)");
    
27.         exit(1);
    
28.     }
    
29.     opts = opts|O_NONBLOCK;
    
30.     if(fcntl(sock,F_SETFL,opts)<0)
    
31.     {
    
32.         perror("fcntl(sock,SETFL,opts)");
    
33.         exit(1);
    
34.     }   
    
35. }
    
36. 
    
37. int main()
    
38. {
    
39.     int i, maxi, listenfd, connfd, sockfd,epfd,nfds;
    
40.     ssize_t n;
    
41.     char line[MAXLINE];
    
42.     socklen_t clilen;
    
43.     //声明epoll_event结构体的变量,ev用于注册事件,数组用于回传要处理的事件
    
44.     struct epoll_event ev,events[20];
    
45.     //生成用于处理accept的epoll专用的文件描述符
    
46.     epfd=epoll_create(256);
    
47.     struct sockaddr_in clientaddr;
    
48.     struct sockaddr_in serveraddr;
    
49.     listenfd = socket(AF_INET, SOCK_STREAM, 0);
    
50.     //把socket设置为非阻塞方式
    
51.     //setnonblocking(listenfd);
    
52.     //设置与要处理的事件相关的文件描述符
    
53.     ev.data.fd=listenfd;
    
54.     //设置要处理的事件类型
    
55.     ev.events=EPOLLIN|EPOLLET;
    
56.     //ev.events=EPOLLIN;
    
57.     //注册epoll事件
    
58.     epoll_ctl(epfd,EPOLL_CTL_ADD,listenfd,&ev);
    
59.     bzero(&serveraddr, sizeof(serveraddr));
    
60.     serveraddr.sin_family = AF_INET;
    
61.     char *local_addr="127.0.0.1";
    
62.     inet_aton(local_addr,&(serveraddr.sin_addr));//htons(SERV_PORT);
    
63.     serveraddr.sin_port=htons(SERV_PORT);
    
64.     bind(listenfd,(sockaddr *)&serveraddr, sizeof(serveraddr));
    
65.     listen(listenfd, LISTENQ);
    
66.     maxi = 0;
    
67.     for ( ; ; ) {
    
68.         //等待epoll事件的发生
    
69.         nfds=epoll_wait(epfd,events,20,500);
    
70.         //处理所发生的所有事件     
    
71.         for(i=0;i<nfds;++i)
    
72.         {
    
73.             if(events[i].data.fd==listenfd)
    
74.             {
    
75.                 connfd = accept(listenfd,(sockaddr *)&clientaddr, &clilen);
    
76.                 if(connfd<0){
    
77.                     perror("connfd<0");
    
78.                     exit(1);
    
79.                 }
    
80.                 //setnonblocking(connfd);
    
81.                 char *str = inet_ntoa(clientaddr.sin_addr);
    
82.                 cout << "accapt a connection from " << str << endl;
    
83.                 //设置用于读操作的文件描述符
    
84.                 ev.data.fd=connfd;
    
85.                 //设置用于注测的读操作事件
    
86.                 ev.events=EPOLLIN|EPOLLET;
    
87.                 //ev.events=EPOLLIN;
    
88.                 //注册ev
    
89.                 epoll_ctl(epfd,EPOLL_CTL_ADD,connfd,&ev);
    
90.             }
    
91.             else if(events[i].events&EPOLLIN)
    
92.             {
    
93.                 cout << "EPOLLIN" << endl;
    
94.                 if ( (sockfd = events[i].data.fd) < 0)
    
95.                     continue;
    
96.                 if ( (n = read(sockfd, line, MAXLINE)) < 0) {
    
97.                     if (errno == ECONNRESET) {
    
98.                         close(sockfd);
    
99.                         events[i].data.fd = -1;
    
100.                     } else
     
101.                         std::cout<<"readline error"<<std::endl;
     
102.                 } else if (n == 0) {
     
103.                     close(sockfd);
     
104.                     events[i].data.fd = -1;
     
105.                 }
     
106.                 line[n] = '\0';
     
107.                 cout << "read " << line << endl;
     
108.                 //设置用于写操作的文件描述符
     
109.                 ev.data.fd=sockfd;
     
110.                 //设置用于注测的写操作事件
     
111.                 ev.events=EPOLLOUT|EPOLLET;
     
112.                 //修改sockfd上要处理的事件为EPOLLOUT
     
113.                 //epoll_ctl(epfd,EPOLL_CTL_MOD,sockfd,&ev);
     
114.             }
     
115.             else if(events[i].events&EPOLLOUT)
     
116.             {   
     
117.                 sockfd = events[i].data.fd;
     
118.                 write(sockfd, line, n);
     
119.                 //设置用于读操作的文件描述符
     
120.                 ev.data.fd=sockfd;
     
121.                 //设置用于注测的读操作事件
     
122.                 ev.events=EPOLLIN|EPOLLET;
     
123.                 //修改sockfd上要处理的事件为EPOLIN
     
124.                 epoll_ctl(epfd,EPOLL_CTL_MOD,sockfd,&ev);
     
125.             }
     
126.         }
     
127.     }
     
128.     return 0;
     
129. }
     

复制代码

下面给出测试所用的Perl写的client端,在client中发送10字节的数据,同时让client在发送完数据之后进入死循环, 也就是在发送完之后连接的状态不发生改变--既不再发送数据, 也不关闭连接,这样才能观察出server的状态:

1. 
   
2. #!/usr/bin/perl
   
3. 
   
4. use IO::Socket;
   
5. 
   
6. my $host = "127.0.0.1";
   
7. my $port = 5000;
   
8. 
   
9. my $socket = IO::Socket::INET->new("$host:$port") or die "create socket error $@";
   
10. my $msg_out = "1234567890";
    
11. print $socket $msg_out;
    
12. print "now send over, go to sleep\n";
    
13. 
    
14. while (1)
    
15. {
    
16.     sleep(1);
    
17. }
    

复制代码

运行server和client发现,server仅仅读取了5字节的数据,而client其实发送了10字节的数据,也就是说,server仅当第一次监听到了EPOLLIN事件,由于没有读取完数据,而且采用的是ET模式,状态在此之后不发生变化,因此server再也接收不到EPOLLIN事件了.

如果我们把client改为这样:

1. 
   
2. #!/usr/bin/perl
   
3. 
   
4. use IO::Socket;
   
5. 
   
6. my $host = "127.0.0.1";
   
7. my $port = 5000;
   
8. 
   
9. my $socket = IO::Socket::INET->new("$host:$port") or die "create socket error $@";
   
10. my $msg_out = "1234567890";
    
11. print $socket $msg_out;
    
12. print "now send over, go to sleep\n";
    
13. sleep(5);
    
14. print "5 second gonesend another line\n";
    
15. print $socket $msg_out;
    
16. 
    
17. while (1)
    
18. {
    
19.     sleep(1);
    
20. }
    
21. 
    

复制代码

可以发现,在server接收完5字节的数据之后一直监听不到client的事件,而当client休眠5秒之后重新发送数据,server再次监听到了变化,只不过因为只是读取了5个字节,仍然有10个字节的数据(client第二次发送的数据)没有接收完.

如果上面的实验中,对accept的socket都采用的是LT模式,那么只要还有数据留在buffer中,server就会继续得到通知,读者可以自行改动代码进行实验.

基于这两个实验,可以得出这样的结论:ET模式仅当状态发生变化的时候才获得通知,这里所谓的状态的变化并不包括缓冲区中还有未处理的数据,也就是说,如果要采用ET模式,需要一直read/write直到出错为止,很多人反映为什么采用ET模式只接收了一部分数据就再也得不到通知了,大多因为这样;而LT 模式是只要有数据没有处理就会一直通知下去的.

另外,从这个例子中,也可以阐述一些基本的网络编程概念.首先,连接的两端中,一端发送成功并不代表着对方上层应用程序接收成功, 就拿上面的client测试程序来说,10字节的数据已经发送成功,但是上层的server并没有调用read读取数据,因此发送成功仅仅说明了数据被对方的协议栈接收存放在了相应的buffer中,而上层的应用程序是否接收了这部分数据不得而知;同样的,读取数据时也只代表着本方协议栈的对应 buffer中有数据可读,而此时时候在对端是否在发送数据也不得而知.

cugb_cat

在使用非阻塞模式时，ET模式下要一直循环直到EAGAIN错误。
还有楼主说的那个相应的buffer，就是内核缓冲区，这个缓冲区与文件IO中文件系统中的缓冲区概念是差不多的。

flw

写的很不错。

swordfish.cn

ET 和 LT，乍看乍像电子里面的东西。

cugb_cat

原帖由 swordfish.cn 于 2008-4-29 22:51 发表
ET 和 LT，乍看乍像电子里面的东西。

就是那个意思，边沿触发和水平触发

swordfish.cn

原帖由 cugb_cat 于 2008-4-29 22:53 发表

就是那个意思，边沿触发和水平触发

是仅仅取用电子里面的概念还是真的检测硬件的状态呢？

cugb_cat

原帖由 swordfish.cn 于 2008-4-29 22:58 发表


是仅仅取用电子里面的概念还是真的检测硬件的状态呢？

我觉得应该是概念类似。

涩兔子

注释用英文，然后版本控制一下就更好了

cookis

这不是网上流传最广的那个epoll入门实例吗.
亲历亲为.. 8 错..

converse

补充说明一下这里一直强调的"状态变化"是什么:

1)对于监听可读事件时,如果是socket是监听socket,那么当有新的主动连接到来为状态发生变化;对一般的socket而言,协议栈中相应的缓冲区有新的数据为状态发生变化.但是,如果在一个时间同时接收了N个连接(N>1),但是监听socket只accept了一个连接,那么其它未accept的连接将不会在ET模式下给监听socket发出通知,此时状态不发生变化;对于一般的socket,就如例子中而言,如果对应的缓冲区本身已经有了N字节的数据,而只取出了小于N字节的数据,那么残存的数据不会造成状态发生变化.

2)对于监听可写事件时,同理可推,不再详述.

而不论是监听可读还是可写,对方关闭socket连接都将造成状态发生变化,比如在例子中,如果强行中断client脚本,也就是主动中断了socket连接,那么都将造成server端发生状态的变化,从而server得到通知,将已经在本方缓冲区中的数据读出.

把前面的描述可以总结如下:仅当对方的动作(发出数据,关闭连接等)造成的事件才能导致状态发生变化,而本方协议栈中已经处理的事件(包括接收了对方的数据,接收了对方的主动连接请求)并不是造成状态发生变化的必要条件,状态变化一定是对方造成的.所以在ET模式下的,必须一直处理到出错或者完全处理完毕,才能进行下一个动作,否则可能会发生错误.