关于nginx/lighttpd epoll高并发的疑惑

GNM

nginx/lighttpd等web server 采用epoll+单进程模式能支持并发几w的并发。但有个问题一直没搞明白，如果单进程的话，来个请求肯定得read/write操作吧,如果get数据很大的话（如sleep 1000），单进程服务串行处理请求还不得严重阻塞啊？？ ，请大牛们解惑   ；对于apache进程+线程池的并发处理就比较好理解了

yeehya

个人看法:
主要是避免n多线程间的切换时间.
而且epoll模式是非阻塞的,应该不会存在sleep 1000什么的.问题可能存在于处理数据的效率上吧...可以考虑分离吧...

GNM

原帖由 yeehya 于 2009-6-8 13:43 发表
个人看法:
主要是避免n多线程间的切换时间.
而且epoll模式是非阻塞的,应该不会存在sleep 1000什么的.问题可能存在于处理数据的效率上吧...可以考虑分离吧...

使用非阻塞模式做I/O操作需检查errno是不是EAGAIN、EWOULDBLOCK、EINTR，如果是就需要循环重读，也就非阻塞处理IO时间与阻塞是一样，只是非阻塞能立即返回而且，你得人工去重复处理数据，还是需要等很长时间

cugb_cat

单线程epoll ET，处理几万个并发连接是小case，LT模式都能处理上万并发连接，只是LT时CPU占用是居高不下。

GNM

原帖由 cugb_cat 于 2009-6-8 13:58 发表
单线程epoll ET，处理几万个并发连接是小case，LT模式都能处理上万并发连接，只是LT时CPU占用是居高不下。

连接和任务处理是两个概念，epoll即使能并发处理上万并发连接，但如果是单进程的话这么多连接的任务也处理不过来吧

[ 本帖最后由 GNM 于 2009-6-8 14:17 编辑 ]

bobozhang

某一个连接EAGAIN后你可以去处理其它连接了，没有必要还在那里等它阿，

hightman

原帖由 GNM 于 2009-6-8 13:37 发表
nginx/lighttpd等web server 采用epoll+单进程模式能支持并发几w的并发。但有个问题一直没搞明白，如果单进程的话，来个请求肯定得read/write操作吧,如果get数据很大的话（如sleep 1000），单进程服务串行处理请 ...

单线程但并不是单线程啊! nginx 多线程的, 底下真正做事时还是一个线程伺候一个client的, 但accept()是在主线程统一处理的 ...

nginx/lighttpd之类只是取巧于各种常用web应用的多数情况, 如果您用nginx,lighttpd的web服务器处理论坛等高度发, 高复杂的业务时, 它们也没什么优势的, 甚至不如apache

[ 本帖最后由 hightman 于 2009-6-8 14:44 编辑 ]

GNM

原帖由 bobozhang 于 2009-6-8 14:19 发表
某一个连接EAGAIN后你可以去处理其它连接了，没有必要还在那里等它阿，

如果不处理这个状态，如何知道什么时候完成了read  IO操作并进入下一步操作？？

如： IE请求--->server （read）??->server(write)

GNM

如果这样的话，nginx还是会用到类似线程池技术罗？？  之前粗略看了看lighttpd源码结构，没有用到线程池，一般情况是单进程，考虑多CPU情况也可以fork几个worker进程，但不像apache好几百的进程摆在那

bobozhang

原帖由 GNM 于 2009-6-8 14:50 发表



如果不处理这个状态，如何知道什么时候完成了read  IO操作并进入下一步操作？？

如： IE请求--->server （read）??->server(write)

不处理什么状态？
每个连接都会有个状态信息，比如IE向ｌｉｇｈｔｔｐｄ发来连接请求，并且已经建立好了ｔｃｐ连接，但ＩＥ一直不发数据过来，这时也就是ｒｅａｄ不到数据，返回ＥＡＧＡＩＮ，那个ｌｉｇｈｔｔｐｄ完全可以记录下这个连接的状态赛，然后就去处理其它连接去了，一直到处理完ｅｐｏｌｌ刚才返回的那些可读或可写的ｓｏｃｋｅｔ后，再次调用ｅｐｏｌｌ的相关函数去检查哪些ｓｏｃｋｅｔ可操作了，一直这样循环就行了。