探讨线程池花销问题

chenzhanyiczy

假如创建了1000个线程的线程池，每个线程只能处理一个事务，然后主线程通过pthread_signal来唤醒该线程池中的某个线程来处理事务，那么在爆发性请求的情况下，主线程必须很频繁的pthread_signal,那么这个花销应该很大，有什么办法减少这个花销？

雨过白鹭洲

总要有一定开销，总比创建销毁线程好多了

jinmiaobis

既要马儿跑的快，有想马儿不吃草,天下没那么好的事,呵呵

chenzhanyiczy

应该有方法减少的吧， 不知apache有什么解决之道没有？

zhoubug

原帖由 chenzhanyiczy 于 2008-10-10 21:18 发表
应该有方法减少的吧， 不知apache有什么解决之道没有？

apache 也是用条件变量

chenzhanyiczy

原帖由 zhoubug 于 2008-10-10 22:28 发表

apache 也是用条件变量

那突然性的爆发量很大的时候，频繁的pthread_cond_signal会不会有影响性能？

zhoubug

原帖由 chenzhanyiczy 于 2008-10-10 23:39 发表



那突然性的爆发量很大的时候，频繁的pthread_cond_signal会不会有影响性能？

apache对于发生事件的句柄都是用一个数据结构记录下并存到队列中，并唤醒工作线程提示有空闲可用，这时候工作线程的条件变量满足就取出任务并作处理，请求爆发，多好的服务模型都会有更大的开销。另外apache的event处理模式是采用多进程，单个进程又配备有这样一个线程池，所以稳定性和处理并发的能力还是很好的。

chenzhanyiczy

原帖由 zhoubug 于 2008-10-11 09:39 发表

apache对于发生事件的句柄都是用一个数据结构记录下并存到队列中，并唤醒工作线程提示有空闲可用，这时候工作线程的条件变量满足就取出任务并作处理，请求爆发，多好的服务模型都会有更大的开销。另外apache的 ...

apache的队列是不是在线程池没有可用线程的时候才起作用的？也就是说，当线程池还有很多idle线程的时候，请求就直接处理，完全不用队列来保存然后在处理，因为这样作的好处是节省了响应时间，没有必要在通过队列保存和出列这些阶段。只有当线程池没有idle线程的时候，才用队列保存。

不知我理解的对不对？

chenzhanyiczy

等 zhoubug

zhoubug

原帖由 chenzhanyiczy 于 2008-10-11 13:01 发表



apache的队列是不是在线程池没有可用线程的时候才起作用的？也就是说，当线程池还有很多idle线程的时候，请求就直接处理，完全不用队列来保存然后在处理，因为这样作的好处是节省了响应时间，没有必要在通 ...

不是这样的。
    epoll线程在得到连接后就尝试获取是否有空闲的工作线程,也就是调用epoll thread->get_worker()->ap_queue_info_wait_for_idler()->push2worker() 这个push2worker是将句柄放到了一个工作线程共用的队列 fd_queue_t *queue,
而线程池中的工作线程其实在启动后就是一直在等待在这个队列的 apr_thread_cond_t *not_empty条件变量满足，也就是有活干，当epoll线程signal条件变量以后，线程池中的某个线程就会开始工作。你上面说“当线程池还有很多idle线程的时候，请求就直接处理“，其实这句话里说的直接处理有两种方式，一种是直接交给空闲工作线程处理，这种方式仍然需要epoll线程和工作线程之间有个通讯数据结构的存在，基本没大改进。令一种是由epoll线程去处理任务，而在选出一个新的空闲线程去运行epoll，这个应该就是常说的Leader/Follower模式，这会有些改进，但考虑到整个结构其实就似乎没必要拉，因为apache是多进程在分别运行epoll线程的，我们上面讨论的只是局部的一个进程。
    另外，这个地方的工作线程里可能需要加载很多的处理模块，如php,rewrite等等的回调方法，并且会有一个状态机来维护会话状态的转换，所以线程职责的改变会大大增加问题的复杂性。