免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
楼主: duanjigang
打印 上一主题 下一主题

源码阅读第一期:axel和wget [复制链接]

论坛徽章:
1
IT运维版块每日发帖之星
日期:2015-12-20 06:20:00
251 [报告]
发表于 2012-04-29 09:28 |只看该作者
哦,原来不用这么麻烦,在配置文件configure中将DEBUG开关打开就可以

论坛徽章:
0
252 [报告]
发表于 2012-08-13 19:22 |只看该作者
请问一下conf.c文件中
fscanf( fp, "%100[^\n#]s", s );
fscanf( fp, "%*[^\n]s" );
fgetc( fp );                        /* Skip newline                */
表示什么意思

论坛徽章:
0
253 [报告]
发表于 2012-08-14 14:14 |只看该作者
回复 82# duanjigang


    您好,源码里面的:sprintf( s, "http://www.filesearching.com/cgi-bin/s?q=%s&w=a&l=en&"
                "t=f&e=on&m=%i&o=n&s1=%lld&s2=%lld&x=15&y=15",
                conn->file, results->conf->search_amount,
                conn->size, conn->size );
这个url似乎不行吧,我用了一个试试看但是打不开。比如我试了下搜索文件mysql-5.0.67.tar.gz,生成的url:
http://www.filesearching.com/cgi ... 0&x=15&y=15
但这个url打不开呀,而且在filesearching.com里面搜索是可以搜出来的,这个是为什么呢?

论坛徽章:
0
254 [报告]
发表于 2012-08-21 09:53 |只看该作者
我遇到一个这样的问题:
我在使用axel多线程下载工具时,axel运行一段时间后, 就不再下载数据, 用strace跟踪发现,axel在不断的调用pthread_create(),而被创建的 thread 停止在
futex(0xb77bcde0, FUTEX_WAIT_PRIVATE, 2, NULL <unfinished ...>
In main thread , 因为设置了20秒超时
if( gettime() > axel->conn[i].last_transfer + axel->conf->reconnect_delay
{
    pthread_cancel( *axel->conn[i].setup_thread );
    axel->conn[i].state = 0;
}
被创建的线程不断的被cancel. 就这样线程被不断的创建,又被不断的cancel, 导致 url download fail.

env:

$> axel -V
Axel version 2.4 (Linux)

Copyright 2001-2002 Wilmer van der Gaast

$> axel -a -n 10 -s 409600 "myurl"

值得思考的地方:
1 strace的结果中 futex() 的调用的第一个参数几乎是同一个地址.
26045 15:02:14.142785 futex(0xb77bcde0, FUTEX_WAIT_PRIVATE, 2, NULL <unfinished ...>
26047 15:02:14.143323 futex(0xb77bcde0, FUTEX_WAIT_PRIVATE, 2, NULL <unfinished ...>
26046 15:02:14.143363 futex(0xb77bcde0, FUTEX_WAIT_PRIVATE, 2, NULL <unfinished ...>
26048 15:02:14.143597 futex(0xb77bcde0, FUTEX_WAIT_PRIVATE, 2, NULL <unfinished ...>
26049 15:02:14.143819 futex(0xb77bcde0, FUTEX_WAIT_PRIVATE, 2, NULL <unfinished ...>
26050 15:02:14.144037 futex(0xb77bcde0, FUTEX_WAIT_PRIVATE, 2, NULL <unfinished ...>
26051 15:02:14.144258 futex(0xb77bcde0, FUTEX_WAIT_PRIVATE, 2, NULL <unfinished ...>

希望能得到您的帮助.

论坛徽章:
0
255 [报告]
发表于 2012-08-24 10:02 |只看该作者
支持一下,呵呵回复 1# duanjigang


   

论坛徽章:
0
256 [报告]
发表于 2012-08-24 10:05 |只看该作者
支持一下,好好学习回复 1# duanjigang


   

论坛徽章:
12
2015年辞旧岁徽章
日期:2015-03-03 16:54:1515-16赛季CBA联赛之同曦
日期:2017-03-17 19:13:162016科比退役纪念章
日期:2016-11-07 08:28:12luobin
日期:2016-06-17 17:46:36wusuopu
日期:2016-06-17 17:43:4515-16赛季CBA联赛之福建
日期:2016-01-14 12:49:22程序设计版块每日发帖之星
日期:2015-12-13 06:20:00程序设计版块每日发帖之星
日期:2015-06-08 22:20:00程序设计版块每日发帖之星
日期:2015-06-08 22:20:002015年亚洲杯之科威特
日期:2015-03-24 14:21:272015年迎新春徽章
日期:2015-03-04 09:57:092016科比退役纪念章
日期:2018-04-10 16:20:18
257 [报告]
发表于 2012-09-12 22:21 |只看该作者
本帖最后由 VIP_fuck 于 2012-09-12 23:20 编辑

回复 6# duanjigang


  请教版主,-n 是连接数量,而不是线程数。这样做有什么好处?或者说为什么用多连接?
  --------------------------------------------------------------------------
  代码还没有看完。。。。原来是每个连接一个线程。
   

论坛徽章:
0
258 [报告]
发表于 2012-09-14 21:19 |只看该作者
对于网络来说,多线程并不能提高多少网络的吞吐量,换句话说,一个进程使劲读写网络和N个线程并发读写性能差别不大,因此,网络上的并发下载就体现
为多连接而不是多线程了。
回复 257# VIP_fuck



   

论坛徽章:
12
2015年辞旧岁徽章
日期:2015-03-03 16:54:1515-16赛季CBA联赛之同曦
日期:2017-03-17 19:13:162016科比退役纪念章
日期:2016-11-07 08:28:12luobin
日期:2016-06-17 17:46:36wusuopu
日期:2016-06-17 17:43:4515-16赛季CBA联赛之福建
日期:2016-01-14 12:49:22程序设计版块每日发帖之星
日期:2015-12-13 06:20:00程序设计版块每日发帖之星
日期:2015-06-08 22:20:00程序设计版块每日发帖之星
日期:2015-06-08 22:20:002015年亚洲杯之科威特
日期:2015-03-24 14:21:272015年迎新春徽章
日期:2015-03-04 09:57:092016科比退役纪念章
日期:2018-04-10 16:20:18
259 [报告]
发表于 2012-09-18 14:56 |只看该作者
回复 258# duanjigang


    请教版主,为什么多连接可以提高吞吐量?

   另外,最近我一直在看架构版的几个并发相关的帖子,也一直在学习并发服务器的设计。版主能不能推荐一下资料或者什么好办法?
  
   感谢。

论坛徽章:
36
CU大牛徽章
日期:2013-09-18 15:24:20NBA常规赛纪念章
日期:2015-05-04 22:32:03牛市纪念徽章
日期:2015-07-24 12:48:5515-16赛季CBA联赛之辽宁
日期:2016-03-30 09:26:4715-16赛季CBA联赛之北控
日期:2016-03-30 11:26:2315-16赛季CBA联赛之广夏
日期:2016-05-20 15:46:5715-16赛季CBA联赛之吉林
日期:2016-05-24 11:38:0615-16赛季CBA联赛之青岛
日期:2016-05-30 13:41:3215-16赛季CBA联赛之同曦
日期:2016-06-23 16:41:052015年亚洲杯之巴林
日期:2015-02-03 15:05:04CU大牛徽章
日期:2013-09-18 15:24:52CU十二周年纪念徽章
日期:2013-10-24 15:46:53
260 [报告]
发表于 2013-02-23 11:43 |只看该作者
早上走路的时候刚有打算学习axel源码的想法,哈,刚好看到这文章,不错!
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP