免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 2768 | 回复: 2
打印 上一主题 下一主题

用python写了个简单的python爬虫,大家看看 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2009-04-29 22:16 |只看该作者 |倒序浏览
这个python爬虫代码的特点有:

ü 按优先级高低顺序抓取网页。

ü 使用默认的类似PageRank优先级,越多网页链接到的页面优先级越高,允许自定义优先级,如优先抓取以.html结尾的URL,或含有指定网址的URL。

ü 自动识别相对地址的URL,避免硬编码
本爬虫包含两个文件:

v Myspider.py 实现爬虫主要逻辑的代码

v spdUtility.py 两个Utility辅助类,优先级队列类和HTML解释类


http://www.kgblog.net/2009/04/25/pythonSpider.html
大家有什么改进意见,欢迎提出

[ 本帖最后由 keeng2008 于 2009-5-4 23:42 编辑 ]

论坛徽章:
0
2 [报告]
发表于 2009-04-30 08:33 |只看该作者
帮顶

论坛徽章:
4
CU大牛徽章
日期:2013-03-13 15:29:07CU大牛徽章
日期:2013-03-13 15:29:49CU大牛徽章
日期:2013-03-13 15:30:192015年迎新春徽章
日期:2015-03-04 09:57:09
3 [报告]
发表于 2009-04-30 09:51 |只看该作者
不错不错,学习了、
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP