免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 7609 | 回复: 6
打印 上一主题 下一主题

大家有较好的开源的网页爬虫(spider)和网页解析库吗 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2011-08-31 12:31 |只看该作者 |倒序浏览
如题

论坛徽章:
0
2 [报告]
发表于 2011-09-01 17:43 |只看该作者
larbin

论坛徽章:
0
3 [报告]
发表于 2011-09-01 21:22 |只看该作者
larbin还是有点土。。。。。。 我写过一个叫hispider的 hispider.googlecode.com 不过已经有一年多没有维护了 等我有时间了添加到我的分布式计算系统里。

论坛徽章:
0
4 [报告]
发表于 2011-09-02 11:51 |只看该作者
楼上好牛啊,还有自己开源搜索引擎项目,有时间一定仔细研究下,你的网页解析是怎么处理的,HTMLCleaner?

回复 3# redor

论坛徽章:
0
5 [报告]
发表于 2011-09-05 10:08 |只看该作者
回复 4# liqingfang


    网页解析我自己写的,http://code.google.com/p/libibas ... 090722163610.tar.gz
 非常简单。。。。。 附带简单的正文抽取去噪功能。

论坛徽章:
1
2015年迎新春徽章
日期:2015-03-04 09:50:28
6 [报告]
发表于 2011-09-05 16:47 |只看该作者
这种活不应该用C/C++,用perl或python吧。

论坛徽章:
0
7 [报告]
发表于 2011-09-06 10:03 |只看该作者
回复 6# noword2k


    搞小数据量和简单的可以用perl和python 复杂一点的还是需要做一个专门的采集系统的。
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP