免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
› 论坛 › 程序设计 › Shell › 问个bt的问题，如何将A网站的部分内容扣出来，形成自己 ...
最近访问板块 发新帖
查看: 1954 | 回复: 4
打印 上一主题 下一主题

[网络相关] 问个bt的问题，如何将A网站的部分内容扣出来，形成自己的html页面 [复制链接]

davidbeckham921

论坛徽章:
1
射手座 日期:2014-03-10 14:24:52
跳转到指定楼层
1楼 [收藏(0)] [报告]
发表于 2014-10-28 13:54 |只看该作者 |倒序浏览
shell能获取请求返回的东西吗？

然后是不是可以用sed或awk截取有用的部分然后再进一步处理。

举例
http://www.baidu.com/s?ie=utf-8& ... 39.0.-1.-1.-1.-1.-1
想截出来这一段


或者有没什么别的好方法可以获取呢？
expert1

论坛徽章:
16
IT运维版块每日发帖之星 日期:2015-08-24 06:20:00综合交流区版块每日发帖之星 日期:2015-10-14 06:20:00IT运维版块每日发帖之星 日期:2015-10-25 06:20:00IT运维版块每日发帖之星 日期:2015-11-06 06:20:00IT运维版块每日发帖之星 日期:2015-12-10 06:20:00平安夜徽章 日期:2015-12-26 00:06:302016猴年福章徽章 日期:2016-02-18 15:30:34IT运维版块每日发帖之星 日期:2016-04-15 06:20:00IT运维版块每日发帖之星 日期:2016-05-21 06:20:00综合交流区版块每日发帖之星 日期:2016-08-16 06:20:002015七夕节徽章 日期:2015-08-21 11:06:17IT运维版块每日发帖之星 日期:2015-08-14 06:20:00
2楼 [报告]
发表于 2014-10-28 14:28 |只看该作者
目测可以，拷贝html代码即可，但毫无意义，这就是对网页做镜像吧。
实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？
davidbeckham921

论坛徽章:
1
射手座 日期:2014-03-10 14:24:52
3楼 [报告]
发表于 2014-10-28 14:57 |只看该作者
expert1 发表于 2014-10-28 14:28
目测可以，拷贝html代码即可，但毫无意义，这就是对网页做镜像吧。


谢谢expert！

其实不是拷贝，是只要其中某一部分，其他部分对我来说没有用，所以想看能不能截取。

并且百度也不是我的哈哈，我怎么拷贝他的html呢？或者说如何获得这个请求的返回值。
实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？
Shell_HAT

论坛徽章:
33
ChinaUnix元老 日期:2015-02-02 08:55:39CU十四周年纪念徽章 日期:2019-08-20 08:30:3720周年集字徽章-周 日期:2020-10-28 14:13:3020周年集字徽章-20 日期:2020-10-28 14:04:3019周年集字徽章-CU 日期:2019-09-08 23:26:2519周年集字徽章-19 日期:2019-08-27 13:31:262016科比退役纪念章 日期:2022-04-24 14:33:24
4楼 [报告]
发表于 2014-10-28 15:28 |只看该作者
httrack 你值得拥有
实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？
davidbeckham921

论坛徽章:
1
射手座 日期:2014-03-10 14:24:52
5楼 [报告]
发表于 2014-10-28 15:39 |只看该作者
本帖最后由 davidbeckham921 于 2014-10-28 15:46 编辑

回复 4# Shell_HAT


    非常感谢，我先研究研究。

大概看了一下Httrack，这个应该是扒离线网站的工具，应该是只能获取静态数据。

但事实上，我需要动态获取数据，或者说每天都从百度上搜索一下数据，把几个固定id的div及其他标签的数据抠出来，完了以后再加到我的页面中来。

有没有别的工具或方法能实现我所要求的功能呢？
实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？
返回列表 发新帖
高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号：11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们：huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP