免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
楼主: smallstar001
打印 上一主题 下一主题

怎么下载网页内容 [复制链接]

论坛徽章:
0
11 [报告]
发表于 2008-12-26 15:32 |只看该作者
怪不得我们看不到呢,呵呵

论坛徽章:
3
戌狗
日期:2014-09-10 17:07:162015年辞旧岁徽章
日期:2015-03-03 16:54:15wusuopu
日期:2016-06-17 17:43:45
12 [报告]
发表于 2008-12-26 15:33 |只看该作者
原帖由 smallstar001 于 2008-12-26 15:16 发表
我有类似



很多,

我想下载它们的文本内容然后找我感兴趣的东西

我用
wget http://172.16.28.110/mantis/view.php?id=49

下载的怎么没有文本内容。该如何解决?

wget -d -o logfile -O savefile URL

看看日志(logfile)

论坛徽章:
0
13 [报告]
发表于 2008-12-26 15:35 |只看该作者
原帖由 haimming 于 2008-12-26 15:24 发表
我有两个脚本,看看对你有没帮助

第一个知道最后一页页数

#! /bin/bash
#done book from url
url="http://www.linuxsir.org/bbs/thread29701.html"
urlbase=${url%/*}
urlfile=${url##*/}
    wget  ...



w3m 是什么  我这好象没有这个命令,


这个好象也不行,哪个地址好象是能跳转的吧,

我的wget 会生成login_page.php?return=%2Fmantis%2Fview.php?id=49 文件名

但里面没有网页上显示的内容

论坛徽章:
0
14 [报告]
发表于 2008-12-26 15:36 |只看该作者
使用curl也不行么?

论坛徽章:
0
15 [报告]
发表于 2008-12-26 15:38 |只看该作者
原帖由 ynchnluiti 于 2008-12-26 15:33 发表

wget -d -o logfile -O savefile URL

看看日志(logfile)



还是没有内容,都是标签,网页上的文本内容没有

论坛徽章:
0
16 [报告]
发表于 2008-12-26 15:39 |只看该作者

回复 #12 smallstar001 的帖子

w3m是 "a text based Web browser and pager"
我用来显示输出的,有时在emacs下用,要下载安装的

论坛徽章:
0
17 [报告]
发表于 2008-12-26 15:40 |只看该作者
原帖由 我是DBA 于 2008-12-26 15:36 发表
使用curl也不行么?



不行, 没反应,本地文件是空的

[root@CCOSS_484883689 mantis]# curl http://172.16.28.110/mantis/view.php?id=49 > a
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                 Dload  Upload   Total   Spent    Left  Speed
  0     0    0     0    0     0      0      0 --:--:-- --:--:-- --:--:--     0
[root@CCOSS_484883689 mantis]# cat a
[root@CCOSS_484883689 mantis]#

论坛徽章:
3
戌狗
日期:2014-09-10 17:07:162015年辞旧岁徽章
日期:2015-03-03 16:54:15wusuopu
日期:2016-06-17 17:43:45
18 [报告]
发表于 2008-12-26 15:41 |只看该作者
原帖由 smallstar001 于 2008-12-26 15:38 发表



还是没有内容,都是标签,网页上的文本内容没有

savefile里都是标签?网页内容是不是由javascript生成的文本

论坛徽章:
0
19 [报告]
发表于 2008-12-26 15:44 |只看该作者
login_page.php?return=%2Fmantis%2Fview.php?id=49

是不是要用户登录才能见内容的?

论坛徽章:
0
20 [报告]
发表于 2008-12-26 15:45 |只看该作者

这个比较难,没办法测试呢
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP