免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 3945 | 回复: 8
打印 上一主题 下一主题

[已解决]当sed与wget混合用时的奇怪问题(sed编码问题) [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2011-03-06 21:21 |只看该作者 |倒序浏览
本帖最后由 kingoftime3 于 2011-03-07 10:31 编辑

脚本如下:

  1. #!/bin/bash

  2. #吞噬星空
  3. TSXK=http://www.qidian.com/Book/1639199.aspx
  4. #斗破苍穹
  5. DPCQ=http://www.qidian.com/Book/1209977.aspx

  6. wget -nv -O - $TSXK 2>&1 | sed -n 's%.*color:Red">\([^<]*\).*%\1%p' | iconv -f gbk -t utf-8
  7. wget -nv -O - $DPCQ 2>&1 | sed -n 's%.*color:Red">\([^<]*\).*%\1%p' | iconv -f gbk -t utf-8
复制代码
它会把从匹配开始到结束的都打印出来

  1. echo "abc<def<hik" |sed  -n 's/\([^<]*\).*/\1/p'
复制代码
匹配到<就停止了,为什么脚本中停不了呢

论坛徽章:
0
2 [报告]
发表于 2011-03-06 21:38 |只看该作者
什么叫停了?
停了因为你这一行处理完了啊。

你脚本里的,那个页面里很多行,就逐行处理,直到整个页面完成。

你是这个意思么?

论坛徽章:
8
摩羯座
日期:2014-11-26 18:59:452015亚冠之浦和红钻
日期:2015-06-23 19:10:532015亚冠之西悉尼流浪者
日期:2015-08-21 08:40:5815-16赛季CBA联赛之山东
日期:2016-01-31 18:25:0515-16赛季CBA联赛之四川
日期:2016-02-16 16:08:30程序设计版块每日发帖之星
日期:2016-06-29 06:20:002017金鸡报晓
日期:2017-01-10 15:19:5615-16赛季CBA联赛之佛山
日期:2017-02-27 20:41:19
3 [报告]
发表于 2011-03-06 21:39 |只看该作者
.*color会贪婪匹配

论坛徽章:
0
4 [报告]
发表于 2011-03-06 22:06 |只看该作者
回复 3# waker

前面那段没问题,脚本输出为

  1.    第八篇 雨相山 第五章 选择</font></a><span>(更新于: 2011-03-05 23:00)</span>                                                       
复制代码
就是后面的我想应该到</font后面的应该都没了,但是还有

论坛徽章:
8
摩羯座
日期:2014-11-26 18:59:452015亚冠之浦和红钻
日期:2015-06-23 19:10:532015亚冠之西悉尼流浪者
日期:2015-08-21 08:40:5815-16赛季CBA联赛之山东
日期:2016-01-31 18:25:0515-16赛季CBA联赛之四川
日期:2016-02-16 16:08:30程序设计版块每日发帖之星
日期:2016-06-29 06:20:002017金鸡报晓
日期:2017-01-10 15:19:5615-16赛季CBA联赛之佛山
日期:2017-02-27 20:41:19
5 [报告]
发表于 2011-03-07 09:12 |只看该作者
回复 4# kingoftime3


    LANG=C sed...试试

论坛徽章:
0
6 [报告]
发表于 2011-03-07 09:26 |只看该作者
回复 5# waker


    那样试了,还是不行,不过提醒了我,我把iconv放在sed前面就可以了,难道汉字的gbk编码里<和utf-8里<不一样?

论坛徽章:
5
2015年辞旧岁徽章
日期:2015-03-03 16:54:152015年迎新春徽章
日期:2015-03-04 09:50:282015年亚洲杯之朝鲜
日期:2015-03-13 22:47:33IT运维版块每日发帖之星
日期:2016-01-09 06:20:00IT运维版块每周发帖之星
日期:2016-03-07 16:27:44
7 [报告]
发表于 2011-03-07 09:28 |只看该作者
刚才看一个链接,里面好像没有以下内容啊
第八篇 雨相山 第五章


无法测试

论坛徽章:
0
8 [报告]
发表于 2011-03-07 09:34 |只看该作者
回复 7# blackold


    这个脚本是为了看最新出到第几章了,发那个帖子的时候还是第五章,现在已经第六章了。现在问题已经解决,不过还是对编码部分有点疑惑,本来想着像一般的字母和常用的字符gbk和utf-8都是一样的。。。
下面是修改后的脚本

  1. #!/bin/bash

  2. #吞噬星空
  3. TSXK=http://www.qidian.com/Book/1639199.aspx
  4. #斗破苍穹
  5. DPCQ=http://www.qidian.com/Book/1209977.aspx

  6. wget -nv -O - $TSXK 2>&1 | iconv -f gbk -t utf-8 | sed -n 's/.*color:Red">\([^<]*\)[^(]*\([^)]*\).*/\1 \2)/p'
  7. wget -nv -O - $DPCQ 2>&1 | iconv -f gbk -t utf-8 | sed -n 's/.*color:Red">\([^<]*\)[^(]*\([^)]*\).*/\1 \2)/p'
复制代码

论坛徽章:
5
2015年辞旧岁徽章
日期:2015-03-03 16:54:152015年迎新春徽章
日期:2015-03-04 09:50:282015年亚洲杯之朝鲜
日期:2015-03-13 22:47:33IT运维版块每日发帖之星
日期:2016-01-09 06:20:00IT运维版块每周发帖之星
日期:2016-03-07 16:27:44
9 [报告]
发表于 2011-03-07 10:04 |只看该作者
回复 8# kingoftime3


    这是sed的问题(编码问题),与wget无关吧。建议LZ修改标题。
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP