免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 2059 | 回复: 3
打印 上一主题 下一主题

[文本处理] shell怎么处理这个文本 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2018-01-21 22:41 |只看该作者 |倒序浏览
有一个文本,列数不定,有些列可能为空,第一列不变,要对第二列及后续列处处理,处理逻辑是去掉 http://  https://   及域名后面的字符
eg:
       123,http://baidu.com/quey?key=23444,,,http://163.com/xyt/sf,https://sohu.com/aaa/skya?ky=234
       101,,http://www.abc.com,,
       128,,,,,,,http://taobao.com,
想要的结果如下:
  123=baidu.com,163.com,sohu.com
  101=www.abc.com
  128=taobao.com

论坛徽章:
30
申猴
日期:2014-04-10 09:43:532015年亚洲杯纪念徽章
日期:2015-03-20 14:40:232015亚冠之阿尔纳斯尔
日期:2015-06-02 18:59:042015亚冠之阿尔希拉尔
日期:2015-06-30 15:22:572015亚冠之大阪钢巴
日期:2015-07-20 10:44:332015亚冠之阿尔纳斯尔
日期:2015-10-28 14:57:5215-16赛季CBA联赛之新疆
日期:2015-12-25 10:18:45黑曼巴
日期:2016-06-26 21:39:5315-16赛季CBA联赛之山西
日期:2016-07-25 21:54:2715-16赛季CBA联赛之北京
日期:2016-10-27 12:07:2315-16赛季CBA联赛之八一
日期:2017-07-07 16:39:0915-16赛季CBA联赛之吉林
日期:2017-09-04 12:14:43
2 [报告]
发表于 2018-01-22 12:29 |只看该作者
  1. awk 'gsub("htt(p|ps)://|/[^,]+|,+$","",$0)sub(",+","=",$0)gsub(",+",",",$0)' file
复制代码

回复 1# wzltian



论坛徽章:
0
3 [报告]
发表于 2018-01-22 14:59 |只看该作者
回复 2# zxy877298415

  结果正确,厉害了。 吐槽: 昨天发帖多次都不成功,提示“ 要审核”,但又看不到自己待审核的帖子等等, 论坛应该出问题了

论坛徽章:
25
程序设计版块每日发帖之星
日期:2016-05-03 06:20:0015-16赛季CBA联赛之八一
日期:2018-07-05 10:34:09黑曼巴
日期:2018-07-06 15:19:5015-16赛季CBA联赛之佛山
日期:2018-08-03 13:19:3315-16赛季CBA联赛之山西
日期:2018-08-07 19:46:2315-16赛季CBA联赛之广夏
日期:2018-08-08 19:31:5015-16赛季CBA联赛之青岛
日期:2018-11-26 15:21:5015-16赛季CBA联赛之上海
日期:2018-12-11 09:45:3219周年集字徽章-年
日期:2020-04-18 23:54:5215-16赛季CBA联赛之深圳
日期:2020-04-19 21:40:19黑曼巴
日期:2022-04-03 17:55:1315-16赛季CBA联赛之八一
日期:2018-07-03 16:56:46
4 [报告]
发表于 2018-01-22 16:12 |只看该作者
回复 1# wzltian


  1. awk -F"," '{for(i=2;i<=NF;i++){if($i){a=gensub("http[s]*://([^/]+).*$","\\1","g",$i);b=b?b","a:a}};print $1"="b;b=""}' file
复制代码
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP