忘记密码   免费注册 查看新帖 | 论坛精华区

ChinaUnix.net

  平台 论坛 博客 认证专区 大话IT HPC论坛 徽章 文库 沙龙 自测 下载 频道自动化运维 虚拟化 储存备份 C/C++ PHP MySQL 嵌入式 Linux系统
最近访问板块 发新帖

[文本处理] awk处理不同列相同字符 [复制链接]

论坛徽章:
115
技术图书徽章
日期:2013-10-01 15:32:13戌狗
日期:2013-10-25 13:31:35金牛座
日期:2013-11-04 16:22:07巳蛇
日期:2014-05-09 16:43:18巨蟹座
日期:2014-10-23 17:48:38子鼠
日期:2013-11-18 18:48:57白羊座
日期:2013-11-29 10:09:11狮子座
日期:2013-12-12 09:57:42白羊座
日期:2013-12-24 16:24:46辰龙
日期:2014-01-08 15:26:12技术图书徽章
日期:2014-01-17 13:24:40巳蛇
日期:2014-02-18 14:32:59
发表于 2017-09-07 17:23 |显示全部楼层
回复 9# 我是个读书人丶

$ awk -vdid="abcde" -vmtp="QWER" 'match($0,"([0-9][0-9]:[0-9][0-9]:[0-9][0-9]).+device_id=([^&]+).+machine_type=([^&]+)",m){print m[1]"|"m[2]"|"m[3]}' a.txt
17:23:59|abcde|QWER
17:23:59|bbcde|Qqew
17:23:59|cbcde|Q213
17:23:59|dbcde|Q1ER
17:23:59|ebcde|Q324R
17:23:59|fbcde|QWE3
17:23:56|gbcde|QW6R
17:23:54|hbcde|QWder
17:23:53|ibcde|Qqewrer
17:23:52|jbcde|Q7346

论坛徽章:
307
程序设计版块每周发帖之星
日期:2016-04-08 00:41:33操作系统版块每日发帖之星
日期:2015-09-02 06:20:00每日论坛发贴之星
日期:2015-09-02 06:20:00程序设计版块每日发帖之星
日期:2015-09-04 06:20:00每日论坛发贴之星
日期:2015-09-04 06:20:00每周论坛发贴之星
日期:2015-09-06 22:22:00程序设计版块每日发帖之星
日期:2015-09-09 06:20:00程序设计版块每日发帖之星
日期:2015-09-19 06:20:00程序设计版块每日发帖之星
日期:2015-09-20 06:20:00每日论坛发贴之星
日期:2015-09-20 06:20:00程序设计版块每日发帖之星
日期:2015-09-22 06:20:00程序设计版块每日发帖之星
日期:2015-09-24 06:20:00
发表于 2017-09-07 17:32 |显示全部楼层
本帖最后由 sunzhiguolu 于 2017-09-07 17:34 编辑
  1. #!/usr/bin/perl
  2. use strict;
  3. use warnings;

  4. my ($dv, $mv) = qw/abcde QWER/;
  5. while(<DATA>){
  6.         next if(!/\bdevice_id=$dv\b/ or !/\bmatchine_type=$mv\b/);
  7.         /:(\S+)/, print(join('|', $1, $dv, $mv), "\n");
  8. }

  9. __DATA__
  10. A-|[10/May/2017:23:59:09 +0800]|device_id=abcde&abcd&imei=10%3&machine_type=QWER&md5=1234|200
  11. A-|[10/May/2017:23:59:19 +0800]|device_id=bbcde&dbcd&imei=13%3&machine_type=Qqew&md5=1234|200
  12. A-|[10/May/2017:23:59:29 +0800]|device_id=cbcde&fbcd&imei=15%3&machine_type=Q213&md5=1234|200
  13. A-|[10/May/2017:23:59:39 +0800]|device_id=dbcde&arbcd&imei=12%3&machine_type=Q1ER&md5=1234|200
  14. A-|[10/May/2017:23:59:49 +0800]|device_id=ebcde&accd&imei=10%3&machine_type=Q324R&md5=1234|200
  15. A-|[10/May/2017:23:59:59 +0800]|device_id=fbcde&arcd&imei=20%3&machine_type=QWE3&md5=1234|200
  16. A-|[10/May/2017:23:56:19 +0800]|device_id=gbcde&afcd&imei=10%3&adew&machine_type=QW6R&md5=1234|200
  17. A-|[10/May/2017:23:54:59 +0800]|device_id=hbcde&bbcd&imei=30%3&y4i&machine_type=QWder&md5=1234|200
  18. A-|[10/May/2017:23:53:49 +0800]|device_id=ibcde&abtd&imei=20%3&machine_type=Qqewrer&md5=1234|200
  19. A-|[10/May/2017:23:52:39 +0800]|device_id=jbcde&nbcd&imei=40%3&yui&machine_type=Q7346&md5=1234|200
复制代码

论坛徽章:
0
发表于 2017-09-07 17:35 |显示全部楼层
回复 3# wh7211

感谢。效果出来了。虽然不懂什么意思。 如方便,可否讲解一下。

论坛徽章:
0
发表于 2017-09-07 17:35 |显示全部楼层
回复 11# jason680

谢谢大神。感谢!

论坛徽章:
0
发表于 2017-09-07 17:36 |显示全部楼层
回复 12# sunzhiguolu

perl语言看不懂。

论坛徽章:
27
15-16赛季CBA联赛之八一
日期:2016-02-22 19:10:4215-16赛季CBA联赛之深圳
日期:2016-12-01 10:34:0415-16赛季CBA联赛之新疆
日期:2016-12-07 10:24:2915-16赛季CBA联赛之同曦
日期:2016-12-15 12:06:43CU十四周年纪念徽章
日期:2016-12-18 13:03:4415-16赛季CBA联赛之吉林
日期:2017-01-03 15:52:2515-16赛季CBA联赛之辽宁
日期:2017-01-04 14:58:2415-16赛季CBA联赛之辽宁
日期:2017-01-15 09:42:512016科比退役纪念章
日期:2017-02-06 17:21:50黑曼巴
日期:2017-02-10 15:46:1215-16赛季CBA联赛之上海
日期:2017-03-18 10:14:5415-16赛季CBA联赛之青岛
日期:2017-03-18 22:00:44
发表于 2017-09-07 17:39 |显示全部楼层
本帖最后由 moperyblue 于 2017-09-07 17:41 编辑
  1. sed -r 's/[^:]+:(\S+).*device_id=(\w+).*machine_type=(\w+).*/\1|\2|\3/'
复制代码

论坛徽章:
0
发表于 2017-09-07 17:43 |显示全部楼层
回复 16# moperyblue

这个效果也可以。感谢。多多学习了。awk sed 会的太少了。经验不足。

论坛徽章:
2
程序设计版块每日发帖之星
日期:2016-05-03 06:20:0015-16赛季CBA联赛之同曦
日期:2017-09-11 14:39:48
发表于 2017-09-07 17:57 |显示全部楼层
回复 13# 我是个读书人丶

awk的match函数的正则表达式中,把要提取的字符串用圆括号括起来并保存到数组t中,最后输出数组成员。

论坛徽章:
1
CU十四周年纪念徽章
日期:2017-08-28 17:16:19
发表于 2017-09-08 09:10 |显示全部楼层
回复 11# jason680

-vdid="abcde" -vmtp="QWER"

这个用不到了。

论坛徽章:
115
技术图书徽章
日期:2013-10-01 15:32:13戌狗
日期:2013-10-25 13:31:35金牛座
日期:2013-11-04 16:22:07巳蛇
日期:2014-05-09 16:43:18巨蟹座
日期:2014-10-23 17:48:38子鼠
日期:2013-11-18 18:48:57白羊座
日期:2013-11-29 10:09:11狮子座
日期:2013-12-12 09:57:42白羊座
日期:2013-12-24 16:24:46辰龙
日期:2014-01-08 15:26:12技术图书徽章
日期:2014-01-17 13:24:40巳蛇
日期:2014-02-18 14:32:59
发表于 2017-09-08 12:21 |显示全部楼层
本帖最后由 jason680 于 2017-09-08 12:25 编辑
龙牙地主天 发表于 2017-09-08 09:10
回复 11# jason680

-vdid="abcde" -vmtp="QWER"


try this way and easy to know what you want

$ awk 'BEGIN{OFS="|";FS="[|&]"}{delete d;for(n=3;n<=NF;++n){split($n,a,"=");d[a[1]]=a[2]};gsub(/^[^:]+:| .+$/,"",$2);print $2,d["device_id"],d["machine_type"]}' a.txt
23:59:09|abcde|QWER
23:59:19|bbcde|Qqew
23:59:29|cbcde|Q213
23:59:39|dbcde|Q1ER
23:59:49|ebcde|Q324R
23:59:59|fbcde|QWE3
23:56:19|gbcde|QW6R
23:54:59|hbcde|QWder
23:53:49|ibcde|Qqewrer
23:52:39|jbcde|Q7346


您需要登录后才可以回帖 登录 | 注册

本版积分规则

SACC2017购票8.8折优惠进行时

2017中国系统架构师大会(SACC2017)将于10月19-21日在北京新云南皇冠假日酒店震撼来袭。今年,大会以“云智未来”为主题,云集国内外顶级专家,围绕云计算、人工智能、大数据、移动互联网、产业应用等热点领域展开技术探讨与交流。本届大会共设置2大主会场,18个技术专场;邀请来自互联网、金融、制造业、电商等多个领域,100余位技术专家及行业领袖来分享他们的经验;并将吸引4000+人次的系统运维、架构师及IT决策人士参会,为他们提供最具价值的交流平台。
----------------------------------------
优惠时间:2017年8月2日前

活动链接>>
  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号 北京市公安局海淀分局网监中心备案编号:11010802020122
广播电视节目制作经营许可证(京) 字第1234号 中国互联网协会会员  联系我们:
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP