免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
12下一页
最近访问板块 发新帖
查看: 9070 | 回复: 13
打印 上一主题 下一主题

[文本处理] 怎么过滤重复的id呢?通过shell的grep [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2014-07-10 12:03 |只看该作者 |倒序浏览
我又来了{:2_169:}

求帮忙.....

[2014-07-10 11:56:51] {"log_type":"SIGNIN","log_data":{"SERVER_ID":"11","ROLE_ID":"1855","CHANNEL_CODE":"downjoy","ROLE_LEVEL":"3","USER_ID":"CU20140710115305930","ISRESIGN":"false","ARAM":"1","RECORD_TIME":"1404964611414"}}
[2014-07-10 11:56:53] {"log_type":"SIGNIN","log_data":{"SERVER_ID":"11","ROLE_ID":"1809","CHANNEL_CODE":"pp","ROLE_LEVEL":"10","USER_ID":"CU20140710115028691","ISRESIGN":"false","ARAM":"1","RECORD_TIME":"1404964613716"}}
[2014-07-10 11:56:54] {"log_type":"SIGNIN","log_data":{"SERVER_ID":"11","ROLE_ID":"1748","CHANNEL_CODE":"uc","ROLE_LEVEL":"12","USER_ID":"CU20140710114433186","ISRESIGN":"false","ARAM":"1","RECORD_TIME":"1404964614082"}}
[2014-07-10 11:57:20] {"log_type":"SIGNIN","log_data":{"SERVER_ID":"11","ROLE_ID":"1850","CHANNEL_CODE":"uc","ROLE_LEVEL":"12","USER_ID":"CU20140604025033375","ISRESIGN":"false","ARAM":"1","RECORD_TIME":"1404964640320"}}
[2014-07-10 11:57:30] {"log_type":"SIGNIN","log_data":{"SERVER_ID":"11","ROLE_ID":"1824","CHANNEL_CODE":"uc","ROLE_LEVEL":"5","USER_ID":"CU20140708114459219","ISRESIGN":"false","ARAM":"1","RECORD_TIME":"1404964650856"}}
[2014-07-10 11:57:31] {"log_type":"SIGNIN","log_data":{"SERVER_ID":"11","ROLE_ID":"1892","CHANNEL_CODE":"downjoy","ROLE_LEVEL":"4","USER_ID":"CU20140129113214983","ISRESIGN":"false","ARAM":"1","RECORD_TIME":"1404964651880"}}
[2014-07-10 11:57:33] {"log_type":"SIGNIN","log_data":{"SERVER_ID":"11","ROLE_ID":"1904","CHANNEL_CODE":"uc",


我想在以上日志中  通过不同的role_id进行计算登陆数量, 如果相同, 则不累计

有方法么....


{:2_166:} 是真的不会,想跟各位多学习{:2_169:}  多谢多谢

论坛徽章:
60
20周年集字徽章-20	
日期:2020-10-28 14:04:3015-16赛季CBA联赛之北京
日期:2016-07-06 15:42:0715-16赛季CBA联赛之同曦
日期:2016-06-12 10:38:0915-16赛季CBA联赛之佛山
日期:2016-05-27 11:54:56黄金圣斗士
日期:2015-12-02 11:44:35白银圣斗士
日期:2015-11-25 14:32:43白银圣斗士
日期:2015-11-23 12:53:352015亚冠之布里斯班狮吼
日期:2015-10-21 16:55:482015亚冠之首尔
日期:2015-09-01 16:46:052015亚冠之德黑兰石油
日期:2015-08-31 11:39:192015亚冠之萨济拖拉机
日期:2015-08-28 21:06:5315-16赛季CBA联赛之广东
日期:2016-07-12 14:58:53
2 [报告]
发表于 2014-07-10 12:04 |只看该作者
看到各种表情 ,心中为之躁动..

论坛徽章:
32
处女座
日期:2013-11-20 23:41:20双子座
日期:2014-06-11 17:20:43戌狗
日期:2014-06-16 11:05:00处女座
日期:2014-07-22 17:30:47狮子座
日期:2014-07-28 15:38:17金牛座
日期:2014-08-05 16:34:01亥猪
日期:2014-08-18 13:34:25白羊座
日期:2014-09-02 15:03:55金牛座
日期:2014-11-10 10:23:58处女座
日期:2014-12-02 09:17:52程序设计版块每日发帖之星
日期:2015-06-16 22:20:002015亚冠之塔什干火车头
日期:2015-06-20 23:28:22
3 [报告]
发表于 2014-07-10 12:07 |只看该作者
请禁用表情!

论坛徽章:
32
处女座
日期:2013-11-20 23:41:20双子座
日期:2014-06-11 17:20:43戌狗
日期:2014-06-16 11:05:00处女座
日期:2014-07-22 17:30:47狮子座
日期:2014-07-28 15:38:17金牛座
日期:2014-08-05 16:34:01亥猪
日期:2014-08-18 13:34:25白羊座
日期:2014-09-02 15:03:55金牛座
日期:2014-11-10 10:23:58处女座
日期:2014-12-02 09:17:52程序设计版块每日发帖之星
日期:2015-06-16 22:20:002015亚冠之塔什干火车头
日期:2015-06-20 23:28:22
4 [报告]
发表于 2014-07-10 12:10 |只看该作者
目测一下:
  1. grep -oP '(?<="ROLE_ID":)[^,]+' i | sort -u | wc -l
复制代码

论坛徽章:
0
5 [报告]
发表于 2014-07-10 13:20 |只看该作者
回复 4# yestreenstars


    亲....这个东西我应该怎么设置参数.....我不是很懂.....原来没接触过代码.  能详细的讲一下么{:3_187:}

论坛徽章:
0
6 [报告]
发表于 2014-07-10 13:23 |只看该作者
  1. awk -F "," '{a=gensub(/[^0-9]*([0-9]+)"/,"\\1","g",$3);b[a]++}END{print length(b)}' file
复制代码
练习下,用awk

论坛徽章:
60
20周年集字徽章-20	
日期:2020-10-28 14:04:3015-16赛季CBA联赛之北京
日期:2016-07-06 15:42:0715-16赛季CBA联赛之同曦
日期:2016-06-12 10:38:0915-16赛季CBA联赛之佛山
日期:2016-05-27 11:54:56黄金圣斗士
日期:2015-12-02 11:44:35白银圣斗士
日期:2015-11-25 14:32:43白银圣斗士
日期:2015-11-23 12:53:352015亚冠之布里斯班狮吼
日期:2015-10-21 16:55:482015亚冠之首尔
日期:2015-09-01 16:46:052015亚冠之德黑兰石油
日期:2015-08-31 11:39:192015亚冠之萨济拖拉机
日期:2015-08-28 21:06:5315-16赛季CBA联赛之广东
日期:2016-07-12 14:58:53
7 [报告]
发表于 2014-07-10 13:44 |只看该作者
回复 5# purelove_88


    你发帖的时候,右侧上部有一个禁用表情的沟,你把这个沟勾上

论坛徽章:
0
8 [报告]
发表于 2014-07-10 13:45 |只看该作者
回复 7# reyleon


    好的  谢谢大哥提醒

论坛徽章:
33
荣誉会员
日期:2011-11-23 16:44:17天秤座
日期:2014-08-26 16:18:20天秤座
日期:2014-08-29 10:12:18丑牛
日期:2014-08-29 16:06:45丑牛
日期:2014-09-03 10:28:58射手座
日期:2014-09-03 16:01:17寅虎
日期:2014-09-11 14:24:21天蝎座
日期:2014-09-17 08:33:55IT运维版块每日发帖之星
日期:2016-04-17 06:23:27操作系统版块每日发帖之星
日期:2016-04-18 06:20:00IT运维版块每日发帖之星
日期:2016-04-24 06:20:0015-16赛季CBA联赛之天津
日期:2016-05-06 12:46:59
9 [报告]
发表于 2014-07-10 13:46 |只看该作者
  1. sort -t \" log -k14,14 -u | wc -l
复制代码

论坛徽章:
32
处女座
日期:2013-11-20 23:41:20双子座
日期:2014-06-11 17:20:43戌狗
日期:2014-06-16 11:05:00处女座
日期:2014-07-22 17:30:47狮子座
日期:2014-07-28 15:38:17金牛座
日期:2014-08-05 16:34:01亥猪
日期:2014-08-18 13:34:25白羊座
日期:2014-09-02 15:03:55金牛座
日期:2014-11-10 10:23:58处女座
日期:2014-12-02 09:17:52程序设计版块每日发帖之星
日期:2015-06-16 22:20:002015亚冠之塔什干火车头
日期:2015-06-20 23:28:22
10 [报告]
发表于 2014-07-10 13:46 |只看该作者
回复 5# purelove_88

正则如果看不懂的话搜索一下零宽断言~

grep
-o 只打印正则匹配的内容
-P 使用Perl正则

sort
-u 去重

wc
-l 打印行数
   
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP