免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 5280 | 回复: 7
打印 上一主题 下一主题

[文本处理] 请教一个对一个文件指定的列去重统计条数怎么弄 谢谢 [复制链接]

论坛徽章:
1
巨蟹座
日期:2014-07-30 13:50:42
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2014-03-11 18:26 |只看该作者 |倒序浏览
2150900,35869401,新中桥,M8
72440592,86352502,联想,A670T
72491255,35485104,诺基亚,5238
比如我想对这个文件第二列就是红色的部分去重统计这个文件的条数怎么弄啊 求指点下 谢谢

论坛徽章:
33
荣誉会员
日期:2011-11-23 16:44:17天秤座
日期:2014-08-26 16:18:20天秤座
日期:2014-08-29 10:12:18丑牛
日期:2014-08-29 16:06:45丑牛
日期:2014-09-03 10:28:58射手座
日期:2014-09-03 16:01:17寅虎
日期:2014-09-11 14:24:21天蝎座
日期:2014-09-17 08:33:55IT运维版块每日发帖之星
日期:2016-04-17 06:23:27操作系统版块每日发帖之星
日期:2016-04-18 06:20:00IT运维版块每日发帖之星
日期:2016-04-24 06:20:0015-16赛季CBA联赛之天津
日期:2016-05-06 12:46:59
2 [报告]
发表于 2014-03-11 18:43 |只看该作者
回复 1# 苏上人


    sort -t, -nk2,2 -u file5 | wc -l

论坛徽章:
7
亥猪
日期:2013-10-10 17:00:29辰龙
日期:2013-10-12 16:23:19卯兔
日期:2013-11-18 17:01:27金牛座
日期:2014-09-09 10:17:052015七夕节徽章
日期:2015-08-21 11:06:172015亚冠之柏太阳神
日期:2015-09-25 13:56:42数据库技术版块每日发帖之星
日期:2016-08-06 06:20:00
3 [报告]
发表于 2014-03-11 18:46 |只看该作者
目测下:
  1. awk -F"," '{a[$2]++}END{for(i in a)print i,a[i]}' file
复制代码

论坛徽章:
60
20周年集字徽章-20	
日期:2020-10-28 14:04:3015-16赛季CBA联赛之北京
日期:2016-07-06 15:42:0715-16赛季CBA联赛之同曦
日期:2016-06-12 10:38:0915-16赛季CBA联赛之佛山
日期:2016-05-27 11:54:56黄金圣斗士
日期:2015-12-02 11:44:35白银圣斗士
日期:2015-11-25 14:32:43白银圣斗士
日期:2015-11-23 12:53:352015亚冠之布里斯班狮吼
日期:2015-10-21 16:55:482015亚冠之首尔
日期:2015-09-01 16:46:052015亚冠之德黑兰石油
日期:2015-08-31 11:39:192015亚冠之萨济拖拉机
日期:2015-08-28 21:06:5315-16赛季CBA联赛之广东
日期:2016-07-12 14:58:53
4 [报告]
发表于 2014-03-11 18:53 |只看该作者
  1. awk -F, '!a[$2]++{sum++}END{print sum}'
复制代码
目测下

论坛徽章:
1
巨蟹座
日期:2014-07-30 13:50:42
5 [报告]
发表于 2014-03-11 23:46 |只看该作者
回复 2# q1208c
这个啥意思啊 能解释下吗 谢谢

论坛徽章:
1
巨蟹座
日期:2014-07-30 13:50:42
6 [报告]
发表于 2014-03-11 23:46 |只看该作者
回复 3# li0924
这个啥意思啊 能解释下吗 谢谢


   

论坛徽章:
33
荣誉会员
日期:2011-11-23 16:44:17天秤座
日期:2014-08-26 16:18:20天秤座
日期:2014-08-29 10:12:18丑牛
日期:2014-08-29 16:06:45丑牛
日期:2014-09-03 10:28:58射手座
日期:2014-09-03 16:01:17寅虎
日期:2014-09-11 14:24:21天蝎座
日期:2014-09-17 08:33:55IT运维版块每日发帖之星
日期:2016-04-17 06:23:27操作系统版块每日发帖之星
日期:2016-04-18 06:20:00IT运维版块每日发帖之星
日期:2016-04-24 06:20:0015-16赛季CBA联赛之天津
日期:2016-05-06 12:46:59
7 [报告]
发表于 2014-03-12 08:13 |只看该作者
回复 5# 苏上人
  1. sort -t, -nk2,2 -u file5 | wc -l
复制代码
sort  => 排序
-t,   => 用 , 做为列分隔符
-n    => 按数字来排序 (10> 9)
k2,2  => 只按第二列排序, 其它列忽略
-u    => 排序同时去重

file5 => 数据 文件
|     => 命令管道
wc    => 字符统计
-l    => 统计行数

论坛徽章:
7
亥猪
日期:2013-10-10 17:00:29辰龙
日期:2013-10-12 16:23:19卯兔
日期:2013-11-18 17:01:27金牛座
日期:2014-09-09 10:17:052015七夕节徽章
日期:2015-08-21 11:06:172015亚冠之柏太阳神
日期:2015-09-25 13:56:42数据库技术版块每日发帖之星
日期:2016-08-06 06:20:00
8 [报告]
发表于 2014-03-12 12:33 |只看该作者
回复 6# 苏上人
现在都不知道你要的结果是什么?
目测用SQL来解释下你可以看懂;--table:假如这些数据存放在table表中;$2是第二列数据的字段名。
--2楼,4楼的意思
select count(*) from (select distinct $2 from table);
--3楼的意思
select $2,count($2) from table group by $2;

   
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP