免费注册 查看新帖 |

Chinaunix

广告
  平台 论坛 博客 文库
12下一页
最近访问板块 发新帖
查看: 3623 | 回复: 11
打印 上一主题 下一主题

[文本处理] 统计文本中每个单词出现次数,但每个单词在一行中出现多次的只统计一次 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2013-07-09 23:05 |只看该作者 |倒序浏览
本帖最后由 hxletter 于 2013-07-09 23:19 编辑

例如我有如下文本:
a b c a
b c b
我想要的结果如下:
a 1
b 2
c 2

例如a在文本第一行中出现了两次,但我们只算一次

论坛徽章:
3
2015年辞旧岁徽章
日期:2015-03-03 16:54:152015年迎新春徽章
日期:2015-03-04 09:51:162015年亚洲杯之阿曼
日期:2015-04-07 20:00:59
2 [报告]
发表于 2013-07-09 23:12 |只看该作者
提示: 作者被禁止或删除 内容自动屏蔽

论坛徽章:
0
3 [报告]
发表于 2013-07-09 23:22 |只看该作者
回复 2# zooyo
每个单词在一行中只统计一次

   

论坛徽章:
0
4 [报告]
发表于 2013-07-09 23:46 |只看该作者
  1. awk '{for(i=1;i<=NF;i++){if(NR!=last[$i])a[$i]++;last[$i]=NR}}END{for(i in a)print i,a[i]}' urfile
复制代码

论坛徽章:
6
摩羯座
日期:2013-08-24 10:43:10狮子座
日期:2013-08-25 10:27:06天秤座
日期:2013-09-11 20:28:44午马
日期:2014-09-28 16:06:0015-16赛季CBA联赛之八一
日期:2016-12-19 13:55:0515-16赛季CBA联赛之天津
日期:2016-12-20 14:01:23
5 [报告]
发表于 2013-07-09 23:54 |只看该作者
  1. awk '{for(i=1;i<=NF;i++)if(!b[NR""$i]){a[$i]++;b[NR""$i]++}}END{for(i in a)print i,a[i]}' file
复制代码

论坛徽章:
0
6 [报告]
发表于 2013-07-10 00:11 |只看该作者
udevu 发表于 2013-07-09 23:46

恩,不错,学习了!

论坛徽章:
50
15-16赛季CBA联赛之广夏
日期:2018-11-05 09:42:462015年亚冠纪念徽章
日期:2015-07-23 11:58:122015亚冠之广州富力
日期:2015-07-07 08:26:172015亚冠之塔什干棉农
日期:2015-06-29 09:08:072015年亚洲杯之伊朗
日期:2015-03-08 20:51:012015年迎新春徽章
日期:2015-03-04 09:58:11未羊
日期:2014-10-16 22:41:47处女座
日期:2014-10-16 15:33:33酉鸡
日期:2014-03-13 12:54:10巳蛇
日期:2014-03-10 14:39:052015亚冠之德黑兰石油
日期:2015-07-29 12:46:372015亚冠之德黑兰石油
日期:2015-08-07 12:54:11
7 [报告]
发表于 2013-07-10 08:57 |只看该作者
  1. awk '{for(i=1;i<=NF;i++)if(!a[$i,NR]++)b[$i]++}END{for(i in b)print i,b[i]}' file
复制代码

论坛徽章:
0
8 [报告]
发表于 2013-07-10 09:04 |只看该作者
@WilliBhamlll
赞一个!!!:wink:

论坛徽章:
50
15-16赛季CBA联赛之广夏
日期:2018-11-05 09:42:462015年亚冠纪念徽章
日期:2015-07-23 11:58:122015亚冠之广州富力
日期:2015-07-07 08:26:172015亚冠之塔什干棉农
日期:2015-06-29 09:08:072015年亚洲杯之伊朗
日期:2015-03-08 20:51:012015年迎新春徽章
日期:2015-03-04 09:58:11未羊
日期:2014-10-16 22:41:47处女座
日期:2014-10-16 15:33:33酉鸡
日期:2014-03-13 12:54:10巳蛇
日期:2014-03-10 14:39:052015亚冠之德黑兰石油
日期:2015-07-29 12:46:372015亚冠之德黑兰石油
日期:2015-08-07 12:54:11
9 [报告]
发表于 2013-07-10 09:12 |只看该作者
@yinwei2012
谢谢~
学习了4楼和5楼的思路~

论坛徽章:
32
处女座
日期:2013-11-20 23:41:20双子座
日期:2014-06-11 17:20:43戌狗
日期:2014-06-16 11:05:00处女座
日期:2014-07-22 17:30:47狮子座
日期:2014-07-28 15:38:17金牛座
日期:2014-08-05 16:34:01亥猪
日期:2014-08-18 13:34:25白羊座
日期:2014-09-02 15:03:55金牛座
日期:2014-11-10 10:23:58处女座
日期:2014-12-02 09:17:52程序设计版块每日发帖之星
日期:2015-06-16 22:20:002015亚冠之塔什干火车头
日期:2015-06-20 23:28:22
10 [报告]
发表于 2013-07-10 09:18 |只看该作者
  1. [root@localhost ~]# awk '{for(i=1;i<=NF;i++)if(!a[$i]++)b[$i]++;delete a}END{for(i in b)print i,b[i]}' i
  2. a 1
  3. b 2
  4. c 2
  5. [root@localhost ~]#
复制代码
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP