免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 2208 | 回复: 2
打印 上一主题 下一主题

[文本处理] txt文本按条件筛选 并 排查 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2014-02-26 12:23 |只看该作者 |倒序浏览
本帖最后由 rdcwayx 于 2014-02-28 09:43 编辑

有个txt文本
  1. 我们
  2. 大学很好
  3. 长度很长吧
  4. 大学很好
  5. 学习啦
复制代码
要求:
1、长度少于两个汉字的删除,
2、数据排重

所以要得到:
  1. 我们
  2. 大学很好
  3. 长度很长吧
  4. 学习啦
复制代码
谢谢

论坛徽章:
0
2 [报告]
发表于 2014-02-26 12:26 |只看该作者
回复 1# wadeheat2
Try this:
  1. awk 'length>1&&!a[$0]++'
复制代码

论坛徽章:
32
处女座
日期:2013-11-20 23:41:20双子座
日期:2014-06-11 17:20:43戌狗
日期:2014-06-16 11:05:00处女座
日期:2014-07-22 17:30:47狮子座
日期:2014-07-28 15:38:17金牛座
日期:2014-08-05 16:34:01亥猪
日期:2014-08-18 13:34:25白羊座
日期:2014-09-02 15:03:55金牛座
日期:2014-11-10 10:23:58处女座
日期:2014-12-02 09:17:52程序设计版块每日发帖之星
日期:2015-06-16 22:20:002015亚冠之塔什干火车头
日期:2015-06-20 23:28:22
3 [报告]
发表于 2014-02-26 13:14 |只看该作者
  1. awk '!a[$0]++&&length>1'
复制代码
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP