免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
12下一页
最近访问板块 发新帖
查看: 7331 | 回复: 15
打印 上一主题 下一主题

awk处理数据提问 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2011-08-23 11:38 |只看该作者 |倒序浏览
有一个txt的文档,里面的内容如下:
  1. 78787878|0
  2. 12121211|4
  3. 32323232|3
  4. 43432432|7
  5. 43434343|4
  6. 45454545|16
  7. 65656556|2
  8. 43344344|1
  9. 66666666|2
复制代码
以“|”分割,第一个参数是号码,第二个参数是访问量,数据量超过2千万,已经去过重复了,现在想做如下处理:
修改一部分访问量小于等于2的记录,把访问量修改成2到100的随机数,但不是把所有的小于等于2的记录都修改,最后要把小于等于2的记录数控制在75万以内。
比如这个文件中有100万条记录的访问量小于等于2,那就只需要修改25万左右的数据即可!

论坛徽章:
15
2015年辞旧岁徽章
日期:2015-03-03 16:54:15双鱼座
日期:2015-01-15 17:29:44午马
日期:2015-01-06 17:06:51子鼠
日期:2014-11-24 10:11:13寅虎
日期:2014-08-18 07:10:55酉鸡
日期:2014-04-02 12:24:51双子座
日期:2014-04-02 12:19:44天秤座
日期:2014-03-17 11:43:36亥猪
日期:2014-03-13 08:13:51未羊
日期:2014-03-11 12:42:03白羊座
日期:2013-11-20 10:15:18CU大牛徽章
日期:2013-04-17 11:48:45
2 [报告]
发表于 2011-08-23 11:45 |只看该作者
本帖最后由 rdcwayx 于 2011-08-23 11:51 编辑

先做第一步,找出小于等于2的记录数 , 并除以4

TotalChange=$(awk -F \| '$2<=2{a++}END{print int(a/4)}' infile)

接下来,是不是只要将上面的得到的数量的记录依次修改就可以,还是需要随机修改?

论坛徽章:
0
3 [报告]
发表于 2011-08-23 11:50 |只看该作者
回复 2# rdcwayx
随机修改,改成大于2小于100的数,然后把剩下的小于等于2的数量控制在75万以内!

论坛徽章:
0
4 [报告]
发表于 2011-08-23 11:50 |只看该作者
楼主的头像很给力啊

论坛徽章:
15
2015年辞旧岁徽章
日期:2015-03-03 16:54:15双鱼座
日期:2015-01-15 17:29:44午马
日期:2015-01-06 17:06:51子鼠
日期:2014-11-24 10:11:13寅虎
日期:2014-08-18 07:10:55酉鸡
日期:2014-04-02 12:24:51双子座
日期:2014-04-02 12:19:44天秤座
日期:2014-03-17 11:43:36亥猪
日期:2014-03-13 08:13:51未羊
日期:2014-03-11 12:42:03白羊座
日期:2013-11-20 10:15:18CU大牛徽章
日期:2013-04-17 11:48:45
5 [报告]
发表于 2011-08-23 11:55 |只看该作者
回复  rdcwayx
随机修改,改成大于2小于100的数,然后把剩下的小于等于2的数量控制在75万以内!
sundful 发表于 2011-08-23 11:50


可能我没有问清楚。

如你给的sample, 我需要修改一条符合记录,那么是不是就从上而下,找到第一个符合条件的纪录 "78787878|0" 中的 0 改成 2~100随机数就可以了,还是需要随机找符合条件的纪录,再随机修改其记录?

论坛徽章:
8
摩羯座
日期:2014-11-26 18:59:452015亚冠之浦和红钻
日期:2015-06-23 19:10:532015亚冠之西悉尼流浪者
日期:2015-08-21 08:40:5815-16赛季CBA联赛之山东
日期:2016-01-31 18:25:0515-16赛季CBA联赛之四川
日期:2016-02-16 16:08:30程序设计版块每日发帖之星
日期:2016-06-29 06:20:002017金鸡报晓
日期:2017-01-10 15:19:5615-16赛季CBA联赛之佛山
日期:2017-02-27 20:41:19
6 [报告]
发表于 2011-08-23 13:04 |只看该作者

  1. awk 'BEGIN{FS=OFS="|";srand()}{$2=(($2<=2)&&(rand()<0.25))?int(rand()*100):$2}1' urfile
复制代码

论坛徽章:
0
7 [报告]
发表于 2011-08-23 13:19 |只看该作者
回复 5# rdcwayx
可以顺序修改,也可以随机修改,最好随机修改,然后剩下的小于等于2的数据在75万左右即可!

论坛徽章:
0
8 [报告]
发表于 2011-08-23 13:19 |只看该作者
回复 4# 一棵菠菜
谢谢,自己的照片,呵呵

论坛徽章:
0
9 [报告]
发表于 2011-08-23 13:27 |只看该作者
回复 6# waker

求解释,这样能控制在75万以内么?老大

论坛徽章:
15
2015年辞旧岁徽章
日期:2015-03-03 16:54:15双鱼座
日期:2015-01-15 17:29:44午马
日期:2015-01-06 17:06:51子鼠
日期:2014-11-24 10:11:13寅虎
日期:2014-08-18 07:10:55酉鸡
日期:2014-04-02 12:24:51双子座
日期:2014-04-02 12:19:44天秤座
日期:2014-03-17 11:43:36亥猪
日期:2014-03-13 08:13:51未羊
日期:2014-03-11 12:42:03白羊座
日期:2013-11-20 10:15:18CU大牛徽章
日期:2013-04-17 11:48:45
10 [报告]
发表于 2011-08-23 13:47 |只看该作者
本帖最后由 rdcwayx 于 2011-08-23 13:50 编辑

顺序修改的话要简单些,结合我的第一步, waker 给的第二步,加个max 判断就可以了。

代码没试过,你看看是否有结果。
  1. Total=$(awk -F \| '$2<=2{a++}END{print int(a/4)}' infile)
  2. awk -v max=$Total 'BEGIN{FS=OFS="|";srand()}
  3.            {if (($2<=2)&&(rand()<0.25)&&(s<=max)) {$2=int(rand()*100);s++}}1' infile
复制代码
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP