免费注册 查看新帖 |

Chinaunix

广告
  平台 论坛 博客 文库
1234下一页
最近访问板块 发新帖
查看: 7473 | 回复: 33
打印 上一主题 下一主题

[文本处理] 每隔1000行,取一行重新排列 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2013-07-07 20:23 |只看该作者 |倒序浏览
本帖最后由 heracai 于 2013-07-07 20:34 编辑

有一个文件,有6万行
1
2
3
.....
.....
600000

现在要变成,每隔1000行,取一行,取59行,然后从第二个开始,又隔1000行,一直到6万行。
1
1001
2001
.....
59001
2
1002
2002
......
.....
59002
......
.....
60000

用for嵌套
for i in $(seq 1000)
do
   for((k=0;k<=59;k++))
     do awk -v u=$i -v t=$k '{if (NR==u+t*1000) {print}}' 1.txt >> 0.txt
   done
done

这样处理起来好慢啊,跟蜗牛一样。求一个高效的方法。有几百个文件啊,而且还经常变化的。

论坛徽章:
8
摩羯座
日期:2014-11-26 18:59:452015亚冠之浦和红钻
日期:2015-06-23 19:10:532015亚冠之西悉尼流浪者
日期:2015-08-21 08:40:5815-16赛季CBA联赛之山东
日期:2016-01-31 18:25:0515-16赛季CBA联赛之四川
日期:2016-02-16 16:08:30程序设计版块每日发帖之星
日期:2016-06-29 06:20:002017金鸡报晓
日期:2017-01-10 15:19:5615-16赛季CBA联赛之佛山
日期:2017-02-27 20:41:19
2 [报告]
发表于 2013-07-07 21:04 |只看该作者
如果文件描述符够用

awk '{print >NR%1000".outfile"}' infile

论坛徽章:
0
3 [报告]
发表于 2013-07-07 21:22 |只看该作者
waker 发表于 2013-07-07 21:04
如果文件描述符够用

awk '{print >NR%1000".outfile"}' infile


这样处理速度好快啊!!!!

论坛徽章:
0
4 [报告]
发表于 2013-07-07 21:22 |只看该作者
  O(∩_∩)O谢谢

论坛徽章:
0
5 [报告]
发表于 2013-07-07 21:28 |只看该作者
本帖最后由 hniu 于 2013-07-07 21:29 编辑

  1. awk 'BEGIN{print "p;"; for(i=1;i<1000;++i) print "n;"; exit;}' > tmp.sed
  2. sed -n -f tmp.sed yourdatafile.txt > your targetfile.txt
复制代码
第一行只执行一次就可以了,不要放在脚本中。

论坛徽章:
6
摩羯座
日期:2013-08-24 10:43:10狮子座
日期:2013-08-25 10:27:06天秤座
日期:2013-09-11 20:28:44午马
日期:2014-09-28 16:06:0015-16赛季CBA联赛之八一
日期:2016-12-19 13:55:0515-16赛季CBA联赛之天津
日期:2016-12-20 14:01:23
6 [报告]
发表于 2013-07-07 21:37 |只看该作者
for i in $(seq 1000)
do
   for((k=0;k<=59;k++))
     do awk -v u=$i -v t=$k '{if (NR==u+t*1000) {print}}' 1.txt >> 0.txt
   done
done


从这个些命令来看,楼主要的行是
for i in $(seq 100); do for((k=0;k<=59;k++)) ; do echo $(($i+$k*1000)); done; done

即红色echo输出的这些行号

很明显  $i+$k*1000  这个数除1000的话余数是$i
$i又是seq 100,即1-10
所以楼主的要求是取:行号 除1000余数在1 - 100之间的这些行
  1. awk '{if(NR/1000<=100 && NR/1000>=1)print  $0}' file
复制代码

论坛徽章:
0
7 [报告]
发表于 2013-07-07 21:42 |只看该作者
回复 6# cao627


    不是的,你的结果不对。

论坛徽章:
6
摩羯座
日期:2013-08-24 10:43:10狮子座
日期:2013-08-25 10:27:06天秤座
日期:2013-09-11 20:28:44午马
日期:2014-09-28 16:06:0015-16赛季CBA联赛之八一
日期:2016-12-19 13:55:0515-16赛季CBA联赛之天津
日期:2016-12-20 14:01:23
8 [报告]
发表于 2013-07-07 21:46 |只看该作者
本帖最后由 cao627 于 2013-07-07 21:47 编辑

awk '{if(NR%1000<=100 && NR%1000>=1)print  $0}' file@heracaisorr 写错了 是取摸% 不是除/

论坛徽章:
0
9 [报告]
发表于 2013-07-07 21:47 |只看该作者
回复 5# hniu


    那第二行如何循环?

论坛徽章:
0
10 [报告]
发表于 2013-07-07 21:48 |只看该作者
回复 8# cao627


    额,还是不对。。。。
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP