免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
123下一页
最近访问板块 发新帖
查看: 3127 | 回复: 22
打印 上一主题 下一主题

紧急求助,文件处理的问题 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2009-02-26 16:51 |只看该作者 |倒序浏览
有一个20G的文件,一行有100个字段,以“|”为分隔符,我需要提取有用的信息,描述如下:
问题一:
数据如下
13312345678|0|1|30385729|2
13312345678|0|1| |2

当第四个字段不为空的时候,我需要生成一个新的文件,文件内容如下:
13312345678|~30385729

我写了一个用while循环,然后一行一行作,这样的效率不行,还请各位老大帮忙,万分感谢!

论坛徽章:
11
金牛座
日期:2015-03-19 16:56:22数据库技术版块每日发帖之星
日期:2016-08-02 06:20:00数据库技术版块每日发帖之星
日期:2016-04-24 06:20:00数据库技术版块每日发帖之星
日期:2016-04-13 06:20:00IT运维版块每日发帖之星
日期:2016-04-13 06:20:00数据库技术版块每日发帖之星
日期:2016-02-03 06:20:00数据库技术版块每日发帖之星
日期:2015-08-06 06:20:00季节之章:春
日期:2015-03-27 15:54:57羊年新春福章
日期:2015-03-27 15:54:37戌狗
日期:2015-03-19 16:56:41数据库技术版块每日发帖之星
日期:2016-08-18 06:20:00
2 [报告]
发表于 2009-02-26 16:55 |只看该作者

回复 #1 jyl980431 的帖子

awk -F'|' '$4~/[0-9]+/{print $1"|~"$4}' ufile > outfile;

论坛徽章:
23
15-16赛季CBA联赛之吉林
日期:2017-12-21 16:39:27白羊座
日期:2014-10-27 11:14:37申猴
日期:2014-10-23 08:36:23金牛座
日期:2014-09-30 08:26:49午马
日期:2014-09-29 09:40:16射手座
日期:2014-11-25 08:56:112015年辞旧岁徽章
日期:2015-03-03 16:54:152015年迎新春徽章
日期:2015-03-04 09:49:0315-16赛季CBA联赛之山东
日期:2017-12-21 16:39:1915-16赛季CBA联赛之广东
日期:2016-01-19 13:33:372015亚冠之山东鲁能
日期:2015-10-13 09:39:062015亚冠之西悉尼流浪者
日期:2015-09-21 08:27:57
3 [报告]
发表于 2009-02-26 16:55 |只看该作者

回复 #1 jyl980431 的帖子

awk -F \| '$4!~/^ *$/{print $1"|~"$4}' urfile > newfile

论坛徽章:
11
金牛座
日期:2015-03-19 16:56:22数据库技术版块每日发帖之星
日期:2016-08-02 06:20:00数据库技术版块每日发帖之星
日期:2016-04-24 06:20:00数据库技术版块每日发帖之星
日期:2016-04-13 06:20:00IT运维版块每日发帖之星
日期:2016-04-13 06:20:00数据库技术版块每日发帖之星
日期:2016-02-03 06:20:00数据库技术版块每日发帖之星
日期:2015-08-06 06:20:00季节之章:春
日期:2015-03-27 15:54:57羊年新春福章
日期:2015-03-27 15:54:37戌狗
日期:2015-03-19 16:56:41数据库技术版块每日发帖之星
日期:2016-08-18 06:20:00
4 [报告]
发表于 2009-02-26 16:56 |只看该作者
原帖由 ly5066113 于 2009-2-26 16:55 发表
awk -F \| '$4!~/^ *$/{print $1"|~"$4}' urfile > newfile


耶~~总算快了一回~

论坛徽章:
8
摩羯座
日期:2014-11-26 18:59:452015亚冠之浦和红钻
日期:2015-06-23 19:10:532015亚冠之西悉尼流浪者
日期:2015-08-21 08:40:5815-16赛季CBA联赛之山东
日期:2016-01-31 18:25:0515-16赛季CBA联赛之四川
日期:2016-02-16 16:08:30程序设计版块每日发帖之星
日期:2016-06-29 06:20:002017金鸡报晓
日期:2017-01-10 15:19:5615-16赛季CBA联赛之佛山
日期:2017-02-27 20:41:19
5 [报告]
发表于 2009-02-26 16:58 |只看该作者
读下置顶文章里的awk教程?

论坛徽章:
0
6 [报告]
发表于 2009-02-26 17:01 |只看该作者
awk -F "|" '$4!~/[ \t]+/{print $1"|~"$4}' file

论坛徽章:
0
7 [报告]
发表于 2009-02-26 17:03 |只看该作者
太感谢了,现在处理起来,神速啊:)

论坛徽章:
0
8 [报告]
发表于 2009-02-26 17:04 |只看该作者
正则用的不对,改了
awk -F "|" '$4!~/^[ \t]*$/{print $1"|~"$4}' file

论坛徽章:
0
9 [报告]
发表于 2009-02-26 17:10 |只看该作者

回复 #1 jyl980431 的帖子

awk -F '|' '{if($4!~/[ ]+/) print $1"|~"$4}'  urfile > newfile
file就是生成的新文件!!!

[ 本帖最后由 飞鸿无痕 于 2009-2-26 17:14 编辑 ]

论坛徽章:
9
2015亚冠之阿尔纳斯尔
日期:2015-09-10 16:21:162015亚冠之塔什干火车头
日期:2015-07-01 16:23:022015年亚洲杯之巴勒斯坦
日期:2015-04-20 17:19:46子鼠
日期:2014-11-13 09:51:26未羊
日期:2014-08-28 18:13:36技术图书徽章
日期:2014-02-21 09:30:15酉鸡
日期:2014-01-14 11:12:49天蝎座
日期:2013-12-09 17:56:53平安夜徽章
日期:2015-12-26 00:06:30
10 [报告]
发表于 2009-02-26 17:15 |只看该作者
awk -F\| '($4+0)!=0{print $1"|~"$4}' urfile > newfile
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP