忘记密码   免费注册 查看新帖 | 论坛精华区

ChinaUnix.net

  平台 论坛 博客 认证专区 大话IT HPC论坛 徽章 文库 沙龙 自测 下载 频道自动化运维 虚拟化 储存备份 C/C++ PHP MySQL 嵌入式 Linux系统
1234下一页
最近访问板块 发新帖
查看: 1669 | 回复: 35

[文本处理] 寻找文件中的多行多列内容并输出对应行(比较繁琐,谢谢) [复制链接]

论坛徽章:
0
发表于 2017-09-12 19:05 |显示全部楼层
本帖最后由 greaterwei 于 2017-09-14 18:10 编辑

文件refs.dat 包含以下多行多列内容
ACBACU        ACPRCU        …
ACCAFA        ADESXA        …
CATPAL        AOXSCH        …
CDACET        …        
CDCAZA        …        
…               
…               
        
文件cons.dat中内容如下:
ACBACU        1.397        0.854        2.782        0        0        0.211        4 4 4        4        4        4  ...
ACPRCU        3.535        2.441        1.565        0        0        0.373        3 2 3        3        2        3  ...
AOXSCH        2.159        1.340        3.080        0        0        0.365        3 2 3        3        2        3  ...
CATPAL         3.807        2.039        2.788        0        0        0.386        4 3 3        4        3        3  ...
CDCAZA        4.439        2.496        1.525        0        0        0.390        3 1 3        3        1        3  ...



refs.dat 中有约50列数据,每列长度不一;cons.dat中有约20万行数据,每行10列。

现在要求检测cons.dat 第一列中是否含有refs.dat中的内容并输出
检测规则为:先在cons.dat 第一列中 检测refs.dat 的第一列内容,然后提取对应行内容,并输出成文件1.dat;
                 再在cons.dat 第一列中 检测refs.dat的 第二列内容,然后提取对应行内容,并输出成文件2.dat;
                ...
                ...
                最后,未找到的refs.dat的内容按列生成新文件ref-left.dat                                          refs.dat中第n列的结果若全部找到,则在ref-left.dat中依然生成空列;若一个都没找到,依然生成空文件n.dat
               


如此,输出ref-left.dat的内容应为:
ACCAFA        ADESXA        …
CDACET        …                …
…                …        
…               

1.dat的内容应为:
ACBACU        1.397        0.854        2.782        0        0        0.211        4 4 4        4        4        4  ...
CATPAL         3.807        2.039        2.788        0        0        0.386        4 3 3        4        3        3  ...
CDCAZA        4.439        2.496        1.525        0        0        0.390        3 1 3        3        1        3  ...



2.dat的内容应为:
ACPRCU         3.535        2.441        1.565        0        0        0.373        3 2 3        3        2        3  ...
AOXSCH        2.159        1.340        3.080        0        0        0.365        3 2 3        3        2        3  ...



3.dat的内容应为:...

最后,如果能够把上述结果再分别直接输出至report.xls文件的各个sheet(即sheet1是ref-left.dat的内容,sheet2是1.dat的内容,sheet3是2.dat的内容,...)更好。

十分感谢!





论坛徽章:
0
发表于 2017-09-12 22:10 |显示全部楼层
太高深了,飘过~

论坛徽章:
0
发表于 2017-09-12 22:43 |显示全部楼层
回复 2# Newbee_Mofi

我可以一个一个的弄,但是那样的话太浪费时间了

论坛徽章:
0
发表于 2017-09-12 22:55 |显示全部楼层
回复 3# greaterwei

感觉你使用shell的水平 比我高多了 我才刚学会定时任务 简单的提数脚本编写

论坛徽章:
0
发表于 2017-09-12 23:19 |显示全部楼层
回复 4# Newbee_Mofi

我只会皮毛。。就是来求助的。。

论坛徽章:
1
CU十四周年纪念徽章
日期:2017-08-28 17:16:19
发表于 2017-09-13 10:28 |显示全部楼层
  1. awk 'NR==FNR{a[$1]=$0 ; next}{for(i in a) {if($1==i) {print a[$1] > "1.dat" ; $1="\t"} ;  if($2==i) {print a[$2] > "2.dat" ; $2="\t"}} $0=$0 ; print > "ref-left.dat"}' cons.dat refs.dat
复制代码

论坛徽章:
28
酉鸡
日期:2014-05-04 10:03:482015年迎新春徽章
日期:2015-03-04 09:58:112015年亚洲杯纪念徽章
日期:2015-03-20 14:40:232015亚冠之阿尔纳斯尔
日期:2015-06-02 18:59:042015亚冠之阿尔希拉尔
日期:2015-06-30 15:22:572015亚冠之大阪钢巴
日期:2015-07-20 10:44:332015亚冠之阿尔纳斯尔
日期:2015-10-28 14:57:5215-16赛季CBA联赛之新疆
日期:2015-12-25 10:18:45黑曼巴
日期:2016-06-26 21:39:5315-16赛季CBA联赛之山西
日期:2016-07-25 21:54:2715-16赛季CBA联赛之北京
日期:2016-10-27 12:07:2315-16赛季CBA联赛之八一
日期:2017-07-07 16:39:09
发表于 2017-09-13 10:44 |显示全部楼层
回复 1# greaterwei


  1. awk 'FNR==NR{for(i=1;i<=NF;i++) a[NR" "i]=$i;m=NR;n=NF;next}{for(i=1;i<=m;i++) {for(j=1;j<=n;j++) if(a[i" "j]==$1) {print $0 >>j".dat";delete a[i" "j]}}}END{for(i=1;i<=m;i++) {for(j=1;j<=n;j++) {if(a[i" "j]) s=s?s" "a[i" "j]:a[i" "j]} b[++t]=s;s=""} for(i=1;i<=t;i++) if(b[i]) print b[i]>>"ref-left.dat"}' refs.dat  cons.dat
复制代码

excel的那个自己手工来吧,不知道shell怎么操作excel!

论坛徽章:
0
发表于 2017-09-13 13:48 |显示全部楼层
excel是powershell的菜,不过:
1 excel一般来讲一列只能存104万左右的数据。你数据多少行?
2先在cons.dat 第一列中 检测refs.dat 的第一列内容,然后提取对应行内容,并输出成文件1.dat-------两个集合如何对比,对比后取什么集?交集?差集? 说清楚点。

论坛徽章:
2
程序设计版块每日发帖之星
日期:2016-05-03 06:20:0015-16赛季CBA联赛之同曦
日期:2017-09-11 14:39:48
发表于 2017-09-13 21:13 |显示全部楼层
回复 1# greaterwei

  1. awk 'FILENAME==ARGV[1]{a[$1]=$0;next}{for(i in a){for(j=1;j<=NF;j++){if($j~i){$j="";print a[i]>j".dat"}}}}{for(i=1;i<=NF;i++){s[i]=s[i]?s[i]" "$i:$i}}END{m1=split(s[1],t1);m2=split(s[2],t2);m=m1>m2?m1:m2;for(i=1;i<=m;i++){print t1[i],t2[i]>"ref-left.dat"}}' cons.dat refs.dat
复制代码

论坛徽章:
0
发表于 2017-09-13 22:14 |显示全部楼层
回复 6# 龙牙地主天

谢谢您的回复!您的代码可以运行,但是3列过后的数据没有输出
您需要登录后才可以回帖 登录 | 注册

本版积分规则

10张SACC2017门票等你来拿~

在数字化转型时代,云已成为万物智能的数字化大脑。而随着大数据应用、人工智能、移动互联网等技术的飞速发展,“智慧 +” 的概念正在深入到各行各业,提升企业效率,释放商业潜能,创造全新机遇。作为国内顶级技术盛会之一,2017 中国系统架构师大会(SACC2017)将于 10 月 19-21 日在北京新云南皇冠假日酒店震撼来袭。今年,大会以 “云智未来” 为主题,云集国内外顶级专家,围绕云计算、人工智能、大数据、移动互联网、产业应用等热点领域展开技术探讨与交流。本届大会共设置 2 大主会场,18 个技术专场;邀请来自互联网、金融、制造业、电商等多个领域,100 余位技术专家及行业领袖来分享他们的经验;并将吸引 4000 + 人次的系统运维、架构师及 IT 决策人士参会,为他们提供最具价值的交流平台。
----------------------------------------
优惠时间:2017年10月19日前

活动链接>>
  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号 北京市公安局海淀分局网监中心备案编号:11010802020122
广播电视节目制作经营许可证(京) 字第1234号 中国互联网协会会员  联系我们:
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP