免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
12下一页
最近访问板块 发新帖
查看: 2731 | 回复: 10

[文本处理] 如果统计文件中缺失的行? [复制链接]

论坛徽章:
3
数据库技术版块每日发帖之星
日期:2015-08-05 06:20:00数据库技术版块每日发帖之星
日期:2015-08-23 06:20:00数据库技术版块每日发帖之星
日期:2016-04-19 06:20:00
发表于 2017-07-13 09:59 |显示全部楼层
有大量文件,但是某些文件中某些行数据不全。
例如:
正常是
203|abc|192.168.2.1|1499230617963|bsid1
缺失的行类似这样
203|abc|192.168.2.1|1499230617963
203|abc|192.168.2.1

那么我如何从大量文件中找出缺失的行和有缺失行的文件呢?
我觉得可以遍历所有文件的每一行,对比字符数或者列数,值小于多少就算缺失,但是不会写,麻烦大神们给个脚本,谢谢。

论坛徽章:
1
程序设计版块每日发帖之星
日期:2015-12-17 06:20:00
发表于 2017-07-13 11:20 |显示全部楼层
awk -F '|' '{if(NF<5) print NR}' ufile

论坛徽章:
28
15-16赛季CBA联赛之八一
日期:2016-02-22 19:10:4215-16赛季CBA联赛之深圳
日期:2016-12-01 10:34:0415-16赛季CBA联赛之新疆
日期:2016-12-07 10:24:2915-16赛季CBA联赛之同曦
日期:2016-12-15 12:06:43CU十四周年纪念徽章
日期:2016-12-18 13:03:4415-16赛季CBA联赛之吉林
日期:2017-01-03 15:52:2515-16赛季CBA联赛之辽宁
日期:2017-01-04 14:58:2415-16赛季CBA联赛之辽宁
日期:2017-01-15 09:42:512016科比退役纪念章
日期:2017-02-06 17:21:50黑曼巴
日期:2017-02-10 15:46:1215-16赛季CBA联赛之上海
日期:2017-03-18 10:14:5415-16赛季CBA联赛之青岛
日期:2017-03-18 22:00:44
发表于 2017-07-13 11:23 |显示全部楼层

  1. awk -F\| 'NF<5{print >FILENAME".err"}' *txt
复制代码

论坛徽章:
307
程序设计版块每周发帖之星
日期:2016-04-08 00:41:33操作系统版块每日发帖之星
日期:2015-09-02 06:20:00每日论坛发贴之星
日期:2015-09-02 06:20:00程序设计版块每日发帖之星
日期:2015-09-04 06:20:00每日论坛发贴之星
日期:2015-09-04 06:20:00每周论坛发贴之星
日期:2015-09-06 22:22:00程序设计版块每日发帖之星
日期:2015-09-09 06:20:00程序设计版块每日发帖之星
日期:2015-09-19 06:20:00程序设计版块每日发帖之星
日期:2015-09-20 06:20:00每日论坛发贴之星
日期:2015-09-20 06:20:00程序设计版块每日发帖之星
日期:2015-09-22 06:20:00程序设计版块每日发帖之星
日期:2015-09-24 06:20:00
发表于 2017-07-13 11:42 |显示全部楼层
  1. perl -nle 'print("$ARGV/> $_") if(split(/\|/)<5)' *.txt
复制代码

论坛徽章:
0
发表于 2017-07-13 12:48 |显示全部楼层
提示: 作者被禁止或删除 内容自动屏蔽

论坛徽章:
307
程序设计版块每周发帖之星
日期:2016-04-08 00:41:33操作系统版块每日发帖之星
日期:2015-09-02 06:20:00每日论坛发贴之星
日期:2015-09-02 06:20:00程序设计版块每日发帖之星
日期:2015-09-04 06:20:00每日论坛发贴之星
日期:2015-09-04 06:20:00每周论坛发贴之星
日期:2015-09-06 22:22:00程序设计版块每日发帖之星
日期:2015-09-09 06:20:00程序设计版块每日发帖之星
日期:2015-09-19 06:20:00程序设计版块每日发帖之星
日期:2015-09-20 06:20:00每日论坛发贴之星
日期:2015-09-20 06:20:00程序设计版块每日发帖之星
日期:2015-09-22 06:20:00程序设计版块每日发帖之星
日期:2015-09-24 06:20:00
发表于 2017-07-13 13:13 |显示全部楼层
回复 5# 本友会机友会摄友会
  1. $wkPath = 'workPath:'
  2. foreach($fn in Get-ChildItem -Filter *.txt -Path $wkPath){
  3.     $lines = Get-Content -Encoding UTF8 -Path $fn | where()
  4.     if($lines.Count -gt 0){
  5.         Write-Host "/>" $fn.FullName
  6.         foreach($line in $lines){
  7.             Write-Host -NoNewline "$line`t"
  8.         }
  9.         Write-Host
  10.     }
  11. }
复制代码

大神帮忙指点下,where 部分该如何填写?

论坛徽章:
0
发表于 2017-07-13 15:09 |显示全部楼层
提示: 作者被禁止或删除 内容自动屏蔽

论坛徽章:
3
数据库技术版块每日发帖之星
日期:2015-08-05 06:20:00数据库技术版块每日发帖之星
日期:2015-08-23 06:20:00数据库技术版块每日发帖之星
日期:2016-04-19 06:20:00
发表于 2017-07-13 17:06 |显示全部楼层
回复 2# vagrant_1220

谢谢

论坛徽章:
307
程序设计版块每周发帖之星
日期:2016-04-08 00:41:33操作系统版块每日发帖之星
日期:2015-09-02 06:20:00每日论坛发贴之星
日期:2015-09-02 06:20:00程序设计版块每日发帖之星
日期:2015-09-04 06:20:00每日论坛发贴之星
日期:2015-09-04 06:20:00每周论坛发贴之星
日期:2015-09-06 22:22:00程序设计版块每日发帖之星
日期:2015-09-09 06:20:00程序设计版块每日发帖之星
日期:2015-09-19 06:20:00程序设计版块每日发帖之星
日期:2015-09-20 06:20:00每日论坛发贴之星
日期:2015-09-20 06:20:00程序设计版块每日发帖之星
日期:2015-09-22 06:20:00程序设计版块每日发帖之星
日期:2015-09-24 06:20:00
发表于 2017-07-13 17:49 |显示全部楼层
本帖最后由 sunzhiguolu 于 2017-07-13 17:50 编辑

回复 7# 本友会机友会摄友会
谢大神,
有个地方不明白,请指点一下。
  1. foreach($fn in Get-ChildItem -Filter *.txt -Path 'wkPath:'){
  2.     $lines = Get-Content -Encoding UTF8 -Path $fn | Where-Object {($_ -split "\|").Count -lt 5}
  3.     if(@($lines).Count -gt 0){
  4.         Write-Host (($fn.FullName, $lines | Out-String) -join "`n")   #section1


  5.         <#section2
  6.             Write-Host $fn.FullName
  7.             Write-Host ($lines -join "`n")
  8.         #>
  9.     }
  10. }
复制代码

section2 中的 -join 为何不需要 Out-String, 其中有什么讲究吗?


论坛徽章:
0
发表于 2017-07-14 14:24 |显示全部楼层
提示: 作者被禁止或删除 内容自动屏蔽
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP