忘记密码   免费注册 查看新帖 |

ChinaUnix.net

  平台 论坛 博客 文库 频道自动化运维 虚拟化 储存备份 C/C++ PHP MySQL 嵌入式 Linux系统
12下一页
最近访问板块 发新帖
查看: 1124 | 回复: 10

[文本处理] 急,shell如何处理类似文本 [复制链接]

论坛徽章:
0
发表于 2018-03-13 20:44 |显示全部楼层
  借花献佛,有一个文本要处理,和之前有个帖子类似,我贴一下,但要比之前复杂一些:
现在某个文件夹下每天都会有一些文件,我需要把每天把这些文件汇总到一个文件里,,字段内容应该是这个文件的截取后的名字,比如说有a.log.123,b.log.222,c.cc.123.223三个文件
文件内容都不一样     假如,a是 1 2 3  b是  a b c
                                          4 5 6        a a  a
现在需要加一个字段 1 2 3 a    同理b也一样 a b c b                最后需要汇总到一个文件里     1 2 3  a
                           4 5 6 a                    a a  a b                                                       4 5 6  a
                                                                                                                           a b c  b
                                                                                                                           a a a  b
  就是截取文件名,添加到最后一列,我用类似 ‘print $0,filename’ ,无法解决,求shell解决的语句。

论坛徽章:
28
15-16赛季CBA联赛之八一
日期:2016-02-22 19:10:4215-16赛季CBA联赛之深圳
日期:2016-12-01 10:34:0415-16赛季CBA联赛之新疆
日期:2016-12-07 10:24:2915-16赛季CBA联赛之同曦
日期:2016-12-15 12:06:43CU十四周年纪念徽章
日期:2016-12-18 13:03:4415-16赛季CBA联赛之吉林
日期:2017-01-03 15:52:2515-16赛季CBA联赛之辽宁
日期:2017-01-04 14:58:2415-16赛季CBA联赛之辽宁
日期:2017-01-15 09:42:512016科比退役纪念章
日期:2017-02-06 17:21:50黑曼巴
日期:2017-02-10 15:46:1215-16赛季CBA联赛之上海
日期:2017-03-18 10:14:5415-16赛季CBA联赛之青岛
日期:2017-03-18 22:00:44
发表于 2018-03-13 23:10 |显示全部楼层
  1. find /root/dir1 -type f | xargs awk '{match(FILENAME,"/([^.]+)",a);$++NF=a[1]}1'
复制代码

?

论坛徽章:
19
程序设计版块每日发帖之星
日期:2016-05-03 06:20:0015-16赛季CBA联赛之山西
日期:2018-08-07 19:46:2315-16赛季CBA联赛之佛山
日期:2018-08-03 13:19:33黑曼巴
日期:2018-07-06 15:19:5015-16赛季CBA联赛之八一
日期:2018-07-05 10:34:0915-16赛季CBA联赛之八一
日期:2018-07-03 16:56:4615-16赛季CBA联赛之深圳
日期:2018-06-15 14:59:3715-16赛季CBA联赛之青岛
日期:2018-06-08 13:45:2815-16赛季CBA联赛之同曦
日期:2018-06-04 19:42:2015-16赛季CBA联赛之山东
日期:2018-05-30 12:44:59CU十四周年纪念徽章
日期:2018-05-15 11:36:3815-16赛季CBA联赛之广东
日期:2018-05-14 09:52:42
发表于 2018-03-14 09:07 |显示全部楼层
回复 1# wzltian


  1. awk '{split(FILENAME,t,".");print $0" "t[1]}' *
复制代码

论坛徽章:
0
发表于 2018-03-14 10:00 |显示全部楼层
回复 3# wh7211

  对不起,可能我举的例子过于简单,实际中文件名都是几个字母组成,并且文件的每一列长度都一样,你这个例子执行后,文件名会把第一列覆盖,同时我尝试了把文件名放到最后,也不行

论坛徽章:
0
发表于 2018-03-14 10:01 |显示全部楼层
回复 2# moperyblue

  对不起,你这个例子也不行,我尝试多次,都不行,可能我举的例子过于简单,实际中文件名都是几个字母组成,并且文件的每一列长度都一样,你这个例子执行后,文件名会把第一列覆盖,同时我尝试了把文件名放到最后,也不行

论坛徽章:
19
程序设计版块每日发帖之星
日期:2016-05-03 06:20:0015-16赛季CBA联赛之山西
日期:2018-08-07 19:46:2315-16赛季CBA联赛之佛山
日期:2018-08-03 13:19:33黑曼巴
日期:2018-07-06 15:19:5015-16赛季CBA联赛之八一
日期:2018-07-05 10:34:0915-16赛季CBA联赛之八一
日期:2018-07-03 16:56:4615-16赛季CBA联赛之深圳
日期:2018-06-15 14:59:3715-16赛季CBA联赛之青岛
日期:2018-06-08 13:45:2815-16赛季CBA联赛之同曦
日期:2018-06-04 19:42:2015-16赛季CBA联赛之山东
日期:2018-05-30 12:44:59CU十四周年纪念徽章
日期:2018-05-15 11:36:3815-16赛季CBA联赛之广东
日期:2018-05-14 09:52:42
发表于 2018-03-14 10:39 |显示全部楼层
回复 4# wzltian


把文件格式转换成unix:
  1. dos2unix filename
复制代码

论坛徽章:
38
辰龙
日期:2013-08-21 15:45:19寅虎
日期:2014-06-09 12:52:17双鱼座
日期:2014-06-10 12:42:44巨蟹座
日期:2014-06-12 23:17:17戌狗
日期:2014-06-17 09:53:29未羊
日期:2014-10-10 13:45:41申猴
日期:2015-03-03 17:21:37亥猪
日期:2015-03-03 17:22:002015亚冠之广州富力
日期:2015-05-12 16:34:522015亚冠之卡尔希纳萨夫
日期:2015-05-24 15:24:35黄金圣斗士
日期:2015-12-02 17:25:08平安夜徽章
日期:2015-12-26 00:06:30
发表于 2018-03-14 11:08 |显示全部楼层
说一下你这里对【文件名】的定义是什么?  
比如 以下文件 , 它们的文件名分别是什么? 你取文件名依据的规则是怎么样的?
a.txt   
a.b.c
ab
   

论坛徽章:
0
发表于 2018-03-14 11:32 |显示全部楼层
回复 7# 关阴月飞

  谢谢你的回复,假如有4个日志,文件名分别是user_info.log.fromng   ,nginxAccess.log.192.169.1.1.2018, accesskeyfromng.log.xx , firewall.log
      截取规则是取“."前的文件名,即 user_info ,nginxAccess,accesskeyfromng,firewall,把这4个文件名,分别各自加入到文件的最后一列及第一列(有个帖子讲了如何加第一列,但怎么测试都不对),这就是我的完整需求,

论坛徽章:
0
发表于 2018-03-14 11:50 |显示全部楼层
本帖最后由 本友会机友会摄友会 于 2018-03-14 11:53 编辑

win,linux ,通用的powershell代码:
不需要转换回车,可以是带有空格的文件名。

  1. #-----------------------------------------------
  2. #用户设定
  3. $汇总输出文件名 = 'd:\xxx\yyy.txt'
  4. $输入目录 = 'd:\aaa'
  5. #-----------------------------------------------
  6. $文件列表 = Get-ChildItem -LiteralPath $输入目录 -File
  7. foreach ($文件 in $文件列表)
  8. {
  9.         $文件内容 = Get-Content -LiteralPath $文件 -ReadCount 0
  10.         foreach ($行 in $文件内容)
  11.         {
  12.                 $行2 = $行 + ' ' + $文件.basename
  13.                 Add-Content -LiteralPath $汇总输出文件名 -Value $行2
  14.         }
  15. }
复制代码

论坛徽章:
38
辰龙
日期:2013-08-21 15:45:19寅虎
日期:2014-06-09 12:52:17双鱼座
日期:2014-06-10 12:42:44巨蟹座
日期:2014-06-12 23:17:17戌狗
日期:2014-06-17 09:53:29未羊
日期:2014-10-10 13:45:41申猴
日期:2015-03-03 17:21:37亥猪
日期:2015-03-03 17:22:002015亚冠之广州富力
日期:2015-05-12 16:34:522015亚冠之卡尔希纳萨夫
日期:2015-05-24 15:24:35黄金圣斗士
日期:2015-12-02 17:25:08平安夜徽章
日期:2015-12-26 00:06:30
发表于 2018-03-14 13:06 |显示全部楼层
回复 8# wzltian

这样的话,3楼的答案就可以解决你的问题了。
您需要登录后才可以回帖 登录 | 注册

本版积分规则

【重磅资料】多云网络实战的相关问题汇总!
云网融合的多云网络

本文介绍如何管理私有云数据中心,构建数据中心互联和混合云解决方案。对于OTT 网络架构的深入理解,基本上来源于SIGCOM 的白皮书和一些公开视频。

Overlay SDN 控制器详解

云计算为了适应业务/APP 的快速开发和部署,会把网络分为两层:Overlay 和 Underlay 网络。本文主要讲Overlay网络层面的问题。

超级核心路由器演进

2016 年,网络连接已经采用100G/200G/400G(虽然 400GE 接口技术还未成熟),互联网出口也已经增长到了 T 级别。

获得资料 >>
  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号 北京市公安局海淀分局网监中心备案编号:11010802020122
广播电视节目制作经营许可证(京) 字第1234号 中国互联网协会会员  联系我们:wangnan@it168.com
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP