免费注册 查看新帖 |

ChinaUnix.net

  平台 论坛 博客 文库 频道自动化运维 虚拟化 储存备份 C/C++ PHP MySQL 嵌入式 Linux系统
12下一页
最近访问板块 发新帖
查看: 1161 | 回复: 10

[文本处理] 急,shell如何处理类似文本 [复制链接]

论坛徽章:
0
发表于 2018-03-13 20:44 |显示全部楼层
  借花献佛,有一个文本要处理,和之前有个帖子类似,我贴一下,但要比之前复杂一些:
现在某个文件夹下每天都会有一些文件,我需要把每天把这些文件汇总到一个文件里,,字段内容应该是这个文件的截取后的名字,比如说有a.log.123,b.log.222,c.cc.123.223三个文件
文件内容都不一样     假如,a是 1 2 3  b是  a b c
                                          4 5 6        a a  a
现在需要加一个字段 1 2 3 a    同理b也一样 a b c b                最后需要汇总到一个文件里     1 2 3  a
                           4 5 6 a                    a a  a b                                                       4 5 6  a
                                                                                                                           a b c  b
                                                                                                                           a a a  b
  就是截取文件名,添加到最后一列,我用类似 ‘print $0,filename’ ,无法解决,求shell解决的语句。

论坛徽章:
28
15-16赛季CBA联赛之八一
日期:2016-02-22 19:10:4215-16赛季CBA联赛之深圳
日期:2016-12-01 10:34:0415-16赛季CBA联赛之新疆
日期:2016-12-07 10:24:2915-16赛季CBA联赛之同曦
日期:2016-12-15 12:06:43CU十四周年纪念徽章
日期:2016-12-18 13:03:4415-16赛季CBA联赛之吉林
日期:2017-01-03 15:52:2515-16赛季CBA联赛之辽宁
日期:2017-01-04 14:58:2415-16赛季CBA联赛之辽宁
日期:2017-01-15 09:42:512016科比退役纪念章
日期:2017-02-06 17:21:50黑曼巴
日期:2017-02-10 15:46:1215-16赛季CBA联赛之上海
日期:2017-03-18 10:14:5415-16赛季CBA联赛之青岛
日期:2017-03-18 22:00:44
发表于 2018-03-13 23:10 |显示全部楼层
  1. find /root/dir1 -type f | xargs awk '{match(FILENAME,"/([^.]+)",a);$++NF=a[1]}1'
复制代码

?

论坛徽章:
21
程序设计版块每日发帖之星
日期:2016-05-03 06:20:0015-16赛季CBA联赛之深圳
日期:2018-06-15 14:59:3715-16赛季CBA联赛之八一
日期:2018-07-03 16:56:4615-16赛季CBA联赛之八一
日期:2018-07-05 10:34:09黑曼巴
日期:2018-07-06 15:19:5015-16赛季CBA联赛之佛山
日期:2018-08-03 13:19:3315-16赛季CBA联赛之山西
日期:2018-08-07 19:46:2315-16赛季CBA联赛之广夏
日期:2018-08-08 19:31:5015-16赛季CBA联赛之青岛
日期:2018-11-26 15:21:5015-16赛季CBA联赛之青岛
日期:2018-06-08 13:45:2815-16赛季CBA联赛之同曦
日期:2018-06-04 19:42:2015-16赛季CBA联赛之山东
日期:2018-05-30 12:44:59
发表于 2018-03-14 09:07 |显示全部楼层
回复 1# wzltian


  1. awk '{split(FILENAME,t,".");print $0" "t[1]}' *
复制代码

论坛徽章:
0
发表于 2018-03-14 10:00 |显示全部楼层
回复 3# wh7211

  对不起,可能我举的例子过于简单,实际中文件名都是几个字母组成,并且文件的每一列长度都一样,你这个例子执行后,文件名会把第一列覆盖,同时我尝试了把文件名放到最后,也不行

论坛徽章:
0
发表于 2018-03-14 10:01 |显示全部楼层
回复 2# moperyblue

  对不起,你这个例子也不行,我尝试多次,都不行,可能我举的例子过于简单,实际中文件名都是几个字母组成,并且文件的每一列长度都一样,你这个例子执行后,文件名会把第一列覆盖,同时我尝试了把文件名放到最后,也不行

论坛徽章:
21
程序设计版块每日发帖之星
日期:2016-05-03 06:20:0015-16赛季CBA联赛之深圳
日期:2018-06-15 14:59:3715-16赛季CBA联赛之八一
日期:2018-07-03 16:56:4615-16赛季CBA联赛之八一
日期:2018-07-05 10:34:09黑曼巴
日期:2018-07-06 15:19:5015-16赛季CBA联赛之佛山
日期:2018-08-03 13:19:3315-16赛季CBA联赛之山西
日期:2018-08-07 19:46:2315-16赛季CBA联赛之广夏
日期:2018-08-08 19:31:5015-16赛季CBA联赛之青岛
日期:2018-11-26 15:21:5015-16赛季CBA联赛之青岛
日期:2018-06-08 13:45:2815-16赛季CBA联赛之同曦
日期:2018-06-04 19:42:2015-16赛季CBA联赛之山东
日期:2018-05-30 12:44:59
发表于 2018-03-14 10:39 |显示全部楼层
回复 4# wzltian


把文件格式转换成unix:
  1. dos2unix filename
复制代码

论坛徽章:
38
辰龙
日期:2013-08-21 15:45:19寅虎
日期:2014-06-09 12:52:17双鱼座
日期:2014-06-10 12:42:44巨蟹座
日期:2014-06-12 23:17:17戌狗
日期:2014-06-17 09:53:29未羊
日期:2014-10-10 13:45:41申猴
日期:2015-03-03 17:21:37亥猪
日期:2015-03-03 17:22:002015亚冠之广州富力
日期:2015-05-12 16:34:522015亚冠之卡尔希纳萨夫
日期:2015-05-24 15:24:35黄金圣斗士
日期:2015-12-02 17:25:08平安夜徽章
日期:2015-12-26 00:06:30
发表于 2018-03-14 11:08 |显示全部楼层
说一下你这里对【文件名】的定义是什么?  
比如 以下文件 , 它们的文件名分别是什么? 你取文件名依据的规则是怎么样的?
a.txt   
a.b.c
ab
   

论坛徽章:
0
发表于 2018-03-14 11:32 |显示全部楼层
回复 7# 关阴月飞

  谢谢你的回复,假如有4个日志,文件名分别是user_info.log.fromng   ,nginxAccess.log.192.169.1.1.2018, accesskeyfromng.log.xx , firewall.log
      截取规则是取“."前的文件名,即 user_info ,nginxAccess,accesskeyfromng,firewall,把这4个文件名,分别各自加入到文件的最后一列及第一列(有个帖子讲了如何加第一列,但怎么测试都不对),这就是我的完整需求,

论坛徽章:
0
发表于 2018-03-14 11:50 |显示全部楼层
本帖最后由 本友会机友会摄友会 于 2018-03-14 11:53 编辑

win,linux ,通用的powershell代码:
不需要转换回车,可以是带有空格的文件名。

  1. #-----------------------------------------------
  2. #用户设定
  3. $汇总输出文件名 = 'd:\xxx\yyy.txt'
  4. $输入目录 = 'd:\aaa'
  5. #-----------------------------------------------
  6. $文件列表 = Get-ChildItem -LiteralPath $输入目录 -File
  7. foreach ($文件 in $文件列表)
  8. {
  9.         $文件内容 = Get-Content -LiteralPath $文件 -ReadCount 0
  10.         foreach ($行 in $文件内容)
  11.         {
  12.                 $行2 = $行 + ' ' + $文件.basename
  13.                 Add-Content -LiteralPath $汇总输出文件名 -Value $行2
  14.         }
  15. }
复制代码

论坛徽章:
38
辰龙
日期:2013-08-21 15:45:19寅虎
日期:2014-06-09 12:52:17双鱼座
日期:2014-06-10 12:42:44巨蟹座
日期:2014-06-12 23:17:17戌狗
日期:2014-06-17 09:53:29未羊
日期:2014-10-10 13:45:41申猴
日期:2015-03-03 17:21:37亥猪
日期:2015-03-03 17:22:002015亚冠之广州富力
日期:2015-05-12 16:34:522015亚冠之卡尔希纳萨夫
日期:2015-05-24 15:24:35黄金圣斗士
日期:2015-12-02 17:25:08平安夜徽章
日期:2015-12-26 00:06:30
发表于 2018-03-14 13:06 |显示全部楼层
回复 8# wzltian

这样的话,3楼的答案就可以解决你的问题了。
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

数据风云,十年变迁
DTCC 第十届中国数据库技术大会已启航!

2019年5月8日~5月10日,由IT168旗下ITPUB企业社区平台主办的第十届中国数据库技术大会(DTCC2019),将在北京隆重召开。大会将邀请百余位行业专家,就热点技术话题进行分享,是广大数据领域从业人士的又一次年度盛会和交流平台。与SACC2018类似,本届大会将采用“3+2”模式:3天传统技术演讲+2天深度主题培训。大会不仅提供超100场的主题演讲,还会提供连续2天的深度课程培训,深化数据领域的项目落地实践方案。
DTCC2019,一场值得期待的数据技术盛会,殷切地希望您报名参与!

活动入口>>
  

北京盛拓优讯信息技术有限公司. 版权所有 16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122
中国互联网协会会员  联系我们:huangweiwei@it168.com
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP