免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 1779 | 回复: 4

[文本处理] 如何提高shell的运行效率? [复制链接]

论坛徽章:
0
发表于 2013-04-12 21:37 |显示全部楼层
场景:
有一目录(包含子目录),下面包含有成千上万个文件,需要对每个文件进行分析,并且将分析结果输出到指定文件中。

思考过的方法:
考虑过用子shell并发执行,但是担心文件中的记录是顺序不对,另外也担心创建了过多的子shell,耗尽操作系统资源。

希望大家帮帮我,提供一些思路,谢谢!

论坛徽章:
33
ChinaUnix元老
日期:2015-02-02 08:55:39CU十四周年纪念徽章
日期:2019-08-20 08:30:3720周年集字徽章-周	
日期:2020-10-28 14:13:3020周年集字徽章-20	
日期:2020-10-28 14:04:3019周年集字徽章-CU
日期:2019-09-08 23:26:2519周年集字徽章-19
日期:2019-08-27 13:31:262016科比退役纪念章
日期:2022-04-24 14:33:24
发表于 2013-04-12 21:41 |显示全部楼层
请把你自己写的代码贴出来看看

论坛徽章:
6
摩羯座
日期:2013-08-24 10:43:10狮子座
日期:2013-08-25 10:27:06天秤座
日期:2013-09-11 20:28:44午马
日期:2014-09-28 16:06:0015-16赛季CBA联赛之八一
日期:2016-12-19 13:55:0515-16赛季CBA联赛之天津
日期:2016-12-20 14:01:23
发表于 2013-04-12 21:54 |显示全部楼层
@coolmoon_133319
心文件中的记录是顺序不对

写分析记录时写上 被分析文件的绝对路径,单独写一个字段
完事后对这个记录按 这个字段排序,所有路径在一起的文件的分析结果不在一起了

论坛徽章:
0
发表于 2013-04-14 09:00 |显示全部楼层
本帖最后由 coolmoon_133319 于 2013-04-14 09:00 编辑

回复 2# Shell_HAT
#!/bin/sh
if [ $# -ne 1 ];then
        echo "Usage:<$0> <path name>."
        exit 1
fi

SOURCE_DIR=$1
cd $SOURCE_DIR

head_files=`find . -name "*.h"`
cpp_files=`find . -name "*.cpp"`
source_files=(${head_files[@]} ${cpp_files[@]})

if [ -e $HOME/log/${SOURCE_DIR}.log ];then
        rm $HOME/log/${SOURCE_DIR}.log
fi

declare -a sql_array
for file in ${source_files[@]}
do
        author=`svn log -l1 $file | gawk '/^r.*[ ][|][ ].*/ {print $3}'`
        file_name=`basename $file`
        file_path=`dirname $file`
        stamp=`svn log -l1 $file | gawk '/^r.*[ ][|][ ].*/ {printf("%s %s", $5, $6)}'`
        if [ -n "$stamp" ];then
                echo "$author $file_name $file_path $stamp" >> $HOME/log/${SOURCE_DIR}.log
        fi
done

echo "game over!"


   

论坛徽章:
6
摩羯座
日期:2013-08-24 10:43:10狮子座
日期:2013-08-25 10:27:06天秤座
日期:2013-09-11 20:28:44午马
日期:2014-09-28 16:06:0015-16赛季CBA联赛之八一
日期:2016-12-19 13:55:0515-16赛季CBA联赛之天津
日期:2016-12-20 14:01:23
发表于 2013-04-14 13:53 |显示全部楼层
本帖最后由 cao627 于 2013-04-14 15:11 编辑

@coolmoon_133319
for file in ${source_files[@]}
do
        file_name=`basename $file`
        file_path=`dirname $file`
        svn log -l1 $file | gawk -v n=$file_name -v p=$file_path '$6||$5&&/^r.*[ ][|][ ].*/{print $3,n,p,$5,$6}' >>$HOME/log/${SOURCE_DIR}.log
done


更似乎是这种逻辑:
svn log -l1 $file | gawk -v n=$file_name  -v p=$file_path  '/^r.*[ ][|][ ].*/{a=a" "$3;b=b" "$5" "$6}END{if(b ~ /[a-z]/)ptint a,n,p,b }' >>$HOME/log/${SOURCE_DIR}.log
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP