免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 3031 | 回复: 2
打印 上一主题 下一主题

[文本处理] [awk]处理双字节文本(日文sjis),字段分隔与求length的问题 [复制链接]

论坛徽章:
2
IT运维版块每日发帖之星
日期:2016-04-15 06:20:0015-16赛季CBA联赛之福建
日期:2016-08-08 13:37:03
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2014-07-28 13:38 |只看该作者 |倒序浏览
有一个文本文件,为日文,sjis编码,字段分隔符为|。
使用awk,即要求每行的长度,又要取出某一字段。

awk -F'|' '{print $3, length($0);}' a.txt

遇到的问题是,
用length($0)取出的是字符个数,但想要的是字节数;
如果设export LANG=C,length($0)能正确取得字节数,但字段切分得又不对了
(好像会把某些日文汉字识别成分隔符'|')。

怎样才能既算对长度,又能切对字段呢?

论坛徽章:
5
未羊
日期:2014-08-04 16:15:21天秤座
日期:2014-08-13 13:52:372015年辞旧岁徽章
日期:2015-03-03 16:54:152015年迎新春徽章
日期:2015-03-04 09:56:112015亚冠之浦和红钻
日期:2015-06-29 15:30:48
2 [报告]
发表于 2014-07-28 14:14 |只看该作者
  1. awk -F \| '{printf $3" ";system("LANG=C awk '{print length($0)} a.txt' ")}' a.txt
复制代码
也许这样可以,主要是system里的单双引号问题看看如何处理下。没有文本不好验证

论坛徽章:
2
IT运维版块每日发帖之星
日期:2016-04-15 06:20:0015-16赛季CBA联赛之福建
日期:2016-08-08 13:37:03
3 [报告]
发表于 2014-07-29 13:17 |只看该作者
我需要取得长度和字段做其他处理,不只是输出。

我试过用    "echo $0 | wc -c " | getline var
虽然可以得到正确长度,但性能极差。
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP