免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 1424 | 回复: 4
打印 上一主题 下一主题

请教perl 处理utf16le文件 回车问题 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2012-10-09 20:56 |只看该作者 |倒序浏览
请大伙帮忙看个菜鸟问题:
use strict;
use warnings;
use Encode;

my($fi,$fo);

open($fi,"< :encoding(utf16le)",'ti.txt') or die "Error input";
open($fo,"> :encoding(utf16le)",'to.txt') or die "Error output";

while(<$fi>)
{
        print $fo $_;
}

close $fi;
close $fo;
#############
ti.txt  utf16le编码 包含两行
line1
line2
0000000: 6c00 6900 6e00 6500 3100 0d00 0a00 6c00  l.i.n.e.1.....l.
0000010: 6900 6e00 6500 3200 0a                   i.n.e.2..
得到的 to.txt
0000000: 6c00 6900 6e00 6500 3100 0d00 0d0a 006c  l.i.n.e.1......l
0000010: 0069 006e 0065 0032 000d 0a              .i.n.e.2...
怪异的地方 0d00 0d0a 006c  多了个0d   回车处理有问题?

论坛徽章:
0
2 [报告]
发表于 2012-10-10 00:25 |只看该作者
本帖最后由 sjdy521 于 2012-10-10 00:37 编辑

1、你的原始数据最后只有一个0a,这根本不符合规范,会导致混乱。
2、windows平台上的perlio layer隐含的多了一个:crlf 导致encode的数据又被做了一次\n->\r\n的转换
改成这样就可以了
  1. open($fi,"< :raw:perlio::encoding(utf16le):crlf",'ti.txt') or die "Error input";
  2. open($fo,"> :raw:perlio:encoding(utf16le):crlf",'to.txt') or die "Error output";
复制代码

论坛徽章:
0
3 [报告]
发表于 2012-10-10 09:03 |只看该作者
本帖最后由 jsjhy 于 2012-10-10 11:10 编辑

谢谢sjdy521大侠 !!!
1、你的原始数据最后只有一个0a,这根本不符合规范,会导致混乱。
<<<<<  这个是vim转txt转hex的时候自动加上去的  偷了下懒没有用 -b打开文件   多谢大侠提醒!


open($fi,"< :raw:perlio::encoding(utf16le):crlf",'ti.txt') or die "Error input";
open($fo,"> :raw:perlio:encoding(utf16le):crlf",'to.txt') or die "Error output";

请问这个地方 :perlio::encoding(utf16le) 和 perlio:encoding(utf16le) 有什么讲究?

论坛徽章:
0
4 [报告]
发表于 2012-10-10 12:08 |只看该作者
找到了个链接 留着防止以后忘记了 http://www.perlmonks.org/?node_id=608532

论坛徽章:
0
5 [报告]
发表于 2012-10-10 13:33 |只看该作者
回复 3# jsjhy


    笔误。。
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP