免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
12下一页
最近访问板块 发新帖
查看: 1750 | 回复: 10
打印 上一主题 下一主题

[文本处理] 如何只抽取到一个文件中的中文信息 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2013-01-13 00:43 |只看该作者 |倒序浏览
aa.rar (604 Bytes, 下载次数: 11)

附件压缩包,解开后是一个aa.frp的windows中的报表文件。
现在想通过shell只抽取该文件中的中文信息。
请教各位兄弟姐妹们,有什么好办法?

因为我知道用sed可以只抽取数字,或者只抽取英文,但现在想要弄中文,就不知道该怎么办了?

论坛徽章:
3
CU十二周年纪念徽章
日期:2013-10-24 15:41:34子鼠
日期:2013-12-14 14:57:19射手座
日期:2014-04-25 21:23:23
2 [报告]
发表于 2013-01-13 00:53 |只看该作者
LZ转成TXT吧。。frp文件还要下软件

论坛徽章:
0
3 [报告]
发表于 2013-01-13 09:55 |只看该作者
是不是就是一个 tokenizer ?识别出中文的词素

论坛徽章:
0
4
发表于 2013-01-13 10:11
回复 3# zavakid

我已经直接把.frp改成.txt了,但用cat读的时候,有用的信息还是夹杂在一堆乱码中。唉
倒是用strings 文件名,可以读出非中文的正常信息。
这位兄弟说的把frp转成txt,可以实现没有乱码的转吗?我现在有近五十万个这样的文件,如果要转也是想办法热量转。


   

论坛徽章:
0
5 [报告]
发表于 2013-01-13 10:12 |只看该作者
回复 3# zavakid

tokenizer是个啥东东呀?没有用过。刚google了一把,好像是个什么java类?


   

论坛徽章:
0
6 [报告]
发表于 2013-01-13 10:14 |只看该作者
回复 2# mcshell

我已经直接把.frp改成.txt了,但用cat读的时候,有用的信息还是夹杂在一堆乱码中。唉
倒是用strings 文件名,可以读出非中文的正常信息。
这位兄弟说的把frp转成txt,可以实现没有乱码的转吗?我现在有近五十万个这样的文件,如果要转也是想办法批量转。

论坛徽章:
3
CU十二周年纪念徽章
日期:2013-10-24 15:41:34子鼠
日期:2013-12-14 14:57:19射手座
日期:2014-04-25 21:23:23
7 [报告]
发表于 2013-01-13 11:24 |只看该作者
回复 6# daming31


    你误解我的意思的。。你首先要明白 不管的什么sed还是cat首先要读出文本。
内容都读不出来怎么处理呢。如果你处理好了。可以利用[\x{4e00}-\x{9fa5}]来匹配到中文。注:每个语言的范围可能表示不一样。但是思路都一样。

论坛徽章:
1
巳蛇
日期:2013-10-28 15:55:33
8 [报告]
发表于 2013-01-13 18:52 |只看该作者
本帖最后由 惟吾无为 于 2013-01-13 19:12 编辑

如果中文是原样保存的话,先确定编码,然后直接grep -o。
gbk编码2字节。大致范围是首字节大于0x80。次字节不限。
utf8中文至少是3字节。
具体的编码范围可以看维基百科。

论坛徽章:
93
2015年辞旧岁徽章
日期:2019-10-10 10:51:15CU大牛徽章
日期:2014-02-21 14:21:56CU十二周年纪念徽章
日期:2020-10-15 16:55:55CU大牛徽章
日期:2014-02-21 14:22:07羊年新春福章
日期:2019-10-10 10:51:39CU大牛徽章
日期:2019-10-10 10:55:38季节之章:春
日期:2020-10-15 16:57:40ChinaUnix元老
日期:2019-10-10 10:54:42季节之章:冬
日期:2019-10-10 10:57:17CU大牛徽章
日期:2014-02-21 14:22:52CU大牛徽章
日期:2014-03-13 10:40:30CU大牛徽章
日期:2014-02-21 14:23:15
9 [报告]
发表于 2013-01-14 11:03 |只看该作者
既然你能处理英文和数字,不如把英文和数字删除掉,这样不就剩下中文了~

论坛徽章:
0
10 [报告]
发表于 2013-01-15 00:27 |只看该作者
回复 9# seesea2517

因为这个.frp的文件,如果直接cat的话,除了英文、数字、中文,还有乱码,所以,没有办法用排除法。
已经头痛好几天了。


   
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP