免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
楼主: cfzxwxb
打印 上一主题 下一主题

[文本处理] 如何用grep把韩文和日文筛选出来? [复制链接]

论坛徽章:
8
2016科比退役纪念章
日期:2018-10-24 08:24:0115-16赛季CBA联赛之北控
日期:2019-03-12 14:34:562016科比退役纪念章
日期:2019-04-01 10:33:0915-16赛季CBA联赛之山东
日期:2019-04-17 12:46:3215-16赛季CBA联赛之广夏
日期:2019-05-09 16:40:4015-16赛季CBA联赛之广夏
日期:2019-10-10 15:33:4015-16赛季CBA联赛之辽宁
日期:2019-10-15 08:37:0615-16赛季CBA联赛之北控
日期:2021-03-30 15:53:34
11 [报告]
发表于 2019-02-12 07:42 |只看该作者
建议可以看看这个  
https://www.regular-expressions.info/unicode.html
用正则的 Unicode Scripts
应该可以解决你至少一大半的问题,韩文还好说,日文没那么简单的,因为日文里除了平假名和片假名,也有汉字。 中文日文混写的时候怎么判断汉字属于中文还是日文?

匹配韩文:
  1. grep -Po '\p{Hangul}+' file
复制代码


匹配平假名和片假名:
  1. grep -Po '\p{Hiragana}+|\p{Katakana}+' file
复制代码


仅供参考。

论坛徽章:
8
2016科比退役纪念章
日期:2018-10-24 08:24:0115-16赛季CBA联赛之北控
日期:2019-03-12 14:34:562016科比退役纪念章
日期:2019-04-01 10:33:0915-16赛季CBA联赛之山东
日期:2019-04-17 12:46:3215-16赛季CBA联赛之广夏
日期:2019-05-09 16:40:4015-16赛季CBA联赛之广夏
日期:2019-10-10 15:33:4015-16赛季CBA联赛之辽宁
日期:2019-10-15 08:37:0615-16赛季CBA联赛之北控
日期:2021-03-30 15:53:34
12 [报告]
发表于 2019-02-12 07:42 |只看该作者
建议可以看看这个  
https://www.regular-expressions.info/unicode.html
用正则的 Unicode Scripts
应该可以解决你至少一大半的问题,韩文还好说,日文没那么简单的,因为日文里除了平假名和片假名,也有汉字。 中文日文混写的时候怎么判断汉字属于中文还是日文?

匹配韩文:
  1. grep -Po '\p{Hangul}+' file
复制代码


匹配平假名和片假名:
  1. grep -Po '\p{Hiragana}+|\p{Katakana}+' file
复制代码


仅供参考。

论坛徽章:
8
2016科比退役纪念章
日期:2018-10-24 08:24:0115-16赛季CBA联赛之北控
日期:2019-03-12 14:34:562016科比退役纪念章
日期:2019-04-01 10:33:0915-16赛季CBA联赛之山东
日期:2019-04-17 12:46:3215-16赛季CBA联赛之广夏
日期:2019-05-09 16:40:4015-16赛季CBA联赛之广夏
日期:2019-10-10 15:33:4015-16赛季CBA联赛之辽宁
日期:2019-10-15 08:37:0615-16赛季CBA联赛之北控
日期:2021-03-30 15:53:34
13 [报告]
发表于 2019-02-12 07:45 |只看该作者
本帖最后由 cfwyy 于 2019-02-12 07:47 编辑

建议可以看看这个  
unicode


用正则的 Unicode Scripts
应该可以解决你至少一大半的问题,韩文还好说,日文没那么简单的,因为日文里除了平假名和片假名,也有汉字。 中文日文混写的时候怎么判断汉字属于中文还是日文?

匹配韩文:
  1. grep -Po '\p{Hangul}+' file
复制代码


匹配平假名和片假名:
  1. grep -Po '\p{Hiragana}+|\p{Katakana}+' file
复制代码


仅供参考。

论坛徽章:
8
2016科比退役纪念章
日期:2018-10-24 08:24:0115-16赛季CBA联赛之北控
日期:2019-03-12 14:34:562016科比退役纪念章
日期:2019-04-01 10:33:0915-16赛季CBA联赛之山东
日期:2019-04-17 12:46:3215-16赛季CBA联赛之广夏
日期:2019-05-09 16:40:4015-16赛季CBA联赛之广夏
日期:2019-10-10 15:33:4015-16赛季CBA联赛之辽宁
日期:2019-10-15 08:37:0615-16赛季CBA联赛之北控
日期:2021-03-30 15:53:34
14 [报告]
发表于 2019-02-12 07:54 |只看该作者
本帖最后由 cfwyy 于 2019-02-12 07:59 编辑

回了个帖子,里面插了个链接,帖子就出不来了?
用正则的 Unicode Scripts
应该可以解决你至少一大半的问题,韩文还好说,日文没那么简单的,因为日文里除了平假名和片假名,也有汉字。 中文日文混写的时候怎么判断汉字属于中文还是日文?

匹配韩文:
  1. grep -Po '\p{Hangul}+' file
复制代码


匹配平假名和片假名:
  1. grep -Po '\p{Hiragana}+|\p{Katakana}+' file
复制代码


仅供参考。

论坛徽章:
0
15 [报告]
发表于 2019-02-14 18:13 |只看该作者
提示: 作者被禁止或删除 内容自动屏蔽
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP