免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
› 论坛 › 程序设计 › Shell › 如何用grep把韩文和日文筛选出来？
123下一页
最近访问板块 发新帖
查看: 3627 | 回复: 23
打印 上一主题 下一主题

[文本处理] 如何用grep把韩文和日文筛选出来？ [复制链接]

cfzxwxb

论坛徽章:
0
跳转到指定楼层
1楼 [收藏(0)] [报告]
发表于 2019-02-06 14:15 |只看该作者 |倒序浏览
如题！谢谢！
cfzxwxb

论坛徽章:
0
2楼 [报告]
发表于 2019-02-06 15:48 |只看该作者
这么多人看的，没人会吗？
实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？
cfwyy

论坛徽章:
8
2016科比退役纪念章 日期:2018-10-24 08:24:0115-16赛季CBA联赛之北控 日期:2019-03-12 14:34:562016科比退役纪念章 日期:2019-04-01 10:33:0915-16赛季CBA联赛之山东 日期:2019-04-17 12:46:3215-16赛季CBA联赛之广夏 日期:2019-05-09 16:40:4015-16赛季CBA联赛之广夏 日期:2019-10-10 15:33:4015-16赛季CBA联赛之辽宁 日期:2019-10-15 08:37:0615-16赛季CBA联赛之北控 日期:2021-03-30 15:53:34
3楼 [报告]
发表于 2019-02-11 09:24 |只看该作者
建议可以看看这个  
https://www.regular-expressions.info/unicode.html
用正则的 Unicode Scripts
应该可以解决你至少一大半的问题，韩文还好说，日语没那么简单的，因为日文里除了平假名和片假名，也有汉字！  中文日文混写的时候怎么判断汉字属于中文还是日文？

匹配韩文：
  1. grep -Po '\p{Hangul}+' file
复制代码


匹配平假名和片假名：
  1. grep -Po '\p{Hiragana}+|\p{Katakana}+' file
复制代码


仅供参考。
实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？
cfwyy

论坛徽章:
8
2016科比退役纪念章 日期:2018-10-24 08:24:0115-16赛季CBA联赛之北控 日期:2019-03-12 14:34:562016科比退役纪念章 日期:2019-04-01 10:33:0915-16赛季CBA联赛之山东 日期:2019-04-17 12:46:3215-16赛季CBA联赛之广夏 日期:2019-05-09 16:40:4015-16赛季CBA联赛之广夏 日期:2019-10-10 15:33:4015-16赛季CBA联赛之辽宁 日期:2019-10-15 08:37:0615-16赛季CBA联赛之北控 日期:2021-03-30 15:53:34
4楼 [报告]
发表于 2019-02-11 09:26 |只看该作者
建议可以看看这个  
https://www.regular-expressions.info/unicode.html
用正则的 Unicode Scripts
应该可以解决你至少一大半的问题，韩文还好说，日语没那么简单的，因为日文里除了平假名和片假名，也有汉字！  中文日文混写的时候怎么判断汉字属于中文还是日文？

匹配韩文：
  1. grep -Po '\p{Hangul}+' file
复制代码


匹配平假名和片假名：
  1. grep -Po '\p{Hiragana}+|\p{Katakana}+' file
复制代码


仅供参考。
实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？
cfwyy

论坛徽章:
8
2016科比退役纪念章 日期:2018-10-24 08:24:0115-16赛季CBA联赛之北控 日期:2019-03-12 14:34:562016科比退役纪念章 日期:2019-04-01 10:33:0915-16赛季CBA联赛之山东 日期:2019-04-17 12:46:3215-16赛季CBA联赛之广夏 日期:2019-05-09 16:40:4015-16赛季CBA联赛之广夏 日期:2019-10-10 15:33:4015-16赛季CBA联赛之辽宁 日期:2019-10-15 08:37:0615-16赛季CBA联赛之北控 日期:2021-03-30 15:53:34
5楼 [报告]
发表于 2019-02-11 09:28 |只看该作者
建议可以看看这个  
https://www.regular-expressions.info/unicode.html
用正则的 Unicode Scripts
应该可以解决你至少一大半的问题，韩文还好说，日语没那么简单的，因为日文里除了平假名和片假名，也有汉字！  中文日文混写的时候怎么判断汉字属于中文还是日文？

匹配韩文：
  1. grep -Po '\p{Hangul}+' file
复制代码


匹配平假名和片假名：
  1. grep -Po '\p{Hiragana}+|\p{Katakana}+' file
复制代码


仅供参考。
实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？
cfwyy

论坛徽章:
8
2016科比退役纪念章 日期:2018-10-24 08:24:0115-16赛季CBA联赛之北控 日期:2019-03-12 14:34:562016科比退役纪念章 日期:2019-04-01 10:33:0915-16赛季CBA联赛之山东 日期:2019-04-17 12:46:3215-16赛季CBA联赛之广夏 日期:2019-05-09 16:40:4015-16赛季CBA联赛之广夏 日期:2019-10-10 15:33:4015-16赛季CBA联赛之辽宁 日期:2019-10-15 08:37:0615-16赛季CBA联赛之北控 日期:2021-03-30 15:53:34
6楼 [报告]
发表于 2019-02-11 09:29 |只看该作者
建议可以看看这个  
https://www.regular-expressions.info/unicode.html
用正则的 Unicode Scripts
应该可以解决你至少一大半的问题，韩文还好说，日语没那么简单的，因为日文里除了平假名和片假名，也有汉字！  中文日文混写的时候怎么判断汉字属于中文还是日文？

匹配韩文：
  1. grep -Po '\p{Hangul}+' file
复制代码


匹配平假名和片假名：
  1. grep -Po '\p{Hiragana}+|\p{Katakana}+' file
复制代码


仅供参考。
实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？
cfwyy

论坛徽章:
8
2016科比退役纪念章 日期:2018-10-24 08:24:0115-16赛季CBA联赛之北控 日期:2019-03-12 14:34:562016科比退役纪念章 日期:2019-04-01 10:33:0915-16赛季CBA联赛之山东 日期:2019-04-17 12:46:3215-16赛季CBA联赛之广夏 日期:2019-05-09 16:40:4015-16赛季CBA联赛之广夏 日期:2019-10-10 15:33:4015-16赛季CBA联赛之辽宁 日期:2019-10-15 08:37:0615-16赛季CBA联赛之北控 日期:2021-03-30 15:53:34
7楼 [报告]
发表于 2019-02-11 09:32 |只看该作者
建议可以看看这个  
https://www.regular-expressions.info/unicode.html
用正则的 Unicode Scripts
应该可以解决你至少一大半的问题，韩文还好说，日语没那么简单的，因为日文里除了平假名和片假名，也有汉字！  中文日文混写的时候怎么判断汉字属于中文还是日文？

匹配韩文：
  1. grep -Po '\p{Hangul}+' file
复制代码


匹配平假名和片假名：
  1. grep -Po '\p{Hiragana}+|\p{Katakana}+' file
复制代码


仅供参考。
实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？
cfwyy

论坛徽章:
8
2016科比退役纪念章 日期:2018-10-24 08:24:0115-16赛季CBA联赛之北控 日期:2019-03-12 14:34:562016科比退役纪念章 日期:2019-04-01 10:33:0915-16赛季CBA联赛之山东 日期:2019-04-17 12:46:3215-16赛季CBA联赛之广夏 日期:2019-05-09 16:40:4015-16赛季CBA联赛之广夏 日期:2019-10-10 15:33:4015-16赛季CBA联赛之辽宁 日期:2019-10-15 08:37:0615-16赛季CBA联赛之北控 日期:2021-03-30 15:53:34
8楼 [报告]
发表于 2019-02-11 10:24 |只看该作者
建议可以看看这个  
https://www.regular-expressions.info/unicode.html
用正则的 Unicode Scripts
应该可以解决你至少一大半的问题，韩文还好说，日语没那么简单的，因为日文里除了平假名和片假名，也有汉字！  中文日文混写的时候怎么判断汉字属于中文还是日文？

匹配韩文：
  1. grep -Po '\p{Hangul}+' file
复制代码


匹配平假名和片假名：
  1. grep -Po '\p{Hiragana}+|\p{Katakana}+' file
复制代码


仅供参考。
实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？
danbaoyu

论坛徽章:
2
15-16赛季CBA联赛之广东 日期:2016-07-17 21:29:0415-16赛季CBA联赛之吉林 日期:2016-12-28 15:54:19
9楼 [报告]
发表于 2019-02-11 19:29 |只看该作者
没有特征很难做的到
实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？
cfwyy

论坛徽章:
8
2016科比退役纪念章 日期:2018-10-24 08:24:0115-16赛季CBA联赛之北控 日期:2019-03-12 14:34:562016科比退役纪念章 日期:2019-04-01 10:33:0915-16赛季CBA联赛之山东 日期:2019-04-17 12:46:3215-16赛季CBA联赛之广夏 日期:2019-05-09 16:40:4015-16赛季CBA联赛之广夏 日期:2019-10-10 15:33:4015-16赛季CBA联赛之辽宁 日期:2019-10-15 08:37:0615-16赛季CBA联赛之北控 日期:2021-03-30 15:53:34
10楼 [报告]
发表于 2019-02-12 07:39 |只看该作者
建议可以看看这个  
https://www.regular-expressions.info/unicode.html
用正则的 Unicode Scripts
应该可以解决你至少一大半的问题，韩文还好说，日语没那么简单的，因为日文里除了平假名和片假名，也有汉字！  中文日文混写的时候怎么判断汉字属于中文还是日文？

匹配韩文：
  1. grep -Po '\p{Hangul}+' file
复制代码


匹配平假名和片假名：
  1. grep -Po '\p{Hiragana}+|\p{Katakana}+' file
复制代码


仅供参考。
实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？
123下一页
返回列表 发新帖
高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号：11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们：huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP