免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 8293 | 回复: 4
打印 上一主题 下一主题

POSTGRESQL 全文检索测试 [复制链接]

论坛徽章:
1
2015年辞旧岁徽章
日期:2015-03-03 16:54:15
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2011-04-18 15:57 |只看该作者 |倒序浏览
如果要模糊检索,或者包含检索,采用普通的SQL 语句,都用  LIKE  '%XXX%'   这样的类似写法,数据量不大,比如在几万条以下,可能
问题不大,如果超过几十万条,效率低下,就非常明显了,

所以,用全文检索技术,就是不二的选择,在POSTGRESQL中,提供了全文检索的功能,在8.3之后,已经内置TSEARCH2全文检索引擎,
通过TSVECTOR和TSQUERY二个类型,就可以轻松完成,

在我的电脑上,做对比测试中,使用全文检索比要比普通的SQL语句快1000倍以上,数据量为100万条,普通SQL语句要23375 ms,
全文检索仅仅为16MS。

需要注意的是:在做全文检索的时候,需要把做全文检索的字段合并到一个新的字段,或者另外一个表中,新的字段类型为TSVECTOR,
然后把新的字段建立全文索引,如果不合并到新的字段,就建全文索引表,那么在检索的时候,就非常的慢,本人开始就范了这样的错误,
搞的我开始还以为POSTGRESQL的全文检索系统很烂。

POSTGRESQL全文检索的缺点,就是没有内置的中文分词系统,所以,如果需要做中文全文检索,就需要另外的分词插件系统,但都有些缺陷,
集成度不太好,据说BAMBOO(项目地址:http://code.google.com/p/nlpbamboo/),可以集成到POSTGRESQL中,但我鼓捣了一天,没有成功,

可能它们的安装包都是LINUX下的,我的电脑是WINDOWS,下了它的源代码,重新编译安装,老是出错,没搞掂,不知道哪位能搞个WINDOWS下的安装包就好了。

论坛徽章:
59
2015七夕节徽章
日期:2015-08-24 11:17:25ChinaUnix专家徽章
日期:2015-07-20 09:19:30每周论坛发贴之星
日期:2015-07-20 09:19:42ChinaUnix元老
日期:2015-07-20 11:04:38荣誉版主
日期:2015-07-20 11:05:19巳蛇
日期:2015-07-20 11:05:26CU十二周年纪念徽章
日期:2015-07-20 11:05:27IT运维版块每日发帖之星
日期:2015-07-20 11:05:34操作系统版块每日发帖之星
日期:2015-07-20 11:05:36程序设计版块每日发帖之星
日期:2015-07-20 11:05:40数据库技术版块每日发帖之星
日期:2015-07-20 11:05:432015年辞旧岁徽章
日期:2015-07-20 11:05:44
2 [报告]
发表于 2011-04-18 20:58 |只看该作者
还是现在的源代码都是在L下的。

论坛徽章:
0
3 [报告]
发表于 2011-05-16 16:31 |只看该作者
大哥一看就是业内高手,我刚入门,能不能把你从数据读入到最后检索用到的Postgresql的代码发给我参考下,谢谢!danieldpr@vip.qq.com

论坛徽章:
59
2015七夕节徽章
日期:2015-08-24 11:17:25ChinaUnix专家徽章
日期:2015-07-20 09:19:30每周论坛发贴之星
日期:2015-07-20 09:19:42ChinaUnix元老
日期:2015-07-20 11:04:38荣誉版主
日期:2015-07-20 11:05:19巳蛇
日期:2015-07-20 11:05:26CU十二周年纪念徽章
日期:2015-07-20 11:05:27IT运维版块每日发帖之星
日期:2015-07-20 11:05:34操作系统版块每日发帖之星
日期:2015-07-20 11:05:36程序设计版块每日发帖之星
日期:2015-07-20 11:05:40数据库技术版块每日发帖之星
日期:2015-07-20 11:05:432015年辞旧岁徽章
日期:2015-07-20 11:05:44
4 [报告]
发表于 2011-05-16 22:29 |只看该作者
我的C老差了。看不明白啊。

论坛徽章:
1
2015年辞旧岁徽章
日期:2015-03-03 16:54:15
5 [报告]
发表于 2011-05-17 04:12 |只看该作者
代码不好发,我是写在一个项目中,如果要发,那就只能把整个项目发过来,还有数据库结构,
那太麻烦了,建议你看一篇论文,说的很详细。

http://www.blogjava.net/agun/archive/2008/04/23/195086.html
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP