免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 2568 | 回复: 5
打印 上一主题 下一主题

从txt文本大量导入mysql问题 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2008-05-24 10:08 |只看该作者 |倒序浏览
我的数据库中有一个表(table)结构是这样的
content   conu
内容      计数

txt文本文件中数据只有一列如下
a
b
c
a
.....
现在我要把txt中的内容导入或者说插入数据库的table中,一行一条记录
但有个条件就是重复的数据只要 coun++就行,不要再新增加一条数据。运行后的结果为:
content    conu
a              2
b              1
c              1

如何有效实现
谢谢
注意,我的txt文本中有 几百万条数据.

论坛徽章:
0
2 [报告]
发表于 2008-05-24 17:15 |只看该作者
写程序实现吧

论坛徽章:
0
3 [报告]
发表于 2008-05-25 10:05 |只看该作者
关键是怎么写才能最快实现.
我是这样写的.先搜索,如果能搜到就update这条数据,如果没有就insert
假如文本里有一万条数据就要执行一万乘以3次的数据库访问,太慢了.

论坛徽章:
0
4 [报告]
发表于 2008-05-25 10:44 |只看该作者
可先load data到一张临时表tmp_name,只一个字段content,然后
insert into table_name select content  ,count(*) from tmp_table name group by content

table_name就是你自己建的那个表

[ 本帖最后由 chlinux 于 2008-5-25 10:46 编辑 ]

论坛徽章:
0
5 [报告]
发表于 2008-05-26 13:24 |只看该作者
干嘛不用awk先分类汇总一下再倒入呢

cat DATAFILE | awk '{a[$1]+=1}END{for(i in a)print i,a}'

论坛徽章:
0
6 [报告]
发表于 2008-05-26 16:01 |只看该作者
原帖由 chlinux 于 2008-5-25 10:44 发表
可先load data到一张临时表tmp_name,只一个字段content,然后
insert into table_name select content  ,count(*) from tmp_table name group by content

table_name就是你自己建的那个表



就这个了。
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP