免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 1378 | 回复: 3
打印 上一主题 下一主题

[文本处理] shell一行一行的导入数据文件的数据,每次insert都要建立一次mysql连接,有没有可以提 [复制链接]

论坛徽章:
1
数据库技术版块每日发帖之星
日期:2015-10-23 06:20:00
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2015-10-27 22:10 |只看该作者 |倒序浏览
本帖最后由 holetohole 于 2015-10-27 22:13 编辑

又来提问了。shell中通过mysql 的load命令或者mysqlimport都没有精确的对每行数据进行格式类型的检查(有set 命令,但是没办法返回错误的信息,包括返回错误的行,错误的字段)。
现在通过shell循环读取数据文件,之后按照分隔符,读取变量一行一行的检查,之后insert进入数据库,根据数据库的sql_mode决定这一行的处理结果。这样每次建立mysql连接,很浪费···

伪代码如下,文件名字filename
while read row
do
  /**检测列数目***/
  column=echo $row|awk -F '|' '{print NF}'
  if [ column == 20 ];then
     a1=echo $row|awk -F '|' '{print $1}'
     a2=echo $row|awk -F '|' '{print $2}'
     ···
     a20=echo $row|awk -F '|' '{print $20}'

     /**格式check**/
    ..............................
    /**格式check**/

    /**插入数据**/
    mysql -uroot -proot -e "insert into test values($a1,$a2,...,$a20)"
   
end if

done < filename

这里面每一行数据都要 mysql -u一下。这样肯定浪费资源。
有没有好的方法,先建立mysql连接,之后在这个连接里面进行文件的读取操作?

求各位指点!

论坛徽章:
8
摩羯座
日期:2014-11-26 18:59:452015亚冠之浦和红钻
日期:2015-06-23 19:10:532015亚冠之西悉尼流浪者
日期:2015-08-21 08:40:5815-16赛季CBA联赛之山东
日期:2016-01-31 18:25:0515-16赛季CBA联赛之四川
日期:2016-02-16 16:08:30程序设计版块每日发帖之星
日期:2016-06-29 06:20:002017金鸡报晓
日期:2017-01-10 15:19:5615-16赛季CBA联赛之佛山
日期:2017-02-27 20:41:19
2 [报告]
发表于 2015-10-27 22:36 |只看该作者

  1. awk -vFS=\| -vOFS=, 'NF==20{$1=$1;print "insert into test values("$0")"}' filename|mysql -uroot -proot
复制代码

论坛徽章:
1
数据库技术版块每日发帖之星
日期:2015-10-23 06:20:00
3 [报告]
发表于 2015-10-27 23:12 |只看该作者
回复 2# waker


    貌似有点理解你的思想了。就是将文件生成一个可执行的sql,之后通过管道连接数据库,谢谢大神了

论坛徽章:
1
数据库技术版块每日发帖之星
日期:2015-10-23 06:20:00
4 [报告]
发表于 2015-10-27 23:32 |只看该作者
回复 2# waker


    但是如果这样做的话,是不是就丧失了知道那一行报错的具体信息?以前的思路本质上是要统计那一行没有成功导入,做一个统计用的。。。。
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP