oracle sql loader全攻略

三里屯摇滚

oracle sql loader全攻略

part i

一：sql loader 的特点
oracle自己带了很多的工具可以用来进行数据的迁移、备份和恢复等工作。但是每个工具都有自己的特点。
比如说exp和imp可以对数据库中的数据进行导出和导出的工作，是一种很好的数据库备份和恢复的工具，因此主要用在数据库的热备份和恢复方面。有着速度快，使用简单，快捷的优点；同时也有一些缺点，比如在不同版本数据库之间的导出、导入的过程之中，总会出现这样或者那样的问题，这个也许是oracle公司自己产品的兼容性的问题吧。
sql loader 工具却没有这方面的问题，它可以把一些以文本格式存放的数据顺利的导入到oracle数据库中，是一种在不同数据库之间进行数据迁移的非常方便而且通用的工具。缺点就速度比较慢，另外对blob等类型的数据就有点麻烦了。

二：sql loader 的帮助
C:\>sqlldr

SQL*Loader: Release 9.2.0.1.0 - Production on 星期六 10月 9 14:48:12 2004

Copyright (c) 1982, 2002, Oracle Corporation. All rights reserved.


用法: SQLLDR keyword=value [,keyword=value,...]

有效的关键字:

userid -- ORACLE username/password
control -- Control file name
log -- Log file name
bad -- Bad file name
data -- Data file name
discard -- Discard file name
discardmax -- Number of discards to allow (全部默认)
skip -- Number of logical records to skip (默认0)
load -- Number of logical records to load (全部默认)
errors -- Number of errors to allow (默认50)
rows -- Number of rows in conventional path bind array or between direct p
ath data saves
（默认: 常规路径 64, 所有直接路径）
bindsize -- Size of conventional path bind array in bytes(默认256000)
silent -- Suppress messages during run (header,feedback,errors,discards,part
itions)
direct -- use direct path (默认FALSE)
parfile -- parameter file: name of file that contains parameter specification
s
parallel -- do parallel load (默认FALSE)
file -- File to allocate extents from
skip_unusable_indexes -- disallow/allow unusable indexes or index partitions(默
认FALSE)
skip_index_maintenance -- do not maintain indexes, mark affected indexes as unus
able(默认FALSE)
readsize -- Size of Read buffer (默认1048576)
external_table -- use external table for load; NOT_USED, GENERATE_ONLY, EXECUTE(
默认NOT_USED)
columnarrayrows -- Number of rows for direct path column array(默认5000)
streamsize -- Size of direct path stream buffer in bytes(默认256000)
multithreading -- use multithreading in direct path
resumable -- enable or disable resumable for current session(默认FALSE)
resumable_name -- text string to help identify resumable statement
resumable_timeout -- wait time (in seconds) for RESUMABLE(默认7200)
date_cache -- size (in entries) of date conversion cache(默认1000)

PLEASE NOTE: 命令行参数可以由位置或关键字指定
。前者的例子是 'sqlload
scott/tiger foo'; 后一种情况的一个示例是 'sqlldr control=foo
userid=scott/tiger'.位置指定参数的时间必须早于
但不可迟于由关键字指定的参数。例如,
允许 'sqlldr scott/tiger control=foo logfile=log', 但是
不允许 'sqlldr scott/tiger control=foo log', 即使
参数 'log' 的位置正确。

C:\>

三：sql loader使用例子
a）SQLLoader将 Excel 数据导出到 Oracle
1.创建SQL*Loader输入数据所需要的文件,均保存到C:\，用记事本编辑：
控制文件：input.ctl，内容如下：

　

1. 　 load data　　　　　　　　　　 --1、控制文件标识
   
2. 　　 infile 'test.txt'　　　　　　 --2、要输入的数据文件名为test.txt
   
3. 　　 append into table test　　　　--3、向表test中追加记录
   
4. 　　 fields terminated by X'09'　　--4、字段终止于X'09'，是一个制表符（TAB）
   
5. 　　 (id,username,password,sj)　　 -----定义列对应顺序

复制代码

a、insert，为缺省方式，在数据装载开始时要求表为空
b、append，在表中追加新记录
c、replace，删除旧记录，替换成新装载的记录
d、truncate，同上

在DOS窗口下使用SQL*Loader命令实现数据的输入

C:\>sqlldr userid=system/manager control=input.ctl
默认日志文件名为：input.log
默认坏记录文件为：input.bad

2.还有一种方法
可以把EXCEL文件另存为CSV（逗号分隔）(*.csv),控制文件就改为用逗号分隔

1. LOAD DATA
   
2. INFILE 'd:\car.csv'
   
3. APPEND INTO TABLE t_car_temp
   
4. FIELDS TERMINATED BY ","
   
5. (phoneno,vip_car)

复制代码

b）在控制文件中直接导入数据

1、控制文件test.ctl的内容

1. -- The format for executing this file with SQL Loader is:
   
2. -- SQLLDR control=<filename> Be sure to substitute your
   
3. -- version of SQL LOADER and the filename for this file.
   
4. LOAD DATA
   
5. INFILE *
   
6. BADFILE 'C:\Documents and Settings\Jackey\桌面\WMCOUNTRY.BAD'
   
7. DISCARDFILE 'C:\Documents and Settings\Jackey\桌面\WMCOUNTRY.DSC'
   
8. INSERT INTO TABLE EMCCOUNTRY
   
9. Fields terminated by ";" Optionally enclosed by '"'
   
10. (
    
11. COUNTRYID NULLIF (COUNTRYID="NULL"),
    
12. COUNTRYCODE,
    
13. COUNTRYNAME,
    
14. CONTINENTID NULLIF (CONTINENTID="NULL"),
    
15. MAPID NULLIF (MAPID="NULL"),
    
16. CREATETIME DATE "MM/DD/YYYY HH24:MI:SS" NULLIF (CREATETIME="NULL"),
    
17. LASTMODIFIEDTIME DATE "MM/DD/YYYY HH24:MI:SS" NULLIF (LASTMODIFIEDTIME="NULL")
    
18. )

复制代码

BEGINDATA

1. 1;"JP";"Japan";1;9;"09/16/2004 16:31:32";NULL
   
2. 2;"CN";"China";1;10;"09/16/2004 16:31:32";NULL
   
3. 3;"IN";"India";1;11;"09/16/2004 16:31:32";NULL
   
4. 4;"AU";"Australia";6;12;"09/16/2004 16:31:32";NULL
   
5. 5;"CA";"Canada";4;13;"09/16/2004 16:31:32";NULL
   
6. 6;"US";"United States";4;14;"09/16/2004 16:31:32";NULL
   
7. 7;"MX";"Mexico";4;15;"09/16/2004 16:31:32";NULL
   
8. 8;"GB";"United Kingdom";3;16;"09/16/2004 16:31:32";NULL
   
9. 9;"DE";"Germany";3;17;"09/16/2004 16:31:32";NULL
   
10. 10;"FR";"France";3;18;"09/16/2004 16:31:32";NULL
    
11. 11;"IT";"Italy";3;19;"09/16/2004 16:31:32";NULL
    
12. 12;"ES";"Spain";3;20;"09/16/2004 16:31:32";NULL
    
13. 13;"FI";"Finland";3;21;"09/16/2004 16:31:32";NULL
    
14. 14;"SE";"Sweden";3;22;"09/16/2004 16:31:32";NULL
    
15. 15;"IE";"Ireland";3;23;"09/16/2004 16:31:32";NULL
    
16. 16;"NL";"Netherlands";3;24;"09/16/2004 16:31:32";NULL
    
17. 17;"DK";"Denmark";3;25;"09/16/2004 16:31:32";NULL
    
18. 18;"BR";"Brazil";5;85;"09/30/2004 11:25:43";NULL
    
19. 19;"KR";"Korea, Republic of";1;88;"09/30/2004 11:25:43";NULL
    
20. 20;"NZ";"New Zealand";6;89;"09/30/2004 11:25:43";NULL
    
21. 21;"BE";"Belgium";3;79;"09/30/2004 11:25:43";NULL
    
22. 22;"AT";"Austria";3;78;"09/30/2004 11:25:43";NULL
    
23. 23;"NO";"Norway";3;82;"09/30/2004 11:25:43";NULL
    
24. 24;"LU";"Luxembourg";3;81;"09/30/2004 11:25:43";NULL
    
25. 25;"PT";"Portugal";3;83;"09/30/2004 11:25:43";NULL
    
26. 26;"GR";"Greece";3;80;"09/30/2004 11:25:43";NULL
    
27. 27;"IL";"Israel";1;86;"09/30/2004 11:25:43";NULL
    
28. 28;"CH";"Switzerland";3;84;"09/30/2004 11:25:43";NULL
    
29. 29;"A1";"Anonymous Proxy";0;0;"09/30/2004 11:25:43";NULL
    
30. 30;"A2";"Satellite Provider";0;0;"09/30/2004 11:25:43";NULL
    
31. 31;"AD";"Andorra";3;0;"09/30/2004 11:25:43";NULL
    
32. 32;"AE";"United Arab Emirates";1;0;"09/30/2004 11:25:43";NULL
    
33. 33;"AF";"Afghanistan";1;0;"09/30/2004 11:25:43";NULL
    
34. 34;"AG";"Antigua and Barbuda";7;0;"09/30/2004 11:25:43";NULL
    
35. 35;"AI";"Anguilla";7;0;"09/30/2004 11:25:43";NULL
    
36. 36;"AL";"Albania";3;0;"09/30/2004 11:25:43";NULL
    
37. 37;"AM";"Armenia";3;0;"09/30/2004 11:25:43";NULL
    
38. 38;"AN";"Netherlands Antilles";3;0;"09/30/2004 11:25:43";NULL
    
39. 39;"AO";"Angola";2;0;"09/30/2004 11:25:43";NULL
    
40. 40;"AP";"Asia/Pacific Region";2;0;"09/30/2004 11:25:43";NULL
    
41. 41;"AQ";"Antarctica";8;0;"09/30/2004 11:25:43";NULL
    
42. 42;"AR";"Argentina";5;0;"09/30/2004 11:25:43";NULL
    
43. 43;"AS";"American Samoa";6;0;"09/30/2004 11:25:43";NULL
    
44. 44;"AW";"Aruba";5;0;"09/30/2004 11:25:43";NULL
    
45. 45;"AZ";"Azerbaijan";1;0;"09/30/2004 11:25:43";NULL
    
46. 46;"BA";"Bosnia and Herzegovina";3;0;"09/30/2004 11:25:43";NULL
    
47. 47;"BB";"Barbados";5;0;"09/30/2004 11:25:43";NULL
    
48. 48;"BD";"Bangladesh";1;0;"09/30/2004 11:25:43";NULL
    
49. 49;"BF";"Burkina Faso";2;0;"09/30/2004 11:25:43";NULL
    
50. 50;"BG";"Bulgaria";3;0;"09/30/2004 11:25:43";NULL
    
51. 51;"BH";"Bahrain";1;0;"09/30/2004 11:25:43";NULL
    
52. 52;"BI";"Burundi";2;0;"09/30/2004 11:25:43";NULL
    
53. 53;"BJ";"Benin";2;0;"09/30/2004 11:25:43";NULL
    
54. 54;"BM";"Bermuda";4;0;"09/30/2004 11:25:43";NULL
    
55. 55;"BN";"Brunei Darussalam";1;0;"09/30/2004 11:25:43";NULL
    
56. 56;"BO";"Bolivia";5;0;"09/30/2004 11:25:43";NULL
    
57. 57;"BS";"Bahamas";7;0;"09/30/2004 11:25:43";NULL
    
58. 58;"BT";"Bhutan";1;0;"09/30/2004 11:25:43";NULL
    
59. 59;"BV";"Bouvet Island";5;0;"09/30/2004 11:25:43";NULL
    
60. 60;"BW";"Botswana";2;0;"09/30/2004 11:25:43";NULL
    
61. 61;"BY";"Belarus";3;0;"09/30/2004 11:25:43";NULL

复制代码

2、执行导入命令
C:\>sqlldr userid=system/manager control=test.ctl









part ii

SQL*Loader是Oracle数据库导入外部数据的一个工具.它和DB2的Load工具相似,但有更多的选择，它支持变化的加载模式，可选的加载及多表加载.
　　如何使用 SQL*Loader 工具
　　我们可以用Oracle的sqlldr工具来导入数据。例如:
　　sqlldr scott/tiger control=loader.ctl
　　控制文件(loader.ctl) 将加载一个外部数据文件（含分隔符). loader.ctl如下:
　

1. 　load data
   
2. 　　infile 'c:\data\mydata.csv'
   
3. 　　into table emp
   
4. 　　fields terminated by "," optionally enclosed by '"'
   
5. 　　( empno, empname, sal, deptno )
   
6. 　　mydata.csv 如下:
   
7. 　　10001,"Scott Tiger", 1000, 40
   
8. 　　10002,"Frank Naude", 500, 20

复制代码

　　下面是一个指定记录长度的示例控制文件。"*" 代表数据文件与此文件同名，即在后面使用BEGINDATA段来标识数据。
　

1. 　load data
   
2. 　　infile *
   
3. 　　replace
   
4. 　　into table departments
   
5. 　　( dept position (02:05) char(4),
   
6. 　　deptname position (08:27) char(20)
   
7. 　　)
   
8. 　　begindata
   
9. 　　COSC COMPUTER SCIENCE
   
10. 　　ENGL ENGLISH LITERATURE
    
11. 　　MATH MATHEMATICS
    
12. 　　POLY POLITICAL SCIENCE

复制代码

　　Unloader这样的工具
　　Oracle 没有提供将数据导出到一个文件的工具。但是，我们可以用SQL*Plus的select 及 format 数据来输出到一个文件：
　

1. 　set echo off newpage 0 space 0 pagesize 0 feed off head off trimspool on
   
2. 　　spool oradata.txt
   
3. 　　select col1 || ',' || col2 || ',' || col3
   
4. 　　from tab1
   
5. 　　where col2 = 'XYZ';
   
6. 　　spool off

复制代码

　　另外，也可以使用使用 UTL_FILE PL/SQL 包处理:
　　

1. rem Remember to update initSID.ora, utl_file_dir='c:\oradata' parameter
   
2. 　　declare
   
3. 　　fp utl_file.file_type;
   
4. 　　begin
   
5. 　　fp := utl_file.fopen('c:\oradata','tab1.txt','w');
   
6. 　　utl_file.putf(fp, '%s, %s\n', 'TextField', 55);
   
7. 　　utl_file.fclose(fp);
   
8. 　　end;
   
9. 　　/
   
10. 　　当然你也可以使用第三方工具，如SQLWays ,TOAD for Quest等。
    
11. 　　加载可变长度或指定长度的记录
    
12. 　　如：
    
13. 　　LOAD DATA
    
14. 　　INFILE *
    
15. 　　INTO TABLE load_delimited_data
    
16. 　　FIELDS TERMINATED BY "," OPTIONALLY ENCLOSED BY '"'
    
17. 　　TRAILING NULLCOLS
    
18. 　　( data1,
    
19. 　　data2
    
20. 　　)
    
21. 　　BEGINDATA
    
22. 　　11111,AAAAAAAAAA
    
23. 　　22222,"A,B,C,D,"
    
24. 　　下面是导入固定位置（固定长度）数据示例：
    
25. 　　LOAD DATA
    
26. 　　INFILE *
    
27. 　　INTO TABLE load_positional_data
    
28. 　　( data1 POSITION(1:5),
    
29. 　　data2 POSITION(6:15)
    
30. 　　)
    
31. 　　BEGINDATA
    
32. 　　11111AAAAAAAAAA
    
33. 　　22222BBBBBBBBBB
    
34. 　　跳过数据行：
    
35. 　　可以用 "SKIP n" 关键字来指定导入时可以跳过多少行数据。如：
    
36. 　　LOAD DATA
    
37. 　　INFILE *
    
38. 　　INTO TABLE load_positional_data
    
39. 　　SKIP 5
    
40. 　　( data1 POSITION(1:5),
    
41. 　　data2 POSITION(6:15)
    
42. 　　)
    
43. 　　BEGINDATA
    
44. 　　11111AAAAAAAAAA
    
45. 　　22222BBBBBBBBBB
    
46. 　　导入数据时修改数据：
    
47. 　　在导入数据到数据库时，可以修改数据。注意，这仅适合于常规导入，并不适合 direct导入方式.如：
    
48. 　　LOAD DATA
    
49. 　　INFILE *
    
50. 　　INTO TABLE modified_data
    
51. 　　( rec_no "my_db_sequence.nextval",
    
52. 　　region CONSTANT '31',
    
53. 　　time_loaded "to_char(SYSDATE, 'HH24:MI')",
    
54. 　　data1 POSITION(1:5) ":data1/100",
    
55. 　　data2 POSITION(6:15) "upper(:data2)",
    
56. 　　data3 POSITION(16:22)"to_date(:data3, 'YYMMDD')"
    
57. 　　)
    
58. 　　BEGINDATA
    
59. 　　11111AAAAAAAAAA991201
    
60. 　　22222BBBBBBBBBB990112
    
61. 　　LOAD DATA
    
62. 　　INFILE 'mail_orders.txt'
    
63. 　　BADFILE 'bad_orders.txt'
    
64. 　　APPEND
    
65. 　　INTO TABLE mailing_list
    
66. 　　FIELDS TERMINATED BY ","
    
67. 　　( addr,
    
68. 　　city,
    
69. 　　state,
    
70. 　　zipcode,
    
71. 　　mailing_addr "decode(:mailing_addr, null, :addr, :mailing_addr)",
    
72. 　　mailing_city "decode(:mailing_city, null, :city, :mailing_city)",
    
73. 　　mailing_state
    
74. 　　)

复制代码

　　将数据导入多个表：
　　如:
　　

1. LOAD DATA
   
2. 　　INFILE *
   
3. 　　REPLACE
   
4. 　　INTO TABLE emp
   
5. 　　WHEN empno != ' '
   
6. 　　( empno POSITION(1:4) INTEGER EXTERNAL,
   
7. 　　ename POSITION(6:15) CHAR,
   
8. 　　deptno POSITION(17:18) CHAR,
   
9. 　　mgr POSITION(20:23) INTEGER EXTERNAL
   
10. 　　)
    
11. 　　INTO TABLE proj
    
12. 　　WHEN projno != ' '
    
13. 　　( projno POSITION(25:27) INTEGER EXTERNAL,
    
14. 　　empno POSITION(1:4) INTEGER EXTERNAL
    
15. 　　)

复制代码

　　导入选定的记录：
　　如下例： (01) 代表第一个字符, (30:37) 代表30到37之间的字符:
　

1. 　LOAD DATA
   
2. 　　INFILE 'mydata.dat' BADFILE 'mydata.bad' DISCARDFILE 'mydata.dis'
   
3. 　　APPEND
   
4. 　　INTO TABLE my_selective_table
   
5. 　　WHEN (01) <> 'H' and (01) <> 'T' and (30:37) = '19991217'
   
6. 　　(
   
7. 　　region CONSTANT '31',
   
8. 　　service_key POSITION(01:11) INTEGER EXTERNAL,
   
9. 　　call_b_no POSITION(12:29) CHAR
   
10. 　　)

复制代码

　　导入时跳过某些字段：
　　可用 POSTION(x:y) 来分隔数据. 在Oracle8i中可以通过指定 FILLER 字段实现。FILLER 字段用来跳过、忽略导入数据文件中的字段.如：
　

1. 　LOAD DATA
   
2. 　　TRUNCATE INTO TABLE T1
   
3. 　　FIELDS TERMINATED BY ','
   
4. 　　( field1,
   
5. 　　field2 FILLER,
   
6. 　　field3
   
7. 　　)

复制代码

　　导入多行记录：
　　可以使用下面两个选项之一来实现将多行数据导入为一个记录:
　　CONCATENATE: - use when SQL*Loader should combine the same number of physical records together to form one logical record.
　　CONTINUEIF - use if a condition indicates that multiple records should be treated as one. Eg. by having a '#' character in column 1.
　　SQL*Loader 数据的提交：
　　一般情况下是在导入数据文件数据后提交的。
　　也可以通过指定 ROWS= 参数来指定每次提交记录数。
　　提高 SQL*Loader 的性能：
　　1) 一个简单而容易忽略的问题是，没有对导入的表使用任何索引和/或约束(主键)。如果这样做，甚至在使用ROWS=参数时，会很明显降低数据库导入性能。
　　2) 可以添加 DIRECT=TRUE来提高导入数据的性能。当然，在很多情况下，不能使用此参数。
　　3) 通过指定 UNRECOVERABLE选项，可以关闭数据库的日志。这个选项只能和 direct 一起使用。
　　4) 可以同时运行多个导入任务.
　　常规导入与direct导入方式的区别：
　　常规导入可以通过使用 INSERT语句来导入数据。Direct导入可以跳过数据库的相关逻辑(DIRECT=TRUE)，而直接将数据导入到数据文件中。

小鬼萌萌控

谢谢分享