本篇讲述SQLLDR的最基本使用。
Oracle数据库导入csv文件,
当csv文件较小时,
可以使用数据库管理工具,
比如DBevaer导入到数据库,
当csv文件很大时,
可以使用Oracle提供的sqlldr命令行工具,
能够快速导入大量数据。
在数据库之间进行数据迁移时,
特别是不同类型的数据库,
使用csv文件是一种很好的选择。
下面介绍sqlldr用法,
有一个USER_INFO.csv文件,
需要导入到数据库中USER_INFO表,
而且有1.5亿条数据,
要求导入耗时尽量小。
这里先介绍基本的导入方式,
然后介绍direct导入方式,
最后介绍parallel导入方式。
注意表中字段要和csv文件对应。
创建名为loaddata_USER_INFO.ctl的控制文件:
是导入参数配置,
已经是支持大量数据导入的参数方案。
infile指定导入的文件是USER_INFO.csv;
into table前面的insert表示导入方式:
insert :默认方式,在导入记录前要求表为空;
append :在表中追加新导入的记录;
replace :删除旧记录(等价delete from table语句),替换成新导入的记录;
truncate:删除旧记录(等价truncate table语句),替换成新导入的记录;
into table后面指定导入数据库表USER_INFO,
且表名必须大写;
指定每一行的字段是以逗号(,)分隔;
指定字段是用两个分号(')包围起来的,可选的;
最后一行对应导入的字段,
注意如果导入的是时间字段,
需要指明时间转换的格式。
指定需要导入的数据库,
以及使用的control文件:
导入成功输出日志如下:
看到3条数据成功导入USER_INFO,
同时会生成loaddata_USER_INFO.log日志,
通过该日志可以查看更详细的导入信息,
如果导入时发生错误,
可以查看到详细的错误信息,
而且还会生成USER_INFO.bad文件,
bad文件原样输出了导入失败的数据。
默认情况下ERRORS达到50个就会停止导入,
如果需要忽略错误继续导入,
可以配置ERRORS最大值为。
sqlldr支持direct参数,
使用直接路径方式导效率非常高,
direct参数默认为FALSE,
上面第6步使用的就是默认常规路径方式,
下面使用直接路径方式,
进一步加快数据导入速度。
但是使用直接路径方式会导致表的唯一索引(或主键)失效,
可以在导入前先删除表的唯一索引,
然后在导入完成后重建索引即可,
如果有重复的数据,
需要先去重才能重建索引成功,
经过测试即使需要重建索引,
使用直接路径方式还是比常规路径方式快。
创建名为loaddata_USER_INFO_direct.ctl的控制文件:
这个文件和第5步中的区别在于,
options中的BINDSIZE换成了COLUMNARRAYROWS,
因为BINDSIZE是常规路径绑定数组的大小,
而COLUMNARRAYROWS是直接路径列数组的行数。
导入前需要先删除USER_INFO表的主键:
基本与第6步的命令相同,增加direct=true:
或:
数据成功导入日志如下:
至此使用直接路径方式导入数据成功,
经过测试1.5亿条不重复数据direct方式导入,
花费4分02秒,
然后重建主键花费19分14秒,
总耗时23分16秒。
然而使用常规路径方式导入需要48个小时,
导入效率得到了极大的提升。
前面使用的是串行方式导入数据,
通过设置parallel为true可以并行导入,
在多核服务器上面能进一步提升导入效率。
需要注意并行方式仅仅在直接路径方式时有效。
创建名为loaddata_USER_INFO_direct_parallel.ctl的控制文件:
这个文件和第8步中的区别在于,
并行方式只支持append导入,
而且要注意USER_INFO表不能有索引,
如果有需要先删除。
基本与第10步的命令相同,增加parallel=true:
数据成功导入日志如下:
15.1.用法
15.2.参数说明
15.3.注意事项
命令行参数可以由位置或关键字指定。
前者的例子是 ‘sqlldr scott/tiger foo’;
后这的例子是 ‘sqlldr control=foo userid=scott/tiger’。
位置指定参数的时间必须早于,
但不可迟于由关键字指定的参数。
例如允许 ‘sqlldr scott/tiger control=foo logfile=log’,
但是不允许 ‘sqlldr scott/tiger control=foo log’,
即使参数 ‘log’ 的位置正确。
15.4.重要参数
rows:
加载的行数,默认值:常规路径:64,直接路径:全部。
常规路径导入时,指定绑定数组中的行数。直
接路径导入时,指一次从数据文件只读取的行数。
该参数同时受bindsize制约,
如果rows每行实际占用大小超出bindsize的最大可用值,
则rows自动降低到bindsize最大可用值。
bindsize:
默认值:,以字节为单位。
为绑定数组指定最大可用空间,
用来存储一次读取的rows的记录,
该值不能太小,至少要能放入一条逻辑记录,
不然有可能造成加载失败,
但是设置一个超大值也没有意义,
浪费空间而且起不到任何效果。
direct:
直接路径,默认值是false。
直接路径加载并不是通过insert语句的方式提交数据,
直接路径的加载甚至不走db_buffer,
因为不会存在缓冲区争用,
直接路径加载直接向数据文件写数据,
因此效率较高。
file:
指定写入的表空间数据文件。
通常是并行加载时应该会用到该参数,
指定file文件后,
要加载的内容即只向指定的数据文件写入数据,
通过这种方式某些情况下可以减小磁盘间的竞争。
skip_unusable_indexes:
是否跳过不可用的索引,默认为false。
如果设置为true。在加载数据的时候,
如果没加载的表中索引为unusable,
则该索引数据不维护,数据加载完以后也不会改变索引的状态。
在oracle中也有一个参数叫skip_unusable_indexes,
但是sqlldr中的这个参数优先级比oracle数据库内部的这个参数优先级高。
如果sqlldr中未设置这个参数,则以oracle中的skip_unusable_indexes参数为准。
skip_index_maintenance:
是否跳过索引维护,默认值为false。
该参数仅在直接路径加载时有效,
如果设置为true,则数据加载过程中并不会维护索引,
因此数据加载完后会导致索引无效。
readsize:
缓冲区大小,默认值字节,最大不超过20M。
该参数设置的值仅当从数据文件中读取数据时有效,
如果数据包含在控制文件中则为64K,并不可修改。
streamsize:
流缓冲区大小,默认值是字节。
指定直接路径加载时流缓冲区大小。
multithreading:
是否启用多线程。
默认值:多cpu系统默认为true,单cpu的系统默认则为false。
该参数仅仅在直接路径加载时有效。
date_cache:
日期转换缓存,默认值为1000条。
指定一个专门用于日志转换的缓存区,
如果处理的日期在其中,则不需要转换,
否则直接取出来使用。
给出loaddata_USER_INFO_direct_parallel.log日志内容,
可以看到导入使用的配置,耗时等详细信息,
供给大家参考:
参考1
到此这篇sqlldr导入数据文件的命令(sqlldr 导入)的文章就介绍到这了,更多相关内容请继续浏览下面的相关推荐文章,希望大家都能在编程的领域有一番成就!版权声明:
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如若内容造成侵权、违法违规、事实不符,请将相关资料发送至xkadmin@xkablog.com进行投诉反馈,一经查实,立即处理!
转载请注明出处,原文链接:https://www.xkablog.com/sjkxydsj/21868.html