Sqoop MySQL hive 数据库导入导出数据 - Go语言中文社区

Sqoop MySQL hive 数据库导入导出数据


1.导入(从mysql导入hive)

场景:从一个mysql数据库的表中导入数据到hive表中

sqoop import \ 
 --connect "jdbc:mysql://ip:3306/mysql库名" \ 
 (指定连接jdbc端口和数据库名称)
 --username "root" \ 
 (数据库用户名)
 --password "root123" \ 
 (密码 若不适用明文指定数据库密码 则可以用-P)
 --table "user" \ 
 (指定数据库中的一张表)
 --target-dir "/input/import" \ 
 (指定数据导入到HDFS上的目录)
 --delete-target-dir \ 
 //如果目标目录已存在,则先删除
 --num-mappers 1 \ 
 (指定使用导入数据的map个数,mapreduce(V1)中的方式可以用-m 1 代替(过时))
 --fields-terminated-by "," 
 (目标文件的分隔符, 默认情况下,导入HDFS的每行数据分隔符是逗号)

2.导出(从hive导出到mysql)

场景:从一个hive库的数据表中导出到另一个mysql库中

sqoop export \
--connect "jdbc:mysql://ip:端口/数据库名" \
--username "root" \
--password "123456" \
--table "目标数据库表名" \
--update-mode allowinsert \
--update-key "industry_code" \
--hcatalog-database "hive目标数据库" \
--hcatalog-table "hive目标数据库中的表名" \
--null-string '\\N'  \
--null-non-string '\\N' \
-m 1

相关参数如下:

  • export:从hdfs导出数据到关系型数据库
  • --update-mode:指定更新策略,包括updateonlyallowinsert,updateonly是默认模式,仅仅更新已存在的数据记录,不会插入新纪录,allowinsert有则更新,无则插入
  • --update-key:更新标识,即根据某个字段进行更新,例如id,可以指定多个更新标识的字段,多个字段之间用逗号分隔。 – updatemode,指定updateonly(默认模式),仅仅更新已存在的数据记录,不会插入新纪录
  • --hcatalog-database:hive数据库,parquet格式的hive表使用hcatalog
  • --hcatalog-table:hive数据库表名
  • --null-string:针对string类型的字段,当Value是NULL,替换成指定的字符
  • --null-non-string:针对非string类型的字段,当Value是NULL,替换成指定字符
  • -m:并行化,使用n个map任务并行导出

3.Sqoop一些常用命令及参数

3.1 常用命令列举

    这里给大家列出来了一部分Sqoop操作时的常用参数,以供参考,需要深入学习的可以参看对应类的源代码。

序号命令说明
1importImportTool将数据导入到集群
2exportExportTool将集群数据导出
3codegenCodeGenTool获取数据库中某张表数据生成Java并打包Jar
4create-hive-tableCreateHiveTableTool创建Hive表
5evalEvalSqlTool查看SQL执行结果
6import-all-tablesImportAllTablesTool导入某个数据库下所有表到HDFS中
7job  JobTool用来生成一个sqoop的任务,生成后,该任务并不执行,除非使用命令执行该任务。
8list-databasesListDatabasesTool列出所有数据库名
9list-tablesListTablesTool列出某个数据库下所有表
10mergeMergeTool将HDFS中不同目录下面的数据合在一起,并存放在指定的目录中
11metastore  MetastoreTool记录sqoop job的元数据信息,如果不启动metastore实例,则默认的元数据存储目录为:~/.sqoop,如果要更改存储目录,可以在配置文件sqoop-site.xml中进行更改。
12helpHelpTool打印sqoop帮助信息
13versionVersionTool打印sqoop版本信息

3.2 公用参数详解

    刚才列举了一些Sqoop的常用命令,对于不同的命令,有不同的参数,让我们来一一列举说明。

    首先来我们来介绍一下公用的参数,所谓公用参数,就是大多数命令都支持的参数。

3.2.1 公用参数:数据库连接

序号参数说明
1--connect连接关系型数据库的URL
2--connection-manager指定要使用的连接管理类
3--driverJDBC的driver class
4--help打印帮助信息
5--password连接数据库的密码
6--username连接数据库的用户名
7--verbose在控制台打印出详细信息

3.2.2 公用参数:import

序号参数说明
1--enclosed-by <char>给字段值前后加上指定的字符
2--escaped-by <char>对字段中的双引号加转义符
3--fields-terminated-by <char>设定每个字段是以什么符号作为结束,默认为逗号
4--lines-terminated-by <char>设定每行记录之间的分隔符,默认是\n
5--mysql-delimitersMysql默认的分隔符设置,字段之间以逗号分隔,行之间以\n分隔,默认转义符是\,字段值以单引号包裹。
6--optionally-enclosed-by <char>给带有双引号或单引号的字段值前后加上指定字符。

3.2.3 公用参数:export

序号参数说明
1--input-enclosed-by <char>对字段值前后加上指定字符
2--input-escaped-by <char>对含有转移符的字段做转义处理
3--input-fields-terminated-by <char>字段之间的分隔符
4--input-lines-terminated-by <char>行之间的分隔符
5--input-optionally-enclosed-by <char>给带有双引号或单引号的字段前后加上指定字符

3.2.4 公用参数:hive

序号参数说明
1--hive-delims-replacement <arg>用自定义的字符串替换掉数据中的\r\n和\013 \010等字符 (补:\013 \010 就是\r\n )
2--hive-drop-import-delims在导入数据到hive时,去掉数据中的\r\n\013\010这样的字符
3--map-column-hive <map>生成hive表时,可以更改生成字段的数据类型
4--hive-partition-key创建分区,后面直接跟分区名,分区字段的默认类型为string
5--hive-partition-value <v>导入数据时,指定某个分区的值
6--hive-home <dir>hive的安装目录,可以通过该参数覆盖之前默认配置的目录
7--hive-import将数据从关系数据库中导入到hive表中
8--hive-overwrite覆盖掉在hive表中已经存在的数据
9--create-hive-table默认是false,即,如果目标表已经存在了,那么创建任务失败。
10--hive-table后面接要创建的hive表,默认使用MySQL的表名
11--table指定关系数据库的表名
版权声明:本文来源CSDN,感谢博主原创文章,遵循 CC 4.0 by-sa 版权协议,转载请附上原文出处链接和本声明。
原文链接:https://blog.csdn.net/qq_41495340/article/details/122945480
站方申明:本站部分内容来自社区用户分享,若涉及侵权,请联系站方删除。
  • 发表于 2023-01-03 14:39:26
  • 阅读 ( 341 )
  • 分类:数据库

0 条评论

请先 登录 后评论

官方社群

GO教程

猜你喜欢