# Sqoop导数据到Mysql - Go语言中文社区

# Sqoop导数据到Mysql


Sqoop导数据到Mysql


1.hive导入hdfs数据

hive> load data inpath '/version/hive/file' into table bigdatacar.car_document;

2.HIve清空表中的数据

truacte table test;

3.shelll获得时间

//完整时间
$(date +'%Y-%m-%d %H:%M:%S')
//日期
$(date +%Y-%m-%d)

3.sqoop从hdfs中读取文件导入到本地数据库中脚本如下:taopaichetoMysql.sh

//数据库加上utf-8不然会差生中文乱码
sqoop export --connect "jdbc:mysql://192.168.1.38:3306/bigdatacar?useUnicode=true&characterEncoding=utf-8" \
--username root \
--password 1234 \
//改地址为hdfs中的地址
--export-dir '/version/taopaiche.txt' \
--table taopaicar_color \
--fields-terminated-by '\0002' \
--input-fields-terminated-by '\t' \
--lines-terminated-by '\n' \
-m 1

如果导入的过程中报job错误如下
在这里插入图片描述
查看Mapreduce过程中的日志文件,点击local logs进入userlogs/文件夹
在这里插入图片描述

在这里插入图片描述
日志消息为本地数据库中的表和读取的字段不兼容,应该是字段顺序或者字段的类型问题,修改就可以。样例数据如下。
在这里插入图片描述
数据库中的字段如下:文件中的字段顺序如下,修改啊字段顺序和类型即可。
在这里插入图片描述

版权声明:本文来源CSDN,感谢博主原创文章,遵循 CC 4.0 by-sa 版权协议,转载请附上原文出处链接和本声明。
原文链接:https://blog.csdn.net/qq_37248504/article/details/104889797
站方申明:本站部分内容来自社区用户分享,若涉及侵权,请联系站方删除。
  • 发表于 2023-01-03 14:39:22
  • 阅读 ( 253 )
  • 分类:数据库

0 条评论

请先 登录 后评论

官方社群

GO教程

猜你喜欢