广州市住房和城乡建设局网站首页,php面试题,长安网站建设制作价格,舆情公司1. Sqoop介绍
Apache Sqoop 是在 Hadoop 生态体系和 RDBMS 体系之间传送数据的一种工具。 Sqoop 工作机制是将导入或导出命令翻译成 mapreduce 程序来实现。在翻译出的 mapreduce 中主要是对 inputformat 和 outputformat 进行定制。 Hadoop 生态系统包括#xff1a;HDFS、Hi…1. Sqoop介绍
Apache Sqoop 是在 Hadoop 生态体系和 RDBMS 体系之间传送数据的一种工具。 Sqoop 工作机制是将导入或导出命令翻译成 mapreduce 程序来实现。在翻译出的 mapreduce 中主要是对 inputformat 和 outputformat 进行定制。 Hadoop 生态系统包括HDFS、Hive、Hbase 等 RDBMS 体系包括MySQL、Oracle、DB2 等 Sqoop 可以理解为“SQL 到 Hadoop 和 Hadoop 到 SQL”。 站在 Apache 立场看待数据流转问题可以分为数据的导入导出 Import数据导入。RDBMS-----Hadoop Export数据导出。Hadoop----RDBMS
2. Sqoop导入——import
2.1 全量导入MySQL表数据到HDFS
从 MySQL 数据库服务器中的 userdb.emp 表导入到 HDFS。
bin/sqoop import \
--connect jdbc:mysql://node-1:3306/userdb \
--username root \
--password 123456 \
--delete-target-dir \
--target-dir /sqoopresult \
--table emp \
--m 1–target-dir 用来指定导出数据存放至 HDFS 的目录 –m 用来指定导入时使用几个map任务进行并行 。。。。。。 。。。。。 。。。。 。。。 。。 。 更多用法请参考 Sqoop详细使用
