如何迁移HDInsight Hive Table到Azure SQL Database

如何迁移HDInsight Hive Table到Azure SQL Database

在我写的博客里提到过如何Load TXT 到HDInsight Hive table https://blog.csdn.net/weixin_44953126/article/details/102254360

那么如何把Hive table迁移到Azure SQL Database呢?迁移到Azure SQL Database后,你就可以把它当作Onprem SQL来处理了。

如何迁移?你可以用Azure Data Factory来实现:

1, 创建ADF V2.
2, 创建Hive Database Linked Server, 输入主机名,端口号,还有用户名和密码。

在这里插入图片描述

3, 创建dataset, hivetest为你的HDInsight Hive Database, hiveexample为Hive table。

0: jdbc:hive2://headnodehost:10001/> select * from hiveexample;
+-------------------+-----------------+------------------+--+
| hiveexample.name  | hiveexample.id  | hiveexample.sex  |
+-------------------+-----------------+------------------+--+
| linlin            | 123             | male             |
| brian             | 345             | male             |
| lin               | 567             | female           |
+-------------------+-----------------+------------------+--+

HDInsight的table hiveexample.

在这里插入图片描述

Note: 可以用同样的办法创建Azure SQL Database Dataset.

在这里插入图片描述
hivetable为Azure Sql Database的表。

在这里插入图片描述
如何创建Azure Sql Database: https://docs.microsoft.com/en-us/azure/sql-database/sql-database-single-database-get-started?tabs=azure-portal

4, 创建pipeline, source.

在这里插入图片描述

Sink:

在这里插入图片描述

Mapping:

在这里插入图片描述

5, 运行pipeline:

在这里插入图片描述
6, pipeline 运行成功后,我们可以看到Hive table里的数据成功move到Azure Sql Database.

在这里插入图片描述

在这里插入图片描述

发布了13 篇原创文章 · 获赞 0 · 访问量 967
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章