sqoop 1.x 導入hive 整合

1、前面說過一般導入到hive中表,我們一般都是提前創建好的。

改造一: 通過sqoop  import 從mysql 導入表時,會生成默認 表名的java 文件,在執行的sqoop的命令。我們需要把生成的java文件統一到一個文件中去。

[root@hadoop01 sqoop-java]# pwd
/data/bigData/tmp/sqoop-java

我們需要把處理的java文件統一放到這個文件中。再導入後面添加這個參數

--outdir '/data/bigData/tmp/sqoop-java'
sqoop import -D mapred.job.queue.name=queueA \
--connect jdbc:mysql://hadoop03.fandong.com:3306/portrait --table t_user_order_bill \
--hive-table portrait.t_user_order_bill --hive-overwrite  --hive-import \
--outdir '/data/bigData/tmp/sqoop-java/' \
--null-string '\\N' --null-non-string '\\N' \
-username nodejs1 -password nodejs1

設置隊列名稱

生成的java文件都放到了統一的目錄下。

每次都寫一大堆的文件比較繁瑣,可以使用腳本進行導入。----

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章