Sqoop的Append和Lastmodified

Lastmodified 和Append模式的區別:
Append模式處理不了更新數據,而
Lastmodified模式可以

Append 支持動態增加 不支持修改

sqoop import \
--connect jdbc:mysql://192.168.164.25:3306/stock \
--username root \
--password 111111 \
--query "select id,name from person_all where \$CONDITIONS" \
--target-dir /user/root/person_all \
--split-by id \
-m 1 \
--check-column id \
--incremental append \
--last-value 4
Id大於4的記
錄都被導出

語法範式解析:
sqoop import: SQOOP 命令,從關係型數據庫導數到Hadoop
–check-column: 用於檢查增量數據的列
–incremental append: 設置爲增量模式
–last-value :源數據中所有大於–last value的值都會被導入Hadoop


Lastmodified 可以修改數據 也可以增加

sqoop import \
--connect jdbc:mysql://192.168.164.25:3306/test \
--username root \
--password 111111 \
--query "select id,name,time from t1 where \$CONDITIONS" \
--target-dir /user/root/person_all \
--split-by id \
-m 1 \
--check-column time \
--incremental lastmodified \
--merge-key Id \
--last-value "2015-08-25 03:12:46"

語法範式解析:
sqoop import: SQOOP 命令,從關係型數據庫導數到Hadoop
–check-column: 必須是timestamp列
–incremental lastmodified: 設置爲最後改動模式
–merge-key: 必須是唯一主鍵
–last-value: 所有大於最後一個時間的數據都會被更新

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章