獲取YARN中實際執行的sql文本

筆者在此之前一直想找到container中運行的sql命令,相信有不少小夥伴和筆者有着相同的疑惑。

偶然間發現了這個參數,可以藉助此參數快速找到sql文件。

命令如下:

 hdfs dfs -cat /ats/XXX/application_156000000000_0000*/*/* \
|grep mapreduce.workflow.name \
|awk 'BEGIN{RS="\",\""}{$1=$1;print $0}' \
|grep mapreduce.workflow.name \
|grep -v "select 1"

 解釋下命令,先找到 YARN時間軸服務實體組FS存儲的活動目錄[yarn.timeline-service.entity-group-fs-store.active-dir]
然後根據具體的appicationID找到文件夾位置。
參數mapreduce.workflow.name 對應值即爲sql命令。這一行很長,使用awk切分過濾一下。最後輸出結果。

在hive裏寫個sql 實驗一下:

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章