apache atlas sqoop hook 搭建問題彙總

1: sqoop 版本必須要大於1.4.7,atlas sqoop hook 才起作用,因爲在1.4.7版本中增加了sqoop.job.data.publish.class接口,在1.4.6中執行不會報任務錯誤,通過修改源碼重新添加必須日誌來判斷,並hook並沒有加載進來。

2: 按照官網配置好,之後,執行sqoop import --connect,--hive-import   --verbose包時,默認hook會顯示success,但通過kafka發現,此時sqoop hook 並沒有發送kafka數據,則說明sqoop hook 有問題,但錯誤並沒有打出來,還是通過修改源碼打印相關日誌的策略來定爲問題,具體定位步驟類似Apache atlas sqoop Hook無法顯示的問題 。 可參照一下,不做過多描述。


Caused by: java.security.AccessControlException: access denied ("javax.management.MBeanTrustPermission" "register")
        at java.security.AccessControlContext.checkPermission(AccessControlContext.java:472)
        at java.lang.SecurityManager.checkPermission(SecurityManager.java:585)
        at com.sun.jmx.interceptor.DefaultMBeanServerInterceptor.checkMBeanTrustPermission(DefaultMBeanServerInterceptor.java:1848)
        at com.sun.jmx.interceptor.DefaultMBeanServerInterceptor.registerMBean(DefaultMBeanServerInterceptor.java:322)
        at com.sun.jmx.mbeanserver.JmxMBeanServer.registerMBean(JmxMBeanServer.java:522)
        at org.apache.kafka.common.metrics.JmxReporter.reregister(JmxReporter.java:162)
        at org.apache.kafka.common.metrics.JmxReporter.metricChange(JmxReporter.java:82)
        at org.apache.kafka.common.metrics.Metrics.registerMetric(Metrics.java:535)
        at org.apache.kafka.common.metrics.Metrics.addMetric(Metrics.java:491)
        at org.apache.kafka.common.metrics.Metrics.addMetric(Metrics.java:475)
        at org.apache.kafka.common.metrics.Metrics.addMetric(Metrics.java:460)
        at org.apache.kafka.common.metrics.Metrics.<init>(Metrics.java:154)
        at org.apache.kafka.common.metrics.Metrics.<init>(Metrics.java:120)
        at org.apache.kafka.clients.producer.KafkaProducer.<init>(KafkaProducer.java:337)

    顯示爲權限的問題,找到問題之後,在在$JAVA_HOME/jre/lib/security/java.policy 中增加

         permission javax.management.MBeanTrustPermission "register";

    重新執行命令,則可在atlas中查看sqoop_process類型的明細。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章