1: sqoop 版本必須要大於1.4.7,atlas sqoop hook 才起作用,因爲在1.4.7版本中增加了sqoop.job.data.publish.class接口,在1.4.6中執行不會報任務錯誤,通過修改源碼重新添加必須日誌來判斷,並hook並沒有加載進來。
2: 按照官網配置好,之後,執行sqoop import --connect,--hive-import --verbose包時,默認hook會顯示success,但通過kafka發現,此時sqoop hook 並沒有發送kafka數據,則說明sqoop hook 有問題,但錯誤並沒有打出來,還是通過修改源碼打印相關日誌的策略來定爲問題,具體定位步驟類似Apache atlas sqoop Hook無法顯示的問題 。 可參照一下,不做過多描述。
Caused by: java.security.AccessControlException: access denied ("javax.management.MBeanTrustPermission" "register")
at java.security.AccessControlContext.checkPermission(AccessControlContext.java:472)
at java.lang.SecurityManager.checkPermission(SecurityManager.java:585)
at com.sun.jmx.interceptor.DefaultMBeanServerInterceptor.checkMBeanTrustPermission(DefaultMBeanServerInterceptor.java:1848)
at com.sun.jmx.interceptor.DefaultMBeanServerInterceptor.registerMBean(DefaultMBeanServerInterceptor.java:322)
at com.sun.jmx.mbeanserver.JmxMBeanServer.registerMBean(JmxMBeanServer.java:522)
at org.apache.kafka.common.metrics.JmxReporter.reregister(JmxReporter.java:162)
at org.apache.kafka.common.metrics.JmxReporter.metricChange(JmxReporter.java:82)
at org.apache.kafka.common.metrics.Metrics.registerMetric(Metrics.java:535)
at org.apache.kafka.common.metrics.Metrics.addMetric(Metrics.java:491)
at org.apache.kafka.common.metrics.Metrics.addMetric(Metrics.java:475)
at org.apache.kafka.common.metrics.Metrics.addMetric(Metrics.java:460)
at org.apache.kafka.common.metrics.Metrics.<init>(Metrics.java:154)
at org.apache.kafka.common.metrics.Metrics.<init>(Metrics.java:120)
at org.apache.kafka.clients.producer.KafkaProducer.<init>(KafkaProducer.java:337)
顯示爲權限的問題,找到問題之後,在在$JAVA_HOME/jre/lib/security/java.policy 中增加
permission javax.management.MBeanTrustPermission "register";
重新執行命令,則可在atlas中查看sqoop_process類型的明細。