原创 dgraph 壓測報context deadline exceeded, server hang住無響應
想簡單對dgraph做一次數據入庫壓測和查詢壓測,壓測數據1Y, 一個客戶端線程每個批次提交100條。 查看入庫1y數據後的查詢性能。 結果在壓測入庫數據150W數據的過程中發生了server hang住,不響應client請求,導致cl
原创 Zookeeper acl
1 Zookeeper ACL ZooKeeper的權限管理亦即ACL控制功能通過Server、Client兩端協調完成: Server端: 一個ZooKeeper的節點(znode)存儲兩部分內容:數據和狀態,狀態中包含ACL信息。創建
原创 Spark踩坑之旅
1、Spark standalone 模式集羣,使用zk作爲服務狀態一致性協調器,當zk leader宕機,spark master也跟着掛掉 問題描述:zk leader宕機之後,spark master節點也出現宕機情況,spark
原创 tsfresh 安裝問題收集
系統: linux redhat 環境: python2.7tsfresh官網:http://tsfresh.readthedocs.io/en/latest/text/quick_start.htmltsfresh本身官網提供的安裝過程
原创 phoenix4.9 在hbase進行compaction後出現zookeeper連接泄漏問題
最近開發環境使用過程當中遇到hbase RegionServer 存在過多的zookeeper連接,出先連接泄漏問題。通過jmap命令查看內存信息發現是在zookeeper連接被HRegion當中某些對象保存起來沒有釋放掉
原创 kafka consumer 日誌瘋狂輸出 marking the coordinator host:9092 for dead group consumer-test
最近在調試spark-streaming消費kafka消息時發現日誌瘋狂輸出 marking the coordinator host:9092 for dead group consumer-test kafka ser
原创 Hadoop 集羣問題彙總
公司希望使用spark on yarn 模式管理spark應用,在搭建hadoop當中碰到的問題分享一下: Hadoop Version : 2.7.2 1、Report:Call from linux151 to linux152:9
原创 sun.misc.unsafe魔術類的使用
這個帖子是關於JAVA中鮮爲人知的特性的後續更新,如果想得到下次在線討論的更新,請通過郵件訂閱,並且不要忘了在評論區留下你的意見和建議。 Java是一個安全的開發工具,它阻止開發人員犯很多低級的錯誤,而大部份的錯誤都是基於
原创 HashMap死循環核心代碼模擬
https://www.jianshu.com/p/1e9cf0ac07f4 應用中碰到使用linkedhashmap出現了循環指向導致的線程遍歷死循環的問題,linkedhashmap繼承自hashmap,從網上查詢了一下相關的文章,大
原创 Spark-Streaming任務消費Kafka中topic(Resource)堆積問題排查&恢復
1. 觀察該該topic消費組 Resource-group確定爲Spark-Streaming任務消費resource主題出現堆積,堆積數據20Y 2.訪問spark master web ui 查看 Resource任務,發現runn
原创 龍芯架構&中標麒麟 驗證編譯dgraph圖數據庫
環境:公司內網, 龍芯架構(MIPS平臺) 機器, 中標麒麟系統 1. 龍芯架構上沒有現成可用的golang語言安裝介質,需要先編譯golang語言,詳細編譯步驟移步: https://www.cnblogs.com/findumars/
原创 NOT_LEADER_FOR_PARTITION
現場collector生產kafka消息報: NOT_LEADER_FOR_PARTITION 錯誤,錯誤位置:org.apache.kafka.client.internal.Sender中298行 kafka server.log報