原创 如何解決RedisLive不能顯示曲線圖的問題

作爲第三方的Redis圖形化監控工具,RedisLive在使用過程中,許多人都反饋說不能看到曲線圖,詳細描述可見https://github.com/nkrode/RedisLive/issues和http://www.nkrode.co

原创 Hadoop運維中遇到的問題(持續更新中......)

1. HDFS相關問題 症狀1:HDFS HA場景下,啓動時出現兩個NN都爲standby Namenode日誌中提示: WARN org.apache.hadoop.hdfs.server.namenode.ha.EditLogTai

原创 Java的synchronized使用小結

首先需要闡明兩個基本問題:1.鎖只能獲取自對象,而不是代碼,也就是說synchronized [static] methodName這樣的寫法其實獲取的還是對象鎖;2.未synchronized的代碼執行不受鎖的影響。 下面看synchr

原创 linux常用命令的的常見用法(持續更新中......)

1. chkconfig命令常見用法 1) 查看開機自啓動服務的狀態 [root@localhost ~]# chkconfig ...... crond           0:關閉  1:關閉  2:啓用  3:啓用  4:啓用  5

原创 T-SQL查詢處理執行順序

對於T-SQL編程,用得最廣泛的,莫過於查詢(Querying)。要想寫出高質量、高性能的查詢語句,必須深入地瞭解邏輯查詢處理。 (5)SELECT DISTINCT TOP(<top_specifica

原创 LINUX上MYSQL優化三板斧

現在MySQL運行的大部分環境都是在Linux上的,如何在Linux操作系統上根據MySQL進行優化,我們這裏給出一些通用簡單的策略。這些方法都有助於改進MySQL的性能。 閒話少說,進入正題。 一、CPU 首先從CPU說起。 

原创 linux meminfo詳解

下篇對cat /proc/meminfo讀出該信息進行簡單的分析。 MemTotal: 507480 kB MemFree: 10800 kB Buffers: 34728 kB Cached: 98852 kB SwapCached:

原创 如何理解貌似陌生的文件系統

當執行"df -h"時,得到了以下結果: # df -h Filesystem Size Used Avail Use% Mounted on ...... tmpfs 32G

原创 佔據過多ZK連接的HiveServer2導致的奇葩問題

HiveServer2的0.13版本存在一個bug,會導致該機器上的ZK連接數超過定義上限,詳細可見HIVE-8596描述。在我們的線上集羣中,因爲這個bug導致了一個有意思的故障。 線上YARN集羣版本爲Hadoop2.5.0-cdh5

原创 swap相關的概念和操作

首先聲明,與swap相關的操作需要superuser身份。 1. 簡單理解swap 簡單的說,swap就是在磁盤上劃定一塊空間。當內存不夠用時,系統會將一些不活躍的內存頁調出並寫入到到swap空間,這個過程稱爲swap out;之後如果需

原创 如何檢測HDFS的均衡狀態?

HDFS執行Rebalancing時,會首先檢查當前是否處於均衡狀態,如果不均衡纔會執行Rebalancing。檢測時,首先計算整個集羣的DFS Capacity Used比例(cluster_avg),

原创 Java 類的生命週期詳解

1. 引 言 最近有位細心的朋友在閱讀筆者的文章時,對java類的生命週期問題有一些疑惑,筆者打開百度搜了一下相關的問題,看到網上的資料很少有把這個問題講明白的,主要是因爲目前國內java方面的教材大多隻是告訴你“怎樣做”,但至於“爲什麼

原创 一文讀懂機器學習,大數據/自然語言處理/算法全有了……

在本篇文章中,我將對機器學習做個概要的介紹。本文的目的是能讓即便完全不瞭解機器學習的人也能瞭解機器學習,並且上手相關的實踐。這篇文檔也算是EasyPR開發的番外篇,從這裏開始,必須對機器學習瞭解才能進一步介紹EasyPR的內核。當然,

原创 簡單說說WebHDFS和HttpFS

如果你沒有太多留意的話,可能會認爲這兩個是一個東西。雖然它們看起來很像,但是確實是兩回事。 WebHDFS是HortonWorks開發的,然後捐給了Apache,可見博客:WebHDFS – HTTP REST Access to HDF

原创 基於YARN的MapReduce日誌幾個注意事項

說明:本文提及的所有配置參數,都是基於Hadoop 2.5.0-cdh5.2.0環境。 MapReduce(MR)的調試是一個比較麻煩的問題,除了一些輔助調試工具(如mrunit)外,相信通過日誌定位問題仍然是一個比較常見的方法。雖然這種