原创 kipmi0 cpu 100%

解決辦法: echo 100 > /sys/module/ipmi_si/parameters/kipmid_max_busy_us  

原创 最後一個 block 沒有足夠的副本數,文件關閉失敗

堆棧信息: java.io.IOException: Unable to close file because the last block does not have enough number of replicas.

原创 用戶登陸Bash環境加載順序

用戶登錄後加載profile和bashrc的流程如下: /etc/profile-------->/etc/profile.d/*.sh $HOME/.bash_profile-------->$HOME/.bashrc---------

原创 解決克隆虛擬機後網卡設備無法識別啓動問題的方法

一、故障問題 從vmware workstation中克隆(clone)了一個CentOS 6的虛擬機, 啓動之後發現網卡沒有啓動。 於是重啓一下network服務,發現提示錯誤信息 “Device eth0 does not seem

原创 Scala:根據key分組取top n

package com.dk.spark.algo.topn import com.dk.spark.context.SparkContextManager import org.apache.spark.rdd.RDD /**

原创 mysql timestamp使用示例

#獲取當前時間戳 select unix_timestamp()   #獲取指定時間的時間戳 select unix_timestamp('1970-01-01 22:10:10')   #獲取當前日期 select from_unixt

原创 大數據端口一覽

組件 節點 默認端口 配置 用途說明 HDFS DataNode 50010 dfs.datanode.address datanode服務端口,用於數據傳輸 HDFS DataNode

原创 ping - connect: No buffer space available

修復這個問題需要增加ARP表空間。 查看系統參數命令: sysctl -p  永久修復方法: 修改/etc/sysctl.conf增加如下行: net.ipv4.neigh.default.gc_thresh3 = 4096 net

原创 shell value too great for base

示例: tar_file_month=`date +%m` rsync -auzq --exclude="2012_0[1-9]" --exclude="2012_1[0-2]" --exclude="2013_0[1-"$(($ta

原创 Scala: 合併兩個Map

Solution1: foldLeft scala> val merged = (m1 /: m2) { case (map, (k,v)) => map + ( k -> (v + map.getOrElse(k,

原创 wget下載ftp地址密碼裏有@符號如何解決

直接執行wget命令,如果ftp鏈接中的用戶名/密碼有@,那麼會和關鍵字@衝突,需要顯示指定用戶名和密碼,如下: #wget --ftp-user=USER --ftp-password=PASS ftp://1.1.1.1/a wge

原创 Starting sshd:/var/empty/sshd must be owned by root and not group or world-writable

這個是權限的問題 可採取以下兩步解決 chown   -R   root.root    /var/empty/sshd chmod 744 /var/empty/sshd service sshd restart 就可以解決上述的

原创 關於GZIPInputStream的bug

http://cin-ie.iteye.com/blog/859822 關於GZIPInputStream的bug,在jdk的最新版本上竟然還沒解決這個問題。用到gzip的需要注意了:   http://bugs.sun.com/bugd

原创 Scala:通過key或者value排序Map(sortBy, sortWith)

sort the map by key, from low to high, using sortBy: scala> import scala.collection.immutable.ListMap import scala.co

原创 JMX參數配置

JMX Prometheus Exporter配置示例: export DN_OPTS="-Dcom.sun.management.jmxremote.authenticate=false -Dcom.sun.management.jm