原创 : Attribute "xmlns" was already specified for element "web-app".

該錯誤是由於maven項目重命名後造成的, web.xml中又生成了一句xmlns:web="http://java.sun.com/xml/ns/javaee"  刪掉重複的就ok

原创 ERROR: org.apache.hadoop.hbase.ipc.ServerNotRunningYetException: Server is not running yet

遇到該錯誤 1. 查看 hbase master log, 發現2014-07-14 23:31:51,270 INFO [master:192.168.126.8:60000] util.FSUtils: Waiting for df

原创 Storm編程入門

Storm是一個分佈式是實時計算系統,它設計了一種對流和計算的抽象,概念比較簡單,實際編程開發起來相對容易。下面,簡單介紹編程實踐過程中需要理解的Storm中的幾個概念: Topology Storm中Topology的概念

原创 Java字符串全角轉半角

根據unicode編碼寫的一個Java字符串全角轉半角的方法,分享下 /**      * 全角轉半角      * @param input String.      * @return 半角字符串      */  

原创 java與hbase交互

import java.io.IOException; import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.hbase.HBaseConfigura

原创 java來合併兩個對象

merge兩個對象,互補null,以新對象爲主,代碼如下 public static Object merge(Objectmaster, Object follow){ if(master ==null && follow =

原创 kafka常用的配置屬性

配置文件在config/server.properties 下面的一些配置可能是你需要進行修改的。 broker.id 整數,建議根據ip區分   log.dirs kafka存放消息文件的路徑, 默認/

原创 Spark核心RDD理解

與許多專有的大數據處理平臺不同,Spark建立在統一抽象的RDD之上,使得它可以以基本一致的方式應對不同的大數據處理場景,包括MapReduce,Streaming,SQL,Machine Learning以及Graph等。這即Ma

原创 storm分組總結

InputDeclarer接口定義了不同的流分組方式。每當TopologyBuilder的setBolt方法被調用就返回該對象,用於聲明一個Bolt的輸入流,以及這些流應該如何分組。InputDeclarer接口的完整定義代碼如下:

原创 GraphX入門介紹

GraphX原型論文 GraphX是 Spark中用於圖(e.g., Web-Graphs and Social Networks)和圖並行計算(e.g., PageRank and Collaborative Filtering)的

原创 shell命令計算MD5值

linux下 計算MD5值    printf "易寶支付有限公司" | md5sum | tr [a-z] [A-Z]  mac下 md5sum爲md5 printf "易寶支付有限公司" | md5 | tr [a-z] [A-Z] 

原创 TopologyBuilder

TopologyBuilder是構建拓撲的類,用於指定執行的拓撲。拓撲底層是Thrift結構,由於Thrift API非常冗長,使用TopologyBuilder可以極大地簡化建立拓撲的過程。   TopologyBuilder的公

原创 CMS GC時出現promotion failed跟concurrent mode failure

CMS GC時出現promotion failed和concurrent mode failure 對於採用CMS進行舊生代GC的程序而言,尤其要注意GC日誌中是否有promotion failed和concurrent mode

原创 Storm中Spout和Bolt的生命週期

1、在定義Topology實例過程中,定義好Spout實例和Bolt實例2、在提交Topology實例給Nimbus的過程中,會調用TopologyBuilder實例的createTopology()方法,以獲取定義的Topology實例

原创 啓發式算法

今天瞭解的啓發式算法: 通俗的說,啓發式算法是指在一個隨機的羣體尋優過程中,個體能夠利用自身或者全局的經驗來制定各自的搜索策略。相比最初的窮舉迭代搜索或者隨機搜索,一個顯著的特點就是個體能夠基於經驗或者個體間經驗交流改變搜索方式,是一種有