原创 LD_LIBRARY_PATH vs LIBRARY_PATH

LIBRARY_PATH is used by gcc before compilation to search for directories containing libraries that need to be linked

原创 debug經驗彙總

(1)使用pstack (2)調試core文件 # gdb ./segment core   (3)使用strace strace -tt -f -s 1234 -o /tmp/strace.cwc -p pidnum

原创 ice調通過iceReplica用所有server instance的方法---客戶端控制服務端的負載均衡

I 使用此方法,可以增量的通知Ice服務配置的改變,刷新每個服務進程的數據可以手動控制客戶端調用的負載均衡,客戶端程序決定將請求發往那個進程 上代碼: import logging import Ice,IceGrid import

原创 Beanstalkd

摘要by ck:beanstalkd  和  kafka的本質區別是什麼? Beanstalkd,一個高性能、輕量級的分佈式內存隊列系統,最初設計的目的是想通過後臺異步執行耗時的任務來降低高容量Web應用系統的頁面訪問延遲,支持

原创 http header cache-control (request和response區別)

摘要:(1)網絡服務會根據 request的header中的 cache-control策略設置response的cache-control策略 1 response cache-control 和 request cache-contr

原创 git的理念

一個很好的git教程:http://www.liaoxuefeng.com/wiki/0013739516305929606dd18361248578c67b8067c8c017b000 1  集中式vs分佈式 4924次閱讀 L

原创 elasticsearch簡介

elasticsearch 摘要: 1 es是一個分佈式全文搜索引擎。特定是:無中心化,實時,擴展性強。 2. es有幾個好的概念或者特點:(1)cluster 集羣無中心化。(2)shards。分片,通過分片實現分佈式。(3)通

原创 elasticsearch快照和恢復

摘要:es可以通過簡單的命令對索引或者整個集羣進行快照和恢復 快照和恢復 Snapshot and restore 模塊允許創建單個索引或者整個集羣的快照到遠程倉庫. 在初始版本里只支持共享文件系統的倉庫,但是現在通過官方的倉

原创 kafka和flume的對比

摘要: (1)kafka和flume都是日誌系統。kafka是分佈式消息中間件,自帶存儲,提供push和pull存取數據功能。flume分爲agent(數據採集器),collector(數據簡單處理和寫入),storage(存儲器)三部

原创 log4cxx 使用代碼進行配置

(1)官網的一個例子 #include <log4cxx/logger.h> #include <log4cxx/helpers/pool.h> #include <log4cxx/basicconfigurator.h> #incl

原创 使用Python實現Hadoop MapReduce程序

轉自:使用Python實現Hadoop MapReduce程序 英文原文:Writing an Hadoop MapReduce Program in Python 根據上面兩篇文章,下面是我在自己的ubuntu上的運行過

原创 一個Cmake的例子

命令查詢列表:http://www.cmake.org/cmake/help/v3.2/manual/cmake-commands.7.html # # Official dependency number 0: CMake. # O

原创 spark第一篇--簡介,應用場景和基本原理

摘要: spark的優勢:(1)圖計算,迭代計算(2)交互式查詢計算 spark特點:(1)分佈式並行計算框架(2)內存計算,不僅數據加載到內存,中間結果也存儲內存 爲了滿足挖掘分析與交互式實時查詢的計算需求,騰訊大數據使

原创 word2vec c代碼使用說明

摘要: 1 分詞 將文本語料進行分詞,以空格,tab隔開都可以。生成分詞後的語料 2 訓練 對分詞後的語料test.txt 進行訓練得到模型文件vectors.bin  /word2vec -train test.txt -o

原创 spark第二篇--基本原理

==是什麼 ==   目標Scope(解決什麼問題)   在大規模的特定數據集上的迭代運算或重複查詢檢索   官方定義 aMapReduce-like cluster computing framework designe