原创 Python 中的進程、線程、協程、同步、異步、回調

進程和線程究竟是什麼東西?傳統網絡服務模型是如何工作的?協程和線程的關係和區別有哪些?IO過程在什麼時間發生? 在剛剛結束的 PyCon2014 上海站,來自七牛雲存儲的 Python 高級工程師許智翔帶來了關於 Python 的分享

原创 編譯安裝Ambari

1.2 需要安裝的工具 1.2.1     安裝JDK 輸入命令 [root@bigData-02 ~]# Java –version java version "1.7.0_51" Java(TM) SE Runtime Env

原创 NoSQL 數據庫產品學習總結(一)

NoSQL 數據庫產品學習總結(一) 本篇文章共分爲四個章節,會陸續整理下 Memcached、Redis、tair、mongodb、hbase、SequoiaDB、 Cassandra的相關知識。 本文爲第一個章節,先簡介下memca

原创 YARN ResourceManager調度器的分析

YARN是Hadoop新版中的資源控制框架。本文旨在深入剖析ResourceManager的調度器,探討三種調度器的設計側重,最後給出一些配置建議和參數解釋。 本文分析基於CDH4.2.1。調度器這個部分目前還在快速變化之中。例如,

原创 sbt環境搭建

在公司網絡中使用 sbt 、 Maven 等項目構建工具時,我們通常會搭建一個公用的Nexus 鏡像服務,原因有以下幾個: 避免重複下載依賴,節省公司帶寬;國內網絡環境不理想,下載速度慢;IDC服務器沒有外網訪問權限;用於發佈內部模塊。

原创 Hadoop系列(5)之容量調度器Capacity Scheduler配置

1. 應用場景 本文只關注配置,關於調度器的算法以及核心內容將在下一篇介紹。 Capacity Scheduler是YARN中默認的資源調度器,但是在默認情況下只有root.default 一個queue。而當不同用戶提交任務時,任務

原创 spark yarn-client和yarn-cluster

大數據系列零基礎由入門到實戰視頻 <iframe id="iframeu1728839_0" src="http://pos.baidu.com/acom?rdid=1728839&amp;dc=2&amp;di=u172883

原创 Spring MVC之@RequestParam @RequestBody @RequestHeader 等詳解

引言: 接上一篇文章,對@RequestMapping進行地址映射講解之後,該篇主要講解request 數據到handler method 參數數據的綁定所用到的註解和什麼情形下使用; 簡介: handler method 參

原创 自定義protobuf編解碼器

Protobuf3 + Netty4: 在socket上傳輸多種類型的protobuf數據 Protobuf序列化的字節流數據是不能自描述的,當我們通過socket把數據發送到Client時,Client必須知道發送的是什麼類型

原创 常見知識點

賬戶無密切換:https://jingyan.baidu.com/article/a17d5285268e958099c8f257.html

原创 python 協程示例

協程,又稱微線程,纖程。英文名Coroutine。 協程的概念很早就提出來了,但直到最近幾年纔在某些語言(如Lua)中得到廣泛應用。 子程序,或者稱爲函數,在所有語言中都是層級調用,比如A調用B,B在執行過程中又調用了C,C執行完

原创 git tag的用法

git tag — 標籤相關操作 列出標籤 $ git tag # 在控制檯打印出當前倉庫的所有標籤 $ git tag -l ‘v0.1.*’ # 搜索符合模式的標籤 打標籤 git標籤分爲兩種類型:輕量標籤和附註標籤。輕量標籤

原创 使用Intell IDEA Debug jetty web應用

以下適合於使用maven管理的web工程,運行在jetty容器下: 1.添加jetty的maven插件 [html] view plaincopyprint? <plugin>      <groupId>org.m

原创 python yield和send

包含yield表達式的函數是特殊的函數,叫做生成器函數(generator function),被調用時將返回一個迭代器(iterator),調用時可以使用next或send(msg)。它的用法與return相似,區別在於它會記住上次迭代

原创 使用ssh private key 免密碼登陸服務器的流程(Amazon 的EMR 採用了此方式登陸服務器)

第一步: 在服務器上 執行該命令 ssh-keygen -t ras -C ""  ,會在服務器上生成 id_rsa 和 id_rsa.pub 兩個文件。 第二步:將id_rsa.pub 文件的內容 拷貝到   authorized_ke