原创 Python 中的進程、線程、協程、同步、異步、回調
進程和線程究竟是什麼東西?傳統網絡服務模型是如何工作的?協程和線程的關係和區別有哪些?IO過程在什麼時間發生? 在剛剛結束的 PyCon2014 上海站,來自七牛雲存儲的 Python 高級工程師許智翔帶來了關於 Python 的分享
原创 編譯安裝Ambari
1.2 需要安裝的工具 1.2.1 安裝JDK 輸入命令 [root@bigData-02 ~]# Java –version java version "1.7.0_51" Java(TM) SE Runtime Env
原创 NoSQL 數據庫產品學習總結(一)
NoSQL 數據庫產品學習總結(一) 本篇文章共分爲四個章節,會陸續整理下 Memcached、Redis、tair、mongodb、hbase、SequoiaDB、 Cassandra的相關知識。 本文爲第一個章節,先簡介下memca
原创 YARN ResourceManager調度器的分析
YARN是Hadoop新版中的資源控制框架。本文旨在深入剖析ResourceManager的調度器,探討三種調度器的設計側重,最後給出一些配置建議和參數解釋。 本文分析基於CDH4.2.1。調度器這個部分目前還在快速變化之中。例如,
原创 sbt環境搭建
在公司網絡中使用 sbt 、 Maven 等項目構建工具時,我們通常會搭建一個公用的Nexus 鏡像服務,原因有以下幾個: 避免重複下載依賴,節省公司帶寬;國內網絡環境不理想,下載速度慢;IDC服務器沒有外網訪問權限;用於發佈內部模塊。
原创 Hadoop系列(5)之容量調度器Capacity Scheduler配置
1. 應用場景 本文只關注配置,關於調度器的算法以及核心內容將在下一篇介紹。 Capacity Scheduler是YARN中默認的資源調度器,但是在默認情況下只有root.default 一個queue。而當不同用戶提交任務時,任務
原创 spark yarn-client和yarn-cluster
大數據系列零基礎由入門到實戰視頻 <iframe id="iframeu1728839_0" src="http://pos.baidu.com/acom?rdid=1728839&dc=2&di=u172883
原创 Spring MVC之@RequestParam @RequestBody @RequestHeader 等詳解
引言: 接上一篇文章,對@RequestMapping進行地址映射講解之後,該篇主要講解request 數據到handler method 參數數據的綁定所用到的註解和什麼情形下使用; 簡介: handler method 參
原创 自定義protobuf編解碼器
Protobuf3 + Netty4: 在socket上傳輸多種類型的protobuf數據 Protobuf序列化的字節流數據是不能自描述的,當我們通過socket把數據發送到Client時,Client必須知道發送的是什麼類型
原创 常見知識點
賬戶無密切換:https://jingyan.baidu.com/article/a17d5285268e958099c8f257.html
原创 python 協程示例
協程,又稱微線程,纖程。英文名Coroutine。 協程的概念很早就提出來了,但直到最近幾年纔在某些語言(如Lua)中得到廣泛應用。 子程序,或者稱爲函數,在所有語言中都是層級調用,比如A調用B,B在執行過程中又調用了C,C執行完
原创 git tag的用法
git tag — 標籤相關操作 列出標籤 $ git tag # 在控制檯打印出當前倉庫的所有標籤 $ git tag -l ‘v0.1.*’ # 搜索符合模式的標籤 打標籤 git標籤分爲兩種類型:輕量標籤和附註標籤。輕量標籤
原创 使用Intell IDEA Debug jetty web應用
以下適合於使用maven管理的web工程,運行在jetty容器下: 1.添加jetty的maven插件 [html] view plaincopyprint? <plugin> <groupId>org.m
原创 python yield和send
包含yield表達式的函數是特殊的函數,叫做生成器函數(generator function),被調用時將返回一個迭代器(iterator),調用時可以使用next或send(msg)。它的用法與return相似,區別在於它會記住上次迭代
原创 使用ssh private key 免密碼登陸服務器的流程(Amazon 的EMR 採用了此方式登陸服務器)
第一步: 在服務器上 執行該命令 ssh-keygen -t ras -C "" ,會在服務器上生成 id_rsa 和 id_rsa.pub 兩個文件。 第二步:將id_rsa.pub 文件的內容 拷貝到 authorized_ke