原创 超級賬本子項目 iroha 私鏈部署

安裝   ==儘量採用高版本的Ubuntu內核版本或GCC版本== 依賴包 下載 iroha git clone -b https://github.com/hyperledger/iroha 環境配置 sudo apt-g

原创 restful api 文檔定義工具

apidoc install Nodejs 安裝 下載Windows Installer (.msi) 版本的進行安裝 Nodejs 全局變量設置 在安裝目錄下創建 node_global 和 node_cache 文件夾 npm c

原创 Spark Standalone Mode 在 Win10 下搭建開發調試環境

系統環境變量配置 Java Env 略, 確保在cmd終端可以運行java C:\windows\system32>java -version java version "1.8.0_131" Java(TM) SE Runtime En

原创 【scala 筆記(9)】 隱式轉換 和 隱式參數-- implicit

隱式轉換和隱式參數是Scala的兩個功能強大的工具, 在幕後處理那些很有價值的工作。 隱式轉換 所謂隱式轉換函數(implicit conversion function)指的是那種以implicit關鍵字聲明的帶有 單個參數 的函數。

原创 Python 使用 Boto3 API 創建 EMR 集羣

EMR 指南 Amazon EMR [PDF]Amazon EMR - 開發人員指南 - Amazon.com 使用API創建EMR Python依賴包安裝 pip install boto3 API參考 EMR集羣主要採用 boto3

原创 編碼問題 UnicodeDecodeError

編碼問題是一件頭疼的事情,當我們在處理網絡數據流時。 例如: 在解析從文件中讀取的字符串, 想要將字符串統一編碼爲Unicode。經常會讀到亂七八糟的字符串(其他國家的字符串編碼) >>> line = 'Y\x02\xd9\xea\x

原创 【scala 筆記(8)】 特質 -- trait

特質(trait)是scala裏代碼複用的基礎單元。 特質封裝了方法和字段的定義, 並可以通過混入到類中複用它們。 與類的繼承時每個類都只能繼承唯一的超類不同, 類可以混入任意多個特質。 當做接口使用的特質 Scala的特質完全可以像Ja

原创 python 併發編程

概念 首先我們先了解下關於 併發與並行 的概念,這很容易讓人混淆如果不注意的話,甚至會有人認爲兩者是一樣的,統稱爲大家熟悉的併發編程; 引用下Erlang之父的解釋: ConcurrentTwo queues and one coffe

原创 【scala 筆記(1)】 基礎

簡介 Scala是一門多範式的編程語言,設計初衷是要集成面向對象編程和函數式編程的各種特性。Scala運行於Java平臺(Java虛擬機),併兼容現有的Java程序。 Scala 解釋器 啓動Scala解釋器的步驟如下: - 安裝Sca

原创 Spark 讀取CSV 解析單元格多行數值問題

CSV 樣例數據 [hadoop@ip-10-0-52-52 ~]$ cat test.csv id,name,address 1,zhang san,china shanghai 2,li si,"china beijing" 3,t

原创 【scala 筆記(7)】 Scala 擴展類、匿名子類、抽象類、樣例類、密封類

擴展類 scala 擴展類的方式和Java一樣, 使用 extends 關鍵字,例如: class Person(val Name:String){ def show() = {println("person name: " + Na

原创 【scala 筆記(2)】 控制結構 -- 高級for循環和for推導式

scala for表達式是枚舉操作的 “利器”, 它可以讓你用不同的方式把若干簡單的成分組合起來表達各種各樣的枚舉。 簡單使用適合於通常的任務, 例如枚舉整數序列。 高級表示可以同時枚舉不同類型的多個集合,可以用任意條件過濾元素, 還可以

原创 微博自動登錄

微博自動登錄後 先根據 redirect_uri 獲取code 再根據code獲取access_token python 依賴安裝包 pip install requests pip install sinaweibopy '''

原创 【scala 筆記(5)】 Scala中的函數

scala 除了支持方法(方法是對object的操作,也就是java中定義的class的方法)外還支持函數的; C/C++、Python 也有函數, 而在Java中我們只能通過靜態方法來模擬。 函數 函數定義 要定義一個函數,你要給出函數

原创 【scala 筆記(6)】 類(class)和對象(object)

熟悉JAVA/C++的人會發現Scala裏的某些概念雖然相似,但卻不完全相同。 類 (class) 簡單類和方法定義 簡單類類形式和JAVA/C++很像: class Counter{ private var value: Int