原创 NodeManager啓動失敗--防火牆篇
Hadoop環境CDH4.4 今天年後第一天上班(實習中),還過一個月,實習第一份實習合同就到期了~ Hadoop集羣的虛擬環境看上去太亂,所以就將3個節點(1master + 2Slaves)重啓,結果NodeManager啓動失敗。查
原创 R安裝所有包的命令
availablePackages <- available.packages()[,1] install.packages(availablePackages)
原创 Programming Hive Chapter3 (數據類型和文件格式)
-----------------------------------------------------------------------------------------------------------------------
原创 【Scala學習筆記】4. For、Function、Lazy
For for循環之前已經提到過,這裏做進階介紹: for (i <- 1 to 2;j <- 1 to 2 if i != j) println(100*i + j + " ") 可以加入條件表達式,當然,條件表達式可以非
原创 【Scala學習筆記】1. Hello Scala
Scala開發環境搭建 Scala是一門函數式面向對象編程語言。 函數式編程——擅長數值計算 面向對象編程——大型工程、項目的組織和團隊的分工協作 目前最爲炙手可熱的大數據框架Spark是用Scala寫的。Scala是基於J
原创 Hive內置函數的使用(1)
工作中用到了一些,總結一下: 1、 行拆分、合併 1. 分拆explode(ARRAY) 返回值:多行 SELECT explode(myCol) AS myNewCol FROM myTable; 注:1.使用UDTF函數時,se
原创 Linux下忘記root密碼怎麼辦?
1.首先確認服務器出於安全的狀態,也就是沒有人能夠任意地連接MySQL數據庫。 因爲在重新設置MySQL的root密碼的期間,MySQL數據庫完全出於沒有密碼保護的 狀態下,其他的用戶也可以任意地登錄和修改MySQL的信息。可以採用
原创 【Scala學習筆記】2. 函數定義、流程控制、異常處理
Scala深入淺出實戰 第2講 by 王家林 本節都是比較簡單的介紹,更具體的內容會在後面的視頻中具體講解。 函數定義 下面以main函數來說明函數的一般定義: object HelloScala { def main(ar
原创 【Scala學習筆記】3. Tuple、Array、Map
Scala深入淺出實戰 第3講 by 王家林 建議採用Scala Work Sheet進行本節實驗 Tuple 元組,元組中可以由很多數據,讀取Tuple數據時使用._的方式讀取,並且索引從1開始。經常用Tuple接受函數的返回
原创 【Spark1.6官方翻譯】Spark快速入門
英文標題:Quick Start 英文原址:http://spark.apache.org/docs/latest/quick-start.html Spark Version:1.6.0 使用Spark Shell進行
原创 【Spark1.3官方翻譯】Spark集羣模式概覽
英文標題:Cluster Mode Overview 英文原址:http://spark.apache.org/docs/latest/cluster-overview.html Spark Version:1.3.1(201
原创 error while loading shared libraries的解決方法
自己編譯一些程序,而程序難免會引用到別的so文件,但是有些so問總是找不到。報:error while loading shared libraries類似的錯誤。 ./Rserve: error while loading sha
原创 Linux下Python 2.7 & easy_install 安裝
Python 2.7.3 1.wget http://www.python.org/ftp/python/2.7.3/Python-2.7.3.tgz 2.tar zxf Python-2.7.3.tgz 3.cd Python-2.7.
原创 Hive權限控制和超級管理員的實現
Hive權限機制: Hive從0.10可以通過元數據控制權限。但是Hive的權限控制並不是完全安全的。基本的授權方案的目的是防止用戶不小心做了不合適的事情。 先決條件: 爲了使用Hive的授權機制,有兩個參數必須在hive-si
原创 Rserve執行報錯
自己編譯一些程序,而程序難免會引用到別的so文件,但是有些so問總是找不到。報:error while loading shared libraries類似的錯誤。 ./Rserve: error while loading shar