原创 hive零散
cloudera自帶的spark可用後,安裝hive嘗試跑shark。 hive是將SQL轉換成MR作業運行的工具。 hive的三種模式: 內嵌模式:將元數據保存在本地內嵌的Derby數據庫中,這得使用Hive最簡單的方式,不過使用內嵌模
原创 ssh無密碼登陸配置以及yum安裝之前遇到的問題解決
(一) 首先請確保防火牆都處於關閉狀態,具體命令是ufs disable。並確保安裝ssh spenssh-server。 在主機sophia中執行以下命令: cd ~/.ssh (進入用戶目錄下的隱藏文件.ssh)ssh-key
原创 shark0.8.1安裝部署
作爲Hadoop生態系統一部分的Hive,使得用戶可以編寫類sql(HQL)語句後再由Hive進行轉化成不同的map-reduce任務交給hadoop來執行。Spark是一個分佈式的內存計算系統,主要充當分佈式
原创 Spark on yarn測試存檔
從spark-class腳本結合後期日誌可以看到,spark啓動首先讀取來自spark-env.sh的環境變量,首先加載spark_mem等變量,然後查找jar包以及讀取類路徑。採用yarn-client模式,則將
原创 shark部署筆記
參照CDH5官方文檔 hive mysql 授權訪問賬號 <!-- metastore config end --> 配置hive-site.xml支持lock manager(這個是需要藉助zookeeper集羣) <property>
原创 ZK開發要害知識點
http://www.myexception.cn/web/1403102.html感謝原創 ZK開發關鍵知識點 前言 本文是對ZK開發過程中必須掌握的關鍵知識點的總結,針對目前對新版本zk-6.5.2 關於ZK是什麼參見前
原创 轉載hibernate總結
一、Hibernate概述 1.概述 (1)JDBC優缺點 * 優點:直接底層操作,提供了很簡單、便捷的訪問數據庫的方法,跨平臺性比較強.靈活性比較強,可以寫很複雜的SQL語句.
原创 spring總結
一、概述 1. Spring是一個開源框架,其目的是爲了解決企業應用開發的複雜性. 2. Spring功能:使用基本的JavaBean代替EJB,並提供更多的企業應用功能. 3. 簡單說,Spring是一個輕
原创 泛型中的extend以及super
泛型是在Java 1.5中被加入了,這裏不討論泛型的細節問題,這個在Thinking in Java第四版中講的非常清楚,這裏要講的是super和extends關鍵字,以及在使用這兩個關鍵字的時候爲什麼會不同的限制。 首先,我們定
原创 雜記:hive報錯以及spark中hive應用
轉載內容,謝謝原創。雜記。 (1) Yarn Cluster: Spark Driver程序將作爲一個ApplicationMaster在YARN集羣中先啓動,然後再由ApplicationMaster向RM申請資源啓動 executo
原创 mvc模式優缺點
優點: 1、開發人員可以只關注整個結構中的其中某一層; 2、可以很容易的用新的實現來替換原有層次的實現; 3、可以降低層與層之間的依賴; 4、有利於標準化; 5、利於各層邏輯的複用。 概括來說,分層式設計可以達至如下目的:分散關注、
原创 zk的checkbox
<div sclass="ine_div rdg"> <label sclass="itm_lab" value=" 權限 :" /> <checkbox id="l1" label="讀" checked="@bind(vm.
原创 tachyon方面轉載
參考文章,感謝作者共享 http://www.cnblogs.com/byrhuangqiang/p/3940017.html http://blog.itpub.net/22268043/viewspace-1114449/ http:
原创 MyEclipse中ZK項目運行時候tomcat的報錯
解決辦法: 1、首先關閉MyEclipse工作空間。 2、然後刪除工作空間下的 “/.metadata/.plugins/org.eclipse.core.runtime/.settings/com.genuitec.ec
原创 如何提高java技能
如何提高自己的 Java 編程技能 (2007-01-18 18:00:18) 轉載▼ 分類: Java Technology 可以按照兩條路線提高自己的技能:參加一個課程(爲了認證或者只是爲了學習)或自學(當然