原创 HDFS的讀寫刪操作流程
一、讀取流程 上圖的詳細過程: 1、HDFS提供的客戶端開發庫Client,通過RPC訪問NameNode,發送讀操作。 2、NameNode通過查詢元數據,獲取到文件的存儲路徑,將文件對應的全部(文件較小)或者文件的部分(文件
原创 HDFS概述、HDFS主要技術、HDFS指令、HDFS回收站機制及配置、dfs路徑
一.HDFS概述 ` Hadoop Distributed File System----- Hadoop分佈式文件存儲系統,是hadoop的一個組件,用於數據的存儲。 HDFS的總體佈局: HDFS中存在一個名字節點N
原创 Storm集羣配置與啓動
一、Storm集羣配置 搭建總體的架構: 實現步驟: 1.安裝和配置jdk 2.安裝和配置zookeeper 3.上傳和解壓storm 4.配置storm安裝目錄conf目錄下的storm.yaml文件 storm.yaml配置
原创 簡介、編譯運行、關鍵字、標識符、駝峯命名法
Java基礎之簡介 Java語言簡介: ·Java是一款高級編程語言,它的開發語言是c語言。 ·91年問世,1995年由SUN公司正式推出,Oak-橡樹是sun公司推出的第一個版本。 Java語言的跨平臺: 就是Java代
原创 Kafka使用過程中遇到的異常
異常一: Exception in thread "main" java.lang.NoClassDefFoundError: kafka/api/OffsetRequest at storm.kafka.KafkaConfig.<i
原创 Linux下的安裝Hive支持的Mysql
1.下載mysql安裝包 MySQL-client-5.6.29-1.linux_glibc2.5.x86_64.rpm 2.確認當前虛擬機之前是否有安裝過mysql 執行:rpm -qa | grep mysql 如果出現下圖,證明
原创 eclipse中web項目名稱的修改
右鍵工程—properties—web project setting—輸入新名稱; 修改項目工作空間目錄下的該模塊的.project文件,一開頭 修改項目工作空間目錄下的該模塊 —settings—org.ecli
原创 大數據之Storm學習
一、Storm介紹 官方網址:http://storm.apache.org/ 官方對於Storm的介紹: Apache Storm is a free and open source distributed realtime
原创 大數據之Storm集羣配置與啓動
一、Storm集羣配置 搭建總體的架構: 實現步驟: 1.安裝和配置jdk 2.安裝和配置zookeeper 3.上傳和解壓storm 4.配置storm安裝目錄conf目錄下的storm.yaml文件 storm.yaml配置示例
原创 大數據之Kafka
一、Kafka介紹: ` Kafka是一種分佈式的、基於發佈訂閱的消息系統,能夠高效並實時的吞吐數據,以及通過分佈式集羣和複本冗餘機制實現數據的安全。 二、Kafka的安裝配置: 從官網下載安裝包 http://kafka.ap
原创 樹之紅黑樹、二叉查找樹
一、紅黑樹Red-black Tree: ` 紅黑樹一種自平衡二叉查找樹,是計算機科學中用到的一種數據結構,典型用途是實現關聯數組。紅黑書很複雜,但是他的操作有良好的最壞情況運行時間,不管是查找、插入和刪除,他的時間複雜度都是O(lo
原创 大數據之HDFS的讀寫刪操作流程
一、讀取流程 上圖的詳細過程: 1、HDFS提供的客戶端開發庫Client,通過RPC訪問NameNode,發送讀操作。 2、NameNode通過查詢元數據,獲取到文件的存儲路徑,將文件對應的全部(文件較小)或者文件的部分(文件較大
原创 高併發基礎之Zookeeper的觀察者Observer05
觀察者Observer 功能: 功能一就如同他的名字,只是一個觀察者,對leader和follower的工作進行觀察監聽。 功能二就是動態擴展zookeeper集羣,而又不影響集羣的性能,接收客戶端連接,執行leader更新系
原创 高併發之Concurrent包第四部分HashMap、HashTable、ConcurrentMap
ConcurrentMap:併發映射 HashMap ` 基於hash表進行存儲的映射。異步式線程不安全的映射—沒有同步鎖機制,多個線程訪問的時候會有數據不明確的問題。 ` 雖然不安全,但是效率高。 ` 底層以數組+鏈表結構存儲