原创 Java的字符表示格式

Java的字符表示格式是什麼? JVM的設計者當初決定JVM中所有字符的表示形式時,是不允許使用各種編碼方式的字符並存的。 原因:如果內存中的Java字符可以以GB2312、UTF-16、BIG5等各種編碼存在,那麼對於開發者來說,連最基

原创 Hadoop部署安裝 Hadoop3.1.2的完全分佈式部署

文章目錄大綱〇、Hadoop下載地址一、分配機器環境二、SSH配置三、分佈式配置部署啓動 大綱 機器環境及SSH預處理 hadoop安裝部署 〇、Hadoop下載地址 採用apache官網下載地址進行下載 apache索引目錄

原创 超簡單的zookeeper的完全分佈式安裝

下載地址 apache索引目錄 Index of /dist 分佈式部署 選擇3臺機器,這裏選擇了3臺機器 172.23.7.9 172.23.7.10 172.23.7.12 創建一個data目錄,存放zk數據 例

原创 Hadoop系列(一)開篇簡介

文章目錄Hadoop是什麼總結Hadoop的起源Hadoop版本與架構核心Hadoop理念PS 誰說大象不會跳舞 Hadoop是什麼 Hadoop的官網:http://hadoop.apache.org/ 官網定義:The Apa

原创 Hadoop系列(四)Hadoop三大核心之HDFS Java API

文章目錄概念具體操作 HDFS 設計的主要目的是對海量數據進行存儲,也就是說在其上能夠存儲很大量的文件。 HDFS 將這些文件分割之後,存儲在不同的 DataNode 上,HDFS 提供了通過Java API 對 HDFS 裏面的

原创 Hadoop系列(三)Hadoop三大核心之HDFS shell常用命令

文章目錄HDFS常用命令help 查看所有命令查看路徑文件創建文件夾創建多級文件夾查看指定目錄下和子目錄下所有文件上傳文件下載文件合併下載複製移動或重命名刪除強制刪除查看文件內容統計文件行數返回文件前n行(以10行爲例)返回文件後

原创 Hadoop系列(五)Hadoop三大核心之HDFS 讀寫流程

文章目錄HDFS寫數據流程HDFS讀流程 首先,再回顧一下HDFS的架構圖 HDFS寫數據流程 客戶端發送請求,調用DistributedFileSystem API的create方法去請求namenode,並告訴namen

原创 Hadoop系列(七)Hadoop三大核心之MapReduce-程序編寫

文章目錄1. 準備部分2. jar包依賴3. Map部分4.Reduce部分5.提交部分6.打包提交 接下來以一個簡單的WordCount爲例子,介紹Java版本的MapReduce的程序編寫。 mapreduce程序主要分三部分

原创 Hadoop系列(九)Hadoop三大核心之Yarn-資源調度詳解

文章目錄Yarn的調度流程詳解Yarn的調度策略1.FIFO先進先出調度2.Capacity 容量調度機制3.Fair 公平調度機制 Yarn的調度流程詳解 Client端提交作業到ResourceManager中的Appl

原创 scala這寫的都是啥?一篇文章搞懂柯里化

文章目錄前言這奇葩寫法咋來的函數的特權函數的嵌套終於說到正題了小結什麼,到這兒還沒完?閉包最後,這麼寫有什麼好處嗎 前言 平時我們在使用scala的時候,對scala的函數真的是有愛有恨,任意地方定義,形式簡單,恨的是變種太多了,

原创 超清晰明瞭的解釋Java序列化和反序列化

文章目錄一、序列化和反序列化的定義和場景二、序列化和反序列化的java實現Serializable接口序列化步驟反序列化步驟serialVersionUID的作用總結 一、序列化和反序列化的定義和場景 序列化:將對象寫入到IO流中

原创 Hadoop系列(八)Hadoop三大核心之Yarn-資源調度初探

文章目錄0. Yarn的來源1. YARN概述2. YARN的重要組成部分2.1 ResourceManager(1)Application Manager 應用程序管理器(2)Scheduler 資源調度器2.2 Nod

原创 Hadoop系列(六)Hadoop三大核心之MapReduce 基礎

文章目錄MapReduce背景MapReduce是什麼MapReduce的架構簡單介紹 MapReduce背景 在程序由單機版擴成分佈式版時,會引入大量的複雜工作。爲了提高開發效率,可以將分佈式程序中的公共功能封裝成框架,讓開發人

原创 kafka僞集羣Docker單機搭建,及其與spring boot集成

kafka & springboot 文章目錄kafka & springboot一、使用docker單機搭建kafka集羣二、springboot和kafka的整合三、kafka的多種處理方式 一、使用docker單機搭建kaf

原创 Java OOM問題如何排查

文章目錄OOM 問題什麼是OOM導致OOM問題的原因排查手段實戰MAT分析 OOM 問題 什麼是OOM OOM爲out of memory的簡稱,來源於java.lang.OutOfMemoryError,指程序需要的內存空間大於