原创 設計模式入門--觀察者模式

概念 當一個主題對象狀態發生變化時,則會自動通知它的依賴對象進行一些邏輯的處理,這就是觀察者模式。 直白點說,一個類依賴另外一個乃至多個類,這個類實例狀態變化時,會調用它所依賴對象的接口,觸發它依賴對象進行某些邏輯的處理。專門

原创 hadoop入門--使用Apache Pig統計每個航班班次

案例基於hadoop 2.73,僞分佈式集羣 1,數據包導入hadoop集羣hdfs的/user/root目錄下 hdfs dfs -copyFromLocal 2008.csv /user/root 2,編寫totalmile

原创 hadoop入門--通過Apache Flume向HDFS存儲數據

本筆記基於Hadoop2.7.3,Apache Flume 1.8.0。其中flume source爲netcat,flume channel爲memory,flume sink爲hdfs。 1,配置flume代理文件 配置一個

原创 設計模式入門--發佈訂閱模式

概念 首先說明一下,發佈-訂閱模式並不等同於觀察者模式,這兩者是有區別的。舉例說明,用戶直接向出版社訂閱雜誌,出版社直接把雜誌發送給訂閱雜誌的用戶,這種場景就是觀察者模式。而發佈-訂閱模式則不同,出版社和用戶並不直接接觸,用戶是向

原创 springboot入門--springboot集成redis實現消息發佈訂閱模式

1,application.properties配置redis以及連接池 #redis spring.redis.host=localhost spring.redis.port=6379 #spring.redis.passwo

原创 hadoop入門--圖說MapReduce處理數據的過程

下圖來源於《Hadoop For Dummies》圖書,示例爲統計每個航班的飛行航次。 學習資料: 1,《Hadoop For Dummies》 點贊 收藏 分享 文章舉報

原创 hadoop入門--簡述Hadoop 1.X 系統原理

一、hadoop 1.x結構 HDFS:hadoop分佈式存儲系統。 MapReduce:分佈式計算框架,包含資源管理和任務調度等(hadoop 2.x中被分離到Yarn組件)。 API:用戶與系統交互的入口,有原生的MapR

原创 hadoop入門--使用MapReduce統計每個航班班次

案例基於hadoop 2.73,僞分佈式集羣 一,創建一個MapReduce應用 MapReduce應用結構如圖: 1、引入maven依賴 <project xmlns="http://maven.apache.org/POM

原创 hadoop入門--簡述hadoop 2.x Yarn組件協作過程

系統結構 hadoop2.x主要包括三個核心部分: (1) hdfs-分佈式存儲組件 hadoop用於存儲數據的基礎組件。分佈式的,跨網絡交互的hdfs集羣。 (2) yarn-資源管理、任務調度組件 hadoop用於資源管理、

原创 一張圖講清楚SpringMVC運行原理,以及攔截器&過濾器區別與執行順序

本文目錄一、一張圖講清過濾器與攔截器在SpringMVC請求響應流程情況二、Filter過濾器在SpringBoot項目中使用說明1、註解方式2、編碼方式三、Interceptor攔截器在SpringBoot項目中使用說明1、繼承

原创 【安卓異常】android studio Error type 3

真機調試時,android studio會像真機傳輸數據,安裝一個以項目名爲app名的app。調試完,手機卸載這個app。然後再次編譯運行時報錯Error type 3。原因是卸載時沒有卸載乾淨,手機設置下的應用列表裏依舊有這個a

原创 Spring註解@ConfigurationProperties

@ConfigurationProperties是一個外部化配置註解,比如外部的.properties屬性文件。使用該註解,可以實現把外部的屬性綁定到Bean實例,也可以實現在綁定的過程對外部屬性進行合法性驗證。 一、@Confi

原创 docker部署GitLab配置本機自動備份、自動清理

Docker部署GitLab 1.gitlab鏡像拉取 # gitlab-ce爲穩定版本,後面不填寫版本則默認pull最新latest版本 $ docker pull gitlab/gitlab-ce 2.運行gitlab鏡像