原创 面向切面編程-AOP的介紹

AOP簡介AOP(Aspect-Oriented Programming, 面向切面編程): 是一種新的方法論, 是對傳統 OOP(Object-Oriented Programming, 面向對象編程) 的補充.。AOP 的主要編程對象

原创 mybatis中sql語句查詢操作

動態sql where if where可以自動處理第一個and。 <!-- 根據id查詢用戶信息 --> <!-- public User findUserById(int id); --> <selec

原创 spring的開發

spring與web的整合1. 整合的原理:Spring容器隨着tomcat容器ServletContext的啓動而啓動,並且在初始化完成後放到整個應用都可以訪問的範圍。ApplicationContext隨着服務器的啓動而啓動,可以藉助

原创 Liunx的目錄結構

    /: 根目錄,一般根目錄下只存放目錄,不要存放文件。       /etc、/bin、/dev、/lib、/sbin應該和根目錄放置在一個分區中   /bin: /usr/bin:  (binaries)存放二進制可執行文件。如常

原创 Liunx網絡管理

本地yum源 yum(Yellow dog Updater, Modified)是一個在 Fedora 和 RedHat 以及CentOS 中的 Shell 前端軟件包管理器。基於 RPM 包管理,能夠從指定的服務器自動下載 RPM 包並

原创 Hive的內置函數

定義:UDF(User-Defined-Function),用戶自定義函數對數據進行處理。UDTF(User-Defined Table-Generating Functions) 用來解決 輸入一行輸出多行(On-to-many map

原创 HDFS重要特性

首先,它是一個文件系統,用於存儲文件,通過統一的命名空間目錄樹來定位文件;其次,它是分佈式的,由很多服務器聯合起來實現其功能,集羣中的服務器有各自的角色。1. master/slave 架構  HDFS 採用 master/slave 架

原创 HDFS的JavaAPI

配置windows平臺的Hadoop環境   在 windows 上做 HDFS 客戶端應用開發,需要設置 Hadoop 環境,而且要求是windows 平臺編譯的 Hadoop,不然會報以下的錯誤:Failed to locate th

原创 MapReduce輸入輸出的處理流程及combiner

MapReduce 的輸入輸出MapReduce 框架運轉在<key,value> 鍵值對上,也就是說,框架把作業的輸入看成是一組<key,value>鍵值對,同樣也產生一組<key,value>鍵值對作爲作業的輸出,這兩組鍵值對可能是不

原创 Hive的運算和函數大全

hive 常用運算測試各種內置函數的快捷方法:創建一個 dual 表create table dual(id string);load 一個文件(只有一行內容:內容爲一個空格)到 dual 表  第一部分:關係運算  Hive支持的關係運

原创 Hive的介紹及安裝

簡介 Hive 是基於 Hadoop 的一個數據倉庫工具,可以將結構化的數據文件 映射爲一張數據庫表,並提供類 SQL 查詢功能。  本質是將 SQL 轉換爲 MapReduce 程序。  Hive組件    用戶接口:包括 CLI、JD

原创 MapReduce序列化及分區的java代碼示例

概述  序列化(Serialization)是指把結構化對象轉化爲字節流。  反序列化(Deserialization)是序列化的逆過程。把字節流轉爲結構化對象。  當要在進程間傳遞對象或持久化對象的時候,就需要序列化對象成字節流,反之當

原创 Hive的DML操作

1. Load  在將數據加載到表中時,Hive 不會進行任何轉換。加載操作是將數據文件移動到與 Hive表對應的位置的純複製/移動操作。  語法結構:load data [local] inpath 'filepath' [overwr

原创 Hive的DDL操作

DDL(數據定義語言)操作    Hive配置單元包含一個名爲 default 默認的數據庫.    create database [if not exists] <database name>;---創建數據庫    show dat

原创 HDFS原理

1 . NameNode 概述a、 NameNode 是 HDFS 的核心。b、 NameNode 也稱爲 Master。c、 NameNode 僅存儲 HDFS 的元數據:文件系統中所有文件的目錄樹,並跟蹤整個集羣中的文件。d、 Nam