原创 @Primary 和 @Qualifier的區別

  當一個接口有多個不同實現時,注入Spring的時候會產生org.springframework.beans.factory.NoUniqueBeanDefinitionException異常信息。   解決方式有2種,使用@P

原创 SpringBoot項目的pom雜記

1、加載SpringBoot   SpringBoot可以在pom文件中使用繼承parent的方式,這種方式簡便易用。 <parent> <groupId>org.springframework.boot</groupId>

原创 Spring中事務的一些理解

Spring的事務管理是依靠底層數據庫的,也就是說他自己不管理事務,只提供接口,由底層數據庫實現。 Spring定義了一個接口,PlatformTransactionManager 接口來統一標準,對不同的框架又有不同的實現類。J

原创 對JDBC、DataSource、hibernate、MyBatis的一點看法

1、JDBC   JDBC是一種基準,是java連接各大廠商的關係型數據庫的接口規範。 /** * * @description: JDBC連接MySQL數據庫進行CRUD操作 * * 步驟: * 1、加載驅動和註冊數據庫信息

原创 Spark SQL 基礎

一、爲什麼要用SQL   爲什麼大數據需要SQL。爲什麼SQL已經誕生這麼長時間還在使用。爲什麼說一個框架不能落地到SQL上就不是一個好的框架。其實這個和SQL有關。 SQL是用來統計數據信息的一種方式。比如統計一個班有多少男生

原创 記Spring Bean的坑

在一次項目中發現了一個不正常的現象,弄了半天才弄明白咋回事,當初手賤瞎寫,造成的困擾。不多說,來一起看下。 由於業務的需要我定義了一個類,其作用協議傳輸數據之用。 public class Transmission {

原创 Logback日誌小記

日誌系統 Java中常用的日誌系統有很多,比如logging、log4j、logback等等。廣泛使用的是logback+slf4j,同時代碼里加入Lombok的插件,這樣快速方便的使用日誌。 一、包引入 <dependency>

原创 Arrays.asList

  Arrays.asList()方法是Java中常見的將數組轉換成列表的方式。 String[] myArray = { "Apple", "Banana", "Orange" }; List<String> myList =

原创 Hadoop - MapReduce

  MapReduce分爲Map和Reduce,Map主要作用是做映射,Reduce是做規約。 一、MapReduce 1.x   MR1是hadoop1.x中作爲計算和資源調度使用,含有 JobTracke TaskTrack

原创 Hadoop - HDFS

  HDFS由NameNode、DataNode、Second人 一、NN(NameNode) 1.1 NameNode信息   NameNode維護的是HDFS上的文件系統的命名空間: 文件名稱 文件的目錄結構 文件的屬性(

原创 Hadoop - Hadoop編譯

  真正生產上使用的hadoop以及組件都是源碼編譯得到的,這樣做好處就是有一些功能可以定製化,有一些bug可以自己修復,方便兼容性問題的解決。 一、工具的依賴   hadoop編譯依賴jdk、maven,findbugs,pro

原创 Servlet、Listener、Filter、Interceptor

Servlet、Listener、Filter、Interceptor 1、tomcat 和 Servlet 關係   Java的Web應用是基於Servlet規範運轉的,而Servlet規範的核心接口即是Servlet接口,它是

原创 Hive - DDL & DML

HiveSQL DDL   HiveSQL中的DDL語言是對Hive表數據結構的操作,比如創建、修改、刪除一張表。   Hive是構建在HDFS之上的,Hive的數據存放於HDFS之中,HDFS存儲的是文件,怎麼對應結構化數據,

原创 Hadoop - HDFS 命令

   如下是常用的HDFS命令,用於上傳文件、刪除HDFS上的目錄、啓動一個作業等操作。 一、hadoop命令 1.1 hadoop fs    hadoop fs 系列指令是對HFDS文件系統的操作,類似於linux文件系統的操

原创 Hadoop基礎 - SSH配置

  ssh 用來無祕鑰登錄的,hadoop集羣工作的時候,在啓動dfs和yarn時,需要多次輸入密碼,不但啓動本機進程還有輔服務器啓動那些節點也需要相應密碼,主與輔服務器之間是通過SSH連接的,併發送操作指令。   比如兩臺服務