原创 Scala 概述

    Scala是可擴展語言的縮寫,是一種混合功能編程語言。 它由Martin Odersky創建。    Scala特點    Scala是面嚮對象語言:Scala是一種純粹的面嚮對象語言,每一個值都是一個對象。類通過子類化和基於靈活

原创 Flink任務提交模式

local模式本地運行,不需要集羣環境IDE開發時,local模式方便本地測試standalone需要搭建flink集羣提交命令flink run -m artemis-02:6123 -c com.test.WordCount2 ./F

原创 java8新特新

接口中的默認方法和靜態方法接口中可以定義具體方法,但必須“default”修飾接口中可以定義靜態方法(系統自動以public 修飾)接口中定義變量(是靜態變量,系統自動以public static final修飾)接口和類中方法衝突時,適

原创 轉載——Java併發編程:volatile關鍵字解析

本文轉自:https://www.cnblogs.com/dolphin0520/p/3920373.htmlJava併發編程:volatile關鍵字解析   volatile這個關鍵字可能很多朋友都聽說過,或許也都用過。在Java 5之

原创 設計模式——單例模式

單例對象(Singleton)是一種常用的設計模式。在Java應用中,單例對象能保證在一個JVM中,該對象只有一個實例存在單例好處:某些類創建比較頻繁,對於一些大型的對象,這是一筆很大的系統開銷。省去了new操作符,降低了系統內存的使用頻

原创 設計模式——適配器模式

適配器模式把一個類的接口變換成客戶端所期待的另一種接口,從而使原本因接口不匹配無法在一起工作的兩個類可以在一起工作;適配器就是一種適配中間件,它存在於不匹配的二者之間,用於連接二者,將不匹配變得匹配,簡單點理解就是平常所見的轉接頭,轉換器

原创 Flink集羣搭建

下載根據hadoop版本下載對應的flink版本鑑於使用的是hadoop2.4.x版本,此處使用最新版本flink-1.4.2。下載鏈接:https://mirrors.tuna.tsinghua.edu.cn/apache/flink/

原创 Scala 隱式轉換

簡單說,隱式轉換就是:當Scala編譯器進行類型匹配時,如果找不到合適的候選,那麼隱式轉化提供了另外一種途徑來告訴編譯器如何將當前的類型轉換成預期類型。隱方式轉換語法“implict def”形式(Scala 2.10版本之前的寫法)ob

原创 java序列化&反序列化

序列化反序列化代碼示例package com.test.serialize; public class Person{ protected String name; protected int age; pub

原创 生成自定義native方法

編寫java native 方法package com.test.nativemethod; public class OwnNative { static{ System.load("E:\\project_s

原创 Flink入門示例——wordCount(二)

說明(批處理)讀取HDFS數據將處理結果寫入HDFS代碼示例package com.test import org.apache.flink.api.scala._ import org.apache.flink.core.fs.Fil

原创 YARN日誌聚合相關參數配置

相關參數含義yarn.log-aggregation-enable參數說明:是否啓用日誌聚合功能,日誌聚合開啓後保存到HDFS上。 默認值:false yarn.log-aggregation.retain-seconds參數說明:聚合後

原创 Flink入門示例——wordCount(一)

說明(流處理)讀取kafka流數據,每5s統計一次將處理結果寫入Redis代碼示例<?xml version="1.0" encoding="UTF-8"?> <project xmlns="http://maven.apache.org

原创 設計模式——工廠模式

簡單工廠模式簡單工廠模式是屬於創建型模式,又叫做靜態工廠方法(Static Factory Method)模式,但不屬於23種GOF設計模式之一。簡單工廠模式是由一個工廠對象決定創建出哪一種產品類的實例。簡單工廠模式是工廠模式家族中最簡單

原创 Hive調優

系統調優 避免執行MR 設置hive.fetch.task.conversion = more 簡單查詢不走mr 設置hive.fetch.task.conversion = none 所有查詢都走MR   本地模式執行 Hive 在集羣