原创 sqoop從hive同步數據到mysql出錯!Can't parse input data: '0'

此次踩坑背景: 工作中使用sqoop同步工具從hive同步數據到mysql中時,遇到報錯信息如下。 前提:本次出錯由於一個字段是用戶輸入的文本數據,可能包含未知的特殊字符導致本次同步時出錯。 Error: java.io.IOEx

原创 hive之——lateral view與UDTF

UDTF是什麼: 表生成UDF,接收一個數據行,然後返回多個數據行(一個表作爲輸出)。 UDTF函數語法: 只允許單獨、使用一個UDTF進行操作。 eg:select explode(array('A','B','C')); 輸出

原创 hive中 不等號 的用法

背景: A表中uuid 字段存在三種情況。第一種爲空的情況(即爲null),第二種爲字符串‘null’,第三種正常情況。 要求:給出規則,過濾出是爲字符串’null’的異常數據量? 解決思路: 第一種:字符串null有一定的長度,長度

原创 TCP的建立與拆除連接

TCP建立連接時三次握手的過程 圖示: 文字說明 1.第一次握手:建立連接時,客戶端發送SYN包(seq=x)到服務器,並進入SYN_SEND狀態,等待服務器確認; 2.第二次握手:服務器收到SYN包,必須確認客

原创 java線程池(2)---常見線程池

線程池的創建和使用 生成線程池採用了工具類Executors的靜態方法,一下是幾種常見的線程池。 SingleThreadExecutor:單個後臺線程(其緩衝隊列是無界的) public static ExecutorService

原创 mysql數據庫面試——事務

第一大點! 事務的四大特性: 要是ACID是什麼意思都不知道,兄die,這會面試估計就要涼涼了。 那ACID到底是什麼呢?讓我們通過例子理解我們的ACID到底是何方神聖。 A 代表—— 原子性:事務的操作要麼完全成功,要麼回滾。 例

原创 elastic search報錯——“failed to obtain node locks”

啓動時報錯信息: 尋找主要信息:failed to obtain node locks 簡單理解爲:綁定節點失敗!!! 百度後,好多人同樣遇到了這個問題,導致的原因可能是因爲之前運行的es還沒有正常關閉。 第一步:通過命令:p

原创 java線程池(1)----初識線程池

線程池的技術背景 在面向兌現編程中,創建和銷燬對象是很費時間的,因爲創建一個對象要獲得內存資源或資源。在java中更是如此,虛擬機將試圖跟蹤每一個對象,以便能夠在對象銷燬後進行垃圾回收。 所以提高服務器

原创 HuffmanCode---數組實現

#include <stdio.h> #inlucde <stlib.h> //定義結構體數組類型 typedef struct { char word;//字符域; int weight;//字符對應的權值域; int

原创 java的等待/通知機制

場景: 一個線程修改了一個對象的值,而另一個線程感知到了變化,然後進行響應的操作,整個過程開始於一個線程,而最終執行又是另一個線程。前者是生產者,後者是消費者,這種模式隔離了“做什麼”和“怎麼做”,在功能層面上實現瞭解耦,體系結構上具備

原创 地址解析協議ARP和反向地址解析協議RARP

從IP地址找到對應的MAC地址的映射過程稱爲“正向地址協議”,相應的協議稱爲“地址解析協議”ARP。 從已知MAC地址找出對應的IP地址的映射過程稱爲“反向地址解析協議”RARP。 地址解析協議ARP: 1.地址解析協議將動態映射和靜

原创 深入理解java虛擬機----類加載機制

概述 虛擬機把描述一個類的數據從Class文件加載到內存,並對數據進行校驗、轉換解析和初始化,最終形成可以被虛擬機使用的Java類型,這就是虛擬機的類加載機制。 類加載的時機 類加載的整個生命週期包括:加載、驗證、準備、解析、初始化、使用