原创 圖解Kerberos原理

圖解Kerberos原理 Kerberos是一個常用的認證與授權協議,在初次接觸該協議的時候,往往覺得該協議充滿複雜的交互邏輯,但在充分理解了之後,又會覺得這過程中其實充滿了數學與邏輯的美學。本文主要結合Wiki中關於Kerber

原创 hive常見的幾種文件存儲格式與壓縮方式的結合

一.使用Parquet存儲數據 數據使用列存儲之前是普通的行存儲,下面是行存儲的的文件大小,這個HDFS上的數據 使用parquet列存儲,可以將文件的大小減小化。下面具體講parquet存儲數據的代碼以及加載數據的格式。 數據庫代

原创 Hive多字符的分隔符

hive 默認是隻支持單字符的分隔符,默認單字符是\001。當然你也可以在創建表格時指定數據的分割符號。如: create table user(name string, password string) row format del

原创 Hive 企業級調優

1 Fetch 抓取 Fetch 抓取是指,Hive 中對某些情況的查詢可以不必使用 MapReduce 計算。例如:SELECT * FROM employees;在這種情況下, Hive 可以簡單地讀取 employee 對應的存

原创 Hive 教程(官方Tutorial)

Hive 教程(官方Tutorial) Tutorial Hive Tutorial Concepts What Is Hive What Hive Is NOT Getting Started Data Units Type S

原创 HA 高可用集羣搭建

HA 高可用集羣搭建 1.準備1臺虛擬機(配置完基礎環境後,克隆2臺,將集羣搭建完2臺主節點,1臺子節點) 1.1配置網絡 [root@Master1 ~]# vi /etc/sysconfig/network-scripts/ifc

原创 ssh免密碼登陸腳本

ssh免密登陸腳本 運行腳本前面需要先配置好/etc/hosts文件的ip映射,這個腳本是根據hosts文件的ip進行免密登陸配置的 密碼可以自己修改PWD_1 運行需要聯網需要聯網 #!/bin/bash #yum安裝expect

原创 hadoop集羣搭建

hadoop集羣搭建 hadoop搭建前配置 通過虛擬機進行搭建 對第一臺進行配置 配置網絡 [root@lsl001 ~]# vi /etc/sysconfig/network-scripts/ifcfg-eth0 DEVIC

原创 Linux安裝tomcat

Linux安裝tomcat 從tomcat官網下載安裝包 解壓到 /usr/local下 [root@lsl01 usr]# tar -zxvf apache-tomcat-7.0.91.tar.gz -C local 查詢防火牆

原创 Linux安裝JDK

Linux安裝JDK 1.下載jdk jdk-8u102-linux-x64.tar.gz 2.將jdk安裝包上傳至Linux中 3.將安裝包解壓到 /usr/local [root@lsl01 usr]# tar -

原创 Linux安裝高版本的mysql

在官網下載 mysql下載地址包 安裝 [root@lsl01 usr]# rpm -ivh mysql80-community-release-el6-1.noarch.rpm 修改mysql的下載安裝版本,將5.7的enab

原创 Redis集羣搭建出現的錯誤

1、in `call’: ERR Slot 8579 is already busy (Redis::CommandError) 在 /my_soft/Redis安裝包及jar包/redis-3.0.4/src 目錄下 執行redi

原创 Eclipse快捷鍵總結

常用快捷鍵總結 1. 編輯 Ctrl+1 快速修復(最經典的快捷鍵,就不用多說了,可以解決很多問題,比如import類、try catch包圍等) Ctrl+Shift+F 格式化當前代碼 Ctrl+Shift+M 添加類的

原创 OutOfMemoryError: Java heap space 處理

Exception in thread “main” java.lang.OutOfMemoryError: Java heap space 使用Java程序從數據庫中查詢大量的數據時出現異常: java.lang.OutOfMe

原创 SSM框架整合實現增刪改查(簡單的實現)

SSM框架整合實現增刪改查 文件結構 POM文件 <packaging>war</packaging> <!-- 處理亂碼 --> <properties> <!-- 設置項目字符集 --> <project.buil