原创 Hadoop的各個啓動進程介紹

守護進程:NameNode,DataNode,ResourceManager,NodeManager,JournalNode,DFSZKFailoverController等 備註:本文截圖出自數據《Hadoop權威指南_第四版_中文版.

原创 hadoop報錯:hadoop.security.AccessControlException: Permission denied: user=liyang, access=WRITE

hadoop在通過idea進行文件保存時, @Test public void putFile() throws Exception { Configuration conf = new Configurati

原创 kafka安裝與基礎

本文屬於實操本人親測若有雷同,請包涵。 先學習安裝使用kafka,後續文章完善關於kafka的概念,便於加深對概念的理解 使用kafka版本: kafka:kafka_2.11-2.3.0.tgz 下載鏈接: 鏈接:https://pan

原创 Mysql索引、page、B+tree可存行數判斷

有很多關於Mysql索引選擇B+Tree的文章,就不做累述,這篇文章主要介紹關於B+Tree中可以保存大概多少列的索引信息,本文儘量基於官網介紹含出處。 page 個人理解:與linux中內存讀取緩存一樣,爲了批量的緩存數據到內存中,設

原创 java內存模型及運行時數據區

java中內存模型劃分及Runtime Data Area(運行時數據區) 在Java中我們常常說到的內存管理就是針對運行時數據區進行管理(如何分配和回收內存空間)。 VM中的運行時數據區應該包括(1,2,3,4,5)。在JVM規範中雖然

原创 java的四大引用對象

總結:     強引用:StrongRefrence         例子:Object Obj = new Object()  ;String str = "123"         用途:任何適合         特點:1、GC絕對不

原创 Hbase由於時間不一致導致regionserver節點啓動失敗

背景:hadoop的hdfs的各個進程啓動正常(UI頁面訪問也正常),啓動hbase時,hmaster進程正常啓動,hregionserver節點啓動失敗,報錯:(regionserver.HRegionServer: STOPPED:

原创 git拉取遠程分支分支名稱含括號時的拉取

問題場景描述:git本地拉取遠程分支 ,通過命令$>git branch -r 可以獲取到遠程分支名稱,但是通過命令$>git checkout -b test(11) origin/test(11) 獲取遠程分支時無法拉取下來(報錯:遠

原创 hive刪除表時報錯,解決方案

報錯:   1、查看hive使用的mysql連接的jar包, 若爲:mysql-connector-java-5.1.17.jar(沒帶bin的jar包),修改爲mysql-connector-java-5.1.46-bin.jar(

原创 shell腳本使用crontab做定時執行

1、編寫腳本: #!/bin/bash if [ ! -f "/home/hadoop/shell/crontab/test" ]; then echo "test文件不存在" touch /home/hadoop/shell/cron

原创 linux 安裝hadoop 的四大運行模式——HA高可用分佈模式(版本2.9.1)

hadoop的HA高可用配置:hadoop的名稱節點部署在不同的服務器上(簡單理解),具體定義請自行查詢 備註:簡述過程如果前面步驟按步驟進行,後續的步驟就不做詳細解釋 準備:創建h105作爲高可用的名稱節點(namenode),一般會再

原创 Hive安裝配置

前期準備:hive版本2.1.0    hadoop版本2.9.1(一般hadoop版本在2以上就支持hive2以上版本) 提前hadoop環境配置好,主要是hadoop的hdfs環境(可以是僞分佈式,也可以是完全分佈式或是HA) hiv

原创 Java中(靜態)變量、(靜態)代碼塊的執行順序包含父類

1、parent類(父類) public class parent { public static int parentParamOne = 1; public static String parentParamTwo

原创 python的第一個腳本

使用python語言製作腳本 1、前期準備,查看本地python 是否安裝 (若未安裝請查看曾經博客內容) $>python -V (備註:注意"V"爲大寫,小寫v進入python的命令界面) 2、製作文件helloWord.py  內

原创 mysql關於數據庫事務隔離級別測試(包含實例測試語句,及測試結果對比)

1、知識點; 事務的四大特性 ACID ;  原子性(Atomic):事務是一個整體(無論在該事務中操作任何CRUD),要不全部執行,要不全部不執行。(數據庫能夠進行操作的最小的邏輯單元) 一致性(Consistent):組成一個事務的操