原创 盡覽Springboot從入門到精通的泣血心酸
一、基礎理論 1、產生背景 SSM開發web應用配置複雜,springboot極大地簡化了配置,讓開發人員更多關注與業務邏輯的實現。 2、Springboot特性 A。能夠快速創建基於spring的應用程序。
原创 徹底解惑MapReduce核心shuffle的執行流程及MapReduce調優前瞻
以處理text文件爲例 map端 map端: 1、MRApplicationMaster啓動maptask,並分配其一個編號,maptask根據編號尋找對應的存儲文件位 置信息及切片長度的數據切片,默認數據切片對
原创 Redis簡單搭建及密碼配置修改
1、yum -y install gcc tcl #####這個tcl是後續執行完第3步檢查安裝時“make test”要用的,不檢查可以不裝,對後續不會有任何影響 2、cd /opt/source && tar zxvf red
原创 事務演示:Redis的事務是部分事務
1、理論基礎 1、基礎 a)redis的事務是部分事務,不能保證事務的原子性: 因爲即使事務中有任何操作隱式地執行失敗(即事務提交後該操作執行失敗),事務仍會被提交,能正確執行的操作仍會寫入數據庫中。 b)它的實質
原创 centos7 rpm安裝mysql5.7
rpm -qa | grep mysql yum -y remove mysql-libs-5.1.66-2.el6_3.x86_64 rpm -qa | grep mariadb yum remove mariadb-libs-5.5
原创 修改MySQL編碼格式
1、vi /etc/my.cnf 添加如下內容 [client] default_character_set=utf8 [mysqld] collation_server = utf8_general_c
原创 20 Nov 00:00:08 ntpdate[17339]: the NTP socket is in use, exiting
1、報錯信息如下 2、原因 已經有運行中的xtpd進程佔用了ntpdate的端口,將其殺死即可。 3、解決 查看xtp進程: 沒有則通過lsof進行查看,然後殺死該進程 如果lsof命令無法運行,則安裝 yum install -
原创 細緻剖析Hive的時間函數
1、時間戳與任何格式的日期互轉 from_unixtime(時間戳,時間格式) 將時間戳轉換爲致指定的日期格式 hive> select from_unixtime(1234567890,'yyyy-MM-dd');
原创 Azkaban:最受歡迎的工作流定時調度器
1、理論基礎 1、azkaban是什麼? azkaban是一個工作流定時調度器,可以解決hadoop jobs的作業依賴問題,使相互依賴的job按順序執行。 2、azkaban的特點? a.兼容所有版本的hadoop
原创 ssh: Could not resolve hostname node1: Name or service not known
執行ssh命令報錯: ssh: Could not resolve hostname node1: Name or service not known 解決方式: vi /etc/hosts
原创 大數據領域常用組件的端口號
Hadoop: 50070:HDFS WEB UI端口 8020 : 高可用的HDFS RPC端口 9000 : 非高可用的HDFS RPC端口 8088 : Yarn 的WEB UI 接口 8485
原创 通過Sqoop在RDBMS和Hive之間傳輸數據
1、理論基礎 1、版本 sqoop1:1.4開頭 sqoop2:1.99開頭 1和2不兼容 sqoop1只有maptask,task數量需要自己設置。沒有集羣概念 2、安裝: 解壓,配置環境變量,
原创 手把手教你複製黏貼式搭建企業級CDH平臺
1、基礎知識與節點規劃 1、cdh的部署形式有三種 bin在線部署 rpm包部署 要訪問外網或者私服 tar包部署 這是真正意義上的離線部署 由於公司網路無法訪問外網,所以一般我們就是使用第三種模式
原创 Maven的安裝與配置
第一步: 下載好maven的軟件包。 傳送門:http://mirrors.tuna.tsinghua.edu.cn/apache/maven/maven-3/3.6.2/binaries/apache-maven-3.6.
原创 JUnit4 與 JUnit 5 常用註解對比
原文鏈接:https://blog.csdn.net/winteroak/article/details/80591598