原创 Elasticsearch分片、副本與路由(shard replica routing)

1、常見概念 集羣(cluster): 由一個或多個節點組成, 並通過集羣名稱與其他集羣進行區分   節點(node): 單個 ElasticSearch 實例. 通常一個節點運行在一個隔離的容器或虛擬機中 索引(index): 在 ES

原创 Maven3種打包方式

在Maven中,主要有3個插件可以用來打包: maven-jar-plugin,默認的打包插件,用來打普通的project JAR包; maven-shade-plugin,用來打可執行JAR包,也就是所謂的fat JAR包; maven

原创 零和博弈與囚徒困境

零和博弈(Zero-sum game),也叫零和遊戲。它的原理如下: 兩人對弈,總會有一個贏,一個輸,如果我們把獲勝計算爲得1分,而輸棋爲-1分。則若A獲勝次數爲N,B的失敗次數必然也爲N。若A失敗的次數爲M,則B獲勝的次數必然爲M。這

原创 hue中oozie從mysql導入hive報錯 Could not load db driver class: com.mysql.jdbc.Driver

問題一 CDH6中,在oozie中執行sqoop命令時,可能需要手動添加一些jdbc包。 將jar包放置到hdfs中lib目錄   /user/oozie/share/lib/lib_${timestamp}/sqoop 然後重啓oo

原创 Centos7 搭建pptp服務器

1.檢查是否支持pptp 返回ok即表示支持 modprobe ppp-compress-18 && echo ok 2.安裝ppp yum install -y ppp 3.安裝pptpd 首先要安裝epel源,由於官方源已經移除p

原创 Spring Boot 之@Component、@configuration

Spring 2.5 中除了提供 @Component 註釋外,還定義了幾個擁有特殊語義的註釋,它們分別是:@Repository、@Service 和 @Controller。在目前的 Spring 版本中,這 3 個註釋和 @Comp

原创 springboot 是如何啓動tomcat的

1. 添加 @SpringBootApplication註解 點擊進入該註解,我們可以發現其是一個複合註解,包括@SpringBootConfiguration、@EnableAutoConfiguration和@ComponentSca

原创 HBase性能優化一:寫表操作

1.HTable參數設置1.1 Auto Flush通過調用HTable.setAutoFlush(false)方法可以將HTable寫客戶端的自動flush關閉,這樣可以批量寫入數據到HBase,而不是有一條put就執行一次更新,只有當

原创 Es常用命令

  查看索引 curl http://digov01:9200/_cat/indices 刪除索引 kib_policy_detail_index/kib_policy_detail_type/_delete_by_query {   "

原创 HUE集成Hbase

一、Hbase開啓代理用戶相關配置 Cloudera Manager修改Hbase配置 或Hbase配置文件-hbase-site.xml <property>   <name>hbase.thrift.support.proxyuser

原创 yum命令的使用與createrepo自建倉庫教程

一、在開始搭建自己的YUM倉庫之前,先來了解下如何獲取RPM包 在默認配置下使用yum命令安裝完軟件後安裝包是不會保留的,如果想在本地也留存一份安裝包,只需要將yum配置文件/etc/yum.conf中的keepcache=0改爲1即可,

原创 2020年軟考考試大綱彙總

  軟考高級考試大綱 信息系統項目管理師考試大綱 系統架構設計師考試大綱 網絡規劃設計師考試大綱 系統規劃與管理師考試大綱 系統分析師考試大綱軟考中級考試大綱 系統集成項目管理工程師考試大綱 信息系統管理工程師考試大綱 數據庫系統工程師考

原创 CentOS7離線安裝Docker 19.03.1

安裝環境 基於X86_64的CentOS7系統 下載docker-19.03.1.tar.gz壓縮包  卸載已有的docker yum remove docker \ docker-client \ docker-client-lates

原创 MySQL表導入到HDFS

導入loudacre數據庫中的account表到HDFS sqoop import \ --connect jdbc:mysql://localhost/loudacre \ --username training --password

原创 分佈式RPC框架性能大比拼

Dubbo 是阿里巴巴公司開源的一個Java高性能優秀的服務框架,使得應用可通過高性能的 RPC 實現服務的輸出和輸入功能,可以和 Spring框架無縫集成。不過,略有遺憾的是,據說在淘寶內部,dubbo由於跟淘寶另一個類似的框架HSF(