原创 Kafka 集羣調優

使用默認的Kafka參數配置你就能夠從零搭建起一個Kafka集羣環境用於開發及測試之用,但默認配置通常都不匹配你的生產環境,因此必須要做某種程度的調優。畢竟不同的使用場景有着不同的使用需求和性能指標。而Kafka提供的各種參數就是爲了優化

原创 kafka 自定義分區分配和遷移

自定義分區分配和遷移 分區重新分配工具還可用於選擇性地將分區的副本移動到特定的代理集。當以這種方式使用時,假設用戶知道重新分配計劃並且不需要工具生成候選重新​​分配,有效地跳過 - 生成步驟並直接移動到--execute步驟 例如,以下示

原创 kafka限制數據遷移期間的帶寬使用

限制數據遷移期間的帶寬使用 Kafka允許您對複製流量應用限制,設置用於將副本從一臺機器移動到另一臺機器的帶寬的上限。這在重新平衡羣集,引導新代理或添加或刪除代理時非常有用,因爲它限制了這些數據密集型操作對用戶的影響。   有兩個接口可用

原创 CentOS 配置本地yum源 http方式

上傳鏡像並掛載 安裝http yum install httpd -y 啓動 service httpd start ln -s /media/cdrom /var/www/html/Centos6 配置CentOS-Media.re

原创 cdh 的安裝

一、準備: 1、修改主機名,設置集羣host 修改主機名,並使之生效; 修改:vim etc/sysconfig/network   統一設置集羣host(修改集羣中每個節點的hosts文件):vim /etc/hosts   2、利

原创 hadoop safemode

hadoop dfsadmin -safemode enter  進入  leave   離開  get  獲取  wait

原创 CDH禁用kerberos

CDH禁用kerberos 1、zookeeper enableSecurity 設置爲false。配置kerberos時候是需要勾選該選項的 2、hbase 設置 hbase.security.authentication 爲fals

原创 linux (-bash-4.1$)

切換用戶時報錯 -bash-4.1$ 解決方法:從/etc/skel把丟失的文件 複製回來就可以了 cp /etc/skel/.bash* ~ 

原创 mysql離線安裝

wget https://dev.mysql.com/get/Downloads/MySQL-5.6/mysql-5.6.35-linux-glibc2.5-x86_64.tar.gz jdbc下載 http://dev.mysql.co

原创 umount 時報錯 :device is busy.

[root@cdh opt]# umount /opt/cm-5.13.2/run/cloudera-scm-agent/process/ umount: /opt/cm-5.13.2/run/cloudera-scm-agent/pro

原创 sed命令記錄

1.刪除文件中多少行數據   sed -i '1,100d' file

原创 hadoop dfsadmin

hadoop dfsadmin -safemode get dfsadmin命令詳解  -report:查看文件系統的基本信息和統計信息。 -safeadmin enter | leave | get | wait:安全模式命令。安全模式