原创 我的友情鏈接

sery技術博客nginx中文官網張宴博客sohu開源鏡像mysql中文網支付寶數據倉庫團隊LVS中文站盛大在線運維團隊博客老堅blog-baidu吟—技術交流

原创 利用celery+django 在admin後臺設置定時任務

經常用python開發web應用時,會涉及到定時任務的腳本,以前用linux自帶的crontab來操作,但是感覺不太接地氣,後來發現用celery+django 可以方便的實現!安裝軟件環境如下:python 2.7.5Django==1.

原创 利用XtraBackup做mysql不停機重做主從複製

不停機做mysql主從同步,可以使用mysqldump,但是這個效率比較低,利用XtraBackup來實現這個,效率比較高!一 xtrabackup安裝:yum -y install perl perl-devel libaio libai

原创 php7在centos上源碼安裝

一 php7.0.6版本下載鏈接:wget -c http://cn2.php.net/get/php-7.0.6.tar.gz/from/this/mirror 二 安裝基礎的依賴軟件:yum install -y gcc gcc-c++

原创 開源日誌收集軟件fluentd 轉發(forward)架構配置

需求:通過開源軟件fluentd收集各個設備的apache訪問日誌到fluentd的轉發服務器中,然後通過webHDFS接口,寫入到hdfs文件系統中。軟件版本說明:hadoop版本:1.1.2fluentd版本:1.1.21測試環境說明:

原创 利用fabric自動化發佈代碼

這幾天,在測試環境開發python程序,但是生產的測試環境上和測試環境不一樣,發佈的程序涉及到3個角色,node,web和monitor,裏面的配置文件要根據生產環境進行替換,用手工替換幾次以後,感覺太過麻煩了,就想利用fabric進行編寫

原创 利用xtraBackup實現不停master服務做主從同步

MySQL主從同步原理:MySQL主從同步是在MySQL主從複製(Master-Slave Replication)基礎上實現的,通過設置在Master MySQL上的binlog(使其處於打開狀態),Slave MySQL上通過一個I/O

原创 關於hadoop 1.2.1版本不支持“dfs.support.append”參數的解決辦法

最近在測試hadoop+fluentd方案,但是fluentd日誌收集系統,需要append功能選擇,寫日誌到HDFS中,官方給出的解決方案是:修改hdfs-site.xml 文件,增加如下行:<property>   <name>dfs.

原创 利用paramiko模塊批量查看遠程機器上指定進程的相關信息

以前總是利用shell來編寫腳本,最近學習python,發現paramiko使用上很方便,paramiko就是利用ssh協議進行通信。需求:利用paramiko庫遠程連接到遠程服務器,執行命令“ps aux”,查看指定服務的的cpu,內存,

原创 DRBD+Heartbeat+Mysql環境搭建

環境:Centos 6.6 64位服務器:Master節點: GuoletaoTest01  IP地址:192.168.2.25 Slave節點:GuoletaoTest02 Ip地址: 192.168.2.26VIP地址:192.168.

原创 漢化pycharm4.5.3方法

Pycharm這個python的IDE工具功能很多,很不錯,個人很喜歡,但是全英文的界面,有時候使用還是有點小不爽,下面是一個漢化方法。下載鏈接:http://down.51cto.com/data/2083211漢化方法:1)關閉pych

原创 分佈式文件系統mfs(moosefs)搭建與配置

一 MFS介紹:Distinctive features of MooseFS are: MooseFS優越特性如下:- higher reliability (data can be stored in several copies on

原创 利用開源日誌收集軟件fluentd收集日誌到HDFS文件系統中

說明:本來研究開源日誌的系統是flume,後來發現配置比較麻煩,網上搜索到fluentd也是開源的日誌收集系統,配置簡單多了,性能不錯,所以就改研究這個東東了!官方主頁,大家可以看看:fluentd.org,支持300+的plugins,應

原创 利用pig分析cdn訪問日誌內指定時間段的url訪問次數

需求說明:由於cdn收費是按照最高帶寬收費的,但是公司平臺平均使用cdn帶寬爲100M多,但是有幾個時間點的帶寬,突然漲到300M,但是不到5分鐘就回落下來了,但就是爲5分鐘的高出的帶寬,公司就要多付費用,不划算,所以要配合研發分析峯值左右

原创 Elasticsearch集羣UNASSIGNED shareds問題 修復

    線上有3臺es組成集羣,其他有兩臺非正常關機了,早上過來發現集羣狀態爲紅色,提示"24 UNASSIGNED shareds":1)查看集羣相關信息:curl 'localhost:9200/_nodes/process?prett