原创 MySQL5.6 - 基於GTID複製模式搭建主從複製、故障模擬、問題解決!

寫在前面:本文主要講解,GTID複製模式的參數配置、搭建過程中遇到的一些問題及其解決方法;針對一些常見問題場景,進行故障模擬,然後解決。如果對GTID的其他方面的知識想要做個瞭解,如:GTID優點、使用限制、實現原理等,可以移步到筆者的另一

原创 mysq命令行下pager用法小技巧

使用mysql命令行時, 輸出太多的東西, 看不到就很悲劇了。在shell中可以使用管道或是直接用more, 但是mysql命令行裏怎麼辦呢?mysql3306.sock [(none)]> \hpager (\P) Set PAGER [

原创 Python 對聊天記錄進行拆分,找出用戶最關心的諮詢問題!

背景:最近部門領導交給筆者一個任務,想要從記錄用戶聊天記錄的數據表中,找出用戶對哪些問題比較關心(即:用戶諮詢過程中問到的哪些詞語出現的頻率最高),以便後期適當的做些業務的調整,改變推廣策略等等聊天記錄如下:你好想了解想美國的博士申請今年就

原创 Python 爬蟲之數據解析模塊lxml基礎(附:xpath和解析器介紹)

介紹:最近在學Python爬蟲,在這裏對數據解析模塊lxml做個學習筆記。lxml、xpath及解析器介紹:lxml是Python的一個解析庫,支持HTML和XML的解析,支持xpath解析方式,而且解析效率非常高。xpath,全稱XML

原创 Python 爬蟲之數據解析模塊bs4基礎

介紹:最近在學Python爬蟲,在這裏對數據解析模塊bs4做個學習筆記。用途:bs4用於解析xml文檔,而html只是xml的一種bs4 官方文檔地址:https://www.crummy.com/software/BeautifulSou

原创 Python 爬蟲批量下載美女圖片,給枯燥的工作添加點樂趣!

背景:最近部門領導交給筆者一個爬取百度關鍵詞排名的任務。寫好了基本功能,能不能正常使用呢?於是乎,有了本文,爬取一些美女圖片,一來可以檢驗下爬蟲效果;二來呢,也可以養養眼,給工作增加點樂趣不是,哈哈。廢話少說,這就是要抓取的圖片了,很養眼吧

原创 Python 按照某種匹配條件拆分字符串並存儲數據到數據庫 實例

需求:提供如下的txt文件測試u047【[email protected]】自主招生3測試u008【[email protected]】自主招生6需要將其拆分爲如下結果:id  qq                          username1 

原创 Django + uWSGI+ nginx 用戶表單查詢項目,只此一篇,絕對乾貨!

項目需求和項目效果圖:提供給用戶一個查詢表單,用戶輸入需要查詢的手機號和日期後,就會得到相應的查詢結果。用戶查詢表單查詢結果效果圖爲什麼要先把項目需求和項目效果圖寫在最開始的位置呢?原因很簡單,爲了節省讀者不必要的時間!讀者先看到項目需求和

原创 導出Shell執行結果的xls文件時的字符編碼問題

問題說明:在Xshell頁面執行Shell腳本時,輸出的內容超過了最大範圍,導致了不能將所有的輸出結果複製到Excel中,只能夠手動分批次複製粘貼,這很慢,而且容易出差錯。思考了下,將Shell執行的結果直接重定向到xls文件,省卻了手動複

原创 通過多個位置變量處理數據的小方法!

cat dd.txt courseId  startTime  endTime107 1548471600  1548475200337 1550455200  1550458800337 1553306400  1553310000如上所

原创 錯誤日誌監控報警腳本

寫在前面:在實際工作中,定期檢查數據庫錯誤日誌是必不可少的工作項。但是檢查的時候卻不一定產生了新的錯誤信息,或者說我們更加希望永遠不要有錯誤信息纔好,因爲這表示我們的數據庫是健壯的。這種情況下,無法預知錯誤信息什麼時候產生,而如果我們檢查錯

原创 統計數據庫每天產生的數據量大小

寫在前面:現在有這樣一個需求,需要統計線上數據庫每天產生的數據量有多少,以此來反饋線上業務庫的繁忙程度,怎麼做呢?剛開始的時候,考慮用統計數據庫備份文件大小,然後對比幾天內的數據量差異的方法來進行統計,後來經過思考,發現這樣一來,只能看出數

原创 MySQL並行複製探索!

寫在前面:對於線上運行主從複製架構的環境而言,相信有很多人和筆者一樣,都或多或少的遇到過主從延遲的問題。之前筆者寫過一篇文章 主從複製延遲原因剖析 來講解主從複製延遲的原因,可光是知道原因還不行,怎麼解決這個主從延遲的問題纔是重頭戲!筆者,

原创 警惕!replicate_do_db 有坑!

寫在前面:筆者採用傳統方式搭建的主從環境,主庫更新記錄後,從庫不能將數據同步過去,在從庫查看主從複製狀態,Read_Master_Log_Pos 和 Exec_Master_Log_Pos 一致,I/O、SQL線程都正常,沒有主從延遲發生,

原创 MySQL5.7 - 基於GTID複製模式搭建主從複製

環境:MySQL5.7.24版本CentOS release 6.5注意:MySQL5.7版本Slave可以不開啓binlog了,可以節省這部分的磁盤I/O消耗,而MySQL5.6版本必須開啓binlog,因爲GTID信息需要在binlog