原创 Docker Hadoop 配置常見錯誤及解決辦法

Docker Hadoop 配置常見錯誤及解決辦法   問題1:wordcount運行卡住,hadoop 任務運行到running job就卡住了 INFO mapreduce.Job: Running job: job_....    

原创 PDO的好處

產生原因   普通的SQL執行語句,由於研發人員對前端請求參數過濾不嚴謹,導致SQL被注入,從而影響數據庫,帶來風險 使用PDO後形成的語句   SELECT * FROM test WHERE id in (?); PDO執行操作主要兩個

原创 Session和Cookie的原理,以及在分佈式應用中出現的問題和解決方案

產生原因   由於http協議是無狀態的,同一個瀏覽器對服務器的兩次請求之間是沒有關係的,服務器認爲兩次請求都是全新的請求,不會記住上次請求成功的數據。然而現有的業務常常需要服務器能記住用戶的訪問情況,   Cookie和Session都是

原创 Mysql-死鎖

死鎖 死鎖是指兩個或多個事務在同一資源上相互佔用,並請求鎖定對方佔用的資源,從而導致的惡性循環現象。 MyISAM總是一次獲得所需的全部鎖,要麼全滿足,要麼等待,因此不會出現死鎖。但在Innodb中,除單個SQL組成的事務外,鎖是逐步獲得的

原创 PHP安裝PDO_MySQL模塊

下載pdo_mysql擴展   wget http://pecl.php.net/get/PDO_MYSQL-1.0.2.tgz 解壓壓縮包 tar -zxvf PDO_MYSQL-1.0.2.tgz 執行phpize生成

原创 文件IO與標準IO的區別

文件IO與標準IO的區別 文件I/O就是操作系統封裝了一系列函數接口供應用程序使用,通過這些接口可以實現對文件的讀寫操作,文件I/O是採用系統直接調用的方式,因此當使用這些接口對文件進行操作時,就會立刻觸發系統調用過程,即向系統內核發出請求

原创 進程的虛擬內存

進程的虛擬內存 進程屬性信息的task_struct結構體,其中包含進程使用的內存信息。在32位的操作系統中,當進程創建的時候(程序運行時),系統會爲每一個進程分配大小爲4GB的虛擬內存空間,用於存儲進程屬性信息。 C語言中的變量,通常使用

原创 進程、進程調度、進程狀態、進程與程序、多任務

進程、進程調度、進程狀態、進程與程序、多任務 多任務機制 多任務處理是指用戶可以在同一時間內運行多個應用程序,每個正在執行的應用程序被稱爲一個任務。Linux是一個支持多任務的操作系統,比起單任務系統它的功能增強了許多 多任務操作系統使用

原创 Mysql優化,ICP、BNL算法、BKA算法、MMR算法

ICP(Index Condition Pushdown,索引條件下推)是MySQL5.6版本中的新特性,是一種在存儲引擎層使用索引過濾數據的一種優化方式。 出現原因:ICP出現Mysql5.6以前,Mysql查詢數據是通過索引查詢到主鍵

原创 馴服爛代碼

  馴服爛代碼 何爲爛代碼 遺留代碼 難以理解、難以修改的代碼。 沒有編程測試的代碼就是糟糕的代碼。 沒寫測試。 大泥球 結構混亂、肆意蔓延、輕浮草率、貼滿補丁、私搭亂建、一團亂麻的叢林。 無序增長、反覆修補、權宜修復的跡象。 互不相

原创 ClickHouse數據定義

數據定義   ClickHouse的數據類型 ClickHouse是一款分析型數據庫,有多種數據庫類型,分爲基礎類型、複合類型和特殊類型。其中基礎類型使用ClickHouse具備了描述數據的基本能力,而另外兩種類型則是ClickHouse的

原创 Redis高併發處理常見問題及解決方案

1. 大型電商系統高流量系統設計   場景:     大量電商系統每天要處理上億請求,其中大量請求來自商品訪問、下單。商品的詳情是時刻變化,由於請求量過大,不會頻繁去服務端獲取商品信息,導致服務器壓力極大。需要用到多級緩存、異步處理、

原创 Redis隊列跟MQ的區別

    Redis隊列:Redis隊列是一個Key-Value的NoSQL數據庫,開發維護很活躍,雖然是一個Key-Value數據庫存儲系統,但它本身支持MQ功能,所以完全可以當做一個輕量級的隊列服務來使用   MQ隊列   :在分佈式系統

原创 Nginx在make時報錯[objs/Makefile:469: objs/src/core/ngx_murmurhash.o] Error

Nginx在make時報錯[objs/Makefile:469: objs/src/core/ngx_murmurhash.o] Error   在安裝目錄下執行 vim obj/Markfile 把Makefile文件的-We

原创 Nginx編譯安裝相關參數

Nginx編譯安裝相關參數   Nginx插件安裝 ------------------pcre------------------ cd /usr/local/source wget http://www.programming.cn