原创 推薦引擎概述(2015/4/21)

1 分類 1.1 不同的用戶推薦是否相同 1.1.1 根據大衆行爲的推薦引擎 對每個用戶都給出同樣的推薦,這些推薦可以是靜態的由系統管理員人工設定的,或者基於系統所有用戶的反饋統計計算出的當下比較流行的物品,比如TOPN推薦。 1.1.2

原创 磁盤陣列性能測試(2013/7/12)

1 組網 操作系統:RedhatLinux 6.2 (64bit) 文件系統:ext4   IO分爲直接IO和非直接IO。所謂直接IO是指讀寫文件不利用的文件系統高速緩存,直接從磁盤讀取/存儲數據。在調用open函數時,支持位O_DIR

原创 HBase性能測試報告(2012/6/1)

1 測試環境1.1 硬件環境●五個HP Z210: 8G內存;4個型號爲i7-2600的CPU,4核;千兆網卡;SATA 硬盤,7200轉/分鐘●CiscoCatalyst 3670交換機1.2 軟件環境       OS:Red Hat

原创 NAT穿越引入的一個漏洞

UE和ePDG通過Notify(NAT_DETECTION_SOURCE_IP)和Notify(NAT_DETECTION_DESTINATION_IP)判斷兩端是否處於NAT後面。如果任何一端探測探測到自己在NAT後面,本端會把自己的通

原创 性能調優實踐-提升cpu利用率

1 結論 通過本次性能優化,總結了幾條經驗。 ■頻繁的加解鎖會提高系統空間的CPU佔用率 鎖在內核的實現是通過隊列來實現的,加鎖操作把線程放入等待隊列,解鎖操作是才能夠等待隊列獲取一個線程來獲取鎖。所以頻繁的加解鎖CPU的開銷是非常大的。

原创 Oracle-11g中的併發控制(2012/11/16)

1 事務基礎在DB中,可能出現如下3種現象髒讀 在事務中,讀到了其它事務沒有提交的記錄 不可重複讀 在事務中,即使查詢條件相同,下次返回的記錄與上次返回記錄不一樣,不一樣體現在記錄被修改或記錄被刪除 幻影讀 在事務中,即使查詢條件相同,下

原创 LVS 負載均衡原理

一 簡介   負載均衡集羣是 Load Balance 集羣。是一種將網絡上的訪問流量分佈於各個節點,以降低服務器壓力,更好的向客戶端提供服務的一種方式。常用開源負載均衡軟件有Nginx、LVS、Haproxy(ngnix和hapro

原创 Microsoft雲存儲架構

1 總體介紹Microsoft雲存儲服務分爲兩個部分,SQL Azure和Azure Storage。SQL Azure直接在原有的SQL Server上引入分佈式的因素,在滿足一定可擴展性的前提下儘可能不犧牲原有的關係型數據庫功能。SQ

原创 Accrual Failure Detector

本文是對論文《The Phi Accrual Failure Detector》的理解以及在cassandra中的實現。背景衆所周知,故障探測(failure detector)是分佈式系統的基礎模塊。有人建議把故障探測做成一個基本的服務

原创 查找字符串之boyer-moore算法

1 問題的提出 給出字符串P和T,長度分別爲n和m。找出P在T中出現的所有位置。 2 原始匹配算法 int Index(char* P,char* T,int pos) { i = pos; j = 0; while( i<=str

原创 gossip協議

1.背景Gossip算法又被稱爲反熵(Anti-Entropy),熵是物理學上的一個概念,代表雜亂無章,而反熵就是在雜亂無章中尋求一致,這充分說明了Gossip的特點:在一個有界網絡中,每個節點都隨機地與其他節點通信,經過一番雜亂無章的通

原创 raid原理介紹

1 RAID0 特點: ■ 採用數據劃分 ■ 無冗餘 ■ 無校驗 2 RAID1 ■ 無數據劃分 ■ 每個磁盤都一個對應的完全鏡像(mirror)磁盤 3 RAID5 ■ 採用數據劃分 ■ 奇偶校驗,最少3個磁盤 ■ 同時,只能允

原创 HBase數據文件格式解析 (2012/4/26)

概述 hfile是hbase中存儲數據的文件,圖1描述了hfile文件格式。hfile文件由6部分組成:data block,meta block(可選),file info,data block index,meta block ind

原创 唯品會Redis大規模生產實踐

很高興有機會在Redis中國用戶組給大家分享redis cluster的生產實踐。目前在唯品會主要負責redis/hbase的運維和開發支持工作,也參與工具開發工作。 Outline 一、生產應用場景 二、存儲架構演變 三、應用最佳實踐

原创 高併發設計:如何設計千萬連接每秒的系統

1.前言 本文將討論單機服務器實現C10M(即單機千萬併發連接)的可能性及其思路。 截至目前,40gpbs、32-cores、256G RAM的X86服務器在Newegg網站上的報價是幾千美元。實際上以這樣的硬件配置來看,它完全可以處理1