分佈式消息隊列採用memcacheq + magent來實現,預處理器主要實現獲取消息隊列的任務(消息),並做預處理分析,然後存儲到redis中去,其中主線程負責讀取隊列,子線程負責處理隊列,每個工作線程維持了自己的一個工作隊列,主線程負責將消息hash後插入到對應的工作隊列中去,redis的分佈式是借鑑了lightcloud的實現,因爲lightcloud是python語言的,不得不重寫一個c語言的。
分佈式消息隊列採用memcacheq + magent來實現,預處理器主要實現獲取消息隊列的任務(消息),並做預處理分析,然後存儲到redis中去,其中主線程負責讀取隊列,子線程負責處理隊列,每個工作線程維持了自己的一個工作隊列,主線程負責將消息hash後插入到對應的工作隊列中去,redis的分佈式是借鑑了lightcloud的實現,因爲lightcloud是python語言的,不得不重寫一個c語言的。
01 背 景 播放鏈路是愛奇藝最重要的業務,鏈路穩定性極其重要,隨着愛奇藝用戶的不斷增長和熱播劇集的推廣,播放鏈路往往面臨着難以預估的用戶流量的突增,考