Why Map/Reduce?

從Google在OSDI'04上發表了Map/Reduce這篇Paper;到Yahoo!在06年僱傭Doug Cotting,
投入對Hadoop最大的關注,以期提高其計算能力對抗Google;再到CMU CS的系主任發表Tec
h report提出DISC(Data-Intensive Super Computing,在最近一次的Hadoop summit上,
他演講的slides將Super改成了Scalable)的概念,以及Intel、IBM與Stanford、CMU合作
基於Hadoop搞雲計算。Map/Reduce引入的並行計算模型得到了前所未有的關注和應用。

究竟什麼是Map/Reduce,爲什麼需要Map/Reduce,孟巖(此孟巖非彼孟巖,此孟巖是財幫
子的創始人之一)的這篇文章:Map Reduce - the Free Lunch is not over?闡述得很清
楚。(http://www.mengyan.org/blog/archives/2006/11/15/138.html)

隨着du-core,multi-core甚至Stanford在做的1024核的出現,我們的Programming Model
會慢慢從OOP轉到COP(concurrency-oriented programming)上來。而如何抽象這種progr
amming model的轉化,讓程序員更加方便的編寫並行化程序利用多核甚至分佈式系統的計
算能力,成爲了很多研究的熱點。Map/Reduce就是在這方面做出了不錯的努力,這是它的
價值!

於是,在Map/Reduce發表沒多久中,很多基於multi-core甚至GPU上的研究也在火熱的展開


Phoenix: from Stanford

"Evaluating MapReduce for Multi-core and Multiprocessor Systems" —
paper by Colby Ranger, Ramanan Raghuraman, Arun Penmetsa, Gary Bradski, and
Christos Kozyrakis; from Stanford University

很有趣的是,這篇在當年會議上被推薦爲best paper的論文居然出自於Stanford開的一門
課”Advanced Processor Design”上的project。(強大的stanford學生啊!)

Mars:from Hongkong University Science and Technology
(GPGPU很猖獗啊~)

# "Mars: A MapReduce Framework on Graphics Processors" — paper by Bingsheng
He, Wenbin Fang, Qiong Luo, Naga K. Govindaraju, Tuyong Wang; from Hong Kong
University of Science and Technology

Cell B.E. Architecture: from University of Wisconsin-Madison(不愧是CS
Architecture No 1的學校啊!)

# "MapReduce for the Cell B.E. Architecture" — paper by Marc de Kruijf and
Karthikeyan Sankaralingam; from University of Wisconsin-Madison

此外,還有一些項目也在應用Map/Reduce的思想。

QtConcurrent :http://labs.trolltech.com/page/Projects/Threads/QtCo
ncurrent
Open Source C++ MapReduce (non-distributed) implementation from Trolltech

Skynet:http://skynet.rubyforge.org/
Ruby Map/Reduce Framework

最牛的不是語言,不是代碼,而是思想!還有Simplified的哲學!
學術界的力量也是不可低估的,很多很神奇很美妙的東西都來自於學術界。大家要好好珍
惜還在學習、做研究的機會。

Thanks to map/Reduce!
Thanks to lisp&other fp!
Thanks to lambda calculus!
Thanks to Alonzo Church!
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章