大數據的浪潮仍在繼續。它***到了幾乎所有的行業，信息像洪水一樣地席捲企業，使得軟件越發龐然大物，比如Excel看上去就變得越來越笨拙。數據處理不再無足輕重，並且對精密分析和強大又實時處理的需要變得前所未有的巨大。
那麼，在巨大的數據集中進行篩選的最好工具是什麼?通過和數據駭客的交流，我們知道了他們用於硬核數據分析最喜歡的語言和工具包。
很多初學者，對大數據的概念都是模糊不清的，大數據是什麼，能做什麼，學的時候，該按照什麼線路去學習，學完往哪方面發展，想深入瞭解，想學習的同學歡迎加入大數據學習qq羣：199427210，有大量乾貨（零基礎以及進階的經典實戰）分享給大家，並且有清華大學畢業的資深大數據講師給大家免費授課，給大家分享目前國內最完整的大數據高端實戰實用學習流程體系
R語言
在這些語言名單中，如果R語言排第二，那就沒其他能排第一。自1997年以來，作爲昂貴的統計軟件，如Matlab和SAS的免費替代品，它漸漸風靡全球。
在過去的幾年時間中，R語言已經成爲了數據科學的寵兒——數據科學現在不僅僅在書呆子一樣的統計學家中人盡皆知，而且也爲華爾街交易員，生物學家，和硅谷開發者所家喻戶曉。各種行業的公司，例如Google，Facebook，美國銀行，以及紐約時報都使用R語言，R語言正在商業用途上持續蔓延和擴散。
R語言有着簡單而明顯的吸引力。使用R語言，只需要短短的幾行代碼，你就可以在複雜的數據集中篩選，通過先進的建模函數處理數據，以及創建平整的圖形來代表數字。它被比喻爲是Excel的一個極度活躍版本。
R語言最偉大的資本是已圍繞它開發的充滿活力的生態系統：R語言社區總是在不斷地添加新的軟件包和功能到它已經相當豐富的功能集中。據估計，超過200萬的人使用R語言，並且最近的一次投票表明，R語言是迄今爲止在科學數據中最流行的語言，被61%的受訪者使用(其次是Python，39%)。
此外，它的身影也漸漸出現在了華爾街。以前，銀行分析師會全神貫注於Excel文件直到深夜，但現在R語言被越來越多地用於金融建模R，特別是作爲一種可視化工具，Niall O’Connor，美國銀行的副總裁如是說。 “R語言使我們平凡的表格與衆不同，”他說。
R語言的日漸成熟，使得它成爲了數據建模的首選語言，雖然當企業需要生產大型產品時它的能力會變得有限，也有的人說這是因爲它的地位正在被其他語言篡奪。
“R更適合於做一個草圖和大概，而不是詳細的構建，”Michael Driscoll，Metamarkets的首席執行官說。 “你不會在谷歌的網頁排名以及Facebook的朋友推薦算法的核心找到R語言。工程師會用R語言做原型，然後移交給用Java或Python寫的模型。”
話說回來，早在2010年，Paul Butler就以R語言打造了全球的Facebook地圖而著名，這證明了該語言豐富的可視化功能。儘管他現在已經不像以前那樣頻繁地使用R語言了。
“R正在一點點地過時，因爲它的緩慢和處理大型數據集的笨重，”Butler說。
那麼，他使用什麼代替呢?請繼續閱往下看。
Python
如果說R語言是一個神經質又可愛的高手，那麼Python是它隨和又靈活的表兄弟。作爲一種結合了R語言快速對複雜數據進行挖掘的能力並構建產品的更實用語言，Python迅速得到了主流的吸引力。Python是直觀的，並且比R語言更易於學習，以及它的生態系統近年來急劇增長，使得它更能夠用於先前爲R語言保留的統計分析。
“這是這個行業的進步。在過去的兩年時間中，從R語言到Python已經發生了非常明顯的轉變，”Butler說。
在數據處理中，在規模和複雜性之間往往會有一個權衡，於是Python成爲了一種折中方案。IPython notebook和NumPy可以用作輕便工作的一種暫存器，而Python可以作爲中等規模數據處理的強大工具。豐富的數據社區，也是Python的優勢，因爲可以提供了大量的工具包和功能。
美國銀行使用Python在銀行的基礎架構中構建新的產品和接口，同時也用Python處理財務數據。“Python廣泛而靈活，因此人們趨之若鶩，”O’Donnell說。
不過，它並非最高性能的語言，只能偶爾用於大規模的核心基礎設施，Driscoll這樣說道。
Julia
雖然當前的數據科學絕大多數是通過R語言，Python，Java，MatLab和SAS執行的。但依然有其他的語言存活於夾縫中，Julia就是值得一看的後起之秀。
業界普遍認爲Julia過於晦澀難懂。但數據駭客在談到它取代R和Python的潛力時會不由得眉飛色舞。Julia是一種高層次的，極度快速的表達性語言。它比R語言快，比Python更可擴展，且相當簡單易學。
“它正在一步步成長。最終，使用Julia，你就能夠辦到任何用R和Python可以做到的事情，”Butler說。
但是至今爲止，年輕人對Julia依然猶豫不前。Julia數據社區還處於早期階段，要能夠和R語言和Python競爭，它還需要添加更多的軟件包和工具。
“它還很年輕，但它正在掀起浪潮並且非常有前途，”Driscoll說。
JAVA
Java，以及基於Java的框架，被發現儼然成爲了硅谷最大的那些高科技公司的骨骼支架。 “如果你去看Twitter，LinkedIn和Facebook，那麼你會發現，Java是它們所有數據工程基礎設施的基礎語言，”Driscoll說。
Java不能提供R和Python同樣質量的可視化，並且它並非統計建模的最佳選擇。但是，如果你移動到過去的原型製作並需要建立大型系統，那麼Java往往是你的最佳選擇。
Hadoop和Hive
一羣基於Java的工具被開發出來以滿足數據處理的巨大需求。Hadoop作爲首選的基於Java的框架用於批處理數據已經點燃了大家的熱情。Hadoop比其他一些處理工具慢，但它出奇的準確，因此被廣泛用於後端分析。它和Hive——一個基於查詢並且運行在頂部的框架可以很好地結對工作。
Scala
Scala是另一種基於Java的語言，並且和Java相同的是，它正日益成爲大規模機器學習，或構建高層次算法的工具。它富有表現力，並且還能夠構建健壯的系統。
“Java就像是建造時的鋼鐵，而Scala則像黏土，因爲你之後可以將之放入窯內轉變成鋼鐵，”Driscoll說。
Kafka和Storm
那麼，當你需要快速實時的分析時又該怎麼辦呢?Kafka會成爲你的好朋友。它大概5年前就已經出現了，但是直到最近才成爲流處理的流行框架。
Kafka，誕生於LinkedIn內部，是一個超快速的查詢消息系統。Kafka的缺點?好吧，它太快了。在實時操作時會導致自身出錯，並且偶爾地會遺漏東西。
“有精度和速度之間有一個權衡，”Driscoll說， “因此，硅谷所有的大型高科技公司都會使用兩條管道：Kafka或Storm用於實時處理，然後Hadoop用於批處理系統，此時雖然是緩慢的但超級準確。”
Storm是用Scala編寫的另一個框架，它在硅谷中因爲流處理而受到了大量的青睞。它被Twitter納入其中，勿庸置疑的，這樣一來，Twitter就能在快速事件處理中得到巨大的裨益。
鼓勵獎： ➤MatLab
MatLab一直以來長盛不衰，儘管它要價不菲，但它仍然被廣泛使用在一些非常特殊的領域：研究密集型機器學習，信號處理，圖像識別，僅舉幾例。
➤Octave
Octave和MatLab非常相似，但它是免費的。不過，它在學術性信號處理圈子之外很少見到。
➤GO
GO是另一個正在掀起浪潮的後起之秀。它由Google開發，從C語言鬆散地派生，並在構建健壯基礎設施上，正在贏得競爭對手，例如Java和Python的份額。