卷首語：人工智能發展趨勢
作者：張俊林，新浪微博機器學習團隊AI Lab負責人
人工智能最近幾年發展得如火如荼，學術界、工業界、投資界各方一起發力，硬件、算
法與數據共同發展，不僅僅是大型互聯網公司，包括大量創業公司以及傳統行業的公司都開
始涉足人工智能行業。儘管最近一年在資本市場趨冷的大環境下，AI熱度有所下降，但從
長遠來看，人工智能在各行各業獲得越來越廣泛的應用一定是社會發展最大的趨勢之一。
從AI基礎設施來說，人工智能專用芯片的研發方興未艾，不僅包括英偉達GPU、谷歌
TPU，國內的阿里、百度、華爲等巨頭公司，以及大量創業公司，都在AI芯片方面加快佈局，
隨着AI應用進一步滲透到IOT等方向，相信對專用芯片的需求會越來越廣泛。而作爲各種
AI應用開發工具的AI框架，也在之前的百花齊放式發展中逐步收斂，目前形成了PyTorch
引領學術界，TensorFlow主導工業界的雙雄局面；而隨着中臺概念的日益興起，國內大型互
聯網公司也正在以AI中臺的面貌推出各自的高層開發框架，大量AI創業公司則逐步轉向金
融、安防等垂直行業深耕細作的模式。
從AI技術進展的角度來看，有幾個明顯的技術趨勢已日益凸顯。首先，隨着以智能手
機爲代表的移動終端計算存儲能力快速加強，端AI與邊緣計算技術正在快速發展與普及，
如何在應用效果儘可能高的前提下，將模型做小做精緻做快，是這個發展方向的關鍵點。其
次，傳統機器學習嚴重依賴訓練數據的規模與質量，這制約了領域技術的快速發展，而最近
的明顯趨勢是由最常見的監督學習向半監督、自監督甚至無監督機器學習轉向，如何用盡量
少的有標訓練數據讓機器自主學會更多的知識，是大有前景的發展方向；第三，AutoML正
在快速地滲透到各個AI應用領域，從最早的圖像領域，目前已經拓展到NLP、推薦搜索、
GAN等多個領域，隨着AutoML技術的逐漸成熟，搜索網絡結構成本越來越低，相信會有更
多的領域模型會由機器來設計，而不是目前的算法專家主導的局面，這個技術趨勢基本是確
定無疑的。再者，隨着5G等傳輸技術的快速發展，視頻、圖片類應用快速成爲最主流的APP
消費場景，而機器學習技術如何更好地融合文本、圖片、視頻、用戶行爲等各種不同模態的
信息，來達到更好的應用效果，相信也會越來越重要。另外，如何讓機器能夠生成高質量的
圖片、視頻、文本等生成領域，最近兩年也出現了大量有效新技術比如圖像領域的GAN以
及文本領域的GPT2等模型，而這種具備創造性的生成領域，雖然之前由於受到技術發展水
平限制，大家投入的精力不多，隨着相關技術日益成熟，這塊相信也會越來越重要。
從AI應用領域發展趨勢來講，最主要的幾個AI方向比如自然語言處理、圖像視頻處理
及搜索推薦方向，最近一年來技術發展各自精彩紛呈，又呈現出不同的發展格局。
自然語言領域在最近兩年發生了天翻地覆的技術變革，進入了技術井噴的快速發展期，
而這一鉅變的引發者是由Bert爲代表的預訓練模型及新型特徵抽取器Transformer的快速發
展與普及帶來的。從Bert的應用來看，已經在包含對話系統、機器閱讀理解、搜索、文本
分類….等幾乎大多數NLP應用領域快速應用，並在部分應用領域取得了突破性的效果提升；
作爲剛提出一年多的新型研究範式，我們目前對Transformer和Bert爲何有效的理解還比較
淺顯，同時Bert模型還有很多值得深入改進的方向，比如生成模型、訓練方法優化、長文
檔處理、多模態融合……等，都需要進一步更深入的研究。最近一年也陸續出現了大量效果
突出的改進模型，比如XLNet、RoBERTa、ALBert、GoogleT5等一系列改進。相信隨着大家
對Bert的理解逐漸深入，對Bert模型的快速改進以及更多領域更好的應用效果會成爲NLP
領域的常態，我們在不遠的未來會看到NLP領域更多新模型的出現，以及這些新技術推動
實際應用場景的快速進步。
圖像處理領域是AI的另一應用主戰場，但是，除了近年來深度學習、ResNet兩大圖像
處理領域的巨大技術革新外，最近兩年來，CV領域並未有特別巨大的技術革新與進步，目
前進入技術平穩發展期。歸功於基礎技術的快速進步，很多CV應用已相對成熟，所以近年
來我們體會更多的是各種前沿技術在各個行業的應用落地與實踐。
對於推薦與搜索等具備較長工業化發展歷史的AI應用領域，深度學習在最近兩年已經
在各種互聯網公司比較廣泛地獲得了嘗試和應用。儘管並未像NLP與圖像領域那樣，深度
學習相對傳統模型獲得突飛猛進的技術突破，而且對於比如推薦領域DNN模型的效果到底
如何在學術上還存在爭議，但是相信這些領域如果能夠正確借鑑其它AI領域的技術進展，
會在未來兩年內出現令人驚喜的效果突出的技術進化。
綜合而言，AI技術發展整體進入快車道，不同領域又各有特色、發展階段以及各自的
精彩。可以堅信的一點是：相信AI會日益滲透到我們生活的方方面面，幫助我們生活得更
輕鬆更美好！
目錄
貝葉斯之父 Judea Pearl 推薦：機器學習因果推理的 7 個有用工具
人工智能 / 機器學習項目中廣泛使用的七種頂級編程語言
成就李開復、姚期智、沈向洋等人，印度農村走出的 AI 大師 Raj Reddy
多次問鼎 NuerIPS、MRQA 等國際頂級比賽，百度 NLP 技術到底有多強？
機器學習框架局勢突變：TensorFlow 逐漸式微，PyTorch 橫掃頂會
AI 大佬“互懟”：圖靈獎得主 Yoshua Bengio 槓上 Gary Marcus
阿里巴巴高級技術專家章劍鋒：大數據發展的 8 個要點