人工智能編年史(誠邀大家補充)

人工智能編年史

起源

20世紀50 年代到 70 年代初,人工智能研究處於“推理期”,人們認爲只要給機器賦予邏輯推理能力,機器就能具有智能。

1943年,M-P神經元模型提出。

隨着神經科學算法的研究,1958年,康奈爾大學的實驗心理學家弗蘭克·羅森布拉特實現了“感知機”。人工智能的奠基人之一的明斯基提出感知機無法解決“異或”問題,神經網絡陷入低谷,不被看好。

1963年,俄羅斯學者Vladmir Vapnik首次提出的支持向量機(SVM)方法。

1968年,著名學者Cover和Hart提出kNN算法。此後聚類算法一直不斷進步。

低谷

1974 年,哈佛的保羅·沃波斯寫了一篇博士論文首次給出瞭如何訓練一般網絡的學習算法----“反向傳播算法”(簡稱BP 算法)。它是一種監督學習算法,常被用來訓練多層感知機。他後來得到了IEEE 神經網絡學會的先驅獎。沃波斯這篇文章剛發表時並沒引起多少重視,因爲那時正是神經網絡研究的低谷,文章不合時宜。

1975年,遺傳算法誕生。

20 世紀 70 年代中期開始,人工智能進入了“知識期”。在這一時期,大量專家系統問世。
但由於計算機性能不足,問題的複雜性過高,數據量的嚴重缺失等因素,機器學習陷入了低谷。

神經網絡崛起

“深度學習三巨頭”Hinton、LeCun、Bengio推動神經網絡發展。

1984年,L.Breiman等人提出CART算法。

1986年,Geoffrey Hinton和David Rumelhart聯合在Nature上發表論文,將BP算法用於神經網絡模型。

1986年,J.R.Quinlan提出ID3算法。

1990年,LeCun發表文章,採用BP神經網絡實現對手寫數字的識別,直到上世紀九十年代末,超過10%的美國支票都採用該技術進行自動識別。

1993年,J.R.Quinlan又提出C4.5算法。同年提出決策樹預剪枝和後剪枝。

1995年,支持向量機方法掀起“統計學習”熱潮。

1997年5月11日,IBM的計算機系統“深藍”戰勝了國際象棋世界冠軍卡斯帕羅夫,又一次在公衆領域引發了現象級的AI話題討論。這是人工智能發展的一個重要里程。

1997年,著名的adaboost算法提出。

深度學習三巨頭之一的LeCun在AT&T貝爾實驗室的時候,開發了LeNet。

1998年,LeCun又發文提出了LeNet-5的框架,即現在熱火朝天的卷積神經網絡(Convolutional Neural Network)的基本框架。然而卷積要消耗大量計算資源,BP方法又會帶來梯度彌散的問題,從而限制了神經網絡的深度和效果,神經網絡並沒有引起變革。

21世紀現狀

2001年,隨機森林算法問世。

到2002年,SVM已將手寫數字識別的錯誤率降至0.56%。

2004年GAN問世。幹!

2010年以來,ImageNet大規模視覺識別挑戰賽(ILSVRC)開始舉辦。

2012 年,斯坦福大學人工智能實驗室主任吳恩達和谷歌合作建造了一個當時最大的神經網絡,它是世界上第一個能夠識別“貓”的網絡。它共用16000 臺計算機搭建模擬了一個人腦神經網絡。這個網絡輸入1000 萬段從YouTube 上隨機選取的視頻,結果可以學習到識別“貓”,能成功找到貓的照片,識別率爲81.7%。

2012 年,Alex Krizhevsky 發表了 AlexNet。同年Alex Krizhevsky、Ilya Sutskever和Geoffrey Hinton組成的SuperVision隊,在ImageNet ILSVRC2012的分類和定位任務中,用AlexNet奪冠。

2014年,牛津大學提出 VGG 網絡,拿下ImageNet冠軍。

2014年,吳恩達加入百度。2017年離開百度。

2015年,何凱明提出殘差網絡。拿下ImageNet冠軍。

2017年,AlphaGo戰勝柯潔。AlphaGoZero發佈,利用強化學習自己學會下棋。

2017年,周志華提出gcforest,gcforest解釋性比神經網絡強,認爲滿足三個條件,不用神經網絡也可以訓練大數據。

波士頓動力2019年開始對外公開出售旗下機器狗系列產品,定價未知。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章