非連續性隨筆

李善友教授說:  創新能力的本質就是發現不連續性。

連續性是人類思維裏邊一個去除不掉的隱含性的假設。從某種意義而言,就是這種隱含假設會成爲思維的牆。

當遭遇不連續性的時候,人類的思維將會遭遇到一個窘境。就是一個很狹義的跨越非連續性曲線的一個創新。

當下人工智能獲得突破的關鍵在於機器算法的深度學習,之前的深度學習受到存儲技術與大數據的窘境,尚未發揮出人工智能深度學習的潛力。

又十年之後,第三波人工智能浪潮到來。這一次,人工智能終於集齊了算法、算力、數據三條腿,可以大展身手了。標誌性的事件有兩個:一是1997年“深藍”擊敗國際象棋大師卡斯帕羅夫;二是2016年“阿爾法狗”擊敗圍棋世界冠軍李世石。看起來這兩件事的性質差不多,但其實標誌着人工智能的一次大轉型。

“深藍”代表着上一代人工智能,也就是專家系統。它是按照人類給它輸入的規則進行運算和推演,靠強大的計算能力擊敗對手。而“阿爾法狗”代表新一代人工智能,也就是神經網絡和機器學習。它根本不用人類教它怎麼下棋,自己隨便看看就自成大師了,還能自創人類經驗中沒有的新棋路。也許,在“阿爾法狗”看來,“深藍”根本不算真正的人工智能。

這是因爲,以深度學習爲代表的人工智能需要的算力,和一直以來以馮諾依曼架構爲核心的通用計算,有很大的不同。一方面,通用計算的很多能力,比如高精度計算、龐大的操作指令集,對深度學習來說是不必要的。深度學習需要的數據精度比較低、計算比較簡單。

但另一方面,深度學習需要處理天文數字的海量數據,一個大模型中包含的參數,就可以多達2000億個。這意味着,無論多麼強大的芯片和機器都不能夠單獨完成計算任務,它需要用“異構”的方式把多個算力單元疊加在一起。換句話說,未來人工智能算力拼的不是單個芯片的獨立性能,而是海量芯片相互之間的通信能力,而這是傳統的計算架構不擅長的。這意味着,人工智能的真正崛起,需要從底層去重構“根技術”。

可見,非連續性突破是技術創新的拐點。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章