原创 探尋《矩陣論》與AI的結合
前言：矩陣論是對線性代數的延伸，很有必要深入研究。矩陣與泛函數分析和凸優化存在着密不可分的關係，尤其是內積空間部分。研究矩陣論可以加深對PCA，SVD,矩陣分解的理解，尤其是第一章入門的線性空間的理解，在知識圖譜向量化，self_atte
2020-06-16 08:14:11
8
原创 對當下AI的一些思考
中美的博弈沒有一批像華爲這樣的企業是絕對不行滴，一個遠遠不夠。明年將集中全部精力搞神經規則推理以及下一代AI的研究，今年算是過渡期，任務艱鉅。過渡期一定要打好基礎，實變函數與泛函數分析對於數學專業來講只是入門的數學，但是計算機專業的學生很
2020-06-16 08:14:11
原创 nlp研究方向的修正
給你一篇文章或者一個句子，人們在理解這些句子時，頭腦中會進行上下文的搜索和知識聯想。對於一篇有思想的文章，作者的創作構思以及核心思想，我們人腦基本的處理邏輯都是結合過去學習過的規則和概念進行抽象總結。作者的創作過程可以形成一個圖模
2020-06-16 08:14:11
原创 實變函數與泛函數分析學習筆記（三）：有界線性算子
導語：現代數學入門的鑰匙就是實變函數與泛函數分析。數學，物理學，計算機學科，神經生物學相互交叉構成了AI的基礎。深入研究AI，尤其是神經規則推理以及下一代AI技術，必須修煉好內功。非數學專業的學生，可能學過傅立葉變換，方向導數與梯度這些。
2020-06-16 08:14:11
13
原创 凸優化中幾個比較重要的推斷
1.泛函數的幾何意義 2.共軛函數的幾何意義 3.凸函數的局部最優解就是全局最優解 4.最優解的判斷準則證明 5.無約束二次規劃解討論 6.分離超平面定理
2020-06-16 08:14:11
8
原创 2018年nlp重大進展：關係推理，從圖結構入手
神經網絡與關係推理 author:佟學強 abstract 讓機器實現邏輯推理還差得遠。在Ai領域裏，目前統計學派和聯結主義學派比較盛行，但是類腦學科還沒突破，所以當下的Ai都是弱Ai。目前取得突破的基本都是在視覺和語音領域，nlp的進展
2020-06-16 08:14:11
原创 實變函數與泛函數分析學習筆記（二）：賦範線性空間
導語：現代數學入門的鑰匙就是實變函數與泛函數分析。數學，物理學，計算機學科，神經生物學相互交叉構成了AI的基礎。深入研究AI，尤其是神經規則推理以及下一代AI技術，必須修煉好內功。非數學專業的學生，可能學過傅立葉變換，方向導數與梯度這些。
2020-06-16 08:14:11
1
原创 濤聲依舊
濤聲依舊 前記:吳軍老師寫過《數學之美》這本書，用藝術的形式講述了統計學，讓文科生都能看得懂。能把深刻的道理用藝術的形式講出來，已經很了不起了。這個世界上無所謂膚淺與深刻，沒有膚淺就不會襯托出你的
2020-02-21 05:31:28
原创 養雞場下蛋記
養雞場下蛋記 author:佟學強 V:txq130 有一養雞場，雞每天都下蛋，蛋全都一樣的。 有一天廠長發現，西方的蛋好像比他的蛋個頭大，而且營養還好，數量也多。廠長心急，於是開始擴充養雞場規模，孵化更多的雞出來。廠長對衆雞說
2020-02-21 05:31:28
原创 深度學習不是黑盒子
當下，深度學習技術之於深度學習可解釋性，相當於歷史上的蒸汽機之於熱力學。瓦匠們發明蒸汽機後的幾十年裏，都沒有理論解釋產生，這個階段是初級階段，還不能真正帶動社會變革。直到熱力學誕生後，蒸汽機原理可解釋了，然後被改進，產生了火車，輪船等，極
2019-07-31 17:08:04
7
原创 教育該怎樣改革？
中國政府終究意識到，中美之戰，最後是教育的比拼，人才的比拼。砸錢砸人砸基礎學科研究的同時，一定要弄清楚國內教育問題的癥結。 全球慣例，大學的兩個定位，一是搞科研，一是培養人。中國高校這麼多年單腿走路該結束了，有的學校甚至坐輪椅，更坑人。強
2019-06-25 17:51:26
原创 從數學角度探究梯度下降算法的本質
以數據驅動的AI，根本任務有兩個：①建立系統的評價準則或者規則；②尋找最優的歸納偏置。找到最優的歸納偏置關鍵在於參數的優化算法。目前機器學習的參數優化算法集中在遺傳算法，模擬退火，SGD等。1996年非常具有代表性的論文lasso在損失函
2019-06-20 12:22:09