1*1的卷積核和全連接層有什麼異同?

當輸入的feature map的尺寸是1×1時,兩者從數學原理上來看,沒有區別。假設輸入爲c×1×1,輸出爲n×1×1,那麼全連接可以認爲是一個c維的向量和n×c大小的矩陣相乘。卷積層可以理解爲n個c×1×1的卷積核,分別與輸入做內積,跟計算矩陣向量乘沒有區別。

當輸入爲c×w×h時,卷積層和全連接層的輸出尺寸就不一樣了,1×1的卷積輸出爲n×w×h,全連接的輸出是n×1×1。此時,全連接可以等價於n個c×w×h卷積核的卷積層。

全連接層和卷積層最大的區別就是輸入尺寸是否可變,全連接層的輸入尺寸是固定的,卷積層的輸入尺寸是任意的。

作者:Joshua Li
鏈接:https://www.zhihu.com/question/274256206/answer/375302595
 

發佈了39 篇原創文章 · 獲贊 139 · 訪問量 39萬+
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章