《百面》-9.前向神經網絡

5.深度卷積神經網絡

問題1：卷積操作的本質特性包括稀疏交互和參數共享，具體解釋這兩種特性及其作用。

答：

1. 在卷積神經網絡中，卷積核尺度遠小於輸入的維度，這樣每個輸出神經元僅與前一層特定局部區域內的神經元存在連接權重，我們稱這種特性爲稀疏交互。
2. 稀疏交互的物體意義是，通常圖像、文本、語音等現實世界中的數據都具有局部的特徵結構，我們可以先學習局部特徵，再將局部的特徵組合起來形成更復雜的和抽象的特徵。
3. 參數共享是指在同一個模型的不同模塊中使用相同的參數，它是卷積運算的固有屬性。
4. 參數共享的物理意義是使得卷積層具有平移等變性。

問題2：常用的池化操作有哪些？池化的作用是什麼？

答：

1. 均值池化：通過對鄰域內特徵數值求平均來實現，能夠抑制由於鄰域大小受限造成估計值方差增大的現象，特點是對背景的保留效果更好。
2. 最大池化：通過取鄰域內特徵的最大值來實現，能夠抑制網絡參數誤差造成估計均值偏移現象，特點是更好的提取紋理信息。
3. 池化操作的本質是降採樣。除了能顯著降低參數量外，還能夠保持對平移、伸縮、旋轉操作的不變形。

問題3：卷積神經網絡如何用於文本分類任務？

答：

6:深度殘差網絡

問題1：ResNet的提出背景和核心理論是什麼？

答：

1. 解決或緩解深層的神經網絡訓練中的梯度消失問題。