這是 --深度學習--caffe之經典模型詳解與實戰--learning
1/ caffe solver:通過協調Net網絡的前向推斷計算和反向梯度計算對參數進行更新，從而減小loss。 caffe模型學習主要分兩部分：Solver優化、更新參數 和 網絡計算loss 和 gradient。 caffe支持的Solvers有： SGD/adaDelta/adm.....等優化方法。 solver的主要功能有：優化過程記錄、創建訓練網絡和測試網絡。更新參數。週期性的測試網絡評估模型性能。在優化過程中記錄本模型 保存快照（防止斷電重來嘿嘿）
每一次迭代完成功能：調用前向過程計算輸出和loss 調用後向過程計算梯度 利用梯度更新參數 根據學習率、歷史數據和求解方法更新solver狀態，使權重從初始化狀態逐步更新到最終狀態。
solver方法是計算最小化損失loss值。達到優化目標。
2、 lenet模型--包含了卷基層、池化層、全連接層 這些最基本的組件。lenet5共8層，C層代表 卷積層，通過卷積操作可使原始信號特徵增強-這纔是卷積的優點所在。S層是下采樣層，利用圖像局部相關性原理，對圖像進行子抽樣，可以減少數據處理量也能保留有用的信息。