这是 --深度学习--caffe之经典模型详解与实战--learning
1/ caffe solver:通过协调Net网络的前向推断计算和反向梯度计算对参数进行更新，从而减小loss。 caffe模型学习主要分两部分：Solver优化、更新参数 和 网络计算loss 和 gradient。 caffe支持的Solvers有： SGD/adaDelta/adm.....等优化方法。 solver的主要功能有：优化过程记录、创建训练网络和测试网络。更新参数。周期性的测试网络评估模型性能。在优化过程中记录本模型 保存快照（防止断电重来嘿嘿）
每一次迭代完成功能：调用前向过程计算输出和loss 调用后向过程计算梯度 利用梯度更新参数 根据学习率、历史数据和求解方法更新solver状态，使权重从初始化状态逐步更新到最终状态。
solver方法是计算最小化损失loss值。达到优化目标。
2、 lenet模型--包含了卷基层、池化层、全连接层 这些最基本的组件。lenet5共8层，C层代表 卷积层，通过卷积操作可使原始信号特征增强-这才是卷积的优点所在。S层是下采样层，利用图像局部相关性原理，对图像进行子抽样，可以减少数据处理量也能保留有用的信息。