dropout個人理解

1、dropout中概率參數p，是指單個神經元被丟棄的概率。
2、訓練階段droup的開關放在激活值之後，
3、測試階段，每個激活值後乘以q（保留概率），以此來縮放激活函數。
4、某一層有n個神經元，則一次迭代丟棄的神經元個數是不確定的，它是個隨機變量，服從二項分佈。
5、經過多輪訓練，某層神經元平均丟棄的個數爲概率爲n*p。
6、在n*p處的概率最大，並以p=0.5爲左右對稱分佈。