參數共享機制soft-share and hard-share【機器學習】

先講hard-share. 言外之意就是來硬的。實際上兩個參數的hard-share就退變成了一個參數。在實際計算過程中，我們就可以使用相同的參數進行計算。參數更新後也保持相同。

再說soft-share。實際上這纔是真的兩個不同參數，但是我們儘量保證兩個參數很接近。爲了使兩個參數很接近，我們通常使用損失函數來做。如下圖，其中$\theta^t$ 和 $\theta^{t'}$就是我們想要共享的參數。