讀書筆記之差分隱私

讀書筆記之差分隱私

差分隱私通常用來抵抗成員推理攻擊。在機器學習中引入差分隱私需要權衡實用性和隱私性。

差分隱私定義

差分隱私分類

差分隱私根據噪聲擾動使用的方式和位置來進行分類：

• 輸入擾動：噪聲被加入訓練數據。
• 目標擾動：噪聲被加入學習算法的目標函數。
• 算法擾動：噪聲被加入中間值，例如迭代算法中的梯度。
• 輸出擾動：噪聲被加入訓練後的輸出參數。