读书笔记之差分隐私

读书笔记之差分隐私

差分隐私通常用来抵抗成员推理攻击。在机器学习中引入差分隐私需要权衡实用性和隐私性。

差分隐私定义

差分隐私分类

差分隐私根据噪声扰动使用的方式和位置来进行分类：

• 输入扰动：噪声被加入训练数据。
• 目标扰动：噪声被加入学习算法的目标函数。
• 算法扰动：噪声被加入中间值，例如迭代算法中的梯度。
• 输出扰动：噪声被加入训练后的输出参数。