现在AI安全早已成为安全行业的热门词汇了，AI安全包括两个层面，一个用AI解决安全安全行业问题，一个是AI自身的安全问题，平时我们谈AI解决安全安全行业问题比较多，对AI自身安全确少有提及，今天要分享的就是AI自身安全问题，总结了一些前沿的论文，方便大家一目了然。
机器学习（深度学习）的分层实现：
主流的深度机器学习平台的复杂度：
存在的攻击面：
- 输入畸形数据
- 输入被毒化的训练数据
- 输入带有攻击恶意模型
报过的漏洞：
威胁类型：
（1） DoS 攻击
对训练机器的资源进行消耗，只到耗尽，形成DOS攻击，这种攻击将来对分布式训练平台也有很大的杀伤力
（2）规避攻击
1)通过漏洞复写训练结果模型
2) 劫持程序的执行改变训练模型的执行
（3）威胁训练系统（ 通过构造一个恶意图片，使训练程序触发漏洞，导致训练机器被控制）
问题思考：
- 怎样保障机器学习环境（公用的分布式平台或封闭式环境）的不被入侵？
- 怎样检测深度学习模型的有没有被毒化？
- 怎样检出深度学习程序自身的逻辑错误或有没有被数据构造攻击