0x00背景
0x01 概述
人工智能（Artificial Intelligence，簡稱AI），阿爾法狗對戰中國的圍棋高手，結果阿爾法狗的AI進入人民的視野，哇哇，人工智能來臨了。我們看到了很多人工智能的應用（智能電話營銷：打電話給你的是機器人，回覆你的也是機器人，陪你聊天的也是機器人；各種在線客服機器人：你問啥，她回答啥，還挺真實的，不過還是偶爾傻逼一下等到）。
0x02 技術架構
0x03 人工智能安全風險分析與內涵
1、新的攻擊威脅：
攻擊方法：對抗樣本的攻擊、數據投毒、模型竊取、人工智能系統攻擊
攻擊影響：模型的訓練、測試和推斷過程中均可能遭受攻擊；危害數據和模型的機密性、完整性和可用性。
2、人工智能安全隱患
①算法模型安全隱患：算法是人寫的，模型也是人寫的，都可能有缺陷，有歧視，有黑箱操作的可能。
②數據安全與隱私保護隱患：採集數據、使用數據、存儲數據都不同程度的濫用泄露。
③基礎設施安全隱患：簡單理解，人工智能也得依賴數據庫、操作系統、代碼。這些就是基礎設施，一旦這些基礎被黑客控制了，數據就被泄露了。
④應用安全隱患：自動駕駛（黑客遠程入侵控制導致撞車）、生物特徵識別（小學生用照片成功忽悠人臉識別）、智能音箱等等。
⑤人工智能濫用：利用語音合成技術假扮受害人親屬實施詐騙、人工智能技術破解登錄驗證碼的效果越來越好、且難以防範、利用人工智能技術模仿人類，如換臉、手寫僞造、人聲僞造、聊天機器人。
3、安全影響：
國家安全影響：人工智能可用於構建新型軍事打擊力量，對國防安全造成威脅。
社會倫理挑戰：智能人工機器人替代人，造成大量失業；人們不去戀愛了，就和機器人戀愛。
人身安全風險：抽象
0x04 人工智能安全標準體系
0x05 人工智能相關安全標準
0x06 人工智能實踐
B.1 百度人工智能安全實踐：整體解決方案——AdvBox，對抗樣本的增強。
B.2 獵戶星空人工智能安全實踐：豹小祕、豹花瓶等產品，嚴格按照各種技術要求進行平臺建設。
B.3 清華大學人工智能安全實踐：人工智能對抗性攻防，RealSafe是開源標準程序庫，業界可以免費對其進行非商業用途使用
B.4 依圖人工智能安全應用實踐：典型人工智能安全問題，依圖提出了人工智能系統安全技術的相關要求與解決方案。依圖將人工智能系統分爲了設備要素和網絡要素兩大要素的安全
B.5 IBM人工智能安全實踐：人工智能三原則，人工智能公平360工具箱”（AIF360）；AIF360可幫助檢測、緩解或消除機器學習模型中的偏見
B.6 深信服人工智能安全實踐：深信服安全雲腦具備威脅情報和未知威脅檢測能力
B.7 360 人工智能安全實踐：360通過基於人工智能分析的360“安全大腦”，打造智能交通安全動態防禦體系，全面保障智能交通安全
B.8 阿里巴巴人工智能安全實踐：實人認證、問答型對抗驗證碼
B.9 華爲人工智能安全實踐：華爲結合人工智能技術提出了防偷窺和用戶隱私保護的解決方案。手機利用人工智能技術可以檢測到是否存在機主/非機主、多人注視屏幕的情況，當手機識別出有陌生人或多人注視屏幕時，會將手機屏幕顯示的私密信息自動
隱藏，以便保護用戶的隱私信息
此筆記是原創，但相關圖表、分析、結論的版權來源：全國信息安全標準化技術委員會大數據安全標準特別工作組