2023年11月，詐騙分子僞裝成某科技公司郭先生的好友，騙取430萬元；2024年1月，香港一19家跨國公司員工遭遇釣魚詐騙損失2億港元；2023年12月，一名留學生父母收到孩子“被綁架”的勒索視頻，被索要500萬元贖金 ......
隨着AI的廣泛應用，其帶來的安全威脅也日益引起人們的關注，並迅速成爲一種新的威脅手段，給企業和個人用戶帶來前所未有的風險。相關統計顯示，2023年，基於“AI換臉”的欺詐事件增長3000%，基於AI的網絡釣魚郵件數量增長1000%。
頂象防禦雲業務安全情報中心發佈的《“AI換臉”威脅研究與安全策略》 情報專刊，詳細介紹了攻擊者利用AI製作的各類威脅手段。根據情報介紹，基於AI技術，攻擊者能夠僞造文本、圖片、視頻、聲音，可以製作仿真的人臉照片、人臉視頻、身份證件、金融賬戶、統計數據，更可以生成新型的木馬病毒，發起自動化的網絡攻擊。將AI僞造虛假內容與真實信息的元素拼湊在一起，就可以造謠傳謠、冒充熟人進行電信網絡詐騙、冒名申請銀行貸款、冒充他人面試入職、仿冒登錄盜走銀行餘額、進行網絡釣魚欺詐等等。
AI威脅帶來的危險不僅在於生成仿真的信息，還在於其所促成的整個詐騙生態系統：一個由機器人、虛假賬戶和匿名服務組成的錯綜複雜的網絡運作，所有這些都旨在製作、放大和分發捏造的信息和內容，具有識別難、檢測難和追溯難的問題。在這個欺詐體系中，攻擊者看不見且難以捉摸，他們不僅製作信息，還操縱每個參與者感知的現實結構。
傳統的安全工具和措施已無法有效防禦基於AI帶來的欺詐威脅，這是整個行業面臨的新挑戰。所以，要防範打擊AI欺詐，一方面需要有效識別檢測出AI僞造的內容，另一方面防範AI欺詐的利用和擴散。這不僅需要技術對策，更需要複雜的心理戰和公衆安全意識的提升。
2024年4月2日，最新一期“業務安全大講堂”將圍繞當前備受關注的AI威脅與安全防禦，分享針對AI威脅的最新反欺詐技術與安全產品。本期直播將在視頻號\釘釘\B站\CSDN等平臺同步直播，歡迎提前鎖定。
日期：2024年4月2日（星期二）
時間：下午15:00
主題：AIGC的風險與防控
嘉賓：頂象數據科學家翼龍、頂象資深解決方案專家師鳯羽
Tips：本期直播將在頂象視頻號&釘釘&B站頂象直播間&CSDN頂象技術直播間多平臺同步直播，感興趣的同學記得一定要提前鎖定直播間哦！
業務安全大講堂免費直播：立即報名
業務安全產品：免費試用
業務安全交流羣：加入暢聊