AI換臉，也稱爲“深度僞造”（Deepfake），是一種利用人工智能技術將人臉替換到另一個人的臉部上的技術。“深度僞造”技術涉及多種技術和算法，可以生成非常逼真的圖像或視頻。將“深度僞造”的虛假內容與真實信息的元素拼湊在一起，就可以用於可以僞造身份、傳播錯誤信息、製作虛假數字內容，進行各類欺詐。
畢馬威一份報告顯示，在線提供的“深度僞造”視頻同比增長了900%。另據 Home Security Heroes 研究發現在 95,820 個“深度僞造”在線視頻中，98% 被歸類爲 色情內容。而這些“深度僞造”的視頻中有 99% 以女性爲主題， 94%的主角是娛樂行業從業者。網絡安全提供商ESET調查發現，英國61%的女性擔心成爲深“深度僞造”色情內容的受害者。
頂象防禦雲業務安全情報中心發佈的《“AI換臉”威脅研究與安全策略》 情報專刊顯示，“深度僞造”氾濫的另一個主要因素是工具的可用性，這些工具使創建虛假視頻圖片變得更容易。Home Heroes 的調查顯示，目前市場上至少有42種易於使用的工具可用於製作“深度僞造”，這些工具每月在網上被搜索約數千萬次。此外，隨着網絡犯罪即服務（Cybercrime as-a-Service）的出現，普通人也可以輕鬆購買到“深度僞造”的服務或技術。
如何防止AI製作的色情視頻擴散？
攻擊者利用社交媒體、電子郵件、遠程會議、網絡招聘、新聞資訊等一系列媒介，對企業和人進行各類“深度僞造”欺詐攻擊。
《“AI換臉”威脅研究與安全策略》 情報專刊認爲，要防範打擊“深度僞造”欺詐，一方面需要有效識別檢測出“深度僞造”僞造的內容，另一方面防範“深度僞造”欺詐的利用和擴散。這不僅需要技術對策，也許需要複雜的心理戰和公衆安全意識的提升，更少不了監管部門對於深度僞造”色情視頻製作者的處罰。
**個人防範信息被盜用複製。**杜絕在社交媒體上分享個人照片、聲音和視頻等，減少賬戶、家庭家人、交通出行、工作崗位等敏感信息，防範欺詐分子盜用下載後，進行身份的僞造。一旦發現“深度僞造”的虛假視頻和圖片，迅速向社交媒體管理員和執法部門報告。
AI工具增強人臉安全使用。《歐盟人工智能法案》要求生AI工具的提供者有義務以允許檢測合成/虛假內容的方式設計這些工具、增加數字水印、及時限制用於驗證個人身份的數字身份證等。AI 水印的工作原理是將獨特的信號嵌入到人工智能模型的輸出中，此信號可以是圖像或文本，旨在將內容標識爲 AI 生成的內容，以幫助他人識別有效識別。
社交媒體遏制色情視頻傳播擴散。社交媒體平臺通常將自己定位爲僅僅是內容的渠道，澳大利亞競爭和消費者委員會 （ACCC） 認爲，Facebook應該作爲騙局的從犯承擔責任，平臺應該負責及時刪除用於欺詐目的的“深度僞造”內容。
YouTube 規定，任何將視頻上傳到平臺的人必須披露合成媒體的某些用途，以便觀衆知道他們所看到的不是真實的，以降低“深度僞造”視頻的欺詐利用。同時，在 Facebook 上，任何 “深度僞造”生成的內容都可能顯示一個圖標，清楚地表明內容是用人工智能生成的。
**媒介服務提升人臉應用保障。**頂象全鏈路全景式人臉安全威脅感知方案，能夠有效檢測識別“深度僞造”的虛假視頻和虛假圖片。它針對人臉識別場景及關鍵操作的實時風險監測（如攝像頭遭劫持、設備僞造、屏幕共享等），然後通過人臉環境監測、活體識別、圖像鑑僞、智能覈實等多維度信息進行覈驗，發現僞造視頻或異常人臉信息後，可自動阻斷異常或欺詐操作。
搭建多渠道全場景多階段防護的安全體系。覆蓋各渠道平臺和各業務場景，提供威脅感知、安全防護、數據沉澱、模型建設、策略共享等安全服務，能夠滿足不同業務場景，擁有各行業策略且能夠基於自身業務特點實現沉澱和更迭演進，實現平臺的精準防控，從而快速有效地應對 “深度僞造”攻擊，進行個性化防護。頂象最新升級的反欺詐技術與安全產品，爲企業搭建一個多渠道全場景多階段的安全體系，以系統對抗AI帶來新威脅，包含：自適應混淆加固的iOS加固、能夠生成無限圖片的無感驗證、支持跨平臺統一設備信息的設備指紋、能夠攔截複雜攻擊挖掘潛在威脅的Dinsight風控引擎等。
監管部門加強“深度僞造”色情視頻的製作和擴散處罰。通過對“深度僞造”創建或傳播深度僞造的個人施加法律後果，可以阻止有害內容的擴散，並讓肇事者對其行爲負責。對“深度僞造”欺詐定性刑事犯罪可以起到威懾作用，防止將這項技術濫用於欺詐或其他惡意目的，是減輕“深度僞造”技術有害影響的一種有效方法，必須對那些故意製造或促進有害深度僞造傳播的人處以刑事處罰。