以下內容，摘編自頂象防禦雲業務安全情報中心正在製作的《“深度僞造”視頻識別與防禦白皮書》，對“深度僞造”感興趣的網友，可前往頂象留言，在該白皮書完成後，會爲您免費寄送一份電子版。
“深度僞造”就是創建高度逼真的虛假視頻或虛假錄音，然後就可以盜用身份、傳播錯誤信息、製作虛假數字內容。
2024年1月，香港一家跨國公司員工遭遇釣魚詐騙損失2億港元；2023年12月，一名留學生在境外被“綁架”，父母遭“綁匪”索要500萬元贖金；兩個案件均爲“深度僞造”欺詐。
畢馬威一份報告顯示，在線提供的“深度僞造”視頻同比增長了900%。另據 bandeepfakes的一項數據顯示，“深度僞造”色情內容就佔所有在線“深度僞造”視頻的 98%，幾乎都是針對女性的。
“深度僞造”視頻的產業鏈
生物識別公司iProov的一份新報告顯示，利用“深度僞造”製作虛假圖像和視頻的詐騙分子最常 SwapFace、DeepFaceLive 和 Swapstream等工具進行創建虛假的圖像和視頻。
這些工具與模擬器（能夠改變所在位置的經緯度，實現任何地方的瞬間“穿越”）、改機軟件（詐騙分子利用改機工具能夠僞造出來設備的屬性信息）、IP秒撥（能夠快速無縫切換國內國外不同區域的 IP 地址）等工具相結合，就能夠繞過安全體系的檢測，讓這些“深度僞造”視頻能夠進入遠程會議、工作網絡、社交平臺等不同渠道，然後就可以進行各類欺詐行動。
隨着網絡犯罪即服務（Cybercrime as-a-Service）的出現，由此導致普通人也可以輕鬆訪問地購買到“深度僞造”的服務或技術。調查發現， GitHub（軟件項目託管平臺，用於託管和管理開發項目的代碼存儲庫、協作和版本控制的最大基於 Web 的平臺）上，有超過 3000 個與 “深度僞造”技術相關的存儲庫，表明其廣泛的開發和分發潛力。
在國外某個暗網工具上，擁有近千個提供“深度僞造”的頻道或羣組。從虛假視頻自助製作到個性化定製，應有盡有。這些“深度僞造”服務的定價各不相同，價格最低的“深度僞造”視頻只需要2 美元，而需求複雜的一個“深度僞造”視頻要100美元起，易用性使得犯罪分子更容易進行“深度僞造”欺詐。
“深度僞造”視頻的製作步驟
“深度僞造”涉及 AI 算法和深度學習。總體來看，創建一個“深度僞造”視頻涉及如下過程。
1、收集數據。收集目標任務的大量數據，包含多角度的人臉照片、工作信息、生活信息等，其中在公開的社交媒體採集到大量圖片、信息和視頻。
2、特徵提取。利用深度學習算法，精準地識別並提取出如眼睛、鼻子、嘴巴等關鍵面部特徵。
3、人像合成。將目人臉覆蓋、融合到需要僞造視頻中的任務的臉上，對齊面部特徵，以確保它們在源和目標之間匹配、替換。
4、聲音處理。用機器學習和人工智能以驚人的準確性複製一個人的聲音，例如音高、語氣和說話風格，並將視頻中的嘴脣動作與合成語音相匹配。
5、環境渲染。使用照明和顏色工具，進一步完善視頻中人物、語音、動作與環境、服飾的協調匹配。
6、視頻合成導出，然後就可以用於在線播放、實時直播、視頻會議等等詐騙行爲。
防範“深度僞造”的難點
識別難。已經發展到可以令人信服地生成逼真的個人模擬的地步，這使得區分真假內容變得越來越困難，除非接受過專門培訓，否則很難被人識別出來，意識到這種威脅是防禦它的第一步。
檢測難。“深度僞造”質量的提高，檢測是一大難題。不僅肉眼無法有效識別，一些常規的檢測工具也不能及時發現。
追蹤難。沒有數字指紋，沒有明確的數字線索可循，沒有IP地址可以列入黑名單，甚至沒有直接的惡意軟件簽名可以檢測時，傳統的網絡安全措施無法有效防護。
更可怕的是，“深度僞造”的危險不僅在於技術，還在於其所促成的整個詐騙生態系統。“深度僞造”的欺詐生態通過一個由機器人、虛假賬戶和匿名服務組成的錯綜複雜的網絡運作，所有這些都旨在製作、放大和分發捏造的信息和內容。這是數字時代的一種游擊戰形式，在這個威脅體系中，攻擊者看不見且難以捉摸。他們不僅製作信息，還操縱每個參與者感知的現實結構。所以，打擊“深度僞造”欺詐需，不僅需要技術對策，更需要複雜的心理戰和公衆安全意識。
防禦“深度僞造”欺詐的四重措施
隨着技術的進步，檢測識別“深度僞造”騙局的方法也在不斷髮展，企業和個人需要通過多種渠道驗證身份，採用多重策略來識別與防禦“深度僞造”欺詐。
1、行爲與生物識別
（1）在視頻對話的時候，可以要求對方摁鼻子、摁臉觀察其面部變化，如果是真人的鼻子，按下去是會變形的。也可以要求對方喫食物、喝水，觀察臉部變化。或者，要求做一些奇怪的動作或表情，比如，要求對方揮手、做某個難做的手勢等，以辨別真假。在揮手的過程中，會造成面部的數據的干擾，會產生一定的抖動或者是一些閃爍，或者是一些異常的情況。在一對一的溝通中可以問一些只有對方知道的問題，驗證對方的真實性。同時，當有人在視頻或錄音中提出匯款要求時，必須致電或從其他渠道一再覈實。
（2）在點對點的溝通中可以問一些只有對方纔知道的問題，以驗證對方的真實性。
（3）“深度僞造”可以複製聲音，但也可能包含不自然的語調、節奏或微妙的失真，仔細聆聽後會顯得格外突出。同時，語音分析軟件可以幫助識別語音異常。
（4）在涉及文件的情況下，自動文檔驗證系統可以分析文檔是否存在不一致之處，例如字體更改或佈局差異。
2、設備和賬號識別
（1）數字簽名和區塊鏈賬本具有唯一性，可以對行爲來源跟蹤，並對其進行標記以供審查。
（2）對設備信息、地理位置以及行爲操作進行比對識別，能夠發現並防範異常操作。頂象設備指紋通過對設備指紋的記錄和比對，可以辨別合法用戶和潛在的欺詐行爲。其對每個設備進行唯一標識和識別的技術，識別出虛擬機、代理服務器、模擬器等被惡意操控的設備，分析設備是否存在多賬號登錄、是否頻繁更換IP地址、頻繁更換設備屬性等出現異常或不符合用戶習慣的行爲，幫助追蹤和識別欺詐者的活動。
（3）賬號異地登錄、更換設備、更換手機號、休眠賬戶突然活躍等等，需要加強頻繁驗證；此外，會話期間的持續身份驗證至關重要，保持持久性檢查以確保用戶的身份在使用期間保持一致。頂象無感驗證可以快速準確地區分操作者是人還是機器，精準識別欺詐行爲，實時監控並攔截異常行爲。此外，基於最小權限原則限制對敏感系統和賬戶的訪問，確保訪問其角色所需的資源，從而減少賬戶被盜用的潛在影響。
（4）基於人工審查與AI技術相結合的人臉反欺詐系統，防範“深度僞造”的虛假視頻。頂象全鏈路全景式人臉安全威脅感知方案，能夠有效檢測發現虛假視頻。它通過人臉環境監測信息、活體識別、圖像鑑僞、智能覈實等多維度信息對用戶人臉圖像進行智能風險評估、風險評級，迅速識別虛假認證風險。頂象全鏈路全景式人臉安全威脅感知方案，針對人臉識別場景及關鍵操作的實時風險監測，針對性地監測如攝像頭遭劫持、設備僞造、屏幕共享等行爲，並觸發主動防禦機制進行處置。在發現僞造視頻或異常人臉信息後，該方案系統支持自動執行防禦策略，設備執行命中防禦策略之後對應的防禦處置，可以有效阻斷風險操作。
3、AI識別與取證
（1）基於深度學習的生成對抗網絡（GAN）能夠訓練一種稱之爲“鑑別器”神經網絡模型，可識別真實版本和創建版本之間的任何差異。大數據模型可以快速分析大量視頻和音頻數據，以超出人類能力的速度識別異常。並且，機器學習模型可以識別“深度僞造”生產算法的特徵模式，從而識別“深度僞造”的內容。而且機器學習模型可以重新訓練和調整，保持實時的迭代進化。
（2）AI取證工具在調查和歸因“深度僞造”內容方面發揮着至關重要的作用，這些工具分析數字足跡、元數據和創建過程中留下的其他痕跡，幫助識別攻擊者的來源並協助法律調查。
4、社交防範與公衆教育
（1）減少或者杜絕在社交媒體上分享賬戶、家庭家人、交通出行、工作崗位等敏感信息，防範欺詐分子盜用下載後，進行圖片和聲音的“深度僞造”，而後進行身份僞造。
（2）持續對公衆進行“深度僞造”技術及其相關風險的教育至關重要，鼓勵公衆保持警惕並快速報告異常情況，也可以顯著提高組織檢測和響應“深度僞造”威脅的能力。
技術在不斷髮展，新的欺詐也在不斷湧現。儘可能隨時瞭解AI和“深度僞造”技術的最新發展，以相應地調整保障措施。對 AI 模型的持續研究、開發和更新對於在日益複雜的“深度僞造”技術中保持領先地位至關重要。
業務安全產品：免費試用
業務安全交流羣：加入暢聊