新上架的一款叫做AI換臉的手機應用程序ZAO，近期引起了廣泛的關注和爭議，人們擔心的主要是泄露隱私和刷臉安全的問題。
10年前，我在中科院計算所工作的時候，利用人臉識別技術，開發了一款叫做會說話的照片的應用程序。其基本原理爲：在人臉識別的基礎上，進行眼、鼻、嘴巴等部位的標定，然後用一段語音或者文本來驅動該照片，自動生成短視頻。
ZAO應用程序的基本原理是在短視頻中識別人臉，然後利用已有的人臉照片替換該短視頻的人臉。目前提供的小視頻素材，在單個畫面中一個人爲主角居多（多張人臉識別也可以，效率會比較低），其原理相當於人臉識別和PS自動化，把人臉識別後，進行圖形自動處理。
隱私問題是不得要不擔心的問題。在ZAO應用程序中，需要註冊手機號，在玩短視頻的時候，需要一張正面、清晰的照片。在一家公司裏，手機號和照片對應，並不產生太大的問題，但是如果不同場景的數據，通過“拼接”在一起，形成互聯網下的大數據，可能把一個人的手機號、身份證、車牌、住址合在一起，現在把清晰的照片也可以得到，泄露後不得不讓人擔心。
泄露了人臉，刷臉還安全嗎？單純從一張人臉照片，很難通過刷臉認證，現在的刷臉認證都要進行“活體”檢測，讓“人”“搖搖頭”、“眨眨眼”等隨機的動作。假設有一個智能程序，具備語音識別，能夠根據認證程序的要求，利用泄露的人臉照片，自動生成“搖搖頭”、“眨眨眼”的段視頻進行攻擊，能否成功？！所以刷臉認證仍需要改進。