AI把愛豆變胖視頻火遍B站,我們找到了背後的技術團隊:你是怎麼把劉亦菲變胖的?...

來源:大數據文摘

本文約2000字,建議閱讀5分鐘

本文爲你介紹愛奇藝PersonAI團隊利用AI算法將明星變臉的技術。


劉亦菲有多漂亮就不用我多介紹了。

單是她那“優越的顱頂”,就已經足夠上一次熱搜了。

有個網友在劉亦菲腦殼上畫了個圈圈,簡直是照着籃球長得嘛,還有網友表示,“竟然覺得她光頭也一定好看”。

不過網友們沒能等來劉亦菲剃光頭,卻等來了劉亦菲變胖!

近期,一位名叫“AIworks”的B站UP主發佈了一個AI模擬女明星變胖後的視頻,視頻中“四小花旦”變胖的逼真效果引發網友熱議,被網友稱爲“大型減肥教育片”。

這個視頻發佈後在b站引發了一波“愛豆”變胖熱潮,我們也第一時間與視頻UP主取得了聯繫,詳細問了問他是怎麼把劉亦菲變胖的。

從劉亦菲到“劉大姐”,中間只差了個AI!

揭祕之前,咱們先一起來看看效果。看着這法令紋,這雙下巴,這贅肉,要不是知道她們原來的樣子,很難分清這是AI的作用。

那這背後是什麼技術呢?

經常關注我們的同學應該對這樣的技術不陌生了,像之前報道的styleGAN人臉風格變換,都是對GAN(對抗生成網絡)的應用,但是從效果來看,這個作品在細節方面有了很大的進步,尤其是在動態視頻中的表現效果,已經達到了以假亂真的地步。

對此UP主在接受採訪時也告訴我們,這個作品是他利用愛奇藝的一款小程序完成的,可以支持多種人臉編輯,包括變老、長鬍子、變男變女等。

跟愛奇藝相關技術團隊PersonAI溝通後我們得知,這款神奇的小程序主要也是用到了GAN的技術,變胖這個效果主要是PersonAI自研的GAN生成技術,借鑑了開源的StarGan的域遷移生成方案,同時加上了傳統warp變胖的圖到圖約束loss、身份約束loss、真實度感知loss等多種訓練loss,還取了個非常直白的名字——FatGAN。

之所以能夠取得比styleGAN更好的效果,PersonAI團隊也費了一番功夫:“(我們的方法)與styleGAN不同,styleGAN生成的特徵不連續,在人臉角度比較大的時候生成的效果不穩定,真實的圖像編輯效果差,這些都導致無法在真實視頻中得到較好的效果。”

至於爲什麼能夠產生法令紋、雙下巴這些細節,PersonAI團隊負責人首先稱讚了網友們的“火眼金睛”,“網友們的眼睛還是很尖的,”

“在剛開始做的時候,發現收集的微胖人羣數據集裏面,微胖人羣的法令紋也確實會比瘦子的深一些多一點,因此在域遷移GAN生成網絡裏面特意加了紋理約束來表徵法令紋等一些微胖人羣特有的細節。”

算法來自愛奇藝,“胖出法令紋”網友直呼細節真實

採訪中,PersonAI團隊負責人也表示,FatGAN生成人臉的五官與身份保持得很好,歸因於團隊的千萬級人臉識別模型的特徵比較魯棒,微胖數據也是利用該團隊的人臉屬性模型在愛奇藝海量的視頻素材庫裏面收集的。

在“四小花旦”的視頻在b站爆火後,up主又把目光投向了男明星們,第一個中招的就是易烊千璽。

胖起來就泯然衆人的哥哥們,甚至讓有的網友產生了這樣的想法:

這也體現了FatGAN的逼真的效果——既照顧到了真實的微胖是什麼樣子,又能保持與原對象本身的相似度。

爲了做到這兩點,愛奇藝PersonAI團隊克服了重重困難:“目前常見的模擬變胖變瘦的效果,基本上都是通過人臉圖像warp的方式來實現的,這種方法沒有法令紋等微胖人羣的真實細節特徵,而FatGAN通過添加屬性、感知、邊緣紋理等多種約束,使得生成的變胖效果更加真實。”

爲了讓生成的圖像更像本人,FatGAN需要能較好地保持身份信息,爲了做到這一點,利用了團隊內部的千萬級人臉識別模型,提取生成前後的人臉圖像多尺度身份特徵進行約束。同時,採用傳統warp變胖的效果進行感知Loss、L1loss等約束 。FatGAN單幀圖像處理流程如下:


圖1 FatGAN單幀圖像處理流程

“不僅是個真實的‘胖子’,還是個真實但美麗的‘胖子’”

爲了讓用戶能體驗視頻中變胖的真實效果,FatGAN需要保證視頻生成的穩定性,需要在生成過程中加入了光流預測模塊進行時序上的約束。

但是直接利用光流速度很慢,因此團隊構建了一個Unet+shuffle+Spade 的輕量級網絡,利用下圖2的大網絡對輕量級網絡進行蒸餾訓練,這樣可以做到移動端實時處理的效果。

圖2 變胖視頻處理流程圖

這麼好玩的應用當然不會只停留在實驗室,也不會只停留在把明星變胖上,許多網友也在B站留言提出了更多的要求。

對此,愛奇藝PersonAI團隊也告訴我們,“除了變胖特效外,我們小程序還支持多種人臉屬性編輯,包括變老、長鬍子、變男變女等,具體可以關注愛奇藝AI中心微信小程序。”

感興趣的小夥伴可以試一下~


目前團隊還在探索在AI中引入更多的設計和美學元素,比如希望不僅可以變成一個真實的“胖子”,還可以是一個真實且美麗的“胖子”。

團隊還希望GAN技術與3D技術結合起來,可以自由實現任意人臉編輯效果,支持用戶個性化定製玩法,比如用戶根據自己的審美捏一個屬於自己的“明星臉”。

最後,UP主也和我們一起暢想了一下AI技術在媒體方向的應用:

“也許將來,用戶自己創作的AI人物也能參與到劇中。”

編輯:王菁

校對:王欣

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章