Deepfake AI換臉,一場“貓和老鼠”的追擊戰

2019-06-28 17:21 稿源:PingWest品玩  0條評論

AI,人工智能

數月前開始,關于“AI換臉“的話題時不時地登上熱搜,網友們一邊對這一科技大法respect,一邊調侃XX明星的演技。

按理說,科技為大眾帶來娛樂的祥和氛圍挺好的,不過,是時候換個角度來看看這種技術帶來的一些偏門應用。

網上熱傳的換臉神器,是一種利用更深度學習技術識別和交換圖片、視頻中人物臉部圖像的工具,被稱為深度偽造,也就是Deepfake,它不僅制作過程簡單而且逼真度驚人。

普通大眾接觸到的Deepfake已經是通過它制作出來的成品,比如徐錦江版的海王、復活的張國榮,被楊冪版黃蓉。

在Deepfake出現前,視頻換臉技術最早最廣泛的應用還是在電影領域,那時它需要相對較高的技術和資金。

現在Deepfake降低了這一門檻,它真正廣泛出現在大眾視野里是因為Pornhub上流行的Deepfake系列視頻。

Deepfake算法的偏門應用

最初一些少數技術精英們,為了傳播Deepfake技術在Reddit上創辦了論壇。

不過在討論技術學習的路上,Deepfake的黑暗面逐漸顯露,大家發現這種換臉技術還有一個細分方向:滿足私欲。

由Deepfake推動的色情生意病態發展,訂制色情片泛濫,從明星到路人,后來還延伸到了色情復仇。

Deepfake的色情生意并不是“隔海相望”,這種色情交易早已蔓延到國內,成為隱形的地下生意。

Deepfake的技術應用開發并未止步于色情視頻換臉。

據美國科技媒體Motherboard6 月 27 日報道,一名程序員又開發了名為“Deepnude”的應用,上傳一張女性照片,神經網絡技術可“自動”脫掉她的衣服。

這個軟件目前只能處理女性的照片,裸露越多,處理效果越好。上傳男性照片依然會被處理替換成女性身體,卡通圖片則無法識別。

開發此款應用的程序員表示,該應用由其開發的開源算法pix2pix創建,這一算法與之前的人工智能換臉技術deepfake算法相似,Deepnude只用了 1 萬張女性的裸照進行訓練,之后會考慮創建男性版本,而繼續這個實驗的也是為了在這個算法上獲得經濟回報。

顯然,Deepnude在侵犯著眾人隱私,甚至將每個人暴露在色情報仇的危險之中,而女性成為首個被攻擊的群體。類似的算法偏門應用可能還會不斷出現,Deepfake的開發依舊離不開生理需求的主導。

反識別Deepfake提上日程

可悲的是,無數關乎女性的Deepfake系列應用和視頻并未能讓大眾產生危機感,當換臉視頻波及到更廣泛的人物,成為篡改視頻的技術手段,進而萌生技術犯罪趨勢的時候,大家才開始慌張。

想要得到一個換臉視頻并不復雜,例如圖中希拉里版特朗普的視頻僅使用了一種名為FAKEAPP的軟件,放入圖片視頻即可一鍵生成,不懂編程的人閱讀操作流程后都可輕易上手。

對此,美國《通信規范法》第 230 條:“交互式計算機服務提供者或使用者,就非出于己的信息內容,不應被視為內容的出版人即發表人。”這條規則可能要因為Deepfake而改變。

美國國防高級研究計劃局為此設立了“媒體鑒證”項目,以開發能識別Deepfake的工具,項目最初旨在實現現有鑒證工具的自動化,后來將終點轉向了人工智能生成的虛假視頻上。

由Deepfake到鑒別Deepfake制造的虛假視頻,展開了一場“貓和老鼠”的技術追擊戰。

近期,加州大學伯克利分校和南加州大學的研究人員打造的AI識別系統可尋找每個人的“軟性生物識別”標簽,在這場博弈賽中取得了階段性的取勝。

雖然,Deepfake技術發展迅猛,此前“無法眨眼”的問題已經得到改善,但研究人員發現,人們在說話時產生的頭、手、眼睛、嘴唇的微妙變化是Deepfake在創造虛假視頻時暫未考慮到的元素。

背后的原理為,不同人在說話時會表現出相對不同的面部和頭部運動模式,Deepfake由模仿算法控制會打破這些模式,導致嘴巴與頭部面部等部分形成不自然的分離。

基于此,這項鑒別技術構建了高度個人化的“軟生物識別指標”。檢測實驗中,該鑒別技術的總體識別率超過了95%。

接下來,研究人員將著手聲音特征進一步提高AI識別假視頻的技術。

基于希拉里(棕)、奧巴馬(淺灰帶框)、桑德斯(綠)、特朗普(橙)、奧倫(藍)隨即任務(粉)、奧巴馬Deepfake假視頻(深灰帶框)的190-D特征的而為可視化散點圖。
基于希拉里(棕)、奧巴馬(淺灰帶框)、桑德斯(綠)、特朗普(橙)、奧倫(藍)隨即任務(粉)、奧巴馬Deepfake假視頻(深灰帶框)的190-D特征的而為可視化散點圖。

這只是Deepfake博弈中,鑒別技術的一個短暫領先,軟生物識別指標的可靠性一定程度上仍然會受各類元素的影響,例如背景環境、鏡頭位置等。在這方面造假技術很可能又會迎頭趕上,更多基于Deepfake算法的新應用又會出現,例如前面提到的Deepnude。

在這場復雜程度不斷增加的安全博弈中,攻擊會被防御反擊,反過來又被更復雜的攻擊所抵消。

從國外引起的女性隱私侵犯,到國內有B站泛濫的明星換頭惡搞視頻,我們正在為Deepfake破壞的秩序付出代價。

Deepfake的損害不只是換臉

在AI深度學習第一個站出來給自己一巴掌的,是被稱為亞洲四大邪術的Photoshop。

Adobe在 6 月中旬推出了反PS工具。依托于AI算法,這個工具目前僅支持用于識別經液化處理圖片,可自動識別出人像照片中被修改的部分,還能把它還原成到初始樣貌,準確率高達99%。

此前Adobe也公布過識別圖片是否經過拼接、復制、刪除的AI。

這次研究人員通過編寫Photoshop腳本簡歷大量圖像訓練集,通過網絡上抓取的圖片使用面部感知液化調整,隨機選擇這些照片的子集進行訓練。同時還聘請藝術家改變相關參數到數據集中。

Adobe表示,這項研究成果并不會立即轉變為商業產品,只是為更好地監測圖像、視頻、音頻做出的一步努力。

其官網給出了更明確的解釋:

Adobe為用戶提供工具,釋放想象力,讓他們將想法變為現實,對此我們對Adobe作為創意工具在世界上的影響力感到自豪,但同時也意識到這項科技延伸的潛在道德問題。虛假內容已經成為日益緊迫的嚴重問題。

Adobe所指的虛假內容,影射的正是Deepfake。在建立機器學習應用后,需要確保它足夠安全,AI 里的Deepfake急需另一個AI來鉗制,然而現實里Deepfake的鑒別速度永遠要比造假慢幾拍,我們已經生活在一個安全問題暴露的世界里。

而Deepfake深度偽造技術存在的真正損害,不止是隱私侵犯、數據盜竊、色情內容亦或是政治上,它正在加速挑戰著互聯網數據真實性的邊界。

想象一下,未來無數機器學習分析的很可能來源于Deepfake的假數據,它的存在是對虛擬的網絡世界里關于“真實”最迫在眉睫的威脅,而這種影響可能用各種對抗識別鑒定方法都難以彌補。

今天有人有興致把朱茵的黃蓉換成楊冪的臉,以后就不好說了。

聲明:本文轉載自第三方媒體,如需轉載,請聯系版權方授權轉載。協助申請

相關文章

相關熱點

查看更多
?
传奇霸业广告