“螞蟻呀嘿，螞蟻呀呼，螞蟻呀哈，螞蟻呀哈哈......”過去一周，在微信朋友圈、微博、抖音等社交媒體平臺，相信不少人都被這個魔性的音樂配合著夸張扭動的變臉視頻刷屏了。
然而這款名為Avatarify，火爆全網(wǎng)的AI換臉軟件從2月底沖上蘋果App Store免費榜第一，到今天從App Store中國區(qū)悄然“下架”只用了不到一周的時間。目前官方未給出具體下架原因，業(yè)界猜測該款軟件可能涉及隱私安全等問題。
AI換臉你體驗過了嗎?
Avatarify的名稱來源于“阿凡達”電影，創(chuàng)作者是一位開發(fā)工程師，最初只是因為疫情期間過于太無聊，才開發(fā)了這款變臉應用并將其開源。其實Avatarify早在去年7月就已經(jīng)上線，但一直不溫不火，直至”螞蟻呀嘿“特效躥紅后，才帶火了這款軟件。
軟件運行的原理是將別人的臉套在自己的表情上進行實時驅(qū)動。用戶只需要三步：導入手機里的人臉圖片，選擇視頻模板，軟件就能自動生成短視頻，再一鍵保存即可。如果想要照片中的多人都動起來，根據(jù)抖音中大多數(shù)視頻制作教程，則還需要一些剪輯軟件加以輔助。
Avatarify軟件背后用到的是deepfakes這項強大的AI人臉交換技術(shù)，這項技術(shù)不僅可以生成圖片，還可以生成視頻。Deepfakes，是由“deep machine learning”(深度機器學習)和“fake photo”(假照片)組合而成，本質(zhì)是一種深度學習模型在圖像合成、替換領域的技術(shù)框架，DeepFakes的出現(xiàn)可以說是人臉交換技術(shù)的一個重要突破。
AI換臉安全爭議不可回避
然而，就像過往的任何一款換臉AI軟件一樣，Avatarify不可回避地也遇到了可能涉及的安全和隱私問題。人臉是非常隱私且重要的個人信息，由于換臉軟件在使用過程會收集用戶個人信息，如照片、面部特征等。如果將這些信息通過AI技術(shù)合成，一旦被泄露被盜取，很可能會對個人財產(chǎn)造成損害，以及由此帶來一系列未知風險。早前在國內(nèi)火爆一時的“ZAO”也曾因?qū)﹄[私泄露的擔心引發(fā)公眾焦慮和談論，并被工信部約談后下架。
對于Avatarify的下架，有網(wǎng)友表示：“技術(shù)是好技術(shù)，但是應該有正確的使用規(guī)范。在沒有規(guī)范的前提下應當謹慎使用。”“AI換臉最怕的就是被不法分子利用。”
2019年11月底，國家網(wǎng)信辦、文旅部和廣電總局等三個部門聯(lián)合發(fā)布了《網(wǎng)絡音視頻信息服務管理規(guī)定》，其中明確了“利用基于深度學習、虛擬現(xiàn)實等的虛假圖像、音視頻生成技術(shù)制作、發(fā)布、傳播謠言的應當及時采取相應的辟謠措施”等針對換臉技術(shù)的新規(guī)定。規(guī)定同時指出，利用基于深度學習、虛擬現(xiàn)實等的新技術(shù)新應用制作、發(fā)布、傳播非真實音視頻信息的，應當以顯著方式予以標識。且不得利用該技術(shù)“制作、發(fā)布、傳播虛假信息”。此外，規(guī)定還強調(diào)，不得利用相關(guān)的音視頻技術(shù)“侵害他人名譽權(quán)、肖像權(quán)、隱私權(quán)、知識產(chǎn)權(quán)和其他合法權(quán)益”。
任何AI技術(shù)的運用都是人類科技發(fā)展進步的體現(xiàn)，但是在使用任何高科技和新手段的時候一定要守住法律和道德的底線。用戶在體驗App的時候更要多留一份心眼。不能只顧好玩而忽略了信息安全及個人隱私的泄露問題。(解敏)
