AI換臉視頻不能隨便玩了 國內(nèi)監(jiān)管規(guī)定明年元旦起施行

上傳自己的“臉”，就能把諸多明星換成你的“表演”——還記得前陣子在朋友圈刷屏的“AI換臉”不？這類技術(shù)帶來有趣體驗(yàn)的同時，也引發(fā)人們對隱私、版權(quán)、安全等方面的擔(dān)憂。近日監(jiān)管部門“出手”了。國家互聯(lián)網(wǎng)信息辦公室等三部門聯(lián)合發(fā)布的《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》，將從2020年1月1日起施行?！癆I換臉”現(xiàn)狀如何？國內(nèi)首個監(jiān)管“AI換臉”的規(guī)定會帶來什么影響？有記者進(jìn)行了探訪。

新規(guī)出臺，規(guī)定首次提出“辟謠機(jī)制”

近日，國家互聯(lián)網(wǎng)信息辦公室、文化和旅游部、國家廣播電視總局聯(lián)合印發(fā)了《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》(簡稱《規(guī)定》)。

記者看到，《規(guī)定》中多次提及基于“深度學(xué)習(xí)”“虛擬現(xiàn)實(shí)”等新技術(shù)新應(yīng)用的音視頻。《規(guī)定》強(qiáng)調(diào)，網(wǎng)絡(luò)音視頻信息服務(wù)提供者和網(wǎng)絡(luò)音視頻信息服務(wù)使用者利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等的新技術(shù)新應(yīng)用制作、發(fā)布、傳播非真實(shí)音視頻信息的，應(yīng)當(dāng)以顯著方式予以標(biāo)識，不得利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等的新技術(shù)新應(yīng)用制作、發(fā)布、傳播虛假新聞信息。

《規(guī)定》首次提出“辟謠機(jī)制”——網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)當(dāng)建立健全辟謠機(jī)制，發(fā)現(xiàn)網(wǎng)絡(luò)音視頻信息服務(wù)使用者利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等的虛假圖像、音視頻生成技術(shù)制作、發(fā)布、傳播謠言的，應(yīng)當(dāng)及時采取相應(yīng)的辟謠措施，并將相關(guān)信息報網(wǎng)信、文化和旅游、廣播電視等部門備案。

《規(guī)定》還明確了監(jiān)管和處罰機(jī)制——違反《規(guī)定》的，由網(wǎng)信、文化和旅游、廣播電視等部門依照相關(guān)法律法規(guī)規(guī)定處理;構(gòu)成違反治安管理行為的，依法給予治安管理處罰;構(gòu)成犯罪的，依法追究刑事責(zé)任。

探訪現(xiàn)狀，網(wǎng)上還可購買AI“換臉”制作

2017年底，deepfake換臉技術(shù)出現(xiàn)后，使用AI技術(shù)“造假”的視頻也日漸增多。而且，隨著技術(shù)的進(jìn)步，此類視頻變得越來越真假難辨，引發(fā)人們的擔(dān)憂。

總體而言，通過大數(shù)據(jù)和機(jī)器學(xué)習(xí)，AI解構(gòu)信息后，就能完美地生成他人的聲音和形象信息。

今年八九月份，一款名為“ZAO”的APP刷屏朋友圈。只需在手機(jī)上安裝這款A(yù)PP，就可以在視頻模板中一鍵“換臉”。當(dāng)時揚(yáng)子晚報記者曾下載APP，并授權(quán)使用照片。體驗(yàn)的感受是：視頻中自己的臉，像是介于明星和自己長相的“中間人”。分享給朋友后，他們表示“跟你本人相似度60%-80%”。

但就在“ZAO”流行的同時，其也因暗藏隱私泄露“大坑”，且無法注銷的用戶協(xié)議條款引發(fā)爭議。

實(shí)際上，在“ZAO”之前，“AI換臉術(shù)”也曾風(fēng)靡過。最火的莫過于“如何讓楊冪擁有朱茵的演技?”——今年年初，一段借助“AI換臉”制作的94版《射雕英雄傳》流行，黃蓉扮演者朱茵的臉被換成楊冪的，雖然五官不同，但換臉后的表情、動作自然流暢。

12月3日，揚(yáng)子晚報記者在B站搜索“換臉術(shù)”，仍有相當(dāng)多視頻。有的是由“ZAO”直接生成，有的是專門做換臉視頻的Up主上傳。

此外，記者從淘寶上搜索“AI換臉”，也能找到大量機(jī)器合成的音視頻。十幾塊錢就有商家提供這樣的定制服務(wù);自己使用手機(jī)APP也可以進(jìn)行“換臉”制作。有PS“換頭換臉”的商鋪，只要手持照片，就能換背景，與明星合影，或者將人物的“頭”完美“嫁接”到明星身上，不僅能正臉替換，還能將側(cè)臉換成正臉。也有淘寶賣家表示，可以定制AI視頻換臉，做成“穿越大片”、形象包裝、“收集”明星祝福等。有的一分鐘以內(nèi)視頻收費(fèi)60元。

未來影響 將有助于行業(yè)健康有序發(fā)展

新規(guī)出臺施行后，未來行業(yè)趨勢如何？有分析認(rèn)為，“AI換臉”不能是人工智能的“裸奔”，監(jiān)管規(guī)定的出臺，有助于規(guī)范行業(yè)的健康發(fā)展。 那么，新規(guī)會給普通人帶來什么樣的影響呢?可以預(yù)見的是，今后創(chuàng)作者對換臉技術(shù)的使用必將更加謹(jǐn)慎，需要警惕其中面臨的風(fēng)險。對于希望利用換臉技術(shù)牟取利益的人來說，這同樣是一種震懾，特別是色情視頻等黑產(chǎn)從業(yè)者。

對于網(wǎng)絡(luò)音視頻信息服務(wù)使用者而言，則應(yīng)依法使用網(wǎng)絡(luò)音視頻信息服務(wù)，自己的權(quán)利受到侵犯時一定要舉報投訴，依法保護(hù)自己應(yīng)有的權(quán)利。