臉書封禁AI換臉視頻 業(yè)內(nèi)人士卻表示效果很有限

之前Facebook表示將禁止發(fā)布由人工智能深度操縱的視頻。這是該公司為打擊平臺上假信息而做出的一系列調(diào)整中的最新一步。本周一，F(xiàn)acebook高管莫妮卡·比科特(Monika Bickert)在博客中表示，F(xiàn)acebook將刪除通常被稱作“深度仿冒(deepfake)”的視頻。在這類視頻中，人工智能所做的修改“很可能會誤導(dǎo)人們，讓他們認(rèn)為視頻中的某個主題說了實際上不存在的話”。Facebook廣告同樣也將禁止這類視頻。

然而業(yè)內(nèi)人士認(rèn)為，這項政策對于控制假信息視頻的傳播效果有限，因為絕大多數(shù)此類視頻是以傳統(tǒng)方式來編輯的：手動刪除背景信息或調(diào)整語序。比科特表示，F(xiàn)acebook的新政策不會覆蓋這樣的視頻，也不會影響惡搞或諷刺類視頻。

她表示所有上傳的視頻仍將接受Facebook事實核查系統(tǒng)的檢查，以避免可能的欺騙性內(nèi)容。如果內(nèi)容被發(fā)現(xiàn)事實不準(zhǔn)確，那么就不會在消息流中得到突出展示，同時也會被打上相關(guān)標(biāo)簽。

新政策并不適用于這類視頻。假信息研究人員將此類視頻稱作“淺層仿冒”視頻，即用簡單的視頻編輯軟件剪輯出欺騙性內(nèi)容，這與由人工智能產(chǎn)生的深度仿冒視頻仍有相當(dāng)大的不同。佩洛西團(tuán)隊的德魯·哈米爾(Drew Hammill)在聲明中表示，F(xiàn)acebook“希望你認(rèn)為，問題出在視頻編輯技術(shù)上，但真正的問題在于Facebook拒絕阻止假信息的傳播”。

之前知名影星斯嘉麗·約翰遜曾對網(wǎng)絡(luò)上流傳的那些不雅視頻感到無語，因為在這些視頻中，女主角的臉通過AI人工智能等方式換成了她的臉。

對于這樣的行為，斯嘉麗·約翰遜和她的團(tuán)隊沒有任何辦法，從法律角度來說，這幾乎起不到任何作用，你可以要求某個網(wǎng)站停止侵權(quán)行為，但遺憾的是她們經(jīng)常維權(quán)無果。

除了斯嘉麗·約翰遜外，還有一些通過DeepFakes而更換其它女明星臉的不雅視頻也在傳播，面對這樣的情況，像Reddit之類的大型網(wǎng)站雖然采取了一定的措施，但他們不能對AI換臉不雅視頻做到徹底封殺。