谷歌重拳打擊deepfake內(nèi)容 防止霉霉“不雅照”事件再出現(xiàn)

在AI能生成令人難以置信的逼真圖像的時(shí)代，也滋生了“deepfakes”類型的不良內(nèi)容，帶來了嚴(yán)重負(fù)面影響。之前泰勒?斯威夫特(Taylor Swift)就成為deepfake受害者，在社交平臺上充斥著她的大量“不雅照”，瀏覽量高達(dá)上千萬。

近日谷歌宣布，將推出新的在線安全功能，可以更輕松地從搜索中大規(guī)模刪除明顯的深度偽造內(nèi)容，并防止這些內(nèi)容出現(xiàn)在搜索結(jié)果的靠前位置。

首先，谷歌簡化了從搜索中刪除AI偽造內(nèi)容的過程。其次，現(xiàn)在新算法可以防止此類圖片出現(xiàn)在搜索結(jié)果的頂部。最后，當(dāng)一張露骨deepfakes圖片被刪除后，系統(tǒng)會(huì)自動(dòng)刪除其可能的副本，并阻止類似查詢結(jié)果的出現(xiàn)。

谷歌還更新了排名系統(tǒng)，如果用戶專門搜索帶有某人姓名的deepfakes內(nèi)容，搜索結(jié)果將顯示“高質(zhì)量、非露骨內(nèi)容”。谷歌表示算法更新已經(jīng)產(chǎn)生切實(shí)成果，搜索結(jié)果中的露骨deepfakes圖片曝光率降低了70%以上。