中新網(wǎng)5月22日電 (中新財(cái)經(jīng) 左雨晴)“點(diǎn)進(jìn)直播間一看,‘迪麗熱巴’居然在直播賣貨?！苯?有網(wǎng)友點(diǎn)開直播間,卻發(fā)現(xiàn)正在賣貨的竟是當(dāng)紅女星。然而再定睛一看,這些帶貨“明星”很快露出了馬腳——身穿中式服裝,正在賣力帶貨的“明星”們,其實(shí)只是使用了AI實(shí)時(shí)換臉技術(shù)的普通主播。

AI實(shí)時(shí)換臉,正在直播間悄然出現(xiàn)。

迪麗熱巴、楊冪直播賣貨?假的!

(資料圖)

“一開始只是以為長得像,沒想到刷進(jìn)去好幾個(gè)直播間都這樣,才發(fā)現(xiàn)是用了‘換臉’。”路垚(化名)向中新財(cái)經(jīng)表示,近期她被推送的好幾個(gè)直播間,都采用了AI換臉明星的方式進(jìn)行直播帶貨,而楊冪、迪麗熱巴、angelababy等當(dāng)紅女星,成為了AI換臉的重點(diǎn)對象。

“向平臺投訴了也沒什么用。”她說。

中新財(cái)經(jīng)注意到,目前的AI實(shí)時(shí)換臉,在直播中已能達(dá)到以假亂真的地步,不少人點(diǎn)進(jìn)直播間以后以為主播只是長得像明星,不過也有一些直播間出現(xiàn)了人身比例失調(diào)的違和現(xiàn)象。有網(wǎng)友指出了其中一些破綻:“主播低頭整理頭發(fā)的時(shí)候,腦門上全是黑的。”

某直播間內(nèi),一名主播正在進(jìn)行“換臉”帶貨。

“現(xiàn)在普通人的臉已經(jīng)不配直播了?！庇芯W(wǎng)友如此感慨。

對于競爭火熱的直播間來說,“高顏值”是主播的重要資本之一,而使用“明星臉”直播,或許可以更好達(dá)到引流效果,并節(jié)省直播成本。此外,使用統(tǒng)一的“換臉”形象,也使直播間降低了主播走紅后“單飛”帶來的風(fēng)險(xiǎn)。

但不少網(wǎng)友也對“換臉”表示了反感:“發(fā)現(xiàn)是‘換臉’直播后,就失去了購買的欲望?！?/p>

AI實(shí)時(shí)換臉全套模型僅需3.5萬元

隨著AI技術(shù)的不斷進(jìn)步,AI實(shí)時(shí)換臉已逐漸成熟。近年來,AI實(shí)時(shí)換臉已從最初的娛樂“整活”,向直播等多個(gè)應(yīng)用場景發(fā)展。通過智能后臺的AI換臉技術(shù),主播可以實(shí)現(xiàn)形象的實(shí)時(shí)替換。

有視頻換臉研究者表示,實(shí)時(shí)換臉不存在延遲,也不會有Bug,而直播畫面?zhèn)鬏數(shù)难舆t則取決于使用者的網(wǎng)絡(luò)配置和進(jìn)行直播的平臺。

中新財(cái)經(jīng)以使用者的身份咨詢了一家提供“換臉軟件”的網(wǎng)站。該網(wǎng)站客服表示,使用AI換臉需要進(jìn)行模型訓(xùn)練?！昂铣尚Ч貌缓?關(guān)鍵看模型和素材?！?/p>

據(jù)提供“換臉軟件”的網(wǎng)站介紹,使用者自己從零開始訓(xùn)練模型,如果24小時(shí)掛機(jī)不停的訓(xùn)練模型,需要經(jīng)過半個(gè)月到一個(gè)月的時(shí)間,才能達(dá)到可以合成視頻的效果。

而比起自己花費(fèi)大量時(shí)間訓(xùn)練模型,更多人選擇購買現(xiàn)成的模型?！八夭某渥愕脑?你只要花費(fèi)半個(gè)小時(shí)到幾個(gè)小時(shí)的時(shí)間就可以直接合成視頻。模型可以替換任意素材使用,不分張三李四?！?/p>

該網(wǎng)站客服稱,他們提供的全套模型購買價(jià)格為3.5萬元,AI實(shí)時(shí)換臉可適用于各大直播平臺。

換臉直播存在哪些侵權(quán)?

與此前因爭議沖上熱搜的“AI孫燕姿”一樣,AI換臉也存在侵權(quán)問題。

北京云嘉律師事務(wù)所律師趙占領(lǐng)向中新財(cái)經(jīng)表示,AI換臉主要涉及肖像權(quán)等問題?！叭绻f未經(jīng)他人同意,用他人的肖像替換某一個(gè)主播的形象,這種情況下涉嫌侵犯肖像權(quán);如果說還使用了他人的姓名,那還涉嫌侵犯姓名權(quán)?！?/p>

中新財(cái)經(jīng)注意到,在一些提供換臉軟件的教程或網(wǎng)站上,提供者均提醒要警惕使用AI換臉進(jìn)行詐騙或者侵權(quán)的行為。

那么,在AI換臉直播中,平臺是否負(fù)有責(zé)任?

趙占領(lǐng)表示,平臺對于平臺內(nèi)商家的侵權(quán)行為不承擔(dān)直接侵權(quán)的責(zé)任,而是否構(gòu)成幫助侵權(quán),主要是看平臺對于商家的侵權(quán)行為是否屬于明知或應(yīng)知。

“一般情況下,平臺使用的是通知?jiǎng)h除規(guī)則,也就是說權(quán)利人向平臺發(fā)出侵權(quán)通知后,如果平臺對于被投訴的行為不處理,那么平臺構(gòu)成幫助侵權(quán)。但如果平臺處理了,那一般不承擔(dān)責(zé)任?！?/p>

但對于如何判定平臺對用戶、權(quán)利人的投訴是否明知或應(yīng)知,趙占領(lǐng)也表示,在一般情況下很難認(rèn)定。

日前,某短視頻平臺發(fā)布《關(guān)于人工智能生成內(nèi)容的平臺規(guī)范暨行業(yè)倡議》,提出應(yīng)用生成式人工智能技術(shù)時(shí),發(fā)布者應(yīng)對人工智能生成內(nèi)容進(jìn)行顯著標(biāo)識,幫助其他用戶區(qū)分虛擬與現(xiàn)實(shí),特別是易混淆場景。“禁止利用生成式人工智能技術(shù)創(chuàng)作、發(fā)布侵權(quán)內(nèi)容,包括但不限于肖像權(quán)、知識產(chǎn)權(quán)等。一經(jīng)發(fā)現(xiàn),平臺將嚴(yán)格處罰?！?/p>[責(zé)任編輯：高文雯]

關(guān)鍵詞：