【資料圖】

正義網(wǎng)訊(記者范躍紅 通訊員陳佩佩)近日,浙江省杭州市蕭山區(qū)檢察院對一起利用“AI換臉”技術(shù)侵犯公民個人信息案,依法向杭州互聯(lián)網(wǎng)法院提起民事公益訴訟。

虞某某從互聯(lián)網(wǎng)上接觸到“AI換臉”軟件及技術(shù)后,從2021年開始,以牟利為目的,在未取得被編輯人同意的情況下,利用“AI換臉”軟件,將從互聯(lián)網(wǎng)等渠道收集到的他人人臉信息與部分淫穢視頻中的人臉信息進行替換合成,制作生成虛假的淫穢視頻,在社交軟件上進行傳播并獲利。截至案發(fā),公安機關(guān)共在虞某某所組建的公開群內(nèi)查獲淫穢視頻1200余部、圖片1600余張。

2022年11月30日,公安機關(guān)將虞某某移送蕭山區(qū)檢察院審查起訴。該院經(jīng)審查,以涉嫌制作、傳播淫穢物品牟利罪對虞某某提起公訴,同時在審查中發(fā)現(xiàn)虞某某還存在損害社會公共利益的行為。

經(jīng)查,虞某某在使用“AI換臉”技術(shù)制作淫穢視頻的同時,還為他人提供換臉視頻定制服務(wù),即根據(jù)客戶提供的視頻或照片制作換臉視頻。此外,虞某某還在社交軟件上銷售“AI換臉”軟件,提供換臉素材并傳授使用教程。

蕭山區(qū)檢察院認為,虞某某從互聯(lián)網(wǎng)公共空間非法獲取眾多人臉信息,利用“AI換臉”等深度合成技術(shù)非法處理、制作淫穢視頻后,在超過2000人的社交軟件群組傳播,同時提供換臉視頻定制服務(wù),使不特定群體成為潛在的被侵害對象,侵害了承載在不特定多數(shù)社會主體個人信息之上的公共信息安全。且虞某某在明知他人可能將“AI換臉”軟件用于達到侵犯個人信息等不正當目的的情況下,仍向他人銷售“AI換臉”軟件、提供換臉素材并傳授使用教程,使得不特定主體個人信息被侵害的社會危險性進一步擴大,應(yīng)當承擔相應(yīng)民事責任。

在依法履行訴前公告程序、無適格主體提起訴訟后,蕭山區(qū)檢察院向杭州互聯(lián)網(wǎng)法院提起民事公益訴訟,請求判令被告停止侵權(quán),刪除持有的所有涉案個人信息,不得再違法使用深度合成技術(shù)侵害社會公益;支付公益損害賠償金(專門用于個人信息保護、人臉深度合成技術(shù)應(yīng)用的治理等公益事項);在國家級媒體上向社會公眾公開賠禮道歉。

關(guān)鍵詞：