【資料圖】

近日,甘肅省平?jīng)鍪泄簿志W(wǎng)安大隊(duì)偵破一起利用AI人工智能技術(shù)炮制虛假不實(shí)信息的案件。警方通過對(duì)“今晨甘肅一火車撞上修路工人致9人死亡”的虛假文章調(diào)查后,發(fā)現(xiàn)犯罪嫌疑人通過人工智能軟件將搜集到的新聞要素修改編輯后,使用某軟件上傳至其購(gòu)買的百家號(hào)上非法獲利(據(jù)每日甘肅網(wǎng)5月8日?qǐng)?bào)道)。

“某地取消機(jī)動(dòng)車尾號(hào)限行”“這里發(fā)生重大傷亡事故”“再次發(fā)現(xiàn)新物種!”如今,在社交媒體爆炸式信息沖擊下,花樣百變的新發(fā)現(xiàn)總是能突出重圍,博取眼球,然而這些或令人震驚或喜出望外的“新聞”,卻有不少是虛晃一槍。近年來,伴隨著人工智能技術(shù)的進(jìn)步,AI造假之風(fēng)卻愈演愈烈。AI“一鍵換臉”,一位無關(guān)人士可以變成當(dāng)事人,AI“視頻合成”,事故現(xiàn)場(chǎng)無中生有。這些不法分子通過AI偽造假新聞、假人物、假現(xiàn)場(chǎng),冠以突發(fā)新聞、科普內(nèi)容等名號(hào)在互聯(lián)網(wǎng)廣泛傳播,吸睛牟利,不僅制造謠言、混淆視聽,更擾亂網(wǎng)絡(luò)傳播秩序,讓“眼見不再為實(shí)”的當(dāng)下,掀起更大的社會(huì)信任恐慌。

我國(guó)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確,深度合成服務(wù)提供者和使用者不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播虛假新聞信息。轉(zhuǎn)載基于深度合成服務(wù)制作發(fā)布的新聞信息的,應(yīng)當(dāng)依法轉(zhuǎn)載互聯(lián)網(wǎng)新聞信息稿源單位發(fā)布的新聞信息。

“造謠一張嘴,辟謠跑斷腿”,換臉、換聲等AI造假亂象小到惡意抹黑他人名譽(yù),大至編造災(zāi)害信息制造社會(huì)恐慌,不僅大大增加科普辟謠的難度,更動(dòng)搖了新聞?wù)鎸?shí)性根基,容易引發(fā)輿情危機(jī),影響政府公信力。一旦這些假新聞被大量傳播瀏覽,造成網(wǎng)上公共秩序嚴(yán)重混亂,還會(huì)觸犯我國(guó)刑法,涉嫌尋釁滋事罪,可謂是后患無窮。

治理AI造假亂象,首先必須厘清AI技術(shù)應(yīng)用的底線和紅線,絕不能縱容不法分子利用其侵害國(guó)家安全和社會(huì)公共利益、擾亂經(jīng)濟(jì)秩序和社會(huì)秩序、侵犯他人合法權(quán)益。其次,AI技術(shù)的提供者必須守土有責(zé),從技術(shù)源頭上加強(qiáng)數(shù)據(jù)和算法管理,強(qiáng)化對(duì)合成技術(shù)使用者真實(shí)身份信息的認(rèn)證和核查,避免不法者濫用技術(shù)牟利,相關(guān)監(jiān)管部門也要加大監(jiān)管力度,發(fā)現(xiàn)違法亂象,依法依規(guī)嚴(yán)懲。

另外,社交媒體、網(wǎng)站等內(nèi)容發(fā)布平臺(tái)要保持內(nèi)容合規(guī)意識(shí),加強(qiáng)對(duì)用戶賬號(hào)真實(shí)信息的核查,杜絕“僵尸號(hào)”賬號(hào)買賣。加大用戶內(nèi)容巡查監(jiān)管頻次,提高檢測(cè)偽造行為的技術(shù)水平,及時(shí)甄別違法違規(guī)合成內(nèi)容,避免給虛假信息引流,造成更大的傳謠風(fēng)險(xiǎn)。

AI深度合成技術(shù)在數(shù)字仿真、沉浸式擬真等創(chuàng)新場(chǎng)景應(yīng)用前景廣闊,理應(yīng)成為內(nèi)容生產(chǎn)的好幫手,而非假新聞的策源地,更不是違法犯罪的推手。從AI造假亂象中應(yīng)該看到,我們?cè)谙硎芗夹g(shù)高速迭代紅利的同時(shí),應(yīng)該有更加深刻的倫理道德考量,不讓AI成為烏龍事件和反轉(zhuǎn)新聞的制造機(jī),守護(hù)風(fēng)清氣正的網(wǎng)絡(luò)生態(tài),是每一個(gè)互聯(lián)網(wǎng)用戶的應(yīng)有之責(zé)。

關(guān)鍵詞：