【資料圖】

近日,甘肅省平涼市公安局網安大隊偵破一起利用AI人工智能技術炮制虛假不實信息的案件。警方通過對“今晨甘肅一火車撞上修路工人致9人死亡”的虛假文章調查后,發(fā)現(xiàn)犯罪嫌疑人通過人工智能軟件將搜集到的新聞要素修改編輯后,使用某軟件上傳至其購買的百家號上非法獲利(據(jù)每日甘肅網5月8日報道)。

“某地取消機動車尾號限行”“這里發(fā)生重大傷亡事故”“再次發(fā)現(xiàn)新物種!”如今,在社交媒體爆炸式信息沖擊下,花樣百變的新發(fā)現(xiàn)總是能突出重圍,博取眼球,然而這些或令人震驚或喜出望外的“新聞”,卻有不少是虛晃一槍。近年來,伴隨著人工智能技術的進步,AI造假之風卻愈演愈烈。AI“一鍵換臉”,一位無關人士可以變成當事人,AI“視頻合成”,事故現(xiàn)場無中生有。這些不法分子通過AI偽造假新聞、假人物、假現(xiàn)場,冠以突發(fā)新聞、科普內容等名號在互聯(lián)網廣泛傳播,吸睛牟利,不僅制造謠言、混淆視聽,更擾亂網絡傳播秩序,讓“眼見不再為實”的當下,掀起更大的社會信任恐慌。

我國《互聯(lián)網信息服務深度合成管理規(guī)定》明確,深度合成服務提供者和使用者不得利用深度合成服務制作、復制、發(fā)布、傳播虛假新聞信息。轉載基于深度合成服務制作發(fā)布的新聞信息的,應當依法轉載互聯(lián)網新聞信息稿源單位發(fā)布的新聞信息。

“造謠一張嘴,辟謠跑斷腿”,換臉、換聲等AI造假亂象小到惡意抹黑他人名譽,大至編造災害信息制造社會恐慌,不僅大大增加科普辟謠的難度,更動搖了新聞真實性根基,容易引發(fā)輿情危機,影響政府公信力。一旦這些假新聞被大量傳播瀏覽,造成網上公共秩序嚴重混亂,還會觸犯我國刑法,涉嫌尋釁滋事罪,可謂是后患無窮。

治理AI造假亂象,首先必須厘清AI技術應用的底線和紅線,絕不能縱容不法分子利用其侵害國家安全和社會公共利益、擾亂經濟秩序和社會秩序、侵犯他人合法權益。其次,AI技術的提供者必須守土有責,從技術源頭上加強數(shù)據(jù)和算法管理,強化對合成技術使用者真實身份信息的認證和核查,避免不法者濫用技術牟利,相關監(jiān)管部門也要加大監(jiān)管力度,發(fā)現(xiàn)違法亂象,依法依規(guī)嚴懲。

另外,社交媒體、網站等內容發(fā)布平臺要保持內容合規(guī)意識,加強對用戶賬號真實信息的核查,杜絕“僵尸號”賬號買賣。加大用戶內容巡查監(jiān)管頻次,提高檢測偽造行為的技術水平,及時甄別違法違規(guī)合成內容,避免給虛假信息引流,造成更大的傳謠風險。

AI深度合成技術在數(shù)字仿真、沉浸式擬真等創(chuàng)新場景應用前景廣闊,理應成為內容生產的好幫手,而非假新聞的策源地,更不是違法犯罪的推手。從AI造假亂象中應該看到,我們在享受技術高速迭代紅利的同時,應該有更加深刻的倫理道德考量,不讓AI成為烏龍事件和反轉新聞的制造機,守護風清氣正的網絡生態(tài),是每一個互聯(lián)網用戶的應有之責。

關鍵詞：