“10分鐘被AI換臉騙走430萬元”“AI侵權(quán)著名歌手”“AI一鍵脫衣造黃謠”......近期，一系列涉及人工智能（AI）的負(fù)面事件在互聯(lián)網(wǎng)上持續(xù)發(fā)酵，引發(fā)了群眾的恐慌情緒。在這樣的背景下，有些人開始呼吁全面禁止AI的使用。那么，AI真的這般不堪嗎？全面禁止AI，以上違法行為能悉數(shù)解決嗎？

繼此前“10分鐘被AI換臉騙走430萬元”事件引發(fā)關(guān)注之后，5月22日，又一起AI換臉詐騙發(fā)生。這次金額達(dá)到132萬，且整個(gè)詐騙過程時(shí)間更短，只有9秒鐘。與此同時(shí)，AI詐騙正在全國(guó)爆發(fā)的話題沖上熱搜第一，引發(fā)網(wǎng)友熱議。

(資料圖片)

5月22日，安徽安慶的何先生接到熟人視頻電話，讓他幫忙轉(zhuǎn)一筆賬。但9秒之后，對(duì)方以“在開會(huì)”為由，迅速掛斷了電話，還稱“微信和電話不能說，加一下QQ”。

男子被騙過程

“因?yàn)榇蛄艘曨l電話，又是熟人，我就沒多想，就轉(zhuǎn)賬了”。事發(fā)時(shí)，何先生放松了警惕。發(fā)現(xiàn)被騙之后，何先生迅速報(bào)警，專案民警第一時(shí)間凍結(jié)相關(guān)賬戶，連夜趕赴北京市抓獲3名涉詐嫌疑人，追回何先生被騙的132萬元。

此前，央視曾報(bào)道一起金額高達(dá)430萬元的AI換臉詐騙，過程與此案基本相似，詐騙分子都運(yùn)用到了AI換臉以及擬聲技術(shù)：4月20日，福建某科技公司法人代表郭先生突然接到“好友”微信視頻，對(duì)方稱自己的朋友在外地競(jìng)標(biāo)，需要430萬元保證金，郭先生見視頻中的面孔和聲音確實(shí)是“好友”，于是放松了警惕，僅在10分鐘之內(nèi)就向?qū)Ψ睫D(zhuǎn)賬430萬元。在福建、包頭兩地警方、銀行的幫助下，其中300多萬元被攔截，目前仍有90多萬還在追查中。

乍一看，似乎都是AI的“鍋”。但細(xì)細(xì)想來，這無外乎是一個(gè)金額較大，但手法平平無奇的詐騙案件，因?yàn)轵_子利用了“換臉視頻”而引發(fā)了輿論的恐慌情緒。

事實(shí)上，AI換臉并非毫無破綻?！癆I假臉”的紋理特征存在破綻。例如，偽造后的視頻人物的眼睛或牙齒輪廓細(xì)節(jié)容易不一致；兩只眼睛瞳孔的顏色不一樣或瞳孔中心反射的細(xì)節(jié)不一樣；或是很多偽造視頻由于視頻分辨率低于原始視頻分辨率，偽造出來視頻的牙齒邊緣過于整齊等。

另外，“AI假臉”有可能不符合正常人的生理特征，比如，一個(gè)健康成年人一般間隔2-10秒眨一次眼，每次眨眼用時(shí)0.1-0.4秒，而在偽造視頻中，人的眨眼頻率可能不符合上述規(guī)律。通常，人嘴部的運(yùn)動(dòng)是最為頻繁且快速的，而AI軟件卻無法真實(shí)準(zhǔn)確地渲染連續(xù)動(dòng)作。

在視頻時(shí)，你可以要求對(duì)方用一根手指在面部來回晃動(dòng)，或者用手掌擋住一部分的臉。因?yàn)榉缸锓肿釉谟?xùn)練AI算法時(shí)多使用的為正面照，所以程序無法處理好突然在面前出現(xiàn)的物體，這時(shí)面部就會(huì)出現(xiàn)扭曲變形。

“孫燕姿”們不會(huì)失業(yè)

2000年，大街小巷都是孫燕姿。

2023年，大網(wǎng)小網(wǎng)都是“AI孫燕姿”......

近年來，隨著技術(shù)的不斷發(fā)展，越來越多的人工智能產(chǎn)品逐漸進(jìn)入我們的生活。在ChatGPT問世，引發(fā)全網(wǎng)“下崗”擔(dān)憂的幾個(gè)月后，與其同屬AIGC技術(shù)的AI歌手正在成為樂壇新頂流。

今年4月中旬，AI歌手“AI孫燕姿”橫空出世。到目前，已翻唱60余首歌曲，其中包括粵語(yǔ)、日語(yǔ)、英語(yǔ)、俄語(yǔ)中歌迷們耳熟能詳?shù)母枨?月上旬，有音樂播放平臺(tái)已上架“AI孫燕姿”的翻唱合輯。還有平臺(tái)已經(jīng)開啟“AI孫燕姿”直播點(diǎn)歌，只需在評(píng)論區(qū)輸入#+歌曲名，即可聽到“AI孫燕姿”演唱的該版本的歌曲。據(jù)悉，“AI孫燕姿”翻唱的一些曲目在網(wǎng)上點(diǎn)擊量破百萬，其所駕馭曲風(fēng)范圍甚廣。有人開始擔(dān)心，AI歌手的出現(xiàn)是否意味著真實(shí)歌手將失去市場(chǎng)，像孫燕姿這樣的著名歌手，會(huì)因?yàn)锳I歌手的出現(xiàn)而失業(yè)嗎？

從AI換臉、AI繪畫、AI寫論文到如今的AI翻唱，科技的力量讓人驚嘆，但我們也應(yīng)清楚地認(rèn)識(shí)到，AI歌手的出現(xiàn)并不意味著真實(shí)歌手將失去市場(chǎng)。在數(shù)字化時(shí)代，音樂消費(fèi)的主體依舊是人類，AI歌手技術(shù)上的局限性使得其無法完全替代真實(shí)歌手的表演和情感表達(dá)。所以，與其擔(dān)心AI讓孫燕姿成為失業(yè)第一人，我們更應(yīng)關(guān)注的是“AI孫燕姿”帶來的權(quán)益保護(hù)問題。也許，不是孫燕姿要因?yàn)锳I而失業(yè)，而是AI中的侵權(quán)行為要首先該“下崗”才對(duì)。

據(jù)報(bào)道，美國(guó)歌手黎安·萊姆斯就公開表示“很樂意大家使用她的聲音”，但她要求分50%版稅。面對(duì)這一波勢(shì)不可擋的AI浪潮，我們應(yīng)清楚認(rèn)識(shí)到，AI與音樂產(chǎn)業(yè)之間的關(guān)系是一種相互促進(jìn)和共生的關(guān)系。AI歌手的出現(xiàn)并不意味著真實(shí)歌手將失去市場(chǎng)；相反，AI歌手可以為音樂產(chǎn)業(yè)注入新的元素和活力，推動(dòng)音樂產(chǎn)業(yè)的數(shù)字化轉(zhuǎn)型和升級(jí)。在保護(hù)原創(chuàng)版權(quán)的基礎(chǔ)上，我們應(yīng)該鼓勵(lì)A(yù)I歌手的發(fā)展和創(chuàng)新，為音樂產(chǎn)業(yè)帶來更多的可能性。

前不久，某視頻平臺(tái)更新規(guī)范：在應(yīng)用生成人工智能技術(shù)時(shí)，發(fā)布者應(yīng)對(duì)人工智能生成內(nèi)容進(jìn)行顯著標(biāo)識(shí)，幫助其他用戶區(qū)分虛擬與現(xiàn)實(shí)。同時(shí)禁止利用生成式人工智能技術(shù)創(chuàng)作、發(fā)布侵權(quán)內(nèi)容，包括但不限于肖像權(quán)、知識(shí)產(chǎn)權(quán)等。

今年4月，國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布《生成式人工智能服務(wù)管理辦法（征求意見稿）》，提出——

?利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務(wù)的組織和個(gè)人，要承擔(dān)該產(chǎn)品生成內(nèi)容生產(chǎn)者的責(zé)任；

?發(fā)現(xiàn)、知悉生成的文本、圖片、聲音、視頻等侵害他人肖像權(quán)、名譽(yù)權(quán)、個(gè)人隱私、商業(yè)秘密，或者不符合辦法要求時(shí)，應(yīng)當(dāng)采取措施，停止生成，防止危害持續(xù)。

這份征求意見稿已經(jīng)于5月10日結(jié)束公開征求意見。我們期待，隨著AI技術(shù)越來越深入我們的生活，相關(guān)配套管理也不斷完善，各平臺(tái)參與者的主體責(zé)任也更加明晰。在厘清權(quán)益保護(hù)的法律邊界基礎(chǔ)上，讓AI在合法的軌道上運(yùn)行。

AI可以替代很多事情，但唯獨(dú)不能替代“背鍋”這件事。AI只是一個(gè)工具，它只是根據(jù)預(yù)設(shè)的算法進(jìn)行計(jì)算和推斷，并不能自己主動(dòng)產(chǎn)生行動(dòng)。所以，如果出現(xiàn)了問題，應(yīng)該把責(zé)任歸咎于使用AI的人，而不是AI本身。就像一把刀子，如果用來切菜，那么它是有用的；但如果用來殺人，那么它就成為了兇器。同樣地，AI也有它的應(yīng)用范圍，關(guān)鍵在于我們?nèi)绾握_使用它。

當(dāng)出現(xiàn)問題時(shí)，我們不能把責(zé)任完全推給AI或者算法，而應(yīng)該對(duì)AI的使用進(jìn)行審慎和監(jiān)管。例如，如果使用AI換臉技術(shù)進(jìn)行詐騙，那么就應(yīng)該追究犯罪者的責(zé)任；如果使用AI制造黃謠，那么就應(yīng)該追究發(fā)布者的責(zé)任；如果使用AI侵權(quán)著名歌手，那么就應(yīng)該追究侵權(quán)者的責(zé)任。

為什么會(huì)出現(xiàn)以上問題？其實(shí)，問題的根源在于人的行為。因?yàn)槔骝?qū)動(dòng)，有些人會(huì)不顧他人的權(quán)益和安全，只顧一己私欲而不擇手段地使用AI。這種行為本身就是錯(cuò)誤的，而不是AI本身的問題。

因此，與其說全面禁止AI，倒不如說我們更需要采取措施加強(qiáng)對(duì)AI的監(jiān)管。首先，應(yīng)該建立起嚴(yán)格的AI使用規(guī)范，限制AI的使用范圍和目的。其次，應(yīng)該對(duì)AI的開發(fā)者和使用者進(jìn)行教育和培訓(xùn)，讓他們了解AI的應(yīng)用范圍和限制。最后，應(yīng)該建立起健全的法律制度，對(duì)違法使用AI的行為進(jìn)行懲罰。

AI不是元兇，別再讓AI背鍋。只有以正確地看待AI，全面客觀地認(rèn)識(shí)到它的優(yōu)勢(shì)和局限性，并加強(qiáng)對(duì)其的監(jiān)管，才能讓AI真正為人類服務(wù)。

關(guān)鍵詞：