假如某天，年邁的母親打來(lái)微信視頻說(shuō)買(mǎi)了臺(tái)按摩椅要你付款，住校的女兒找你要生活費(fèi)，多年好友找你借點(diǎn)錢(qián)，公司老板要作為財(cái)務(wù)的你打下款……

在確認(rèn)了人臉和聲音后，你會(huì)不會(huì)轉(zhuǎn)賬、付款？

(資料圖片僅供參考)

隨著人工智能的迅猛發(fā)展，詐騙團(tuán)伙的詐騙手段也越來(lái)越科技化，竟然用上了AI技術(shù)。

此前有媒體報(bào)道過(guò)有人用知名男星AI版的聲音差點(diǎn)就行騙成功，當(dāng)時(shí)就有網(wǎng)友說(shuō)，如果畫(huà)面和聲音同時(shí)AI化，那豈不是更容易被騙？

如今，網(wǎng)友擔(dān)心的事情真的發(fā)生了。

5月22日，#AI詐騙正在全國(guó)爆發(fā)#的話題沖上熱搜第一，引發(fā)網(wǎng)友廣泛關(guān)注。另?yè)?jù)湖北網(wǎng)警巡查執(zhí)法5月6日消息，AI技術(shù)改變?cè)p騙，新騙局來(lái)襲后，詐騙成功率竟接近100%。

據(jù)平安包頭官微消息，近日，包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局發(fā)布一起使用智能AI技術(shù)進(jìn)行電信詐騙的案件，福州一科技公司老板10分鐘被騙走430萬(wàn)元。

4月20日，福州市郭先生突然接到好友的微信視頻，好友告訴郭先生，自己的朋友在外地投標(biāo)，需要430萬(wàn)元保證金，且需要公對(duì)公賬戶(hù)過(guò)賬，所以想要借用郭先生公司的賬戶(hù)走一下賬。好友向郭先生要了銀行卡號(hào)，聲稱(chēng)已經(jīng)把錢(qián)打到郭先生的賬戶(hù)上，還把銀行轉(zhuǎn)賬底單的截圖通過(guò)微信發(fā)給了郭先生。

圖源：平安包頭

基于視頻聊天信任的前提下，郭先生沒(méi)有核實(shí)錢(qián)是否到賬，先后分兩筆把430萬(wàn)元給對(duì)方打了過(guò)去。錢(qián)款轉(zhuǎn)賬后，郭先生給好友微信發(fā)了一條消息，稱(chēng)事情已經(jīng)辦妥。但讓他沒(méi)想到的是，好友回過(guò)來(lái)的消息竟然是一個(gè)問(wèn)號(hào)。

郭先生撥打好友電話，對(duì)方說(shuō)沒(méi)有這回事，他這才意識(shí)到竟然遇上了“高端”騙局，對(duì)方通過(guò)智能AI換臉技術(shù)，佯裝成好友對(duì)他實(shí)施了詐騙。

接到郭先生報(bào)警后，警方聯(lián)動(dòng)銀行迅速啟動(dòng)止付機(jī)制，成功止付攔截336.84萬(wàn)元，但仍有93.16萬(wàn)元被轉(zhuǎn)移，目前正在全力追繳中。

近日，有網(wǎng)友點(diǎn)開(kāi)某直播間，卻發(fā)現(xiàn)一當(dāng)紅女星正在直播帶貨。不過(guò)，這些當(dāng)紅女星并非本人，而是使用了AI實(shí)時(shí)換臉技術(shù)的普通主播，這也引發(fā)了網(wǎng)友廣泛熱議。

直播間利用當(dāng)紅明星的“臉”賣(mài)貨，既是因?yàn)槿缃馎I換臉技術(shù)已經(jīng)實(shí)現(xiàn)了形象實(shí)時(shí)替換，也是因?yàn)樽尅懊餍恰贝钥梢允棺约涸诟?jìng)爭(zhēng)激烈的直播帶貨大軍中凸顯優(yōu)勢(shì)，增加流量，提高銷(xiāo)量。

某直播間內(nèi)，一名主播正在進(jìn)行“換臉”帶貨。

據(jù)報(bào)道，AI實(shí)時(shí)換臉全套模型購(gòu)買(mǎi)價(jià)僅需3.5萬(wàn)元，于是某些商家就樂(lè)得通過(guò)這種小投入，來(lái)獲取大利益。

雖然明星屬于公眾人物，但他們的肖像權(quán)、姓名權(quán)等合法權(quán)益是受法律保護(hù)的。所以，直播間利用AI技術(shù)換明星臉來(lái)帶貨，涉嫌侵害明星的合法權(quán)益。被侵權(quán)明星有權(quán)要求直播間停止侵權(quán)、賠償相關(guān)損失。

此外，AI技術(shù)讓“明星”帶貨具有“以假亂真”的效果，因此涉嫌誤導(dǎo)消費(fèi)者。有的消費(fèi)者或許能發(fā)現(xiàn)其中破綻，但有的消費(fèi)者未必會(huì)發(fā)現(xiàn)其中貓膩，就會(huì)誤以為是真正的明星在帶貨，從而增加對(duì)該直播間和所售貨品的信任，進(jìn)而下單購(gòu)物。因此，這種帶貨方式也是對(duì)消費(fèi)者的一種欺騙和誤導(dǎo)。

那么在當(dāng)下，AI技術(shù)是如何介入新騙局的呢？有什么新的詐騙方式？我們?cè)趺醋R(shí)別AI詐騙呢？

第一種是聲音合成

騙子通過(guò)騷擾電話錄音等來(lái)提取某人聲音，獲取素材后進(jìn)行聲音合成，從而可以用偽造的聲音騙過(guò)對(duì)方。

第二種是AI換臉

因?yàn)槿四樞Ч兹〉脤?duì)方信任，騙子用AI技術(shù)換臉，可以偽裝成任何人，再通過(guò)視頻方式進(jìn)行信息確認(rèn)。

第三種是轉(zhuǎn)發(fā)微信語(yǔ)音

除了AI換臉、合成語(yǔ)音外，還有一些詐騙手段也可謂防不勝防，就在前不久就有騙子通過(guò)轉(zhuǎn)發(fā)微信語(yǔ)音的方式行騙。

在盜取微信號(hào)后，騙子便向其好友“借錢(qián)”，為取得對(duì)方的信任，他們會(huì)轉(zhuǎn)發(fā)之前的語(yǔ)音，進(jìn)而騙取錢(qián)款。盡管微信沒(méi)有語(yǔ)音轉(zhuǎn)發(fā)功能，但他們通過(guò)提取語(yǔ)音文件或安裝非官方版本（插件），可實(shí)現(xiàn)語(yǔ)音轉(zhuǎn)發(fā)。

圖源：視覺(jué)中國(guó)

第四種是AI篩選受騙人群

值得一提的是，這些騙局中，騙子不是漫無(wú)目的地全面撒網(wǎng)，而是根據(jù)所要實(shí)施的騙術(shù)，通過(guò)AI技術(shù)篩選受騙人群，別有用心地鎖定特定對(duì)象。例如，當(dāng)進(jìn)行金融詐騙時(shí)，經(jīng)常搜集投資信息的小伙伴就會(huì)成為他們潛在的目標(biāo)。

雖然AI換臉技術(shù)發(fā)展很快，但我國(guó)相關(guān)制度已跟上這種節(jié)奏。為了防止用戶(hù)利用使用人工智能深度合成技術(shù)實(shí)施不法行為，國(guó)家網(wǎng)信辦、工信部、公安部此前已聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，其中明確指出，深度合成服務(wù)提供者提供深度合成服務(wù)，可能導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)，向公眾提示深度合成情況。但這些直播間顯然沒(méi)有對(duì)運(yùn)用AI技術(shù)合成的帶貨“明星”予以顯著標(biāo)識(shí)。

圖源：視覺(jué)中國(guó)

由此可見(jiàn)，直播間用AI技術(shù)換明星臉涉嫌雙重侵權(quán)，也違反了相關(guān)法律規(guī)定，需要引起重視。希望涉嫌侵權(quán)的直播間、涉嫌失責(zé)的直播平臺(tái)不要再心存僥幸，濫用技術(shù)。如今這種侵權(quán)現(xiàn)象引起輿論關(guān)注，或許就是侵權(quán)者美夢(mèng)破滅的開(kāi)始。當(dāng)然，除了被侵權(quán)明星和消費(fèi)者要主動(dòng)維權(quán)外，有關(guān)部門(mén)也可依法予以懲治。

換臉、合成聲音等AI詐騙形式為何如此容易得手？北京市盈科（佛山）律師事務(wù)所合伙人陳顯敏律師分析，使用人工智能技術(shù)手段模仿真人面容、聲音，冒充親友、熟人、領(lǐng)導(dǎo)等，很容易達(dá)到以假亂真的程度，具有極強(qiáng)的迷惑性。與其他類(lèi)型電信詐騙相比，AI詐騙迷惑性更強(qiáng)，針對(duì)性更強(qiáng)，辨識(shí)更困難。

北京市京都律師事務(wù)所合伙人張小峰律師指出，AI技術(shù)可以綜合運(yùn)用語(yǔ)音、視頻等手段使虛假信息更真實(shí)，更難被分辨，甚至需要用專(zhuān)業(yè)技術(shù)來(lái)辨認(rèn)。此外，AI可以根據(jù)大數(shù)據(jù)和個(gè)人信息分析，生成高度定制化的詐騙信息，精準(zhǔn)投放給篩選出的對(duì)象，別有用心地鎖定詐騙對(duì)象實(shí)施詐騙。

圖源：視覺(jué)中國(guó)

面對(duì)如此“狡猾”的詐騙形式，我們又該如何防范掉入他人精心設(shè)計(jì)的“陷阱”呢？山東圣義律師事務(wù)所律師宿昊表示，現(xiàn)今，AI技術(shù)的應(yīng)用不僅解放了生產(chǎn)力，便利了我們的生活，也帶來(lái)了大量的隱患，犯罪分子利用AI換臉和擬聲技術(shù)實(shí)施詐騙，讓普通民眾更容易中招。要提高警惕，電話視頻并不可信，遇對(duì)方要求求助借款、要求轉(zhuǎn)賬等行為，一定要多方位確定信息真實(shí)性、有條件可以要求面見(jiàn)，或詢(xún)問(wèn)共同熟人，避免讓犯罪分子鉆空子。

張小峰律師建議，大眾要對(duì)這種新型詐騙手段提高警惕，不要過(guò)度相信語(yǔ)音或視頻等，選擇可信的通信渠道，盡量使用官方網(wǎng)站或其他具有實(shí)名認(rèn)證或安全驗(yàn)證功能的軟件進(jìn)行交流，防止對(duì)方身份冒用；最后，還應(yīng)該下載如國(guó)家反詐App等防詐騙軟件，輔助識(shí)別詐騙信息。

關(guān)鍵詞：