從ChatGPT火爆全網(wǎng)到“AI換臉”新騙局頻發(fā)，生成式人工智能再次受到廣泛關(guān)注。據(jù)“平安包頭”微信公眾號(hào)消息，內(nèi)蒙古自治區(qū)包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局近期發(fā)布一起使用智能AI技術(shù)進(jìn)行電信詐騙的案件，福州市某科技公司法人代表郭先生10分鐘內(nèi)被騙430萬元。

近日，郭先生收到好友的微信視頻稱自己在外地競標(biāo)，需要430萬元保證金，且需要公對公賬戶過賬，想借用郭先生公司的賬戶。基于對好友的信任，加上視頻聊天核實(shí)了身份，郭先生沒有核實(shí)錢款是否到賬，就將錢轉(zhuǎn)到了好友提供的銀行卡上。隨后，郭先生撥打好友電話得知被騙，不法分子通過“AI換臉”和擬聲技術(shù)，對其實(shí)施了詐騙。

張嘴、搖頭，攝像頭捕捉到人體動(dòng)作后，屏幕上原本靜態(tài)的人像就可以動(dòng)起來，動(dòng)作幅度和真人一致，還能眨眼和露齒微笑，仿真度頗高，幾分鐘內(nèi)就能生成一段視頻，臉還能被任意替換。這就是“AI換臉”技術(shù)，成為不法分子的新型詐騙工具。

據(jù)了解，“AI換臉”技術(shù)采用的是深度合成技術(shù)，利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類算法，制作圖像、音頻、視頻等信息，目前在社交、影視、廣告、醫(yī)療等諸多領(lǐng)域不斷被深化應(yīng)用，有較大的技術(shù)價(jià)值和商用潛力，但也存在一定的安全隱患。

對此，全聯(lián)并購公會(huì)信用管理委員會(huì)專家安光勇對《中國消費(fèi)者報(bào)》記者表示，目前“AI換臉”技術(shù)主要通過深度學(xué)習(xí)和計(jì)算機(jī)視覺技術(shù)實(shí)現(xiàn)，它使用了深度神經(jīng)網(wǎng)絡(luò)來分析和識(shí)別視頻中的人臉，并將一個(gè)人的臉部特征映射到另一個(gè)人的臉上。在微信視頻中，犯罪分子可能會(huì)通過發(fā)送特制的視頻或使用特定的換臉應(yīng)用程序，將自己的臉替換為別人的臉，以獲取信任并實(shí)施詐騙。

那么，“AI換臉”成熟度如何，是否達(dá)到了以假亂真的程度？安光勇表示，盡管換臉技術(shù)在某些情況下可以產(chǎn)生逼真的結(jié)果，但仍然存在一些瑕疵，比如細(xì)節(jié)不完美或者在某些情況下可能顯得不自然。

長沙市反電詐中心提醒消費(fèi)者，涉及資金轉(zhuǎn)賬時(shí)要提高安全意識(shí)，通過多種方式確認(rèn)對方是否為本人，也可將轉(zhuǎn)賬到賬時(shí)間設(shè)定為“24小時(shí)到賬”，以預(yù)留處理時(shí)間。針對支付軟件以及網(wǎng)銀軟件，要使用多種登錄及轉(zhuǎn)賬驗(yàn)證方式。

針對花樣翻新的各類詐騙，公眾要提高防范意識(shí)，應(yīng)謹(jǐn)慎使用各類“AI換臉”“AI變聲”軟件，加強(qiáng)個(gè)人信息保護(hù)意識(shí)，避免注冊不需要的賬號(hào)、填寫不必要的個(gè)人信息，以防個(gè)人信息泄露。面對不斷更新的網(wǎng)絡(luò)技術(shù)和詐騙方式，要堅(jiān)持不輕信、不透露、不點(diǎn)擊、不轉(zhuǎn)賬。（責(zé)任編輯：王婉瑩）