以假亂真的AI詐騙，如何防范？
2025-04-09 人(ren)民(min)日(ri)報 點擊：次
生成圖像、合成語音、偽裝客服、偽造場景……
以假亂真的AI詐騙，如何防范？
上傳(chuan)一張(zhang)靜態(tai)照(zhao)片(pian)，即可生成(cheng)動(dong)態(tai)視頻(pin)；只(zhi)需(xu)幾秒(miao)語音，就(jiu)能克隆聲音……這不是科幻電影，而是發生在(zai)身(shen)邊的(de)真(zhen)實事件(jian)，“AI換臉”正成(cheng)為侵權違法的(de)重(zhong)災(zai)區。
近期(qi)，為規(gui)(gui)范應用(yong)人(ren)臉(lian)(lian)識(shi)(shi)別(bie)(bie)技術處理(li)人(ren)臉(lian)(lian)信(xin)(xin)息(xi)(xi)活動、保護(hu)個人(ren)信(xin)(xin)息(xi)(xi)權益，國家互聯網信(xin)(xin)息(xi)(xi)辦(ban)公室、公安(an)部聯合公布《人(ren)臉(lian)(lian)識(shi)(shi)別(bie)(bie)技術應用(yong)安(an)全管理(li)辦(ban)法》，對應用(yong)人(ren)臉(lian)(lian)識(shi)(shi)別(bie)(bie)技術處理(li)人(ren)臉(lian)(lian)信(xin)(xin)息(xi)(xi)的基本要求和處理(li)規(gui)(gui)則、人(ren)臉(lian)(lian)識(shi)(shi)別(bie)(bie)技術應用(yong)安(an)全規(gui)(gui)范、監督管理(li)職(zhi)責等作(zuo)出(chu)了規(gui)(gui)定。辦(ban)法將于(yu)2025年6月1日起施行。
人臉識(shi)別技術應用與人臉信息安(an)全緊(jin)密相(xiang)關(guan)。人臉識(shi)別具有(you)唯一性、不可更改性、不可匿名性，一旦泄露，極(ji)易對個人的人身和財產安(an)全造成危害，還可能(neng)威脅(xie)公共(gong)安(an)全。
AI詐騙形式多樣
換臉、變聲、對口型
貴州省黔東南苗族(zu)侗族(zu)自(zi)治州凱里市公安局反詐中心(xin)負責(ze)人(ren)吳(wu)西福介紹(shao)，一(yi)家科技公司的(de)負責(ze)人(ren)郭(guo)先生(sheng)有一(yi)天接(jie)到(dao)好(hao)(hao)友(you)(you)打來(lai)的(de)視(shi)頻電話，說自(zi)己正(zheng)在外地投標，需要幾百萬(wan)元保證金(jin)，想用郭(guo)先生(sheng)的(de)公司賬戶(hu)走一(yi)下(xia)賬。不久后，好(hao)(hao)友(you)(you)說已經把錢(qian)(qian)轉(zhuan)到(dao)郭(guo)先生(sheng)的(de)賬戶(hu)并截圖證明。郭(guo)先生(sheng)覺得(de)通過視(shi)頻能(neng)看(kan)到(dao)好(hao)(hao)友(you)(you)本人(ren)，便沒等收到(dao)轉(zhuan)賬成(cheng)功的(de)通知就(jiu)給好(hao)(hao)友(you)(you)轉(zhuan)了錢(qian)(qian)。后來(lai)，郭(guo)先生(sheng)遲遲沒收到(dao)轉(zhuan)款，聯系好(hao)(hao)友(you)(you)時(shi)才發現自(zi)己被騙。
寧夏回(hui)族自(zi)治區銀川市某公司部門經理(li)張先(xian)生(sheng)接到(dao)“老板”視(shi)頻電話，對方(fang)稱因情況緊急，急需轉(zhuan)賬匯款(kuan)。在視(shi)頻中確(que)認是“老板”后，張先(xian)生(sheng)放下了戒心，十(shi)幾分(fen)鐘(zhong)內將(jiang)20萬元轉(zhuan)入(ru)指(zhi)定(ding)賬戶。直到(dao)下午當面(mian)匯報(bao)工作(zuo)時，張先(xian)生(sheng)才發現上當受騙。
這些(xie)案件都是典型的(de)(de)(de)AI詐(zha)騙(pian)。“你以(yi)為在(zai)和朋(peng)友親人視(shi)頻聊天，其實是騙(pian)子(zi)使用的(de)(de)(de)‘AI換(huan)臉(lian)’技術，讓別人的(de)(de)(de)嘴(zui)能夠‘對口型’。”寧(ning)夏回族自治區(qu)公安廳刑(xing)偵總隊(dui)副(fu)總隊(dui)長、反詐(zha)中心(xin)負(fu)責人吳克(ke)剛介紹，如今(jin)，“AI換(huan)臉(lian)”技術不(bu)僅限(xian)于(yu)靜(jing)態照(zhao)片(pian)的(de)(de)(de)活化，還能在(zai)即時視(shi)頻通信(xin)中實時換(huan)臉(lian)。雖然(ran)需(xu)要采(cai)集大量不(bu)同角度的(de)(de)(de)照(zhao)片(pian)進行模型訓練，但一旦成功，便可以(yi)假(jia)亂真(zhen)。過(guo)去，公民個人身(shen)份證號(hao)、手機號(hao)以(yi)及家人信(xin)息需(xu)要重點防范，現(xian)在(zai)，人臉(lian)、聲音、指紋(wen)等同樣要避免泄(xie)露。
新型(xing)(xing)AI詐(zha)騙(pian)(pian)(pian)(pian)主要有以(yi)下類型(xing)(xing)：語(yu)音(yin)(yin)合成(cheng)(cheng)(cheng)詐(zha)騙(pian)(pian)(pian)(pian)，不法(fa)分(fen)子(zi)利(li)用AI技(ji)術，合成(cheng)(cheng)(cheng)受(shou)(shou)害人(ren)(ren)(ren)親友或熟人(ren)(ren)(ren)的聲音(yin)(yin)，讓受(shou)(shou)害人(ren)(ren)(ren)誤以(yi)為是親友或熟人(ren)(ren)(ren)需要幫助，進而(er)實(shi)施電話詐(zha)騙(pian)(pian)(pian)(pian)；圖(tu)像生(sheng)成(cheng)(cheng)(cheng)詐(zha)騙(pian)(pian)(pian)(pian)，不法(fa)分(fen)子(zi)通(tong)過AI技(ji)術，生(sheng)成(cheng)(cheng)(cheng)虛假(jia)的照片或視頻(pin)，制(zhi)造(zao)出受(shou)(shou)害人(ren)(ren)(ren)親友緊急且合理的情(qing)(qing)景(jing)，從而(er)獲取個人(ren)(ren)(ren)信(xin)息，騙(pian)(pian)(pian)(pian)取錢財；智能客(ke)服詐(zha)騙(pian)(pian)(pian)(pian)，不法(fa)分(fen)子(zi)利(li)用AI技(ji)術，制(zhi)作智能客(ke)服系統，通(tong)過語(yu)音(yin)(yin)或文字同(tong)受(shou)(shou)害人(ren)(ren)(ren)交流(liu)，誘(you)騙(pian)(pian)(pian)(pian)受(shou)(shou)害人(ren)(ren)(ren)提供個人(ren)(ren)(ren)信(xin)息或進行轉賬操作；AI情(qing)(qing)感(gan)(gan)詐(zha)騙(pian)(pian)(pian)(pian)，不法(fa)分(fen)子(zi)運用AI訓練面向網聊的大語(yu)言模型(xing)(xing)，通(tong)過偽造(zao)場景(jing)、聲音(yin)(yin)與受(shou)(shou)害人(ren)(ren)(ren)建立情(qing)(qing)感(gan)(gan)關系，進而(er)獲取個人(ren)(ren)(ren)信(xin)息。
吳西福介紹，共享屏幕等新型詐(zha)騙也要注意。不法(fa)分子以“提升(sheng)信用卡額度”“航班延誤退費(fei)”“贈送(song)禮(li)品(pin)”等為借口，向個人發(fa)送(song)短信或撥打電話，誘(you)導受害人下載指定(ding)軟件，并開啟軟件的“共享屏幕”功能，就可以“實時監控”受害人手機、電腦屏幕，同步獲取個人銀行(xing)賬戶(hu)、口令、驗證碼等重要信息，從(cong)而(er)盜取銀行(xing)卡資金。
AI詐騙危害廣泛
造成經濟損失、心理創傷
相較于(yu)電(dian)信詐騙、網絡詐騙，新型AI詐騙的受(shou)害者身份更(geng)廣泛、多(duo)元，成功率更(geng)高，更(geng)難以追蹤(zong)。
警方(fang)梳理(li)(li)后發現，新(xin)型(xing)(xing)AI詐(zha)騙(pian)(pian)有(you)以下(xia)危害(hai)：造成經(jing)濟損(sun)失(shi)，新(xin)型(xing)(xing)AI詐(zha)騙(pian)(pian)具有(you)針對(dui)性強、高度逼真(zhen)等(deng)特征，普通群(qun)眾短時間內難以分辨(bian)，很容易上(shang)(shang)當受(shou)騙(pian)(pian)、遭(zao)受(shou)經(jing)濟損(sun)失(shi)，甚至(zhi)會給家庭帶(dai)來沉重的(de)經(jing)濟負擔(dan)；發生(sheng)信息(xi)泄(xie)露，新(xin)型(xing)(xing)AI詐(zha)騙(pian)(pian)往(wang)往(wang)能獲取受(shou)害(hai)人(ren)(ren)的(de)個人(ren)(ren)信息(xi)，包(bao)括(kuo)身份證號、銀(yin)行(xing)賬戶、人(ren)(ren)臉、指紋等(deng)，進而濫用這些(xie)信息(xi)從事非法(fa)活動(dong)，導致受(shou)害(hai)人(ren)(ren)信息(xi)泄(xie)露，身份被(bei)盜用，引發潛在(zai)的(de)法(fa)律風險；造成心理(li)(li)創傷，遭(zao)受(shou)新(xin)型(xing)(xing)AI詐(zha)騙(pian)(pian)，除了面臨經(jing)濟損(sun)失(shi)，受(shou)害(hai)人(ren)(ren)還可能產(chan)生(sheng)焦慮、自責(ze)、抑郁等(deng)情緒，造成嚴重的(de)心理(li)(li)創傷；危害(hai)社(she)(she)會治安，如果新(xin)型(xing)(xing)AI詐(zha)騙(pian)(pian)案件變多(duo)，容易讓群(qun)眾對(dui)社(she)(she)會產(chan)生(sheng)不信任(ren)感，甚至(zhi)造成恐慌(huang)情緒，有(you)些(xie)受(shou)害(hai)者也因無法(fa)承擔(dan)損(sun)失(shi)，走(zou)上(shang)(shang)違法(fa)犯罪道(dao)路。
新(xin)型(xing)AI詐(zha)騙案件增加(jia)(jia)，偵(zhen)破難度加(jia)(jia)大，對公安機關(guan)來說也是挑(tiao)戰。吳西福說，只有不斷提升民警的專業素質和偵(zhen)查能力，加(jia)(jia)強(qiang)對新(xin)型(xing)電信網絡詐(zha)騙犯罪的研究，才能創(chuang)新(xin)偵(zhen)查手段和方法(fa)，提高打擊效能。要(yao)加(jia)(jia)強(qiang)與其他地(di)區(qu)公安機關(guan)的協(xie)作(zuo)(zuo)配合(he)，建立健全跨區(qu)域警務合(he)作(zuo)(zuo)機制，形成打擊合(he)力。
有效防范AI詐騙
保護個人信息、學習識別方法
新型AI詐(zha)騙(pian)花樣頻出(chu)，偽裝性越來(lai)越強，該如何防范？
吳克剛給(gei)出了兩條防騙建議(yi)：視頻通話時，讓(rang)對(dui)(dui)方(fang)(fang)做(zuo)出指定(ding)動作，比(bi)如(ru)(ru)眨眼3次、摸摸鼻子，或(huo)(huo)者讓(rang)對(dui)(dui)方(fang)(fang)用手(shou)指或(huo)(huo)其他遮擋物在(zai)臉(lian)前(qian)晃動，如(ru)(ru)畫面出現延遲或(huo)(huo)者異常扭(niu)曲等不自然的微小變化(hua)，那(nei)對(dui)(dui)方(fang)(fang)很可能正在(zai)使(shi)用“AI換臉(lian)”技術。在(zai)與對(dui)(dui)方(fang)(fang)的溝通中，也可以問(wen)一些只有對(dui)(dui)方(fang)(fang)知道(dao)的問(wen)題，比(bi)如(ru)(ru)生(sheng)日、電話號碼(ma)、喜好等，來驗證對(dui)(dui)方(fang)(fang)身份的真實性。
我們也(ye)應該提(ti)(ti)高安全(quan)防范(fan)意識，防止(zhi)個(ge)(ge)人(ren)臉(lian)部(bu)信(xin)(xin)息(xi)被非法獲取利用。貴(gui)州警方提(ti)(ti)示，不(bu)輕(qing)(qing)信(xin)(xin)他(ta)人(ren)，不(bu)貪圖小便宜。妥善保管(guan)個(ge)(ge)人(ren)信(xin)(xin)息(xi)，把好個(ge)(ge)人(ren)信(xin)(xin)息(xi)保護的(de)(de)(de)第一(yi)道關。在非必要(yao)(yao)情況下，不(bu)向陌(mo)生(sheng)人(ren)提(ti)(ti)供身份證(zheng)號(hao)碼(ma)、工作單位、家庭住址、職務(wu)等(deng)重要(yao)(yao)信(xin)(xin)息(xi)，不(bu)將(jiang)身份證(zheng)照片或號(hao)碼(ma)保存在手機中(zhong)，盡可能(neng)避免(mian)將(jiang)人(ren)臉(lian)、照片、聲(sheng)(sheng)音、指紋等(deng)留存到網站和小程序(xu)上。在日(ri)常生(sheng)活(huo)中(zhong)，加強對人(ren)臉(lian)、聲(sheng)(sheng)音、指紋等(deng)生(sheng)物特征數據的(de)(de)(de)安全(quan)防護，做好個(ge)(ge)人(ren)手機、電腦(nao)等(deng)終端設備的(de)(de)(de)軟硬件安全(quan)管(guan)理(li)，不(bu)登錄來路不(bu)明的(de)(de)(de)網站，以免(mian)感染木(mu)馬(ma)病毒。另外，對可能(neng)進行聲(sheng)(sheng)音、圖像甚(shen)至視頻和定位等(deng)信(xin)(xin)息(xi)采(cai)集的(de)(de)(de)應用，做好授權管(guan)理(li)，不(bu)輕(qing)(qing)易給他(ta)人(ren)收集個(ge)(ge)人(ren)信(xin)(xin)息(xi)的(de)(de)(de)機會，也(ye)能(neng)在一(yi)定程度(du)遠(yuan)離“AI換臉(lian)”詐騙(pian)。
此(ci)外(wai)，公安(an)機關(guan)也(ye)要(yao)創新線上(shang)線下(xia)反(fan)詐(zha)宣(xuan)(xuan)傳，打(da)造全(quan)方位反(fan)詐(zha)宣(xuan)(xuan)傳矩陣。一方面，利用線上(shang)平臺，深入挖掘本地發生(sheng)的(de)電信(xin)網絡(luo)(luo)詐(zha)騙典型案(an)例，結(jie)合地區特色、民俗以及(ji)當下(xia)流(liu)行的(de)網絡(luo)(luo)文化，拍攝制(zhi)作(zuo)風格(ge)獨特、通俗易懂的(de)反(fan)詐(zha)宣(xuan)(xuan)傳短視(shi)頻(pin)。通過短視(shi)頻(pin)的(de)形式(shi)還(huan)原詐(zha)騙分子的(de)話(hua)術(shu)、作(zuo)案(an)流(liu)程以及(ji)背后的(de)犯(fan)罪邏輯，幫助群眾提高反(fan)詐(zha)意(yi)識。
推動(dong)反詐宣傳(chuan)進校園、進社區、進企業(ye)，將反詐宣傳(chuan)與群眾喜(xi)愛的(de)(de)文化(hua)娛樂活動(dong)緊密結(jie)合(he)，打造出一系列具有(you)貼近(jin)性的(de)(de)反詐宣傳(chuan)場景。堅(jian)持精準施策，針對(dui)不同群體(ti)、行(xing)業(ye)和地區特(te)點，開展有(you)針對(dui)性的(de)(de)宣傳(chuan)，做到(dao)有(you)的(de)(de)放矢，切(qie)實增強群眾防騙(pian)(pian)意識(shi)和識(shi)騙(pian)(pian)能力。
警(jing)方(fang)也警(jing)告(gao)不法(fa)分子：通過“AI換臉(lian)”進(jin)行視頻合成、實施(shi)詐(zha)(zha)(zha)騙的(de)(de)行為，是利用新技(ji)術(shu)進(jin)行的(de)(de)詐(zha)(zha)(zha)騙，與傳統(tong)詐(zha)(zha)(zha)騙行為沒有本質區(qu)別。對于構成詐(zha)(zha)(zha)騙罪的(de)(de)，將(jiang)依(yi)照我國(guo)刑法(fa)第(di)二百(bai)六(liu)(liu)十六(liu)(liu)條(tiao)的(de)(de)規定追究刑事(shi)責任；對于為利用“AI換臉(lian)”實施(shi)詐(zha)(zha)(zha)騙行為提供技(ji)術(shu)支持、幫助的(de)(de)，將(jiang)根據反電信網絡(luo)詐(zha)(zha)(zha)騙法(fa)的(de)(de)規定進(jin)行行政處罰，構成犯罪的(de)(de)，還(huan)要追究刑事(shi)責任。
掃碼投訴