“好友”以假亂真騙走錢款 如何警惕AI“深度造假”？

央廣網(wǎng)北京10月30日消息（總臺(tái)中國之聲記者江曉晨）據(jù)中央廣播電視總臺(tái)中國之聲《新聞縱橫》報(bào)道，十分鐘被騙走430萬元、換臉冒充明星帶貨賺錢……近年來，隨著人臉識(shí)別技術(shù)的廣泛應(yīng)用和人工智能技術(shù)的進(jìn)步，一些不法分子開始利用AI技術(shù)融合他人面孔和聲音、制造逼真的合成圖像來實(shí)施新型網(wǎng)絡(luò)詐騙，類似騙局具有手段多樣、門檻低、辨別難度大等特點(diǎn)，經(jīng)常會(huì)防不勝防，短時(shí)間內(nèi)造成較大損失。從形象到聲音，如何警惕AI“深度造假”？

　　騙子（哭腔）：媽，我開車撞到人了，好像骨折了，已經(jīng)送醫(yī)院了，警察說如果我不墊付醫(yī)藥費(fèi)就可能會(huì)被拘留。我身上錢不夠，你趕緊給王警官轉(zhuǎn)2萬塊錢吧。

　　媽媽：寶貝女兒你別急，媽這就把錢轉(zhuǎn)過去。

　　騙子（換聲）：AI換臉真是棒，輕松就讓你上當(dāng)。今天我是你女兒，明天扮成你老板。

　　電話那一頭，視頻另一端，與你正在互動(dòng)交流的人，是否真的是你認(rèn)識(shí)的那個(gè)人？在“AI換臉”可以輕易模仿的當(dāng)下，為了減少不必要的財(cái)產(chǎn)損失，可能必須要“知人知面又知心”。

　　包頭市公安局曾在其官網(wǎng)發(fā)布，福州市某科技公司法人代表郭先生的“好友”通過微信視頻聯(lián)系郭先生，聲稱自己的朋友在外地投標(biāo)，需要430萬元保證金，且需要公對(duì)公賬戶過賬，想要借用郭先生公司的賬戶走賬?！昂糜选毕蚬壬算y行卡號(hào)，稱錢已轉(zhuǎn)入郭先生的賬戶上，并將銀行轉(zhuǎn)賬截圖發(fā)給他。基于視頻聊天信任的前提，郭先生并未核實(shí)錢是否到賬，而是陸續(xù)轉(zhuǎn)給對(duì)方共計(jì)430萬元，隨后郭先生才發(fā)現(xiàn)被騙。

　　常州市公安局常州經(jīng)開區(qū)分局橫林派出所民警陳歆怡告訴記者，此前他們?cè)k理過多起倒賣、非法利用用戶人臉照片的侵公案件。

　　陳歆怡說：“AI換臉換聲的基本邏輯是通過深度學(xué)習(xí)特定算法，將目標(biāo)人物的人臉、表情、聲音等嫁接到模仿的視頻中，最終實(shí)現(xiàn)視聽合成的高仿真性，且軟件成本低，合成速率高，檢測(cè)鑒別難度大，一般人難以發(fā)現(xiàn)偽裝痕跡?！?/p>

　　總結(jié)下來，目前AI詐騙的主要形式有兩種。

　　陳歆怡說：“第一種相對(duì)簡(jiǎn)單，通過技術(shù)手段直接合成換臉、擬聲后的短視頻或語音，在視頻聊天、普通電話中直接播放，這類視頻主要用于表達(dá)比較緊急的情況，比如遭遇事故求助等等，播放結(jié)束后就會(huì)掐斷連接，無法與被害人形成回合性的對(duì)話，無法回答受害人的問題。另一種是在視頻通話中直接換臉并替換聲音，直接用擬聲撥打電話?？赏ㄟ^讓對(duì)方變換面部表情，比如眨眼、遮擋面部等方式識(shí)別是否存在換臉情況。由于擬聲類詐騙在技術(shù)上是通過提取的聲音特征生成模擬語音，或者對(duì)聲音分解、重新排列而形成新的句子，由于這兩者都會(huì)受限于樣本的數(shù)量，所以可以通過延長通話時(shí)間，多次進(jìn)行提問的方式讓對(duì)方多說話，露出破綻?！?/p>

　　“AI換臉”詐騙底層邏輯依賴于“深度偽造技術(shù)”，不法分子主要以冒充被害人的親戚朋友、領(lǐng)導(dǎo)同事等身份，騙取被害人的信任，從而獲得錢財(cái)。對(duì)此，北京航空航天大學(xué)法學(xué)院副教授趙精武表示，深度合成可能誘發(fā)的違法犯罪問題，監(jiān)管機(jī)構(gòu)早有關(guān)注。

　　趙精武說：“網(wǎng)信辦、工信部和公安部在2022年專門制定了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，明確了深度合成服務(wù)提供者的法定義務(wù)，例如應(yīng)當(dāng)采取技術(shù)或人工方式對(duì)深度合成服務(wù)使用者的輸入數(shù)據(jù)和合成結(jié)果進(jìn)行審核?！?/p>

　　趙精武進(jìn)一步表示，相關(guān)部門加強(qiáng)監(jiān)管的同時(shí)，需要我們自身樹立起良好的防詐騙意識(shí)。

　　趙精武說：“部分以AI換臉、聲音合成或仿冒‘好友’實(shí)施詐騙行為所使用的技術(shù)工具來自境外，除了立法明確合成規(guī)定之外，預(yù)防此類虛擬詐騙更需要個(gè)人樹立防詐騙意識(shí)，涉及轉(zhuǎn)賬等財(cái)務(wù)信息的電話請(qǐng)求，采取其他方式跟好友進(jìn)行確認(rèn)?！?/p>

　　今年8月，國家網(wǎng)信辦發(fā)布的《人臉識(shí)別技術(shù)應(yīng)用安全管理規(guī)定（試行）（征求意見稿）》中明確，人臉識(shí)別技術(shù)使用者應(yīng)當(dāng)每年對(duì)圖像采集設(shè)備、個(gè)人身份識(shí)別設(shè)備的安全性和可能存在的風(fēng)險(xiǎn)進(jìn)行檢測(cè)評(píng)估，并根據(jù)檢測(cè)評(píng)估情況改進(jìn)安全策略，調(diào)整置信度閾值，采取有效措施保護(hù)圖像采集設(shè)備、個(gè)人身份識(shí)別設(shè)備免受攻擊、侵入、干擾和破壞。

　　常州市公安局常州經(jīng)開區(qū)分局橫林派出所民警陳歆怡表示，日常生活中大家都常接到陌生人打來的廣告電話，其實(shí)在和陌生人說話過程中，無意間就會(huì)把自己的聲紋泄露，也許他們的目的本就不是為了推銷，而是要獲取你的聲紋，進(jìn)而實(shí)施進(jìn)一步的犯罪行為。

　　陳歆怡說：“要想從源頭上預(yù)防此類詐騙案件的發(fā)生，保護(hù)好個(gè)人信息是關(guān)鍵。首先對(duì)廣大人民群眾而言，陌生電話不要隨意接聽，防止有詐騙人員以電銷推廣等借口采集發(fā)音、語句；在個(gè)人互聯(lián)網(wǎng)社交賬戶上，要避免過多暴露個(gè)人照片、聲音、視頻等信息；在對(duì)外提供人臉照片時(shí)需謹(jǐn)慎對(duì)待，使用小眾軟件身份認(rèn)證、網(wǎng)絡(luò)貸款實(shí)名放貸時(shí)提高警惕；不要隨意去點(diǎn)擊陌生的鏈接，鏈接中的木馬程序會(huì)竊取用戶手機(jī)內(nèi)的照片、監(jiān)聽回傳通話內(nèi)容?！?/p>

　　此外，陳歆怡還提示，在開啟“定位服務(wù)”、輸入身份證號(hào)或是錄入“人臉識(shí)別信息”“指紋識(shí)別信息”等個(gè)人生物信息時(shí)，一定要慎之又慎。

　　陳歆怡說：“對(duì)各APP網(wǎng)絡(luò)服務(wù)提供者來說，在收集、使用個(gè)人信息時(shí)應(yīng)當(dāng)遵循合法、正當(dāng)、必要、公開的原則，不得收集與其提供的服務(wù)無關(guān)的個(gè)人信息，應(yīng)當(dāng)采取技術(shù)措施和其他必要措施，確保其收集的個(gè)人信息安全，不得主動(dòng)向外提供，也要防止信息泄露、毀損、丟失。”

　　北京航空航天大學(xué)法學(xué)院副教授趙精武建議，在生活中，什么情況需要用到AI驗(yàn)證，既保證安全又實(shí)現(xiàn)方便快捷，二者的平衡有探討的空間。

　　趙精武說：“意欲實(shí)現(xiàn)安全和便捷兼?zhèn)涞尿?yàn)證模式，需要結(jié)合AI技術(shù)的發(fā)展動(dòng)向進(jìn)行同步調(diào)整，同時(shí)也需要服務(wù)提供者在相關(guān)深度合成產(chǎn)品和服務(wù)中增加‘AI生成’標(biāo)識(shí)機(jī)制，降低第三方識(shí)別AI生成內(nèi)容的難度?！?/p>