每經(jīng)記者 畢媛媛  杜蔚    每經(jīng)編輯 文多    

“雷軍回應(yīng)‘7天假期被AI雷軍罵了8天’”“靳東建議AI換臉立法”??今年全國兩會期間，人工智能（AI）技術(shù)治理成為討論焦點(diǎn)之一，其中“AI換臉”引發(fā)的風(fēng)險問題受到代表委員們熱議。

在這場身份保衛(wèi)戰(zhàn)中，公眾人物、媒體首當(dāng)其沖。“AI張文宏”深夜直播帶貨、“AI劉曉慶”分享雞湯、“AI古天樂”代言網(wǎng)游……AI換臉已淪為黑灰產(chǎn)業(yè)鏈的作案工具。日前，每日經(jīng)濟(jì)新聞刊發(fā)《微信抖音都難防！花1280元，直播、視頻通話能實(shí)時換成劉亦菲、楊冪的臉，拍臉按鼻露齒及大幅遮擋都不會“掉臉”》廣受各界關(guān)注，平臺也開始思考：AI深度偽造導(dǎo)致傳統(tǒng)防偽手段失效后如何保護(hù)數(shù)億用戶。

3月10日，“小紅書”在北京舉辦首次“詐騙治理開放日”，公布了2024年平臺反詐治理成果：通過不斷完善全鏈路治理體系，平臺全年共處置涉詐違規(guī)賬號492萬個，主動攔截94.3%的詐騙行為，詐騙舉報量同比下降60%。

但是，在分享治理措施和經(jīng)驗(yàn)的同時，小紅書反詐治理負(fù)責(zé)人蒼連表示，詐騙治理是個長期過程，存在不少難點(diǎn)，需要更多互聯(lián)網(wǎng)平臺、企業(yè)以及用戶共同參與解決。其中，95%的詐騙行為被誘導(dǎo)至第三方平臺實(shí)施，形成監(jiān)管斷點(diǎn)，這讓追蹤溯源難上加難。

中國犯罪學(xué)學(xué)會副會長兼信息犯罪防控專業(yè)委員會主任、同濟(jì)大學(xué)法學(xué)教授皮勇警示，伴隨AI時代到來，深度合成的影像越來越真實(shí)，犯罪人是誰？聲音來自誰？越來越難以分辨。“犯罪在變，我們的‘教材’卻沒有及時更新。”

皮勇介紹“打防結(jié)合、共同防治”的反詐模式 圖片來源：主辦方提供

詐騙渠道從傳統(tǒng)電信渠道向網(wǎng)絡(luò)全面轉(zhuǎn)移

“千萬不要覺得自己不會被騙。”蘇州市公安局金牌反詐講師朱鈺表示，詐騙分子盯上的是我們每一個人，不會區(qū)分人們的學(xué)歷、職業(yè)。

當(dāng)下，AI技術(shù)迅猛發(fā)展，詐騙形式也以超乎想象的速度不斷升級。對于警方而言，傳統(tǒng)的事后打擊犯罪方式已陷入被動的局面。“犯罪分子在網(wǎng)上飛，在全世界飛，我們公安民警如果在地上追，根本沒有用。不僅成本投入巨大，人員消耗也大，還無法有效遏制。”朱鈺無奈地說道。

基于多年的從警經(jīng)驗(yàn)，朱鈺總結(jié)出當(dāng)下詐騙的三大特點(diǎn)——

第一，從過去的廣撒網(wǎng)式詐騙轉(zhuǎn)變?yōu)榫珳?zhǔn)詐騙。詐騙分子通過非法手段獲取公民個人信息，據(jù)此量身定制詐騙劇本，實(shí)施精準(zhǔn)詐騙。

第二，詐騙手法從單一走向組合套路。詐騙手段不斷演變，從最初的、簡單的冒充熟人式、中獎式詐騙，發(fā)展到如今融合刷單返利、殺豬盤、虛假投資等多種形式的復(fù)合型詐騙，靈活性更強(qiáng)，讓人防不勝防。

第三，詐騙渠道從傳統(tǒng)電信渠道向網(wǎng)絡(luò)全面轉(zhuǎn)移。利用社交軟件、直播平臺、網(wǎng)絡(luò)游戲等新型網(wǎng)絡(luò)產(chǎn)物實(shí)施詐騙的案例日益增多，隱蔽性愈發(fā)突出，增加了識別和防范的難度。

除了詐騙手法更具迷惑性，目前網(wǎng)絡(luò)詐騙的危害也遠(yuǎn)超以往。隨著互聯(lián)網(wǎng)的發(fā)展普及，公開數(shù)據(jù)顯示，網(wǎng)絡(luò)犯罪案件增長迅速，目前占全部犯罪案件的七成以上。

蒼連分享平臺治理策略和措施 圖片來源：主辦方提供

蒼連以站外導(dǎo)流難追蹤為例進(jìn)一步介紹道，詐騙行為在平臺內(nèi)通常偽裝成正常筆記（即博主發(fā)布的內(nèi)容）和交流內(nèi)容，不觸及詐騙核心環(huán)節(jié)的誘導(dǎo)轉(zhuǎn)賬或資金流轉(zhuǎn)。因此，其詐騙特征不明顯，平臺辨別存在困難。隨后，詐騙者會將用戶引導(dǎo)至第三方平臺實(shí)施進(jìn)一步的詐騙活動，“這一比例高達(dá)95%，導(dǎo)致難以實(shí)現(xiàn)有效追蹤”。

一年近120種不法手段！AI時代如何構(gòu)筑反詐防線

AI的應(yīng)用場景愈發(fā)廣泛，也為詐騙分子提供了新的偽裝手段。

朱鈺直言，如今除了詐騙手法更具迷惑性，網(wǎng)絡(luò)詐騙的危害其實(shí)也遠(yuǎn)超從前，因?yàn)楫a(chǎn)業(yè)鏈條盤根錯節(jié)，而且跨境跨國犯罪的趨勢明顯，打擊難度非常之大。

針對上述問題，公安機(jī)關(guān)也在不斷地調(diào)整打擊和防范的措施。在此情況下，警企合作正在加強(qiáng)。朱鈺介紹：“我們也希望短視頻平臺發(fā)現(xiàn)詐騙風(fēng)險后，能夠及時同步警方來聯(lián)動，將這些信息最早最快地告訴我們，避免更多人民群眾的財(cái)產(chǎn)受損失。”

“這對治理的‘及時性’和‘對抗性’都提出了很大的考驗(yàn)。”蒼連透露，過去一年，小紅書累計(jì)出現(xiàn)近120種詐騙方式，比2023年的96種增加了四分之一。詐騙話術(shù)演變也非常迅速，例如“導(dǎo)流到其他平臺”的話術(shù)變體，目前就有不下500種。

所幸，借助AI，小紅書建立了超過100個識別模型?！睹咳战?jīng)濟(jì)新聞》記者在現(xiàn)場了解到，疊加大模型理解能力，小紅書可對詐騙風(fēng)險實(shí)現(xiàn)跨場景內(nèi)容的理解與攔截。2024年，小紅書對詐騙行為的主動攔截率達(dá)到了94.3%，月均推送風(fēng)險提醒3700萬次。蒼連表示：“平臺用戶對詐騙單日舉報量方面，2024年底比年初減少了60%，呈現(xiàn)顯著下降。”

圖片來源：主辦方提供

業(yè)內(nèi)專家呼吁，社會各界共同參與反詐斗爭，形成全民反詐的強(qiáng)大合力。

“進(jìn)入人工智能時代，我們的反詐犯罪防控又遇到了新的問題。深度合成的影像越來越真，犯罪人是誰？聲音來自誰？越來越難以分辨。”皮勇在活動現(xiàn)場表示，大眾要帶著懷疑的態(tài)度對待網(wǎng)絡(luò)空間。

皮勇認(rèn)為：“犯罪在變，我們的‘教材’還沒有及時更新。未來，當(dāng)人形機(jī)器人進(jìn)入我們的生活，將對國家立法提出新的挑戰(zhàn)??需要進(jìn)行人工智能化的升級，才具備治理‘未來已來’的、智能化犯罪的能力。”