“雷军回应‘7天假期被AI雷军骂了8天’”“靳东建议AI换脸立法”⋯⋯今年全国两会期间，人工智能（AI）技术治理成为讨论焦点之一，其中“AI换脸”引发的风险问题受到代表委员们热议。
在这场身份保卫战中，公众人物、媒体首当其冲。“AI张文宏”深夜直播带货、“AI刘晓庆”分享鸡汤、“AI古天乐”代言网游……AI换脸已沦为黑灰产业链的作案工具。日前，每日经济新闻刊发《微信抖音都难防！花1280元，直播、视频通话能实时换成刘亦菲、杨幂的脸，拍脸按鼻露齿及大幅遮挡都不会“掉脸”》广受各界关注，平台也开始思考：AI深度伪造导致传统防伪手段失效后如何保护数亿用户。
3月10日，“小红书”在北京举办首次“诈骗治理开放日”，公布了2024年平台反诈治理成果：通过不断完善全链路治理体系，平台全年共处置涉诈违规账号492万个，主动拦截94.3%的诈骗行为，诈骗举报量同比下降60%。
但是，在分享治理措施和经验的同时，小红书反诈治理负责人苍连表示，诈骗治理是个长期过程，存在不少难点，需要更多互联网平台、企业以及用户共同参与解决。其中，95%的诈骗行为被诱导至第三方平台实施，形成监管断点，这让追踪溯源难上加难。
中国犯罪学学会副会长兼信息犯罪防控专业委员会主任、同济大学法学教授皮勇警示，伴随AI时代到来，深度合成的影像越来越真实，犯罪人是谁？声音来自谁？越来越难以分辨。“犯罪在变，我们的‘教材’却没有及时更新。”
皮勇介绍“打防结合、共同防治”的反诈模式 图片来源：主办方提供
诈骗渠道从传统电信渠道向网络全面转移
“千万不要觉得自己不会被骗。”苏州市公安局金牌反诈讲师朱钰表示，诈骗分子盯上的是我们每一个人，不会区分人们的学历、职业。
当下，AI技术迅猛发展，诈骗形式也以超乎想象的速度不断升级。对于警方而言，传统的事后打击犯罪方式已陷入被动的局面。“犯罪分子在网上飞，在全世界飞，我们公安民警如果在地上追，根本没有用。不仅成本投入巨大，人员消耗也大，还无法有效遏制。”朱钰无奈地说道。
基于多年的从警经验，朱钰总结出当下诈骗的三大特点——
第一，从过去的广撒网式诈骗转变为精准诈骗。诈骗分子通过非法手段获取公民个人信息，据此量身定制诈骗剧本，实施精准诈骗。
第二，诈骗手法从单一走向组合套路。诈骗手段不断演变，从最初的、简单的冒充熟人式、中奖式诈骗，发展到如今融合刷单返利、杀猪盘、虚假投资等多种形式的复合型诈骗，灵活性更强，让人防不胜防。
第三，诈骗渠道从传统电信渠道向网络全面转移。利用社交软件、直播平台、网络游戏等新型网络产物实施诈骗的案例日益增多，隐蔽性愈发突出，增加了识别和防范的难度。
除了诈骗手法更具迷惑性，目前网络诈骗的危害也远超以往。随着互联网的发展普及，公开数据显示，网络犯罪案件增长迅速，目前占全部犯罪案件的七成以上。
苍连分享平台治理策略和措施 图片来源：主办方提供
苍连以站外导流难追踪为例进一步介绍道，诈骗行为在平台内通常伪装成正常笔记（即博主发布的内容）和交流内容，不触及诈骗核心环节的诱导转账或资金流转。因此，其诈骗特征不明显，平台辨别存在困难。随后，诈骗者会将用户引导至第三方平台实施进一步的诈骗活动，“这一比例高达95%，导致难以实现有效追踪”。
一年近120种不法手段！AI时代如何构筑反诈防线
AI的应用场景愈发广泛，也为诈骗分子提供了新的伪装手段。
朱钰直言，如今除了诈骗手法更具迷惑性，网络诈骗的危害其实也远超从前，因为产业链条盘根错节，而且跨境跨国犯罪的趋势明显，打击难度非常之大。
针对上述问题，公安机关也在不断地调整打击和防范的措施。在此情况下，警企合作正在加强。朱钰介绍：“我们也希望短视频平台发现诈骗风险后，能够及时同步警方来联动，将这些信息最早最快地告诉我们，避免更多人民群众的财产受损失。”
“这对治理的‘及时性’和‘对抗性’都提出了很大的考验。”苍连透露，过去一年，小红书累计出现近120种诈骗方式，比2023年的96种增加了四分之一。诈骗话术演变也非常迅速，例如“导流到其他平台”的话术变体，目前就有不下500种。
所幸，借助AI，小红书建立了超过100个识别模型。《每日经济新闻》记者在现场了解到，叠加大模型理解能力，小红书可对诈骗风险实现跨场景内容的理解与拦截。2024年，小红书对诈骗行为的主动拦截率达到了94.3%，月均推送风险提醒3700万次。苍连表示：“平台用户对诈骗单日举报量方面，2024年底比年初减少了60%，呈现显著下降。”
图片来源：主办方提供
业内专家呼吁，社会各界共同参与反诈斗争，形成全民反诈的强大合力。
“进入人工智能时代，我们的反诈犯罪防控又遇到了新的问题。深度合成的影像越来越真，犯罪人是谁？声音来自谁？越来越难以分辨。”皮勇在活动现场表示，大众要带着怀疑的态度对待网络空间。
皮勇认为：“犯罪在变，我们的‘教材’还没有及时更新。未来，当人形机器人进入我们的生活，将对国家立法提出新的挑战⋯⋯需要进行人工智能化的升级，才具备治理‘未来已来’的、智能化犯罪的能力。”
