直播预告：3月6日19:00--20:00，《未来妈妈》健康直播间特别节目特邀恩泽妇产医院执行副院长潘一红，与您面对面拆解宫颈癌防治核心问题。参与现场互动还有健康好礼送。更多详情可后台回复“健康”了解。以上为节目宣传，与正文无关↑
6日早间，全国政协委员、中国煤矿文工团团长靳东谈到AI换脸导致的诈骗问题，在社交平台引热议。他说：“一些喜欢我影视剧的观众，被AI换脸视频骗得很惨，这个性质非常恶劣。希望能建立更好的规则。”
▲媒体报道截图
就在前几天，全国人大代表、小米集团董事长兼CEO雷军在其建议案中也提到，“AI换脸拟声”的不当滥用成了违法侵权行为的重灾区。
相关话题也冲上微博热搜榜单第一名。
对此，不少网友表示，希望尽快立法。
AI剪辑冒充明星的案例屡见不鲜
2024年11月，江西一位老人来到银行办理银行卡，但手续不全又不肯离开，警方到现场后，老人表示要到银行贷款200万元给自己的男朋友“靳东”拍戏。
民警随即拿起老人的手机进行查看，发现老人所谓的大明星“靳东”是骗子冒充的，其所发布的视频也是由电脑AI合成，但老人对网络知之甚少，对于骗子所说所做深信不疑。
最终，民警通过向老人展示网络上一些冒充“靳东”诈骗的新闻和现场利用AI合成照片等方式，老人才幡然醒悟，表示不会再相信网络上的“靳东”，并放弃了开卡贷款的念头。
AI深度合成名人音视频
3月3日，有网友向演员刘晓庆求证：“@刘晓庆 我看到一个微信视频号发了很多你的视频，好像是AI生成的，是假冒的吧？很多话不是你说的。”
对此，刘晓庆转发回应：
天哪，我点进去看了一下，画面是我，声音很像我，但不是我！这是怎么做到的？大家以后不会搞不清楚哪个才是真的我了吧？我在各个平台都叫刘晓庆！
从恶搞企业家雷军到AI制作张文宏医生音视频为自己带货，甚至还有不法分子利用AI深度合成视频，进行诈骗。过去一年，AI深度合成音视频侵权现象愈演愈烈。
此前就曾有网友曾利用AI制作的刘德华声音，为自己博取流量，刘德华电影公司还紧急发布声明提醒网民，不要落入伪造刘德华声音的AI语音合成技术骗局。近日记者调查发现，实现AI深度合成音视频并不算难事，甚至在一些购物平台，AI深度合成技术已经成为众多网店牟利的工具，只需花费几十元，就可定制AI深度合成名人音视频。
法律专家表示，如果未经本人或版权方同意，就用AI合成制作其音视频，可以判断为侵权行为，应当承担法律责任。
如何防范？
不仅是视频，伴随人工智能技术快速进步，文、视、图、声等的合成和制作门槛大幅降低，一些人工智能生成的内容“李逵”“李鬼”难辨，给用户带来困扰。2025年全国两会期间，多位代表委员对此现象予以关注，并提出建议。
美的集团副总裁兼首席财务官钟铮表示，现在生成式人工智能在法律法规体系上仍不完善，特别是在界定AI生成内容的版权归属，以及侵权责任认定、隐私保护标准方面存在空白。此外，目前对于生成式人工智能视频的审核，技术条件有限，还需要继续完善技术手段。
雷军也在建议案中提到，应加快单行法立法进程，在安全与发展并重的基础上提升立法位阶，明确“AI换脸拟声”应用边界红线，完善侵权证据规则，加大对利用人工智能技术实施犯罪行为的刑事处罚力度；强化行业自律共治，压实平台企业等各方的责任和义务；加大普法宣传的广度力度，增强民众的警惕性和鉴别力，加强公众对个人人脸、声音、指纹等生物信息的保护，避免给犯罪分子提供便利素材。
全国政协委员、安徽省律师协会监事长周世虹表示，建议将生成式人工智能纳入专项立法，明确开发者、运营者、用户三方责任；完善监管协同机制，建立网信、工信、公安等多部门联动的动态监管体系；设立AI生成内容标识制度，强制标识AI生成内容，防范虚假信息传播。
全国人大代表、科大讯飞董事长刘庆峰表示，建议研究幻觉自动分析的技术和软件平台，开展幻觉自动分析、AIGC(生成式人工智能)深度鉴伪、有害内容识别以及互联网传播溯源，由相关部门定期清理幻觉数据，为公众提供AIGC幻觉信息检测工具与服务。
北京中银律师事务所高级合伙人杨保全表示，一方面应该完善法律法规，细化“AI换脸拟声”技术应用规范和侵权责任的认定标准；另外，强化平台的监管责任，平台需建立健全审核机制，及时发现和处理侵权内容；最后，提高公众的法律意识和防范能力，让大家了解相关法律法规，面对诈骗能够保持警惕。
来源:中国新闻网综合中新经纬、人民日报、中国青年报、辽沈晚报、网友评论等 版权归原作者所有
小编:路路通 审核:杨懿 监制:晨曦
聚焦民生服务
关注新闻热点
