近日，名为“婵宝小助理”“全妹福利号”等多个账号，使用全红婵赛后接受采访和家人直播的画面，用AI合成相应的声音，在社交平台发布视频。以“全红婵家建别墅”“全红婵为观众送上福利”等话题吸引观众，博取流量。
视频里呈现全红婵受访的画面，内容却被AI篡改为介绍土蜂蜜、骆驼奶粉、洗衣净等商品，并推荐观看者点击商品链接购买。评论区有用户被合成视频欺骗，表示“支持全红婵，值得购买。”
▲社交媒体上的合成视频带货截图
4月29日，全红婵父亲告诉记者，有人用AI伪造一家人声音卖蜂蜜，他们也没有办法。“帮我辟谣一下，我没有卖这东西，什么蜂蜜才十几块钱一斤，拿糖来搞都搞不到。”
据悉，全红婵的父母长期靠种植水果维持生计，全红婵的大哥全进华是一名三农主播，带货湛江本地的特产水果，全红婵的母亲也时常入镜，全家人直播带货曾引发不少网友的质疑。
对此，全进华在采访中表示：“我现在在自媒体上发发视频，主要是想带动‘三农’产品进行销售。为什么做这个呢？一是我妈妈身体不好，做这个比较自由，可以兼顾照顾长辈。二是我们这边种有很多水果，特别是菠萝，每隔几年就会出现滞销。因为种得太多，行情波动较大，没人来收的话，水果就烂在地里，所以我想帮一下他们。”
他说：“虽然我还不是个（流量）很大的博主，也不一定能卖出很多东西，但我希望尽自己能力帮助家人、村里乃至湛江以及其他地方的农产品进行销售。”
━━━━━
此前曾有多位明星被AI侵权
2024年4月，北京互联网法院宣判全国首例“AI声音侵权案”，明确认定在具备可识别性的前提下，自然人声音权益的保护范围可及于AI生成声音。法院认为，未经权利人许可，擅自使用或许可他人使用录音制品中的声音构成侵权。
今年两会期间，全国人大代表、小米集团创始人雷军建议“加强‘AI换脸拟声’违法侵权治理”，并表示他本人也曾是“AI换脸拟声”的“受害者”。
早前短视频平台上曾出现大量“雷军AI配音”的恶搞视频，涉及堵车、调休、游戏等热门话题，雷军两会期间回应，“一开始我还觉得这是网民喜闻乐见的一种方式，但是随着内容越来越多，网友们也都在投诉。”为此，他呼吁尽快出台相关治理措施。
同样，全国政协委员靳东也回应了AI换脸导致的诈骗问题，并表示“一些喜欢我影视剧的观众，被AI换脸视频骗得很惨，这个性质非常恶劣，希望能建立更好的规则。”
此前，有网友向演员刘晓庆反馈有人在视频号AI生成视频假冒她。刘晓庆转发并配文：“天哪，我点进去看了一下，画面是我，声音很像我，但不是我！这是怎么做到的？大家以后不会搞不清楚哪个才是真的我了吧？我在各个平台都叫刘晓庆！”
4月18日，张馨予发文表示：“近期发现有品牌AI复制我的声音，未经授权编造剪辑广告视频，还有减肥药广告，我觉得这样的行为很恶劣。在此说明我从来没有推荐过任何减肥药，有商家利用Ai技术非法剪辑投放广告，我一定追究到底。”
河南泽槿律师事务所主任付建称，通过AI技术冒用他人声音的行为属于违法行为。根据《中华人民共和国民法典》，对自然人声音的保护参照适用肖像权保护的有关规定。而商家利用AI篡改专家说辞进行直播卖货既侵犯了专家有关声音的人格权益，也可能损害了专家的名誉权以及肖像权。
同时，这种打广告的行为也涉及虚假广告宣传，如果所卖商品没有宣传效果还构成消费者欺诈，违反了《反不正当竞争法》和《消费者权益保护法》有关规定，有可能面临罚款、吊销营业执照等行政责任以及相应的民事赔偿责任，情节严重的还涉及刑事犯罪。
“平台有权依据《互联网信息服务管理办法》《电子商务法》以及平台规则履行监管义务，对违法商家采取封禁账号、限流等处理措施。如果未及时采取合理措施导致损害扩大的，对扩大部分与不法商家承担连带责任。”付建表示。
━━━━━
观点
用AI合成全红婵家人声音，这样的带货走火入魔了
从全红婵家里建房、古天乐“被游戏代言”、张馨予“卖减肥药”，这些事件背后，都是不法分子在利用AI技术，明目张胆地伪造公众人物的形象和声音，或者生造出来某个人物形象，蓄意欺骗消费者，以谋取非法收益。
具体到“全红婵家人事件”，声音作为具有个人标识性特征的信息，未经本人授权就被随意用于商业行为，这已构成对个人肖像权、名誉权以及声音相关权益的侵犯，相关伪造者的行为涉嫌违法犯罪。
而消费者在不知情的情况下，基于对全红婵及其家人的信任和支持下单购买商品，结果却发现自己上当受骗，不仅蒙受经济损失，更会对类似网络信息的真实性产生怀疑。从长远来看，此类事件冲击的将是整个短视频平台消费市场的信任环境。
AI合成技术是一把双刃剑。一方面，它极大提升了信息生产与传播的效率；另一方面，技术滥用导致信息真假难辨，给监管带来巨大挑战。AI合成信息易误导公众，干扰判断与决策，还增加了监管部门发现和查处虚假信息的难度，容易引发社会乱象。
同时，由于网络信息传播迅速且范围广泛，虚假信息一旦发布，难以有效控制，溯源和处理成本很高，这对传统监管模式和技术手段提出了新的更高要求。
面对AI合成技术被滥用这一新难题，国家互联网信息办公室等四部门联合发布了《人工智能生成合成内容标识办法》，定于2025年9月1日起正式施行。该办法为AI生成内容设定了明确的标识规范，让以往难以辨别的AI作品必须“持证上岗”，清晰标注其AI生成身份，相当于在源头上为AI合成信息套上了“紧箍咒”。
在此基础上，还要加大对侵权行为的惩罚力度，让违法者付出高昂代价，才能让他们畏于造假售假。
对平台而言，当务之急是提升技术手段，对AI合成内容进行识别和标注，“用AI打败AI”，及时清理虚假信息，对违规账号进行封禁处理。
而作为普通消费者，在AI合成日益被滥用的趋势下，尤其要提高辨别能力和防范意识，不要轻信、传播未经证实的消息，更不要轻易地“一键下单”。
总之，只有让AI合成技术的应用真正规范起来，才能避其短、扬其长，营造健康、真实、可信的网络环境和消费市场，让AI真正服务人，而不是成为骗子的工具。
撰稿/和生（媒体人） 编辑/迟道华 校对/李立军
来源 封面新闻、九派新闻、新京报此前报道、网友评论
值班编辑 康嘻嘻 古丽 实习生 康斯诺
星标“新京报”
及时接收最新最热的推文
点击“在看”，分享热点
