近日,有线上游戏平台利用AI技术
将知名演员古天乐、林峯
的肖像、声音及过往视频片段
合成制作为带有赌博性质的
代言宣传片
古天乐、林峯“被代言”的游戏平台虽然名称不同,但各自发布的“代言宣传片”风格相似:讲代言台词的声线和口音听得出均刻意模仿本人,尤其模仿了古天乐“港普”的特色,但整体画面制作颇为粗糙,艺人讲台词的嘴形僵硬不自然,AI合成痕迹十分明显。
3月5日,两人的经纪公司先后发布声明,指出该宣传片为合成影片,否认其与有关游戏平台合作,或代言、推广它们的业务,提醒各方人士不要轻信,以免受骗上当。对于盗用两人名义或肖像作虚假宣传或诈骗的行为,公司必然追究。
同日
话题#靳东两会建议AI换脸立法#
冲上热搜第一
据@人民日报 消息,3月5日,在政协小组讨论上,全国政协委员靳东回应了AI换脸导致的诈骗问题。
他说:“一些喜欢我影视剧的观众,被AI换脸视频骗得很惨,这个性质非常恶劣。希望能建立更好的规则。”
除了“AI靳东”
“假人”在社交网络屡见不鲜
去年10月
老牌港星黄百鸣
在社交媒体上发布声明表示
有人盗用他过去的影片,并利用人工智慧技术替换掉原有声音,假借自家名义代言一个不知名的药膏品牌。这种行为纯属欺诈,旨在误导公众并从中取利。
去年9月
陈佩斯的父子账号
曾发布相关声明
说要跟某些冒充陈佩斯
发布煽动言论的违法账号
硬刚到底!
犯罪团伙通过虚构名人、明星身份,编造的身份除了影视艺人,还包括金融大咖、业界翘楚等,再”邀请“真粉丝加入各种“粉丝团”“应援团”。
全国人大代表陈达表示,应加强对AI技术的立法监管,防止它被用于违法犯罪活动,特别是针对老年人和未成年人的网络诈骗。
陈达指出,前段时间社会上闹得沸沸扬扬的“张文宏医生被AI换脸直播带货”事件,就是AI技术被不法分子滥用的一个典型例证。他们利用AI换脸技术,冒充知名人士开展直播带货,诱骗老年人购买一些并不需要的商品,严重侵害了老年人的合法权益。
陈达表示:“AI技术的迅猛发展,无疑给我们的生活带来了翻天覆地的变化,但与此同时,也为一些心怀恶意之人提供了违法的可乘之机。尽管国家已经多次组织治理行动,但仍需在立法层面上进一步完善监管措施。”
针对这些问题,她建议在立法层面应加强对AI技术的监管。立法监管不仅是对AI技术的约束,更是对它健康发展的一种保障。通过立法明确AI技术的使用范围和条件,可以引导企业和社会各界在合法合规的框架内发展AI技术,推动“科技向善”,让技术更好地服务于社会。
不少网友表示支持!
不要让新科技成为诈骗新手段
来源:新闻坊、人民日报、中国青年报、新民晚报、看看新闻