3月4日上午，全国人大代表，小米集团创始人雷军发文，介绍自己十四届全国人大三次会议建议。其中，他提出的“加强‘AI换脸拟声’违法侵权重灾区治理”建议很快登上网络热搜。
建议推动“AI换脸拟声”立法治理
关于加强“AI换脸拟声”违法侵权重灾区治理，雷军提到，人工智能(AI)深度合成技术的快速发展，推动了“AI换脸拟声”在影视、广告、社交等领域广泛兴起，成为社会喜闻乐见、传播力强、易成热点的技术应用。但同时，“AI换脸拟声”不当滥用造成了违法侵权行为的重灾区，易引发侵犯肖像权、侵犯公民个人信息以及诈骗等犯罪行为，带来社会治理等风险。基于此，他提出加快单行法立法进程、压实平台企业等各方的责任和义务等建议。
基于此，雷军建议：
一、加快单行法立法进程，在安全与发展并重的基础上提升立法位阶。
二、强化行业自律共治，压实平台企业等各方的责任和义务。
三、加大普法宣传的广度力度，增强民众的警惕性和鉴别力。
雷军曾遭遇AI配音困扰
2024年国庆长假期间，短视频平台涌现大量“雷军”发言视频。AI生成的“雷军”不仅怒斥调休制度、吐槽游戏氪金，甚至出现“用小米SU7撞人”等荒诞言论，相关话题浏览量突破1.2亿次。尽管大多数网友将其视为娱乐，但仍有大量用户通过官方渠道求证视频真实性。在雷军微博评论区，“您真的说过这些话吗”的留言连续三周占据评论区。
对此，10月7日，雷军本人在社交媒体平台则是回复了三个愤怒表情，表达自己的态度。有网友在小米集团公关部总经理王化的微博评论区留言称，“把雷军AI语音骂人的事情先解决一下吧”并@小米法务部。对此，王化回复称，“已经转给他们。”
去年10月29日，雷军本人发布视频回应称，的确让自己挺困扰，也挺不舒服。雷军表示希望大家不要再玩了，觉得这个事情不太好，不过他还是觉得AI是很好的技术，也非常实用。
AI合成音视频的合理使用边界在哪
用AI生成他人声音的现象频发，AI合成音视频的限度和边界在哪儿？中国政法大学数据法治研究院教授、中国法学会网络与信息法学研究会副会长王立梅教授认为，AI合成音视频本质上是一种技术使用行为，必须在法律的框架内规范进行。一般而言，AI合成技术的合理使用边界在于是否获得权利人的明确授权以及是否对社会造成负面影响。
“一方面，法律保护自然人的声音、肖像等权益，禁止未经授权的商业使用和可能造成混淆或误导的行为；另一方面，根据《互联网信息服务深度合成管理规定》等要求，平台也应加强对AI合成内容的审核与标识，使用更加先进经济的技术手段加强检测和侵权治理，及时干预阻断侵权行为及其不良影响的扩散，有效平衡技术创新与个人权益保护之间的关系，切实担负起推动形成良好网络生态的主体责任。”王立梅说。
北京互联网法院综合审判三庭庭长颜君认为，在深度合成技术快速发展背景下，作为信息网络服务提供者，平台应严格履行《中华人民共和国民法典》《互联网信息服务深度合成管理规定》等法律法规规定的义务，落实信息安全主体责任，建立健全用户注册、算法机制机理审核、科技伦理审查、信息发布审核、数据安全、个人信息保护、反电信网络诈骗、应急处置等管理制度。
中国社会科学院大学互联网法治研究中心主任刘晓春分析指出，当前AI合成声音的问题主要分为两种情况：一种是深度伪造，即用AI来生成合成假的声音，即此前雷军和张文宏的声音被伪造的情况；另一种是拿他人的声音来训练，比如多位配音演员称声音被AI“偷走”，就是用他人的声音来训练成AI配音，用于配音朗诵等情况。
“这两种情况引起的问题有不太一样的地方，前者可能会导致虚假信息传播，既有可能侵害人格的权益，也可能会造成谣言的流传，会对公共秩序造成损害，比如误导公众。有时还可能涉及欺诈，甚至有电信欺诈的问题；后者主要是对于人格利益的人格权益的侵害，主要是民事责任的问题。”刘晓春说。
上游新闻综合财联社、极目新闻、雷军个人账号、法治网