极目新闻评论员 屈旌

3月4日，全国人大代表雷军公布了其2025年两会建议，其中一条建议为加强“AI换脸拟声”违法侵权重灾区治理。

在建议中，雷军表示，人工智能深度合成技术的快速发展，推动了“AI换脸拟声”在影视、广告、社交等领域的广泛兴起，成为喜闻乐见、传播力强、易成热点的技术应用。但同时也看到，“AI换脸拟声”不当滥用成为违法侵权行为的重灾区，易引发侵犯肖像权、侵犯公民个人信息以及诈骗等犯罪行为，不利于构建“以人为本、智能向善”的人工智能发展生态。

（来源：雷军个人公众号）

雷军提出的5条建议中，只有这一条跟他现在造得风生水起的新能源汽车没关系，但是看到他提出这项建议，网友都觉得很合适，很必要，因为雷军本人就是“AI换脸拟声”被滥用的最大“受害者”之一。

作为知名企业家和科技界的领军人物，雷军个人形象的影响力和价值不言而喻，而在数字科技的浪潮中，他的脸和声音竟然成为了最受欢迎的“造假素材”。从直播带货到发表争议言论，从参与网络骂战到代言各类产品，雷军的面孔被AI技术肆意挪用，在短视频平台上疯狂传播，演绎着一个个与他毫无关系的剧本。虽然很多都是“一眼假”，雷军自己也多次辟谣，但架不住总有人上当受骗，信以为真。

雷军曾经回应恶搞雷军AI配音

这种现象不仅发生在雷军身上，越来越多的公众人物甚至普通人，频繁成为“AI换脸拟声”技术被滥用的受害者。“AI换脸拟声”技术本是令人惊叹、应用性强的技术创新，广泛应用于影视、教育、医疗等民生领域。但好的技术被不法分子利用了，就成了侵犯他人合法权益的利器。

当技术狂欢模糊了道德底线，当创新脑洞逾越了法律边界，新技术所带来的喜悦也被困扰的迷雾所掩盖。这些肆意造假、胡编乱造的行为，严重侵犯了“被换脸者”的肖像权和名誉权，给网友带来了极大的误导和困扰，让网络环境泥沙俱下，难辨真伪。

雷军的遭遇只是冰山一角，像他这样拥有一定社会资源和话语权的知名企业家，有时候面对“AI换脸”视频都只能无奈叹气，普通人一旦成为“AI换脸”的受害者，不但身心健康和正常生活会受到严重影响，而且往往陷入维权无门的困境。此前，就有女孩因拒绝同事追求，被其利用AI换脸技术制造并散布黄色谣言进行报复，名誉受损，身心受挫，陷入痛苦泥沼，经历了漫长而艰难的维权，才让作恶者受到了法律惩处。技术门槛高、证据收集难、诉讼成本大等问题，让许多“AI换脸”的受害者选择忍气吞声、平息事态。这种无奈的选择反过来又助长了侵权者的气焰，形成了恶性循环。

由此可见，雷军提出的这项建议，是基于他自身的亲身经历和深切感受，也是为所有的受害者发声，值得倾听和重视。他所强调的加快单行法立法进程、压实平台企业责任、增强民众的警惕性和鉴别力三条建议，都可谓中肯且切实可行。尤其是督促平台承担社会责任，遏制AI技术滥用，对侵权行为“零容忍”尤为重要。互联网平台作为技术传播的主要渠道，应当建立严格的内容审核机制，用魔法打败魔法，运用AI技术识别和拦截AI侵权内容。同时，要完善投诉处理机制，为受害者提供便捷的维权渠道，避免不实、不良内容持续扩散造成不良影响，让技术向上向善成为整个互联网行业不可突破的基本原则和发展标准。

任何技术的发展都不应以牺牲个人合法权益为代价，在享受AI技术带来便利的同时，我们必须正视其带来的伦理挑战和法律风险。技术没有绝对的善恶，而是人性的放大器，要管好技术，最重要的还是要管好人。只有建立完善的治理体系，明确技术使用的合法边界和法律责任，对违法违规行为严厉打击，提高民众的网络素养和防范意识，平衡创新与规范的关系，才能让技术多给生活添彩，少给人类添乱。

（来源：极目新闻）