两年前，“AI孙燕姿”翻唱《发如雪》引发全网热议时，人们更多是惊叹技术的突破。但当任何人都能用App一键生成明星带货视频、假带货广告播放量动辄破百万，事情已经彻底变了味。

正如一位网友所说：“以前担心照片是P的，现在连声音都不能信了，科技到底在保护谁？”

作者 | 黑莓

编辑 | DR

题图 | 《独自生活的人们》

“全红婵带货土蜂蜜”“古天乐被游戏代言”“张馨予卖减肥药”……

当你震惊于又一波名人开始代言土味广告时，更让人震惊的事实是，这些广告大多跟名人本尊无关，而是大规模滥用AI拟声的商业欺诈。

近日，某短视频平台出现“婵宝小助理”“全妹福利号”等数十个仿冒账号，循环播放全红婵赛后接受采访的原始画面。但你稍加细看，很快便会发现端倪——画面中的全红婵仍穿着东京奥运领奖服，口中说出的却变成了“500单土蜂蜜，16块9发两斤”“驼奶粉对三高人群特别好”。

4月29日，全红婵父亲只能无奈发声，称有人用AI伪造全家声音售卖蜂蜜，他们对此毫无办法。

AI全红婵的带货广告。（图/社交平台截图）

在此之前，相似的AI拟声骗局早已蔓延——去年12月，“张文宏”讲解某品牌蛋白棒的AI假视频走红网络，因其形象与声音高度逼真，导致大量中老年消费者受骗下单，销量一度破千；

还有平台利用AI技术，将古天乐、林峰等港星的肖像、声音及视频片段，合成为线上赌博、游戏的代言宣传片，逼得两人的经纪公司不得不出面辟谣；

就连小米CEO雷军的标志性普通话也没能幸免，从鬼畜视频里的“Are you OK”，变成了虚假理财广告里“稳赚不赔”的吆喝……

从明星、学者、运动员到知名企业家，AI假带货的受害者名单里还包括靳东、刘晓庆、刘德华、杨天真、倪萍、潘玮柏、张伯礼……甚至是每一个普通人。而实现这些，最低只需要一块钱，便可以在二手平台上买到一套“声音克隆工具包”。

两年前，“AI孙燕姿”翻唱《发如雪》引发全网热议时，人们更多是惊叹技术的突破。但当任何人都能用App一键生成明星带货视频、假带货广告播放量动辄破百万，事情已经彻底变了味。

正如一位网友所说：“以前担心照片是P的，现在连声音都不能信了，科技到底在保护谁？”

AI拟声带货，防不胜防

“减肥不是不吃，而是学会吃。”视频里，张馨予正对着镜头分享减肥心得。当画面切换到本人身材高挑的写真照时，这位女明星突然话锋一转，开始推荐起某品牌减肥药：“早上饭后冲一杯，专门提代谢，我就是靠这套方法瘦到106（斤）。”

视频全程没有一丝卡顿和机械感，连口型都顺畅对上——如果不是当事人亲自辟谣，谁都想不到这段视频里的声音、表情全是AI伪造。

4月18日，张馨予在社交平台发文称，有商家利用AI技术复制其声音售卖减肥药，自己从未推荐过任何减肥药，将追究到底。一位差点付款的宝妈告诉《新周刊》：“视频我反复看了三遍，要不是看到评论区有人提醒，我肯定要下单了。”

张馨予曾在社交平台发文辟谣。 （图/张馨予微博截图）

事实上，同样的套路已被批量复刻到抖音、快手、B站、小红书等视频平台上。

其中，热播综艺成了重灾区——在《一路繁花》的吃饭片段里，刘晓庆夹鱼的镜头被P上“诗诺千君贴”广告，字幕还打着“提高代谢”的宣传语。当事人无奈在3月3日回应称：“画面是我的脸，声音像我的声音，但真不是我”。

而在另一档综艺中，女星“应采儿”也表示自己孩子有几年一直不长个，后来给他弄了元德吉钙一下长了几厘米，“谢娜”还在一边帮腔：“杨紫跟我说过。”

打开相关搜索栏，各类保健品、减肥药的“代言人”名单堪称全明星阵容，就连张伯礼院士都得出来为某“国货品牌”站台……

AI假带货。（图/社交平台截图）

“这些视频就像流水线生产的赝品，把综艺片段当原材料，用AI改字幕、换配音，最后贴上商品链接。”某直播从业者告诉《新周刊》，“本质是低成本引流起号，还能规避代言费用”。

AI拟声热度四起背后，也衍生出一条暴利的灰色产业链。在某电商平台搜索“AI配音”服务，有商家直言：“明星声音200元一条，素人50元，包教包会”。

“AI李鬼”猖獗，受害者名单在不断加长。明星们在面对肖像权、名誉权双重侵害的同时，消费者也更容易误购劣质商品。

据《咸宁日报》报道，AI拟声带货的商品存在资质不明、厂商不清等问题，涉事店铺多为2024年新注册账号，宣传封面、产品包装、文案说辞几乎一样。而本该承担审核责任的平台，也没有提示“该画面可能由AI生成，请注意鉴别”，客观上成为了“假带货”风气的推手。

谁偷走了我们的声音？

我们正在进入一个“耳听为虚”的时代。

今年两会期间，企业家雷军自称成了AI拟声的受害者。在无数短视频切片里，“假雷军”用标志性的湖北普通话吐槽堵车、调侃调休，逼真到网友集体@雷军本人：“这是不是你小号？”。

除了伪造公众人物带货营销，AI换脸、拟声技术还被用于普通人的诈骗。前不久，有骗子用AI合成靳东的声音陪老人聊天，骗走近百万养老钱。而据央视新闻报道，福建一位公司老板和“合作伙伴”视频通话10分钟，看着熟悉的样貌、听着熟悉的声音，当场转了430万，结果对方却是AI合成的假人。

某AI拟声平台。 （图/社交平台截图）

这些以假乱真的声音到底从何而来？

一名长期观察人工智能的学者曾向《新周刊》解释，只需采集声音中的频率、音色、声调等关键特征，配合语速和情感参数，即使少量样本也能在几秒内完成克隆。

另一方面，AI拟声应用也从未像今天这样唾手可得。“现在实施AI换声诈骗的技术门槛，相当于在手机里安装一个修图App。而且换声、换脸的逼真度会越来越好，普通用户会愈来愈难以鉴别或区分。”上述专家称。

互联网上的AI声音克隆攻略也随处可见。光是在某社交平台上，有关“AI合成明星声音软件”的帖子就多达4w+条。二手交易App上，一次AI声音克隆更是低至10块以内，这意味任何人都可以低成本地获得自己想要的AI明星声音，其中，还有博主用自己孩子的声音素材，合成了“AI版新闻联播开场白”。

“假如AI换脸拟声被过度滥用，或许将来某一天，我们不得不在发布真实录制内容时进行声明，强调内容的真实性。整个社会对真实性的鉴别成本将会非常高，必须采取办法避免该技术泛滥成灾。”中国传媒大学副教授张鹂在接受《潇湘晨报》采访时曾表示。

目前，国内正在立法上重视此类问题。2024年4月，北京互联网法院宣判全国首例“AI声音侵权案”，首次明确自然人声音权益的保护范围可及于AI生成内容。此外，类似“白名单制度”也会在9月1日上线，让以往难以辨别的AI作品“持证上岗”。

然而，这行写着“内容为AI技术制作，请谨慎甄别”的半透明小字，实际效果如何仍需打个问号。先不论那些蚂蚁大小的水印，戴着老花镜的中老年人能不能看清。大部分人连AI是啥都搞不懂，刷到AI换脸的养生专家视频时，只会纳闷：“这视频里的人明明在动，咋会是假的？”

归根结底，无论是AI拟声、换脸还是频频爆出的AI假新闻，保持怀疑与求证，或许才是我们应对虚假内容的最后堡垒。毕竟，被AI偷走声音的，全红婵们不是第一个，也不会是最后一个。