澎湃首席评论员 与归

近日，总台记者按照消费者举报的线索，在多个互联网平台上进行检索，发现不少平台上有人在公开兜售“利用AI技术制作色情擦边视频”的教程，号称仅凭一张图片，甚至几句话就可自行“手搓”“让自己满意的大尺度视频”。有的教程帖子还赫然写着“AI擦边赛道日入5位数”等标题。

报道中呈现的内容及其细节让人震惊，但是随着技术的狂飙，出现这样的AI“造黄”产业链，又似乎不难预料。从批量生产谣言，到批量生产论文，再到批量生产黄色视频，AI打开的潘多拉魔盒，还在凭借其强大的“生产力”持续张开血盆大口。

AI“造黄”产业的危害是不言而喻的。除了直观的“传播淫秽色情”，还有一个潜在的风险点是，随便用一张图就可以生成色情视频，那么这张图有没有可能是现实中真人的照片？别忘了，就在最近，相关AI短剧中的人物形象还因为和现实中的明星艺人撞脸而遭受争议，乃至引发维权官司。

此外，由于未成年人很容易接触到社交平台和相关AI应用，其对未成年人身心健康的影响，也不容忽视。

据报道，众多社交平台上，一些博主还发布售卖各类AI生成擦边视频的“提示词”的帖子，堪称“一条龙服务”。这样的黑色生意，轻而易举便在某些平台上开展，问题又回到了平台的治理责任上。至少，在基本的关键词检测、辨别、屏蔽上，平台不应该让自身成为“漏鱼之网”。

整体来看，AI“造黄”产业链具有低门槛、批量生产、快速传播等特征，且形成了制作教程、提示词、软件、引流变现的完整黑色链条。对此，相关平台和监管部门必须及时介入，迅速斩断“造黄”产业链。

这不只是一个法律问题，更是一个技术伦理问题。这两年，AI打开的新世界让人应接不暇，出现的一些新场景、新应用可以说是泥沙俱下。此前就有一种观点认为，一项新技术的诞生，往往首先就被用于下三滥的地方，这句话或许太过绝对，却是一个十分现实的提醒。

一方面，出现问题就要立即开展针对性的治理；另一方面，完善和更新法律法规的脚步也要随之跟上。

4月10日，《人工智能拟人化互动服务管理暂行办法》正式公布，其第八条规定，提供拟人化互动服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，并明确不得从事“传播淫秽、色情、赌博、暴力或者教唆犯罪”“向未成年人用户生成可能引发未成年人模仿不安全行为、产生极端情绪、诱导未成年人不良嗜好等可能影响未成年人身心健康的内容”等活动。

虚拟世界从来不是凭空制造的，虚拟往往取材于现实，又深刻影响着现实。AI仍将持续挑战更多的行业、领域，也会带来不少让人诧异、担忧的问题。和AI共成长，积极、健康地共成长，注定是我们这代人要解决的课题。

AI“造黄”产业链又一次警醒：技术本无善恶，但使用者必须守住法律底线，使用范围和程度必须有标准、有规范。唯有如此，才能让AI造福社会。