如今，生成式AI广泛应用，迭代迅速，给生活带来了不小的改变。据央视新闻4月12日报道，技术普及大幅降低了生成式AI的使用门槛，从AI视频生成到AI聊天陪伴，丰富大众生活的同时，个别商家也以此为牟利工具，背弃技术伦理与法律底线，借生成式AI大模型，行违法“造黄”之举，污染网络空间、败坏社会风气。
所谓“擦边赛道”违法牟利
利用AI批量制造黄色视频
按照消费者举报的线索，记者在多个互联网平台上进行了检索，眼下，不少平台上有人在公开兜售“利用AI技术制作色情擦边视频”的教程，号称仅凭一张图片，甚至几句话就可自行“手搓”“让自己满意的大尺度视频”。
教程帖子标着“AI制作美女视频”“全网最强大尺度”“AI擦边赛道日入5位数”的标题，再配上色情露骨的画面，这些教程就在网络平台上堂而皇之地宣扬如何让用户“从无到有”“手搓”“色情擦边”视频。
这些教程为了兜售自己的产品，还刻意引导用户如何规避监管。比如使用境外图生视频AI软件、将程序部署在本地电脑离线运行等。
众多社交平台上，一些博主还发布售卖各类AI生成擦边视频的“提示词”的帖子。所谓“提示词”，就是指挥AI工作的一系列关键指令，这个指令的内容和精准度，直接决定了AI生成的视频究竟是怎样的内容。商家表示，只需将购买到的提示词复制到各大AI视频生成软件，即可获得提示词对应的擦边视频。
记者以9.9元和9.8元的价格，分别在“万象小店”和“楠楠素材库”下单，购买了两组提示词。点开商家发来的文件，记者看到提示词描述十分详细，从发型、服饰、身材，到姿势、表情甚至腰部、胯部扭动的幅度，提示词都做了极其细致的刻画。重要的是，商家还将一些敏感词汇翻译成英文，以此来规避网络上的监管。
记者对用户使用较多的10款AI应用进行了实测。在测试过程中，记者发现，如果输入的提示词表述较为“露骨”，多数AI应用会触发审核机制并拒绝生成内容。然而，这条防线却很脆弱。只要将提示词修改得更加隐晦，便有可能绕过限制。
例如一款拥有1.4亿用户的某知名AI应用，记者按照购买的提示词教程，选取了一张美女图片，并随意选取一段提示词，点击生成。一分钟后，一个美女擦边视频便生成了，视频中的女性身材火辣、穿着暴露、舞姿暧昧。
在这款名为“哩布哩布AI”的AI应用里，记者输入在网上购买的提示词后，仅仅几分钟，这个AI平台就生成了一个半裸身体的女性跳舞视频。在整个生成过程中，没有触发平台任何限制机制，违规视频顺利生成。同样的问题也出现在市场上其他常见的AI应用平台上。
除了这些通过提示词，以问答的模式生成擦边或者色情视频的AI平台，市场上更有专门靠AI生成色情视频牟利的软件。根据消费者举报的信息，记者找到了网络上这款AI照片生成器；这款软件号称“免下载，快速生成，图片、视频换脸”；购买者可以根据充值金额的不同，通过AI技术一键快速替换原片，生成虚构的色情照片，只要购买者愿意付费，这个软件就可以通过一张图片，生成全裸照片和色情视频。
境外涉黄AI软件在社交平台销售
虚拟陪伴软件成涉黄聊天软件
AI的可定制性让其高度拟人化，通过投喂数据，用户可以将AI虚拟陪伴软件中的智能体打造成自己心目中最理想的情感投射对象，因此，与AI“谈情说爱”正被越来越多年轻人尝试和喜爱。
但业内人士介绍，这些软件大多是境外的AI聊天软件，它们普遍尺度很大，充斥着色情内容。这些AI软件并不能从国内应用市场上下载，一些不法分子从中窥见了商机，他们开发出各种各样的灰色通道，绕过监管，让国内的用户可以下载并使用这些境外大尺度的涉黄AI聊天软件，而且以此牟利。
记者在某社交媒体平台上搜索“AI语聊”，在搜索结果中看到，大量以“可开车、脸红心跳、开放、无限制词”等为关键词的帖子。点开帖子，记者在评论区中随处可见用户发送各种无限制词的AI聊天软件使用分享，以及软件的下载链接和邀请码。
同样，记者在某短视频平台上搜索“AI聊天软件推荐”，在搜索结果中也看到，各种分享推广的热聊帖子，在帖子主页以及评论区中，老用户们互相分享、推荐自己喜欢的AI聊天软件，并同时邀请新用户进入分享群。
知情人士告诉记者，由于该AI聊天软件是境外的软件，没有在国内正规的应用下载商店上架，因此，为了获得大量国内的用户，这些推销AI聊天软件的平台，就通过发放金币以及充值返利的方式，激励老用户拉新，并为用户发帖引流提供帮助，以此逃避监管的同时，实现获利的目的。
随后，记者点击进入下载好的“Dady”App选择一个AI角色进行体验。在聊天过程中，AI也会自动生成3种回复提示，以便用户能有更好聊天体验，而聊天的内容几乎都是围绕着各种色情话题展开。
恋爱的感觉、及时的回复、量身定制的人设，吸引着众多年轻人沉浸其中，其中更不乏未成年人。
根据商家指引，记者登录境外应用市场并下载到这款“flai”AI聊天软件，若想顺利打开“flai”软件还需要下载名为“快喵”的VPN加速器。
根据国家《生成式人工智能服务管理暂行办法》第十七条规定↓
违规下载境外AI软件
容易带来信息安全风险
专家告诉记者，App上架有一系列审核要求，它不光是一个下载的渠道，同时也有安全审核的义务。如果是境外软件，可能没有人审核，手机下载之后，可能带来病毒或其他信息安全隐患。
根据《生成式人工智能服务管理暂行办法》第七条↓
2025年4月网信办开展的“清朗·整治AI技术滥用”专项行动明确指出，将重点整治利用生成式人工智能技术向公众提供内容服务，但未履行大模型备案或登记程序的违规AI产品。
2026年4月10日，《人工智能拟人化互动服务管理暂行办法》正式公布，《办法》中进一步明确了安全评估和算法备案的相关要求，同时还对未成年人和老年人使用拟人化互动服务作出了相关规定。
更多消息]article_adlist--> 来源：央视新闻监制：张力
编辑：王天淇
]article_adlist--> 推荐阅读]article_adlist-->25岁男子十几天内猥亵7人，北京法院：判刑8个月！
北京治理飞絮，这新招儿挺绝！杨柳树能不能都砍了？专家：治理不是一砍了之
美伊谈判未达成协议，万斯已离开巴基斯坦
]article_adlist--> 近期热门视频]article_adlist--> 更多视频尽在北京晚报视频号快来关注~
]article_adlist-->
海量资讯、精准解读，尽在新浪财经APP
责任编辑：田思琦
广升网提示：文章来自网络，不代表本站观点。
