被央视曝光的涉黄AI软件致歉 平台漏洞引关注！近日，央视曝光多款AI应用存在涉黄生成漏洞。测试过程中发现，如果输入的提示词表述较为“露骨”，多数AI应用会触发审核机制并拒绝生成内容。然而，只要将提示词修改得更加隐晦，便有可能绕过限制。
在一款名为“哩布哩布AI”的AI应用里，记者输入网上购买的提示词后，几分钟内平台就生成了一个半裸女性跳舞视频，没有触发任何限制机制。同样的问题也出现在市场上其他常见的AI应用平台上。截至4月13日中午，“哩布哩布AI”在苹果和安卓手机应用商店仍可正常下载。记者就APP存在涉黄生成漏洞一事咨询该公司公开电话和应用客服，但未获回复。
天眼查显示，LiblibAI关联公司为北京奇点星宇科技有限公司，成立于2023年5月，经营范围包括服务消费机器人制造、工业机器人制造等。LiblibAI官网介绍称，该公司专注于AI与创意生产，聚焦图像、视频、设计等多模态场景，构建面向未来的AI-Native创作基础设施。据官网数据，截至2024年5月，LiblibAI已积累了近1000万专业的AI图像创作者，用户量位居国内第一。
2024年，LiblibAI通过国家互联网信息办公室的深度合成服务算法备案，并成为国内首家通过《生成式人工智能服务管理暂行办法》备案的AI社区。2025年10月，公司宣布完成了1.3亿美元B轮融资。
2025年4月，网信办开展“清朗·整治AI技术滥用”专项行动，重点整治利用生成式人工智能技术向公众提供内容服务，却未履行大模型备案或登记程序的违规AI产品。今年4月10日，《人工智能拟人化互动服务管理暂行办法》正式公布，从制度层面为AI技术应用划定红线，明确了安全评估和算法备案的相关要求，同时对未成年人和老年人使用拟人化互动服务作出了相关规定。