广播电视节目低俗化案例集锦

刘海明

【案例】

马斯克：不再允许X平台内置的聊天机器人“格罗克”（Grok）生成性暴露图像

当地时间14日，美国企业家埃隆·马斯克旗下社交媒体平台X宣布，不再允许其内置的人工智能聊天机器人“格罗克”（Grok）生成基于真人的伪造性暴露图像，该限令适用于包括付费用户在内的所有用户。（早前报道：英首相怒斥X平台伪造色情图像“可耻”，马斯克回应“不知情”）
X平台当天发表声明称，对于任何形式涉及未成年人性侵害及未经当事人同意的裸露内容等，X平台实施“零容忍”政策，并将采取措施清除相关违规内容，对违反平台规则的账号作出相应处置。
当日早些时候，美国加利福尼亚州总检察长罗布·邦塔的办公室发布声明，宣布已就马斯克旗下人工智能企业xAI及其开发的“格罗克”涉嫌生成并传播违规内容展开调查。
邦塔在声明中说，近期大量举报称“格罗克”被用于生成涉及女性和未成年人的不雅、色情图像，并在未经当事人知情或同意的情况下在互联网上传播，这类行为“令人震惊”，其办公室将调查xAI是否以及如何违反相关法律，并敦促该公司立即采取措施，防止类似内容继续扩散。
声明说，“格罗克”图像生成模型包含所谓的“热辣模式”，可生成露骨内容，并被作为营销卖点之一。该功能被滥用，导致大量对真实人物进行“脱衣”技术处理或置于暴露场景的深度伪造图像在网络上传播，受害者既包括公众人物，也包括普通社交媒体用户。有媒体报道称，“格罗克”被用于篡改儿童图像，使其呈现性暗示或暴露场景，甚至生成高度逼真的儿童色情图像。



来源：都市快报
链接：https://mp.weixin.qq.com/s/nkMGHAYPkD_0l8hAv3de4A
编辑：杨泓艳

刘海明

【案例】

网信部门对快手平台依法作出处罚

针对近期快手平台出现大量色情低俗内容直播问题，在国家互联网信息办公室指导下，北京市互联网信息办公室依法对北京快手科技有限公司涉嫌违法行为进行立案调查。经查实，快手平台未履行网络安全保护义务，未及时处置系统漏洞等安全风险，未对用户发布的违法信息立即采取停止传输、消除等处置措施，情节严重，影响恶劣。

2月6日，北京市互联网信息办公室依据《中华人民共和国网络安全法》《中华人民共和国行政处罚法》等法律法规，对北京快手科技有限公司处警告、1.191亿元人民币罚款处罚，同时责令其限期改正、依法依约处置账号、从严处理责任人。

北京市互联网信息办公室将持续加大网络执法力度，依法严厉打击各类违法行为，督促网站平台严格落实主体责任，切实保障网络安全，保护人民群众合法权益，维护网络空间天朗气清。

来源：中国记协（公众号）

原网址链接：https://mp.weixin.qq.com/s/l7G0ewkmPJ369IBnd-ngwA?scene=1&click_id=15

编辑：张家乐

刘海明

【案例】

网信部门对快手罚款1.191亿元：12·22直播涉黄事件处罚落地

2月6日，北京市互联网信息办公室依据《中华人民共和国网络安全法》《中华人民共和国行政处罚法》等法律法规，对北京快手科技有限公司处警告、1.191亿元人民币罚款处罚，同时责令其限期改正、依法依约处置账号、从严处理责任人。

2025年12月22日22时许，快手平台多个直播间出现涉黄内容，23日0时前后，快手直播入口关停。2月23日快手科技发布公告称，快手应用的直播功能于22日22时左右遭到网络攻击，公司已第一时间启动应急预案，经全力处置与系统修复，快手应用的直播功能已逐步恢复正常服务。公司始终严守合规底线，坚决反对任何违规内容及行为。公司强烈谴责黑灰产的违法犯罪行为，已就上述事宜向公安机关报警并向相关部门报告。

来源：数据合规圈（公众号）

原网址链接：https://mp.weixin.qq.com/s/JgKpUA4vtXTlid0du_1jRQ

编辑：张家乐