广播电视节目低俗化案例集锦

刘海明

【案例】

马斯克：不再允许X平台内置的聊天机器人“格罗克”（Grok）生成性暴露图像

当地时间14日，美国企业家埃隆·马斯克旗下社交媒体平台X宣布，不再允许其内置的人工智能聊天机器人“格罗克”（Grok）生成基于真人的伪造性暴露图像，该限令适用于包括付费用户在内的所有用户。（早前报道：英首相怒斥X平台伪造色情图像“可耻”，马斯克回应“不知情”）
X平台当天发表声明称，对于任何形式涉及未成年人性侵害及未经当事人同意的裸露内容等，X平台实施“零容忍”政策，并将采取措施清除相关违规内容，对违反平台规则的账号作出相应处置。
当日早些时候，美国加利福尼亚州总检察长罗布·邦塔的办公室发布声明，宣布已就马斯克旗下人工智能企业xAI及其开发的“格罗克”涉嫌生成并传播违规内容展开调查。
邦塔在声明中说，近期大量举报称“格罗克”被用于生成涉及女性和未成年人的不雅、色情图像，并在未经当事人知情或同意的情况下在互联网上传播，这类行为“令人震惊”，其办公室将调查xAI是否以及如何违反相关法律，并敦促该公司立即采取措施，防止类似内容继续扩散。
声明说，“格罗克”图像生成模型包含所谓的“热辣模式”，可生成露骨内容，并被作为营销卖点之一。该功能被滥用，导致大量对真实人物进行“脱衣”技术处理或置于暴露场景的深度伪造图像在网络上传播，受害者既包括公众人物，也包括普通社交媒体用户。有媒体报道称，“格罗克”被用于篡改儿童图像，使其呈现性暗示或暴露场景，甚至生成高度逼真的儿童色情图像。



来源：都市快报
链接：https://mp.weixin.qq.com/s/nkMGHAYPkD_0l8hAv3de4A
编辑：杨泓艳

刘海明

【案例】

网信部门对快手平台依法作出处罚

针对近期快手平台出现大量色情低俗内容直播问题，在国家互联网信息办公室指导下，北京市互联网信息办公室依法对北京快手科技有限公司涉嫌违法行为进行立案调查。经查实，快手平台未履行网络安全保护义务，未及时处置系统漏洞等安全风险，未对用户发布的违法信息立即采取停止传输、消除等处置措施，情节严重，影响恶劣。

2月6日，北京市互联网信息办公室依据《中华人民共和国网络安全法》《中华人民共和国行政处罚法》等法律法规，对北京快手科技有限公司处警告、1.191亿元人民币罚款处罚，同时责令其限期改正、依法依约处置账号、从严处理责任人。

北京市互联网信息办公室将持续加大网络执法力度，依法严厉打击各类违法行为，督促网站平台严格落实主体责任，切实保障网络安全，保护人民群众合法权益，维护网络空间天朗气清。

来源：中国记协（公众号）

原网址链接：https://mp.weixin.qq.com/s/l7G0ewkmPJ369IBnd-ngwA?scene=1&click_id=15

编辑：张家乐

刘海明

【案例】

网信部门对快手罚款1.191亿元：12·22直播涉黄事件处罚落地

2月6日，北京市互联网信息办公室依据《中华人民共和国网络安全法》《中华人民共和国行政处罚法》等法律法规，对北京快手科技有限公司处警告、1.191亿元人民币罚款处罚，同时责令其限期改正、依法依约处置账号、从严处理责任人。

2025年12月22日22时许，快手平台多个直播间出现涉黄内容，23日0时前后，快手直播入口关停。2月23日快手科技发布公告称，快手应用的直播功能于22日22时左右遭到网络攻击，公司已第一时间启动应急预案，经全力处置与系统修复，快手应用的直播功能已逐步恢复正常服务。公司始终严守合规底线，坚决反对任何违规内容及行为。公司强烈谴责黑灰产的违法犯罪行为，已就上述事宜向公安机关报警并向相关部门报告。

来源：数据合规圈（公众号）

原网址链接：https://mp.weixin.qq.com/s/JgKpUA4vtXTlid0du_1jRQ

编辑：张家乐

刘海明

刘海明

【案例】

不能任由AI“软色情”污染孩子身心

凭借“秒回消息”“无评判倾听”“热情耐心”等特点，AI陪聊软件迅速俘获大量青少年用户。然而，不少“AI恋人”却暗藏大量软色情擦边内容。本该起保护作用的未成年人模式，竟也能一键跳过、形同虚设。

AI虚拟人物互动App“Cos Love”和“COSAI”宣传图。图片来源：新京报

青春期是特殊的身心阶段，不少未成年人期望被重视、渴望被理解、平等自如地交流，“秒回”“耐心”的AI虚拟恋人，成了不少孩子的精神寄托。客观来讲，AI陪伴技术并无原罪，关键在于其算法怎么“算”、往哪儿“算”。有意无意弱化审核，把暧昧挑逗、低俗互动当作获客和增长活跃的利器，甚至毫不避讳未成年人，这无疑是将自控力不强、好奇心强的未成年人视为收割与牟利的工具。诸多“颜色内容”看似很“软”，却在日复一日的互动体验中，“硬生生”地侵蚀着青少年的价值观，极易扭曲他们对两性关系、亲密情感和网络与现实边界的正确认知，其现实危害性不容小觑。

在筑梦岛中，当用户告诉AI自己未满18岁时，会弹出“输入内容或上文内容存在违规，请删除记录后重试”的提示。但当把记录删除后，聊天仍可继续进行。图片来源：新京报

乱象何以疯长？表面看，是平台开发者、管理者吃准了“软色情”的边界“软”而打擦边球，核心却在于责任底线的失守。多个平台青少年模式无需实名认证和人脸核验，仅靠手动就能“跳过”；即使提示了AI陪伴软件使用者只有16岁，恋爱、擦边等出格内容依旧不绝。可见，从语料到内容再到“安全闸”，近乎于 “大撒把”。如此“运行逻辑”，不仅违背了《未成年人网络保护条例》中的有关规范，更与3月起最新施行的《可能影响未成年人身心健康的网络信息分类办法》相关内容相悖。一系列行径已然触及法规红线。

一些AI陪伴软件平台有法不依、有规不行，很重要的原因是违规成本低。治理AI陪伴的软色情，不能只靠平台自觉，而要多管齐下，硬约束“长牙齿”。例如，实名认证措施须“硬落地”，相关软件要挤干“未成年人模式”的水分，通过实名信息输入、人脸核验认证等环节，对疑似未成年人默认强制保护。强化内容审核。不妨逐步厘清“软色情”的内涵与边界，建立内容负面清单，清理面向未成年人的所谓恋爱角色扮演、性暗示话术等内容；网信、市场监管、公安等部门强化联动巡查，对违规软件平台立即处罚，对屡教屡犯的软件顶格处罚，以儆效尤。

保护未成年人身心健康，是每个软件平台不可推卸的责任。撕下AI陪伴软件的“温柔面纱”，填上精心挖设的“软陷阱”，让数字技术真正助力未成年人健康成长，而不是沦为孩子成长路上的风险隐患。

来源：新京报传媒研究

链接：https://mp.weixin.qq.com/s/BDLBD-9Qbbnk91HuUmAuPg

编辑：金语垚

刘海明

【案例】

匈牙利候任总理毛焦尔宣布暂停国家媒体广播！

毛焦尔周三（4月15日）表示，他的政府将暂停国家媒体广播，通过新的媒体法，并在其内阁执政后确保新闻自由。公共媒体将不再沦为政府的传声筒！

来源：微言微语

链接：https://www.toutiao.com/w/186259 ... p;source=m_redirect

编辑：金语垚

刘海明

【案例】

优酷综艺节目被公安部点名批评！刻意走“黑红”路线翻车了

5月29日，优酷网出品的真人秀综艺节目《这是我的西游2》第一期上线。

很快，网友们发现了违和的细节：在车辆行进途中，车内多名嘉宾身上斜挎的安全带颜色浅淡、弧度僵硬，与椅背真实卡扣衔接处边缘模糊，未随车身晃动，明显是后期P图添加的，而且手法非常拙劣。

而同一画面中，嘉宾严浩翔身上真实佩戴的安全带自然贴合、光影正常，形成了鲜明对比。

“一车艺人安全带全是后期P的”这一话题冲上热搜。该综艺节目顿时火遍全网。

不过，公安部交通管理局很快在6月1日晚发出了警示：

6月2日，公安部交通管理局微博再度发文提醒：

但是，截至目前，节目组尚未作出正式回应，任由事件发酵。

由于P图手法过于粗糙而且节目组态度沉默，有网友猜测这起“翻车”事件或许是有意为之，目的是走“黑红”路线。

事件前后的数据对比，让这种猜测更加具备可信度：在此之前，该节目几乎无人问津，豆瓣暂无评分，讨论寥寥；P图翻车之后，该节目热搜登顶，短视频二创铺天盖地，流量暴增。

实际上在综艺界，努力走“黑红”路线的节目组并不少见。

2024年，《无限超越班2》将节目中的尴尬片段在全网推送，节目播放量随之飙升，“被骂出圈”成了流量密码。

《花少6》也是如此，将节目中的争议行为反复推送，热搜和讨论量也一度大热。

然而，“黑红”模式虽然短期内能够带来流量，但实质上却是透支式发展，对综艺节目的IP损耗极大。

首先，官方的批评和定性为《这是我的西游2》这档节目打上了“漠视安全”的标签，负面影响难以避免。

其次，过分依赖翻车出圈，会让节目组陷入恶性循环：不再深耕内容、打磨细节，重心放在如何靠投机博取关注之上。

最重要的是，长此以往，这种运营方式会彻底消耗节目IP价值，透支观众信任，最终造成节目口碑彻底崩坏、后续续作乏力，彻底丧失长期发展的可能性。

综艺节目想要走得长远，以严谨制作、真诚内容才是创作不变的底层逻辑。

来源：传媒见闻

链接：https://mp.weixin.qq.com/s/il7NC5ns3gBoL6ugv-BVsw

编辑：赵牧云

刘海明

【案例】 直播间借未成年人低俗内容引流，抖音通报：3个相关账号无限期封禁，对涉嫌违法犯罪的行为，平台依法向有关主管部门报告、配合调查 6月26日，有网友发文称刷抖音发现有人在直播间利用所谓“未成年人私密照”引流，抖音黑板报发布通报： 平台高度重视未成年人权益保护，严厉整治各类侵害未成年人合法权益的内容及行为。经核查，该账号此前曾因违规投稿被平台处罚，后仍未整改，存在借助未成年人低俗内容引流等违规操作。结合持续性违规，平台已对涉及3个相关账号处以无限期封禁。对涉嫌违法犯罪的行为，平台将保存有关记录，并依法向有关主管部门报告、配合有关主管部门调查。 来源：抖音黑板报 来源：红星新闻 链接：https://mp.weixin.qq.com/s/JWG_GYh_BTNL2Ld-vhHkTg 编辑：王昕越

刘海明

【案例】

演绎“残疾妻子再次怀孕”，摆拍“单身父亲带娃送外卖”，虚构“相恋五年双方因彩礼僵持不下”等情节未进行标注，一批账号和平台被处置
自今年5月部署推进短视频内容标注工作以来，中央网信办加大巡查力度，从严处置一批发布虚构演绎内容、未按规范进行内容标注的短视频账号。现将部分典型案例通报如下。


1.针对部分账号未进行标注，演绎“残疾妻子再次怀孕”“重病患儿募捐求助”等剧情，利用残障人士形象卖惨，消费公众同情心问题，对“爱I满人间”“陪宁宝打怪中”等网络账号予以关闭处置。


2.针对部分账号未进行标注，以外卖员身份持续摆拍“单身父亲带娃送外卖”“带娃送外卖瘫坐路边”等场景，虚构“失散28年的女儿怀孕送外卖”“外卖骑手送餐途中不慎刮蹭百万级豪华汽车”等桥段，渲染悲情误导公众认知问题，对“贵州小洪6868”“洞房名猪”“香港浩南正能量生活记录”“娟子感恩有你”“乐在其中xy”等网络账号予以禁言或关闭处置。


3.针对部分账号未进行标注，演绎婆媳争吵冲突桥段，虚构“相恋五年双方因彩礼僵持不下”“三角恋争夺情人”等情节，刻意放大家庭或情感矛盾，激化社会焦虑问题，对“丁丁婆婆”“如意（婆媳日常）”“惠子不服气”“谷丹晨的日常”“欣欣宝贝”“芊芊（不负众望）”等网络账号予以禁言或关闭处置。


4.针对部分账号未进行标注，虚构“宾利车主高速救助被弃结婚新人”“登山者深山救助流浪女子”等见义勇为事迹，以及演绎伪造“揭秘零差评神店谁敢给差评”等内容，以虚假正能量骗取公众好感和信任问题，对“八宝粥”“桐桐要坚强”“杨丽2328”“一个小八哥”“澜珊倾听|科恩”等网络账号予以禁言或关闭处置。


近两个月来，各重点网站平台已累计清理违反标注规定的短视频24.1万余条，处置账号2.1万余个，对错标漏标的短视频进行纠正或补标127.5万余次。此外，对未严格落实短视频内容标注要求的部分中小平台，责成相关属地网信部门予以约谈处置。下一步，中央网信办将继续推动落实短视频内容规范标注工作，持续对未落实标注要求的平台和账号进行从严处置和公开曝光。


来源：新华社、网信中国
编辑：刘思宇 陈曦紫
审核：邹丹雨


来源：极目新闻
链接：https://mp.weixin.qq.com/s/BwAMNryJx4bSG91RJYpghQ
编辑：金语垚



在小说阅读器读本章


去阅读

在小说阅读器中沉浸阅读

刘海明

【案例】


网友反映B站给新号推荐擦边视频，记者注册新号实测：儿童绘画、舞蹈等视频下方推荐擦边内容

近期，多位网友反映，视频平台B站在部分推荐页面中，存在向未成年人推送不当内容的现象。红星新闻就此开展调查发现，在新注册账号、未登录状态及特定关键词搜索场景下，平台推荐内容及直播间封面出现部分涉及身体局部展示，或带有暗示性标题的情况。

▲新注册账号推荐页面

据黑猫投诉平台信息，有网友发帖反映，为未成年人注册B站新账号、选择“足球”等兴趣后，首页却出现疑似擦边内容；也有用户表示，在未登录的状态下，主页同样会被推荐疑似色情信息。此外，深夜时段这类内容更容易出现。部分用户晒出的粉丝列表中，还出现了大量以数字命名的账号，点进其主页后，可见疑似售卖色情影片等违规信息。

▲新注册账号推荐的直播页面

红星新闻记者于7月15日进行实测，在未登录状态下浏览B站首页，同时新注册3个账号体验推荐机制。结果显示，其中1个新账号的“推荐”页起初均为游戏、美食等内容，往下翻则零散出现擦边封面，对推荐内容刷新后，出现多个作品，其封面及标题均带有明显的擦边性质。另外2个新账号首页以运动、科普、美食等常规内容为主，但进入“直播”分区后，多个直播间封面明显突出身体局部，标题措辞同样带有暗示性。未登录状态浏览页面与后两个新账号基本一致。

记者使用新账号，进一步点击封面及标题疑似存在擦边的视频及直播发现，视频内容与封面并无直接关联。部分内容呈现身着暴露的虚拟人物形象，亦有主播进行聊天唱歌直播，或部分将镜头聚焦身体部位，观众打赏可与主播互动，直播评论区出现色情广告；另有主播使用擦边封面为游戏直播引流，实际游戏内容与封面无关。

▲儿童舞蹈内容下方存在疑似“擦边”直播

记者在多个账号以“儿童舞蹈”为关键词进行搜索，在相关视频页面下方推荐的内容中，出现带有明显暗示性的视频及直播封面。连续打开多个“幼儿舞蹈”相关视频后，页面下方均出现类似情形。以“舞蹈”为关键词搜索，搜索结果中更出现标题含有“脱衣舞”等内容的视频封面，画面呈现较为暴露。以“儿童手工制作”“绘画”为关键词搜索，搜索结果仍出现类似情况。

经常使用B站的网友阎女士向红星新闻表示，近期她在深夜使用B站时多次刷到类似内容。“昨天晚上还刷到了，封面都是那种比较擦边的，吸引人点进去。”她表示，此类内容在白天时段相对少见，深夜出现频率明显增加。

针对未成年人可能接触到此类内容的问题，记者以家长身份致电B站客服。客服表示，如家中有未成年人使用B站，可开启“青少年模式”或通过“亲子平台”进行管理；对于视频出现低俗、色情内容的情况，客服建议用户进行举报，并称平台对低俗、色情内容“一贯严厉打击”。当被问及上述现象是否与平台推荐机制有关时，客服回应称“将记录相关问题并反馈有关部门，后续持续优化跟进”。

来源：红星新闻

链接：https://mp.weixin.qq.com/s/-k2SmvzeNqtSwwtjVnb5Gg

编辑:赵牧云