用AI大模型判断擦边：抖音狙击新型低俗诱导打赏8.8万人次被处罚

电竞体育11月14报道 抖音集团今日发文，在直播业态发展背景下，直播间不仅成为主播展示自我的舞台，也创造了大量新兴岗位，成为带动灵活就业的“蓄水池”。随着各平台治理动作的专业化、常态化，直播发展初期的乱象问题多数得到了有效遏制，行业已进入优质、合规的发展阶段。与此同时，部分违规主播、作弊团伙及黑灰产也开始变更作弊手段，与平台打起“游击战”，以更隐蔽的方式逃避处罚。

2025 年以来，8.8 万人次在抖音直播因低俗诱导打赏被处罚，11.7 万个账号因色情违规被无限期回收直播权限。

抖音集团表示，“低俗擦边”违规一直存在变体多、界定难等问题，自 2024 年打着“语音助眠”旗号进行低俗直播形式冒头，此类“软色情”违规成为各平台违规治理的重点。在严格治理下，这类违规团伙开始利用剧情演绎、弹幕互动等新形式进行低俗内容输出，或采用特定拍摄手法、场景搭建等方式，渲染烘托低俗不良氛围，极大增加了监管或治理难度。

相较于过往在直播间闪现二维码导流至站外淫秽色情网站，当下的色情黑产也同样有了更隐蔽的链路。他们通过在各种资料区、图片、主播着装上展现网址或关键词等信息以导流站外，或在导流中跨多个平台中转，甚至篡改 IP 地址，使用“黑话”沟通，规避平台审核。

对此，抖音直播持续迭代治理策略和手段。针对较隐晦的软色情导流场景，平台启用了多模态大模型，综合判断直播间画面、声音、口播内容和用户举报等，分辨直播间是否有擦边风险，实现风险快速拦截。另一方面，平台不断完善举报链路，在 30 分钟内处置举报风险，并结合用户反馈更新大模型样本，达到长效化治理的效果。

针对色情导流黑产，平台搭建了“事前黑产防范，事中隐晦内容识别断播封禁，事后防止回流”的治理链路。针对高危场景，前置风险识别并阻断；在风险发生时，通过内容大模型、异常行为检测等能力，做到实时断播。针对较隐晦的导流线下场景，则主要通过用户举证做好风险主播的防回流策略，并将涉嫌违法的线索上报相关主管部门。

2025 年以来，抖音共封禁“软色情”直播间 66 万个，无限期回收 11.7 万个涉色情违规账号的直播权限。

平台对于主播的管理核心，则是“长效观察、有效识别”。平台在针对直播间违规内容做单次处罚的基础上，结合主播日常直播行为来增减其账号健康分，通过主播的长期表现进行评判，多次违规仍不整改的主播，最终将被永久回收直播权限。

对于利用低俗直播刺激、诱导打赏的违规主播，平台则在健康分基础上，重点加强对诱导消费类违规主播的“经济”管理力度，对违规场次进行资金冻结、提现考核、延迟结算等。

2025 年至今，用户对诱导打赏的举报率同比减少 74%；超过 40 万主播因违规诱导打赏被扣除健康分；共有 8.8 万人次因涉低俗直播诱导打赏被处以限制违规场次收益提现、关闭礼物收入功能、禁止使用 PK 功能等处罚，五千个账号被无限期回收直播权限。

此类精细化手段，还运用在了团播的治理上。近两年来，以互动性强、观赏度高为特点的团播逐渐兴起，成为用户喜闻乐见的直播形式。然而，一些账号却借团播玩起“翻牌选妃”“蒙面摸人”等低俗花样，或使用“跪爬”“嘶喊哭泣”等引人不适方式，进行拉票或诱导用户打赏互动。

今年 7 月 30 日，抖音升级《抖音直播团播内容管理规范》，并发布《抖音直播团播机构管理规范》。对存在违规行为的团播账号，平台将根据违规程度实施阶梯式处罚，对旗下违规主播占比高，或存在侵犯主播合法权益等不当经营行为的公会，平台将予以扣减公会健康分、限制经营能力等处置，情节严重的，平台将终止合作关系。今年以来，抖音直播因各类低俗诱导打赏，共清退公会 113 家。

抖音集团还表示，不管是何种直播形式，若涉嫌违法，平台均将第一时间上报相关部门并配合线下打击。今年 1 月，抖音直播在日常治理中发现，有黑产批量购买、注册抖音账号，将账号头像修改为隐晦的第三方平台联系方式，引导用户下载涉色情违法类 App，在 App 内进行色情违法活动。平台立即无限期回收相关账号权限并上报线索，最终 4 名犯罪嫌疑人被依法刑事拘留。

2025 年初，平台发现 2 个以承诺线下卖淫为由诱导用户消费打赏的团伙，利用短视频发布美女视频和虚假定位，诱导不同城市的用户进入直播间；再通过隐晦文案、背景、签名等多个场景发布隐晦交友信息，引导用户站外添加其他社交软件。抖音直播第一时间对相关账号进行封禁，并将线索上报给当地公安机关。截至目前，警方共抓捕 21 人，其中 16 人被刑事拘留。

抖音集团公告，2025 年以来，已有 68 名违法犯罪嫌疑人因传播淫秽色情被刑拘。抖音直播相关负责人表示，平台将持续加强技术投入与治理力度，打击低俗直播、引诱打赏行为，致力于营造一个健康清朗的网络直播生态。