近期，网络暴力出现新变化，一些看似平常的评论，如“到七天了吗”，实则可能成为针对网购消费者的恶意围猎。为应对这一现象，抖音平台启动了AI反网暴专项行动，推出AI反网暴智能体，构建起人机协同的治理体系。
该智能体整合了网暴识别模型与研判模型，与人工审核团队形成联动机制。通过技术手段与人工干预的结合，平台将治理环节延伸至风险发现、事件研判、主动干预及外呼救助全流程，实现了从“被动响应举报”到“主动排查风险”的治理模式转型。
系统升级后，平台日均识别潜在受网暴威胁用户数量增长91.5%。数据显示，每日有数千名用户在收到风险预警后，主动开启防网暴保护功能。对于风险等级较高的案例，平台通过人工外呼提供援助，相关受害者数量较此前增长147%。
此次技术升级重点优化了外呼救助机制，当系统判定用户面临严重网络暴力风险时，将由专业团队主动联系用户，提供心理疏导、证据保全等支持服务。这一转变标志着平台在网络暴力治理中，从事后处置向事前预防的阶段性跨越。
