以 AI 治理 AI：Reddit 升级自动化系统，日均拦截 2300 万条垃圾信息

最近，Reddit 公布了一项最新进展——他们正在用 AI 对抗 AI 生成的垃圾内容。这套新方案把先进的大语言模型和已有的自动化工具整合在一起，算是给社区内容真实性上了一道双保险。

其实 Reddit 自诞生以来就没停止过对风险账号的监控。但这次不一样了：升级后的 LLM 系统能精准捕捉到那些精心策划、高度隐蔽的虚假行为和人为炒作模式。一旦系统发现某个账户疑似是自动化操作，就必须通过真人身份验证才能继续发言。简单说，机器想混进人群里说话，没那么容易了。

垃圾信息拦截量创新高

这套升级后的自动化系统交出的成绩单相当亮眼。数据就是最响亮的回答。目前，Reddit 每天能够成功拦截 2300 万条垃圾浏览信息，并捕获 2.5 万条全新的垃圾帖子或评论。成效立竿见影——用户接触到的垃圾信息总量减少了 20%，整体垃圾账户的接触频率也降低了 10% 至 15%。

不仅如此，自动化系统还大刀阔斧地撤销了近 200 万次因机器刷量产生的无效投票。可以这么说，在多个维度同时发力之下，社区的互动生态正在被重新净化，真实用户的发声环境质量得到了肉眼可见的提升。

内容管控效率飙升

除了清理垃圾信息，Reddit 在治理网络暴力和仇恨言论方面也实现了质的突破。凭借自动化技术，系统从检测到处理有害内容的平均用时已经压缩到不足 5 秒，整体执法力度相比以往提升了两倍多。这和过去那种人工审核、耗时费力的节奏相比，完全是两个世界。

这套高效审核机制带来的直接好处是：平台减少了超过 40% 的潜在有害内容接触。更难得的是，在审核力度空前高涨的同时，系统的误报率反而降低了 40% 以上。这意味着它既能精准打击有害行为，又不会误伤正常用户——这才是关键所在。