以毒攻毒：Reddit用大模型治理AI制造的垃圾信息

在AI时代，平台们不得不以火攻火，用大语言模型（LLM）来清理那些主要由LLM制造出来的垃圾信息。Reddit近日宣布，将引入LLM技术来应对平台上泛滥的AI生成垃圾内容，这些内容往往模仿人类发帖，试图推广产品、操纵舆论或进行其他恶意活动。

据TechCrunch报道，Reddit的这项举措旨在利用LLM的文本理解和生成能力，自动检测并移除由类似技术生成的垃圾帖子。平台表示，传统基于规则的过滤方法已难以招架AI生成内容的迭代速度，而LLM能够更精准地识别模式，甚至预判新型垃圾信息的变体。不过，这一“以毒攻毒”的策略也引发了关于误删正常用户内容的担忧，Reddit强调将平衡算法效率与人工审核的介入。