跳转到内容

AI垃圾

来自VeritasWiki 真理百科

AI垃圾(AI slop)指借助生成式人工智能批量产出、缺乏原创性与实质价值的低质量数字内容,常见形态包括荒诞视频、失真图像、模板化文章、空洞的出版书籍与以假乱真的虚假信息。该词由英文"slop"演化而来,后者原指稀泥、软泥,19世纪起指食物残渣(如"猪食泔水"),继而泛化为垃圾或价值极低的产品;进入数字时代后,"slop"被用来形容粗制滥造的内容。2025年,美国韦氏词典将"Slop"、澳大利亚麦考瑞字典将"AI slop"分别选为年度词汇,韦氏词典给出的释义是"通常由人工智能批量生成的低质量数字内容",这一事件使该概念进入公众视野。中文语境中亦译作"AI泔水""数字泔水""人工智能垃圾内容"等。

概念内涵与词源

AI垃圾并不是一个严格的技术分类,而是一个带有价值判断的描述性概念。它指向的不是"由 AI 生成"这一事实本身,而是生成内容在原创性、准确性、深度与目的性上的缺失:文本往往语句通顺却缺乏独到见解,结构机械重复,其主要功能似乎是占据版面、吸引点击而非传递信息。因此,同样的生成技术用于辅助翻译、校对或资料整理时通常不被归入此类,而用提示词一次性批量灌水、以流量或牟利为直接目的时则常被如此称呼。

韦氏词典出版方在年度词说明中提到,荒谬的视频、失真的图像、庸俗内容与以假乱真的假新闻在互联网上泛滥,公众一方面反感,另一方面又大量消费和传播这些内容;该词传递出的意味是,在取代人类创造力方面,人工智能有时并非"超级智能"。围绕同一现象,不同机构给出了不同侧重的年度词:芬兰语言研究所以"人工智能泥潭"概括,荷兰范达伦词典出版机构选择"幻觉"指向看似可信实则虚假的生成信息,牛津词典选择"愤怒诱饵"指代刻意激发愤怒以换取流量的内容。这些词汇共同勾勒出2025年人们对信息环境变化的集体感受。

成因

AI垃圾的大规模出现有技术与经济两重动因。技术层面,大型语言模型与图像、视频生成模型使内容生产的边际成本趋近于零,几段提示即可产出一篇结构完整的文章、一本近似书稿的长文本或一段看似正常的视频。经济层面,平台流量分配与广告分成机制奖励发布数量与点击率,使得"多产即多收益"的策略在短期内看似合理;内容农场、聚合站与搜索引擎优化驱动的账号因此成为批量产出的重要来源。

据研究机构 Graphite 在2025年10月发布的分析,网络上超过一半的文章由人工智能生成或经 AI 大幅改写,问题主要集中在三类来源:为流量与广告优化的内容农场、自动重写大量既有文本的聚合站,以及用生成模型批量制作的本地化或小众主题文章。这些页面读起来流畅,却缺少深度与原创洞察,结构重复,存在的主要理由是占位并争取搜索点击。

更深层的反馈循环加剧了问题。Graphite 指出,当训练语料被越来越多 AI 生成的低质内容污染,模型可能陷入自我复制的循环——基于 AI 文本训练出的模型再生成更多 AI 文本,导致新颖性与可靠性下降。中文评论文章亦援引研究称,训练过程中即使只有极小比例的虚假文本被纳入,也可能推高有害输出的比率,从而把"内容污染"从传播层面延伸到模型能力层面。

在网络平台上的表现

在搜索引擎与社交平台,AI垃圾的典型表现是同质化内容占据前台:关键词堆砌、段落套话、事实含糊或错误、配图与正文关联薄弱,以及大量互相改写的"二手文章"。其后果是深度评测、调查报道与原创分析在搜索结果中被稀释,用户需要付出更高辨识成本,年轻用户尤其容易把表面的信息丰富误认为真实的知识增量。

视频平台同样受到影响。生成式工具让科普、教育类视频的制作门槛大幅降低,也带来"看似专业、实则错误百出"的内容。有学术研究对 YouTube 与 TikTok 上生物医学教育视频进行筛查,尝试以"制作中人的关照程度"来定义 slop,并从格式与内容两方面归纳出16类问题特征;该研究在筛选的1082条视频中判定57条(约5.3%)为可能由 AI 生成且质量低劣,并发现这些视频的观看、点赞与评论数据与总体样本没有显著差异,提示仅凭热度难以区分内容质量。

在出版与学术领域的表现

出版业是观察 AI垃圾规模化的典型样本。美国国家经济研究局(NBER)2025年发布的工作论文以2020年至2025年间亚马逊平台约一千万种电子书为总体,构建分层随机样本并辅以对五万余种书目的 AI 检测,得到几项可核查的结论:每月新书上架量在2022年末之前维持在约10万种,到2025年末接近三倍、超过30万种,个别品类增长近十倍;检测到的 AI 使用率在2022年之前接近零,2023年升至30%,2024年为45%,2025年超过60%。

该研究同时给出更为复杂的图景:检测出使用 AI 的书籍在单本使用量与读者评分上明显偏低,但这一差距在2023至2025年间逐步收窄;人类创作书籍的数量与质量保持稳定,AI 的涌入并未挤出既有作者;由于新书总量大增,消费者剩余在2025年反而提高约7%。换言之,"平均质量下降"与"高质量作品绝对数量上升"可以同时成立。这一结果提醒人们,把出版市场的变化简单归结为"AI 毁掉了写作"或"一切都没有变化"都过于简化。

学术领域关注的则是引用与诚信问题:生成文本可能编造文献、捏造数据或给出无法追溯的断言,若经改写进入论文、审稿意见或参考文献,会削弱学术交流的可验证基础。出版机构普遍要求作者声明作品的原创性,并逐步采用 AI 文本检测工具,但检测本身的可靠性仍存在争议——人类写作同样可能呈现被检测器视为"机器特征"的句式,而刻意规避检测的改写也在演进。

识别与治理

识别 AI垃圾的手段大致分三类。其一是基于文本或媒体表面特征的人工判别,如重复用词、三段式并列结构、固定套语、事实无法核实、图像细节不合理等;其特征是可解释但主观性强,且容易被规避。其二是自动检测工具与文本水印、来源认证等技术,优点是可规模化,缺点是与生成技术之间存在"军备竞赛":随着生成器改进,依赖表面特征的检测器会失效。其三是上下文与来源核验,即追溯发布主体、引用出处与发布历史,把判断建立在可验证的来源链条上,而非单一文本特征。

治理讨论则集中在三个方向。第一是来源透明化,包括对 AI 生成内容实行强制标识、推广数字水印与区块链存证,使内容"从何而来"可被追溯;行业组织还提出"人工创作"认证,帮助读者区分人写与机器生成的产品。第二是平台与搜索系统的责任,主张在排序与推荐中引入质量信号,优先展示经人工编辑或验证的原创内容,并对批量灌水施加可见性惩罚,同时把安全检查嵌入内容生成环节。第三是训练数据治理,主张建立数据清洁度标准与质量评估机制,限制高风险自动化来源进入语料,从源头切断"AI 生产—AI 消费"的闭环。

中文评论把治理思路概括为"清存量"与"防增量"并举:前者指对历史积累的低质内容进行分级分类筛查与清理,后者指在发布前以"生成即审核"模式完成合规检测;并提到2025年中央网信办开展的"清朗·整治AI技术滥用"专项行动中,仅单阶段清理的违法违规信息就达96万余条。这些措施的共同难点在于,规模庞大的存量清理需要算力与成本投入,而增量拦截必须在准确率与误伤之间取得平衡。

争议与讨论

围绕 AI垃圾的主要分歧,在于"低质量"究竟应归因于技术还是归因于激励结构。批评者认为,生成模型放大了逐利动机下的内容供给,使平台信息环境整体退化,需要以标识、排序惩罚与数据治理加以约束。另一种观点则指出,统计显示 AI 辅助创作的增量未必挤占人类创作空间,新进入者拉低平均分的同时也扩大了好作品的绝对数量,因此把责任完全归于工具并不准确;更现实的治理对象是流量分配机制与欺诈性冒充,而非生成技术本身。

此外,"如何判定"始终是争议焦点:用检测器给具体作品贴标签容易误判,且不同检测器对同一文本可能给出相反结论;与其逐篇甄别,不如围绕来源透明、可验证引用与平台问责建立制度。对普通用户而言,提高信息辨识能力、优先选择来源透明的媒体,被普遍视为最直接的自我保护方式。这些讨论尚未形成共识,但普遍同意的一点是把网络变成"由 AI 生产、供 AI 消费"的闭环工厂并不符合公共利益。

参见

  • 生成式人工智能
  • 大语言模型
  • 人工智能幻觉
  • 模型崩溃
  • 搜索引擎优化
  • 数字水印

参考资料

  1. 新华网客户端. 年终特稿丨年度字词"画像"世界的2025. 新华网客户端.
  2. 澎湃新闻. 年度盘点|牛津、经济学人、韦氏词典用了哪个单词概括2025年?. 澎湃新闻.
  3. Reimers, I., Waldfogel, J. AI and the Quantity and Quality of Creative Products: Have LLMs Boosted Creation of Valuable Books?. NBER Working Paper No. 34777, 2025.
  4. AIRosetta. Graphite study: Over half of internet articles are 'AI slop', search quality faces a new crisis. AIRosetta, 2025.
  5. 文旅中国. 遏制"数字泔水",助力数字文化健康发展. 文旅中国.