作为科学文献守护者的编辑和无偿审稿人如今却面临着前所未有的困境。大型语言模型普及后不久，期刊的投稿邮箱就被前所未有的稿件淹没。ChatGPT及其同类工具被用来为欺诈或粗制滥造的作品披上一层新的“可信”外衣。这使得编辑和审稿人甄别良莠的工作变得更加耗时，技术难度也更大。

人工智能甚至可以生成伪造论文所需的图像。能够生成逼真的薄切片组织、显微图像或电泳凝胶图像，而这些图像通常被用作生物医学研究的证据。

人工智能科学垃圾如今已蔓延至期刊之外，并充斥着其他研究成果传播渠道。在ChatGPT发布后的几个月里，arXiv预印本服务器的投稿量也出现了与期刊相同的激增。使用大语言模型LLM的科学家发表的论文数量比未使用LLM的研究人员多出约33%。

人工智能本身在不断进步，容易暴露错误的地方可能会彻底消失，自动伪造论文检测器也可能失效。如果这些工具变得过于强大，整个科学出版业都可能被颠覆。虚假图片和虚假引用将越来越深入地嵌入我们的知识体系中。它们将成为一种永久性的认知污染，永远无法被清除。

—— 大西洋 (The Atlantic)