AI造伪引文入书，作者为何坚持使用？

2026年5月22日，科技媒体Ars Technica发表了一篇引人深思的报道：作家Steven Rosenbaum在撰写新书《真理的未来》时，使用了AI工具辅助生成引文，结果书中出现了多条看似权威但完全由AI编造的“合成引用”。更令人惊讶的是，Rosenbaum在得知这些引用不准确后，仍然表示会继续使用AI进行写作。这一事件迅速在出版界和科技圈引发热议。

“合成引用”是如何潜入书稿的？

据Rosenbaum自述，他在整理资料时使用了一款流行的AI写作助手，该工具声称可以自动查找并引用相关领域的专家观点。然而，AI并没有真正去数据库中检索真实文献，而是根据上下文“生成”了看起来合理的引文——包括作者姓名、著作名称、甚至页码。这些引文有一部分是真实存在的，但更多是AI的“幻觉”产物。例如，书中有一句据称来自某位著名传播学教授的论述，实际上该教授从未发表过相关言论。

“我意识到有些引文是虚假的，但我仍然认为AI能帮我节省大量时间。作为作者，我有责任进行核查，但我相信AI会变得越来越好。”——Steven Rosenbaum于采访中表示

Rosenbaum的态度并非孤例。在学术写作、新闻报道和商业出版领域，类似案例已屡见不鲜。2023年，律师使用ChatGPT提交的法庭文书因包含AI编造的判例而遭到法官严厉批评；2024年，多本自助类书籍被曝出使用AI生成内容并出现严重事实错误。AI的“捏造倾向”（hallucination）正在成为内容创作行业最棘手的挑战之一。

AI辅助写作：效率与真实性的两难

从技术角度讲，大语言模型的工作原理决定了它无法区分“事实”与“合理虚构”。模型在预测下一个词时，优先考虑的是语法通顺和语义连贯，而非与外部世界一致。这意味着，只要训练语料中某位专家被多次提及，模型就可能自动“创造”出一段该专家的发言——即便这些话从未存在过。

行业统计显示，当前主流AI模型在引用生成任务中的准确率普遍低于60%，且错误模式呈现高度随机性。更糟糕的是，很多用户缺乏验证引文的专业知识或动力，直接采用了AI输出的内容。出版界对此的应对措施参差不齐：有的出版社要求作者签署“无AI直接生成声明”，有的则建议使用专门的事实核查工具。但Rosenbaum的案例表明，即使作者本人知道AI可能出错，依然难以抵御效率的诱惑。

编者按：责任在AI还是在人？

从《真理的未来》这一书名来看，颇具讽刺意味。一本探讨“真理”的书籍，其撰写过程却建立在部分虚假信息之上。Rosenbaum的观点——认为AI工具的未来会自我纠错——反映了一种技术乐观主义，但这种乐观可能忽视了内容创作者的底线责任。当AI成为“合成引文”的源头，人类作者必须承担起校验者的角色，而非将创造权拱手让出。

值得探讨的是，AI的“幻觉”本质上是其学习机制的副产品：它试图模仿人类的创造性思维，却无法意识到“精确引用”是一种需要外部验证的行为。未来，或许需要专门训练能够生成可验证引用的大模型，或者将AI定位为“灵感助手”而非“事实来源”。但在此之前，每一位使用AI的作者都应当反复追问自己：我是否愿意为AI的错误承担责任？

从行业角度看，Rosenbaum的坚持也并非毫无道理。AI确实能极大地提高资料检索和观点整合的效率，完全放弃它无异于因噎废食。更合理的做法是建立“人工+AI”的分工模式：AI负责生成初稿和思路提示，人类负责交叉验证和事实核查。出版平台和科技公司也应合作开发更可靠的引用验证插件，例如将AI生成的内容自动链接到可信数据库。

结语：技术进步的代价与权衡

Steven Rosenbaum的故事不是个例，而是生成式AI浪潮中一个典型的切面。当工具越强大，使用者的责任就越重大。《真理的未来》或许不会因为几条假引文而失去全部价值，但它提醒我们：在追求效率的同时，维护信息真实的底线永远不会过时。

本文编译自Ars Technica