过去这一两年，越来越多科研人员开始尝试用AI工具辅助写论文，从润色语言到初步写作，甚至生成摘要或讨论段落，这些工具确实能节省不少时间。但与此同时，也带来一个不得不面对的问题：AI幻觉（hallucination）。
在学术写作中，一句“编”的数据、一条伪造的引用，哪怕只是个看似无伤大雅的句子，都可能导致论文被退稿，甚至严重的学术不端指控。
那我们该如何避免这种“陷阱”？我们期望通过本文帮助你在使用AI辅助写作时，守住科研严谨性的底线。
什么是AI幻觉？
说起“AI幻觉”（AI hallucination），很多人一开始会以为是机器出了错、当机、瞎编，或者说是某种“bug”。但其实，它不是技术错误，而是语言模型（像ChatGPT、Gemini等）在生成内容时的一种“副产品”。
打个比方，你给AI一个问题，它不是从数据库里“查”答案，而是根据巨量语料训练出来的语言模式来“预测”接下来最可能出现的词。这种预测能力非常强，也正是它能写出流畅语句的原因。但问题就出在这：AI并不是真的“知道”它在说什么。它只是在语言的海洋里游泳，看哪个词语搭在一起“像真的”。
这就导致一个现象：当AI没有足够的数据支持某个回答，或者你提的问题超出了它知识训练的范围，它也不会老实告诉你“我不知道”，而是依然会自信满满地生成一段看似合理、但其实完全虚构的回答。比如会凭空“编”出研究数据、捏造不存在的论文、张冠李戴某位作者的研究成果，甚至让本不相关的理论看起来像有逻辑关联。
IBM 就在相关文章中就指出，即便是像GPT-4这种热门模型，在医学、法律、金融等对事实要求极高的领域中，依然会出现高比例的幻觉现象。这不仅仅是“说错了”，更危险的是——它说得太像真的了，导致我们很容易掉以轻心。
更棘手的是，AI幻觉往往不是“系统崩溃”或“卡顿”那种容易察觉的错误，而是埋在一大段优雅语句中的一个术语、一个名字、一个引用，看上去风平浪静，其实漏洞百出。你不细查，根本发现不了；你一用进论文，就可能踩坑。
所以，理解AI幻觉，不是为了“怪”AI不够完美，而是为了我们自己在使用这些工具时，始终保持警惕——再先进的系统，也无法替代科研写作中对真实、准确的基本要求。
如何应对和减少AI幻觉？
既然我们已经知道AI幻觉是一种“看似可信但实则虚构”的生成现象，那么作为科研写作者，如何在不“放弃”AI的情况下，尽可能安全地使用它？有没有什么办法可以减少AI胡说八道、编造内容的概率？
答案是：有，但你得带着“怀疑”和“设计”地使用AI，而不是放任它自由发挥。
首先，最根本的一点是：保持人类在写作过程中的主动权。AI最容易产生幻觉的场景，就是当我们用一句模糊的指令，要求它生成一整段内容时。比如说，“请为我的论文写一段结论”或者“给我一个X领域的文献综述段落”。这时候，模型会倾向于“凭印象”编造内容，而不是基于你的研究数据或真实文献生成。
所以，更靠谱点的做法是：采用逐步生成。举个例子，你可以先告诉AI：“我的研究结果是A和B，请你帮我以更地道的英语表达这个意思”，而不是让它凭空写一个“讨论”段落。这种拆分式的写作流程，一方面能让你更好地控制每一句话背后的含义，另一方面也能减少AI“脑补”不实内容的机会。
再一个非常关键的技巧是：明确限制AI的生成范围和角色设定。你可以在指令中加上类似“不要编造不存在的文献”或“只根据我提供的数据进行分析”的提示语。虽然不能完全杜绝幻觉，但能有效“收窄”AI的自由度。有研究发现，越精细的prompt，幻觉率就越低。
此外，学术写作中的验证机制也不能省。每次AI生成引用或术语时，哪怕看起来再可信，你都应该用PubMed、Google Scholar、Web of Science等数据库自己去核查一遍来源。不要用AI自己查AI说的内容（这听起来像笑话，但很多人真的会这么做）。AI在生成引用这块的问题尤其严重，极容易“胡编乱造”一个作者名+年份+期刊名的组合，骗过萌新的眼睛。
还有一个被很多人忽略的小技巧：保持对AI生成内容的“审稿人视角”。你可以在完成初稿后，换个账号或开个新对话，让AI扮演审稿人角色，专门指出前面文本中可能存在的不准确、模糊或不严谨的表述。这种“用AI审查AI”的方式，不是为了让AI自我纠错，而是借助它的语言敏感度，帮助我们发现可能被我们忽略的瑕疵。
最后，不要完全依赖AI做内容判断，尤其是涉及伦理、方法论、数据解释这类核心科研环节。AI没有上下文意识，它不会知道你的研究背景和动机。这些信息只有你最清楚，也只有你能基于这些信息做出有根据的写作决策。
