耿同学再出手!AI隐形水印立功,10月起AI论文藏不住了

这几天,“学术圈最严厉的父亲”——耿同学再次出手,直指两篇论文存在学术造假问题。

更新于2026年11月18日

耿同学再出手!AI隐形水印立功,10月起AI论文藏不住了

这几天,“学术圈最严厉的父亲”——耿同学再次出手,直指两篇论文存在学术造假问题。

其中一篇论文,图片中的一把尺子每厘米竟然有12个刻度。而且,除了这种一眼假的问题,文中其他图片以及该作者的其他多篇论文,据称也存在疑似造假问题。

耿同学再出手!AI隐形水印立功,10月起AI论文藏不住了

另一篇论文的图片也很离谱。两张治疗前后的对比图,间隔一个月,居然连胡茬都没有变化。

耿同学再出手!AI隐形水印立功,10月起AI论文藏不住了

除了肉眼识图外,最关键的证据是,这两篇论文的部分内容在AI水印检测中出现了相关信号,被指与OpenAI的生成式AI有关。

耿同学再出手!AI隐形水印立功,10月起AI论文藏不住了

正如耿同学在视频中所说:“造假与打假的军备竞赛,其实已经开始了。”

耿同学再出手!AI隐形水印立功,10月起AI论文藏不住了

过去,学术打假更多依赖专业判断,存在一定门槛。比如图片造假,上古手法是PS,但很多时候肉眼还是能够识别出来的。这一领域的王者,当属 Elisabeth Bik。

但随着生成式AI技术的发展,造假手段变得越来越隐蔽。魔高一尺,道高一丈,一种新的技术手段正在进入学术打假视野——AI隐形水印。

 

为什么10月开始,论文造假被曝光特别多?

 

除了耿同学,10月以来,国外学术圈其实也出现了不少针对疑似AI生成内容、异常图片和论文真实性的讨论。

SynthID Detector

为什么偏偏是10月开始?

简单梳理一下,我们发现,其实有两个事件值得关注。

第一个是:10月7日,Google正式向全球开放SynthID Detector,AI生成内容的水印识别变得更加容易。以前需要特定机构或专业人员才能接触的检测能力,现在普通用户也有机会使用了。

虽然耿同学在视频里没有提及,但我猜他大概率使用的就是这个工具。

SynthID Detector截图

顺便说一下,SynthID是Google在2023年推出的技术,最初主要用于AI生成图像和视频的水印。随后,这项技术逐渐扩展到音频以及AI生成文本等内容。其相关合作伙伴包括OpenAI、NVIDIA、Kakao等。

除了上面提到的Google开放检测工具,另一个值得关注的节点是10月5日,OpenAI公布了其文本水印技术方案textGrain,计划在欧盟地区逐步为符合条件的ChatGPT和Codex文本输出加入隐形水印,同时向全球API用户开放部分模型的水印选择功能。估计未来也会逐步向更多用户开放。

这两个关键节点,说明了两个方面:AI检测工具的普及化,以及AI隐形水印技术开始走向应用。

10月以后,AI生成的论文可能真藏不住了。

 

之前发表的论文是否也会被检测到?

 

没造假的同学可以略过这部分。已经造假的同学,况且是已经发表了论文的,最关心的恐怕就是这个问题了。

这就像一把悬在头顶的剑,随时可能掉下来。

能不能被检测到,关键不是论文什么时候发表,而是当时生成内容所使用的大模型或工具,是否已经嵌入水印,以及相关水印是否仍然能够被检测到。

注意:AI水印是在生成内容时嵌入的,并不是检测工具上线之后,再自动给所有历史内容补上水印。

举个简单的例子。

假设某人在2024年使用一个当时尚未部署水印功能的AI工具生成了一张图片,并将其放入论文中。到了2026年,即使出现了更先进的水印检测工具,也不能凭空在这张旧图片中识别出此前不存在的水印。

反过来,如果某个AI工具在2024年就已经具备水印功能(SynthID从2023年就开始推出),那么当时生成的内容,即使到了2026年才被检测,也有可能识别出其中的水印信号。

因此,AI水印检测能力的扩大,并不意味着所有历史论文都突然变得可以检测。

真正影响检测结果的,是生成工具、生成时间、内容类型以及水印的保存情况。

 

君子不立危墙之下

 

虽然检测到AI痕迹,并不能等同于学术不端,但如何合理使用AI,以及允许使用的范围有哪些,这些都很重要。

遵守相关规范,不仅能帮助作者应对越来越严格的科研诚信审查,也能在论文受到质疑时,提供必要的证据来说明自己的研究过程。

AI水印技术的出现,或许只是学术打假技术升级的一个开始。

对于真正认真做科研的人来说,这未必是一件坏事。

一个健康的学术圈,应该是良币驱逐劣币,而不是反过来。

撰稿人
标签
AI写论文
目录
订阅邮件
订阅我们的邮箱后可提前获得AJE作者资源的文章,享受AJE服务的折扣,以及更多的优惠

查看 "隐私协议"

AJE多种科研支持服务,全程助力论文成功发表!

AJE为您提供英文论文润色、学术论文翻译、期刊选择、文稿排版等一系列学术服务,我们希望可以帮助您充分发挥您的研究潜力,助力您成功将论文发布在国际期刊上。