
这几天,“学术圈最严厉的父亲”——耿同学再次出手,直指两篇论文存在学术造假问题。
其中一篇论文,图片中的一把尺子每厘米竟然有12个刻度。而且,除了这种一眼假的问题,文中其他图片以及该作者的其他多篇论文,据称也存在疑似造假问题。

另一篇论文的图片也很离谱。两张治疗前后的对比图,间隔一个月,居然连胡茬都没有变化。

除了肉眼识图外,最关键的证据是,这两篇论文的部分内容在AI水印检测中出现了相关信号,被指与OpenAI的生成式AI有关。

正如耿同学在视频中所说:“造假与打假的军备竞赛,其实已经开始了。”

过去,学术打假更多依赖专业判断,存在一定门槛。比如图片造假,上古手法是PS,但很多时候肉眼还是能够识别出来的。这一领域的王者,当属 Elisabeth Bik。
但随着生成式AI技术的发展,造假手段变得越来越隐蔽。魔高一尺,道高一丈,一种新的技术手段正在进入学术打假视野——AI隐形水印。
为什么10月开始,论文造假被曝光特别多?
除了耿同学,10月以来,国外学术圈其实也出现了不少针对疑似AI生成内容、异常图片和论文真实性的讨论。

为什么偏偏是10月开始?
简单梳理一下,我们发现,其实有两个事件值得关注。
第一个是:10月7日,Google正式向全球开放SynthID Detector,AI生成内容的水印识别变得更加容易。以前需要特定机构或专业人员才能接触的检测能力,现在普通用户也有机会使用了。
虽然耿同学在视频里没有提及,但我猜他大概率使用的就是这个工具。

顺便说一下,SynthID是Google在2023年推出的技术,最初主要用于AI生成图像和视频的水印。随后,这项技术逐渐扩展到音频以及AI生成文本等内容。其相关合作伙伴包括OpenAI、NVIDIA、Kakao等。
除了上面提到的Google开放检测工具,另一个值得关注的节点是10月5日,OpenAI公布了其文本水印技术方案textGrain,计划在欧盟地区逐步为符合条件的ChatGPT和Codex文本输出加入隐形水印,同时向全球API用户开放部分模型的水印选择功能。估计未来也会逐步向更多用户开放。
这两个关键节点,说明了两个方面:AI检测工具的普及化,以及AI隐形水印技术开始走向应用。
10月以后,AI生成的论文可能真藏不住了。
之前发表的论文是否也会被检测到?
没造假的同学可以略过这部分。已经造假的同学,况且是已经发表了论文的,最关心的恐怕就是这个问题了。
这就像一把悬在头顶的剑,随时可能掉下来。
能不能被检测到,关键不是论文什么时候发表,而是当时生成内容所使用的大模型或工具,是否已经嵌入水印,以及相关水印是否仍然能够被检测到。
注意:AI水印是在生成内容时嵌入的,并不是检测工具上线之后,再自动给所有历史内容补上水印。
举个简单的例子。
假设某人在2024年使用一个当时尚未部署水印功能的AI工具生成了一张图片,并将其放入论文中。到了2026年,即使出现了更先进的水印检测工具,也不能凭空在这张旧图片中识别出此前不存在的水印。
反过来,如果某个AI工具在2024年就已经具备水印功能(SynthID从2023年就开始推出),那么当时生成的内容,即使到了2026年才被检测,也有可能识别出其中的水印信号。
因此,AI水印检测能力的扩大,并不意味着所有历史论文都突然变得可以检测。
真正影响检测结果的,是生成工具、生成时间、内容类型以及水印的保存情况。
君子不立危墙之下
虽然检测到AI痕迹,并不能等同于学术不端,但如何合理使用AI,以及允许使用的范围有哪些,这些都很重要。
遵守相关规范,不仅能帮助作者应对越来越严格的科研诚信审查,也能在论文受到质疑时,提供必要的证据来说明自己的研究过程。
AI水印技术的出现,或许只是学术打假技术升级的一个开始。
对于真正认真做科研的人来说,这未必是一件坏事。
一个健康的学术圈,应该是良币驱逐劣币,而不是反过来。
