南开大学新成果 让AI用火眼金睛辨别人机不同

近日，南开大学计算机学院媒体计算实验室取得最新研究成果，不仅从评估的角度揭示了现有AI检测方法的性能不足，并创新性地提出了“直接差异学习”优化策略，教会AI用“火眼金睛”辨别人机不同，实现AI检测性能的巨大突破。相关成果论文已被计算机多媒体领域国际顶级会议ACM MM 2025接收。

为何现有的AI检测工具会“误判”？论文第一作者、南开大学计算机学院计算机科学卓越班2023级本科生付嘉晨解释道：“如果把AI文本检测比作一场考试，检测器的训练数据等同于日常练习题，现有检测方法是机械刷题、死记硬背答题的固定套路，难以学会答题逻辑，一旦遇到全新难题，准确率就会显著下降。”

“要想实现通用检测，理论上需收集所有大模型的数据进行训练，但在大模型迭代飞速的今天几乎不可能。”付嘉晨说，让检测器真正学会举一反三，即提升检测器的泛化性能，是提升AI文本检测性能的关键。

为此，研究团队提出了DDL方法另辟蹊径，“使用DDL训练得到的检测器如同有了‘火眼金睛’，即便只‘学习’过DeepSeek-R1的文本，也能精准识别像GPT-5这样最新大模型生成的内容。”付嘉晨说。

值得一提的是，付嘉晨是南开大学一名大二学生。毕业于福州第一中学的他，入学后经过“二次选拔”考入南开大学计算机科学卓越班，并进入媒体计算实验室在李重仪和郭春乐两位导师的指导下开始科研实习。这也是南开大学拔尖创新人才培养改革——系列“特色班”的一个缩影。

谈到未来学习计划，付嘉晨还将继续在生成式人工智能领域探索，“能在大一进入实验室参与科研是我的幸运，老师和同学们为解决实际问题攻坚克难，这也教会了我不仅要发论文，更要发有用的论文”。