对抗 ChatGPT！斯坦福大学推出 DetectGPT 反学生做 AI 论文,06/02/2023,
Advance Iverson,10,
,
针对学生通过ChatGPT生成论文，斯坦福大学推出的DetectGPT大语言模型（LLM）的使用风起云涌，尤其是ChatGPT最近很火，但是因为太强大了，甚至可以给学生生成论文。 因此，需要检测机器生成文本的系统。
最近，斯坦福大学的一组研究人员提出了一种名为 DetectGPT 的新方法，旨在成为高等教育中对抗机器生成文本的首批工具之一。 该方法基於 LLM 生成的文本通常徘徊在模型对数概率函数的负曲率区域的特定区域的原理。 利用这一发现，该团队开发了一种新的指标来判断文本是否是机器生成的，而不需要训练人工智能或收集大型数据集来比较文本。
这种被称为“零样本学习”的方法允许 DetectGPT 在不知道使用甚麽人工智能工具生成文本的情况下检测机器编写的文本。 它的操作与其他需要使用真实和生成的段落数据集训练“分类器”的方法形成鲜明对比。
该团队在假新闻文章的数据集上测试了 DetectGPT，它在检测机器生成的文本方面优於其他零样本学习方法。 该团队声称检测性能有了实质性的改进，并建议 DetectGPT 可能是一种很有前途的方法来检查机器生成的文本。
总之，DetectGPT 是一种检测机器生成文本的新颖方法，它利用了 LLM 生成文本的独特特徵。 它是一种零样本学习方法，不需要任何额外的数据或训练，使其成为识别机器生成文本的高效工具。 随着 LLM 的使用不断增长，用於检测机器生成文本的相应系统的重要性将变得越来越重要。 DetectGPT 是一种很有前途的方法，可以在许多领域产生重大影响，其进一步发展可能对许多领域有益。