人工智能实验室OpenAI发布的ChatGPT,这种聊天机器人能根据简短的提示生成文采斐然的文字。人们用它来写情书、诗歌、小说,甚至还有他们的课程作业。ChatGPT的爆火,显然已经对高校教育工作者带来了挑战。
ChatGPT以其强大的信息整合和对话能力惊艳了全球,一项调查显示,现在美国89%的大学生都是用ChatGPT做作业。
目前,纽约的教育系统全面封杀了ChatGPT,老师们防ChatGPT如洪水猛兽,却还是屡禁不止,学生们已经在用ChatGPT肆无忌惮地作弊了。
为了针对作业作弊,斯坦福研究人员推出了 DetectGPT,便于检测出 AI 生成文本。DetectGPT 是基于大型语言模型(large language models,LLM)生成文本的特定倾向,从而可以判断文本是否是 AI 生成的,并且不需要训练人工智能或收集大型数据集来比较文本。
研究团队声称新算法的检测的准确性能有了实质性的提高,这一方法在检测机器生成的文本方面优于其他零样本方法,或在未来的机器生成文本检查方面非常有前途。另外,他们也将尝试将这一方法用于 LLM 生成的音频、视频和图像的检测工作中。并表明该技术可对未来越来越普遍的人工智能写作论文事件起到很好的反制作用。