今天是美国时间2023年4月3日,今天关于AI& Law 的Newletter内容如下, enjoy:
利用AI生成文本的挑战:高等教育领域的抄袭检测和招生评估
由于强大的自然语言处理(NLP)模型如ChatGPT的发展,利用人工智能(AI)生成文本的应用迅速增加。这些模型可以根据一些关键词或提示,生成各种主题和领域的连贯和流畅的文本。虽然这项技术具有许多潜在的应用和优点,但它也带来了一些挑战和风险,特别是对于高等教育领域。
其中一个主要的挑战是利用AI生成的文本检测和预防抄袭。抄袭是严重的学术违规行为,可能导致从不及格到开除的处罚。然而,传统的抄袭检测工具可能无法识别由AI生成的文本,因为它们不是从现有的来源复制,而是从头创建。这可能使学生使用AI工具生成文章、报告或论文来作弊。
根据金融时报2023年4月3日题为(Universitiesexpress doubt over tool to detect AI-powered plagiarism)的报道,已经被全球超过10,000所教育机构使用的Turnitin(抄袭检测软件公司Turnitin提供基于互联网的检测抄袭服务),近期推出了一项新服务,声称具有98%的把握识别出AI生成的文本, 而制造了火爆的ChatGPT的OpenAI表示其抄袭检测系统仅有26%的成功率。
尽管Turnitin声称提供这项新服务的技术已经开发多年,但它的推出仍然引起了争议。一些教育家和高等教育顾问对于误判作弊、将学生数据交给私营公司以及可能限制生成AI实验的担忧提出了异议。因此,包括罗素集团成员在内的一些大学宣布他们将不使用该服务。
另一个挑战是在招生和入学背景下评估AI生成的文本。美国许多学院和大学要求申请者提交论文或个人陈述作为其申请过程的一部分。这些论文或个人陈述旨在展示申请者的写作能力、个性和适合所申请的学校。然而,由于AI生成文本工具的可用性,一些申请者可能会被诱惑使用AI代替自己写作。这可能会削弱论文或个人陈述作为申请者能力和潜力的指标的有效性和可靠性。
为应对这个挑战,美国一些学校正在调整其综合评估,以包括更多的评估组成部分,以减少任何单一组成部分(例如由ChatGPT编写的论文)对入学决策产生重大影响的潜力。例如,一些学校可能更加强调标准化考试成绩、推荐信等。