关于大模型评估,可以分为基于参开的评估和无参考的评估。
9.1 Reference-based(基于参考的评估)
Reference-based方法是指在评估生成内容的准确性时,使用参考文本或原始信息源作为对比基准。
这种方法主要衡量模型生成内容和参考答案的重叠度或相似度。
- 优点:适合标准化生成任务
- 缺点:该方法的评估灵活性有限。
9.2 Reference-Free(无参考评估)
旨在不用标准答案或特定参考来检测模型生成内筒的准确性和一致性。
- 基于IE(信息抽取)
- 基于QA(问答)
- 基于NLI(自然语言推理)
- 基于事实性分类指标
- 人工评估