一.Prompt:提示词,我们唯一和大模型交互的方式。
无论做了多酷炫的设计,最终,都是为了传递一条合适的prompt(提示词给大模型)。
Zero-Shot. One-Shot, Few-Shot
1、将Prompt 内容进行分类:身份设定、背景设定、参考资料、样例、指令、限制条件等
2、按照 Prompt 中的样例数量进行分类:Zero-Shot(无)、One-Shot(一条例子)、Few-Shot(一些例子)
3、动态在Prompt添加样例
LLM:Large Language Model,大语言模型
二.RAG(Retrieval-Augmented Generation):检索增强生成
RAG: RAG是一种结合信息检索与文本生成的AI技术。简单来说,它通过先从外部知识库(如文档、数据库)中检索与用户问题相关的信息,再将检索到的信息作为上下文输入给生成模型(如GPT),从而让模型基于真实、可靠的资料生成答案。这样做能有效减少模型“瞎编”(即幻觉)问题,并让回答更准确、更贴合具体知识。
RAG是全世界最流行的 AI 技术,也是 AI 领域最大的坑
-在检索之前,先做一轮内部的知识搜索。
将参考资料、样例放在 Prompt 中,就叫做 In-Context-Learning
但模型能接收的提示词有字数限制,且提示词内容多了性能会严重下降,所以需要一个知识库,需要的时候就去知识库中查找一些有用的信息
RAG步骤:
-> 1.Query 指的是用户的输入问题或查询
-> 2.Indexing:Documents(文档,知识库内容梳理)->Chunking(知识切片)->Document chunks(切片文档)->Vector Database(入库)
-> 3.Retrieve(检索)->知识库->相似度高的答案/问题+答案->Augment(增强)检索到的相关文档片段与用户的原始问题进行融合与重组(Prompt(提示词)+Relevent contexts(知识库检索内容)+Query(用户提问))
-> 4.将第三步的内容传给LLM(大语言模型)->Generate(生成答案)->Response(返回结果)->User

三.RAG高级技巧
1.Query改写技巧:
知识库的检索query
汇总上下文所有信息,总结用户核心诉求作为 Query
(1)上下文依赖型 query:保修多久?还有其他颜色吗?
(2)对比型 query:哪个保修时间更长?
(3)模糊指代型 query:都支持无线充电吗?
(4)多意图型 query:有几个颜色?尺码齐全吗?大概什么时候能到货?
(5)反问型 query;这不会也得等一个月吧?
(6)条件型 query:有没有500元以下的、适合女生用的那种?->适合直接生成条件采用SQL搜索
2.根据知识库切片反向生成问题->比如询问ai,针对这个答案,用户可能会怎么提问
3.针对用户提问,采用不同大大语言模型采用不同语言进行翻译,再转回同语言,得到新的问题
Agentic RAG:智能体驱动的 RAG

Rebemding:向量数据库