1.提示词+RAG

一.Prompt:提示词,我们唯一和大模型交互的方式。

无论做了多酷炫的设计,最终,都是为了传递一条合适的prompt(提示词给大模型)。

Zero-Shot. One-Shot, Few-Shot

1、将Prompt 内容进行分类:身份设定、背景设定、参考资料、样例、指令、限制条件等

2、按照 Prompt 中的样例数量进行分类:Zero-Shot(无)、One-Shot(一条例子)、Few-Shot(一些例子)

3、动态在Prompt添加样例


LLM:Large Language Model,大语言模型

二.RAG(Retrieval-Augmented Generation):检索增强生成

RAG: RAG是一种结合信息检索与文本生成的AI技术。简单来说,它通过先从外部知识库(如文档、数据库)中检索与用户问题相关的信息,再将检索到的信息作为上下文输入给生成模型(如GPT),从而让模型基于真实、可靠的资料生成答案。这样做能有效减少模型“瞎编”(即幻觉)问题,并让回答更准确、更贴合具体知识。

RAG是全世界最流行的 AI 技术,也是 AI 领域最大的坑

    -在检索之前,先做一轮内部的知识搜索。

    将参考资料、样例放在 Prompt 中,就叫做 In-Context-Learning

    但模型能接收的提示词有字数限制,且提示词内容多了性能会严重下降,所以需要一个知识库,需要的时候就去知识库中查找一些有用的信息

RAG步骤:

->    1.Query 指的是用户的输入问题或查询

->    2.Indexing:Documents(文档,知识库内容梳理)->Chunking(知识切片)->Document chunks(切片文档)->Vector Database(入库)

->    3.Retrieve(检索)->知识库->相似度高的答案/问题+答案->Augment(增强)检索到的相关文档片段与用户的原始问题进行融合与重组(Prompt(提示词)+Relevent contexts(知识库检索内容)+Query(用户提问))

->    4.将第三步的内容传给LLM(大语言模型)->Generate(生成答案)->Response(返回结果)->User


RAG流程图

三.RAG高级技巧

1.Query改写技巧:

知识库的检索query

汇总上下文所有信息,总结用户核心诉求作为 Query

(1)上下文依赖型 query:保修多久?还有其他颜色吗?

(2)对比型 query:哪个保修时间更长?

(3)模糊指代型 query:都支持无线充电吗?

(4)多意图型 query:有几个颜色?尺码齐全吗?大概什么时候能到货?

(5)反问型 query;这不会也得等一个月吧?

(6)条件型 query:有没有500元以下的、适合女生用的那种?->适合直接生成条件采用SQL搜索

2.根据知识库切片反向生成问题->比如询问ai,针对这个答案,用户可能会怎么提问

3.针对用户提问,采用不同大大语言模型采用不同语言进行翻译,再转回同语言,得到新的问题


Agentic RAG:智能体驱动的 RAG

RAG VS Agentic RAG

Rebemding:向量数据库


最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

友情链接更多精彩内容