做AI应用开发，少不了对各大模型进行评测，我常用AI模型聚合平台库拉（leadhi.cn）来快速对比不同模型的输出效果。
最近，我们团队用刚发布不久的GPT-5.5，结合RAG（检索增强生成）技术，为一家传统制造企业重构了内部的知识库问答系统。在这篇文章里，我不聊虚的概念，只把我们在这个项目里总结的技术选型、核心Prompt和踩坑经验分享给大家。
长上下文时代，我们为什么还要用RAG？
进入2026年，GPT-5.5等新一代大模型的上下文窗口已经大得惊人，一次性读完几十万字毫无压力。当时团队内部也有人提出：既然模型装得下，为什么不直接把所有产品手册当成Prompt传给大模型，反而还要费时费力搞向量库和检索？
在实际高并发压力测试后，我们发现“全量塞入”的方式在企业级生产环境中有三个致命问题：
首字延迟（TTFT）难以接受：单次Prompt如果带入超过20万字的文档，GPT-5.5的首字响应时间会拉长到6秒以上。在客服和日常办公场景，这种“转圈等待”的体验极其糟糕。
Token成本呈指数级上升：企业内部的查询频率非常高。如果每次简单提问都要大模型重新读取全量文档，每天产生的Token账单将是天文数字。
企业数据的动态实时更新：企业的产品报价、售后政策几乎每周都在变，依靠静态的Context很难做到实时同步。
因此，“大模型充当推理大脑 + RAG做精准信息过滤器”，依然是目前性价比最高、最符合商业落地的方案。
系统架构：不要低估“混合检索”的威力
在搭建这套系统时，我们放弃了单一的向量检索，采用了**混合检索（Hybrid Search）**方案。
┌──> 向量检索 (Semantic: BGE-M3) ──┐[用户提问] ─── 分流 ──┤ ├──> [Cohere Rerank 重排] ──> [Top 5 文本块] ──> [GPT-5.5] └──> 关键词检索 (Lexical: BM25) ───┘
为什么必须用混合检索？因为在企业内部文档中，存在大量特定的产品代号（如“X-9003控制器”）。向量模型在处理这些生僻、无语义关联的字符时，召回效果往往很差。
我们通过BM25算法进行精准关键词匹配，同时用BGE-M3模型捕捉语义层面的关联，最后引入Cohere Rerank对两者检索出的Top 20结果进行二次打分，只筛选出最相关的Top 5段落输入给GPT-5.5。
实操分享：针对GPT-5.5优化的系统提示词
GPT-5.5在复杂指令的遵循能力上有了质的飞跃。我们利用这一特性，重新设计了系统提示词（System Prompt），重点解决企业最敏感的“幻觉”和“新旧版本冲突”问题。
以下是我们正在生产环境中使用的Prompt模板，可以直接拿去参考：
markdown
# Role你是一个极其严谨的企业内部知识库助手。请根据提供的【参考资料】，回答用户的【问题】。# Constraints1. 你的回答必须完全基于【参考资料】中提供的事实。2. 如果【参考资料】中不包含能解答用户问题的直接证据，请直接回答：“抱歉，在现有知识库中未检索到相关内容。”，严禁进行任何形式的推理和捏造。3. 如果【参考资料】中的条款存在版本或日期冲突，请优先以“更新时间”（格式：YYYY-MM-DD）最晚的信息为准，并在回答中予以说明。4. 语言干练，使用结构化的Markdown格式分条回答，不要说多余的客套话。# Reference (参考资料){retrieved_chunks_with_metadata}# Question (问题){user_query}
实测反馈：在传入 {retrieved_chunks_with_metadata} 时，我们要求后端把每段文本的“修改时间”作为元数据拼在文本头部。GPT-5.5在面对存在版本冲突的规章制度时，表现出了极高的判断力，能准确过滤掉旧版政策，并主动向用户提示“已采用2026年最新修订的标准”。
落地踩过的三个大坑
在实际部署和优化过程中，我们踩过了不少坑，这三条经验建议记在小本本上：
切片（Chunking）绝对不要“一刀切”。刚开始我们图省事，直接按固定每500字切一段。结果导致很多段落的上下文语义被硬生生切断，检索准确率很低。后来我们改用“语义分块”，根据文档的Markdown标题级别进行切分，并保持20%的字符重叠，效果立竿见影。
别忽视文档的“脏数据”清洗。企业提供的PDF往往包含大量的页眉页脚、公司LOGO描述以及空白表格。如果不做预处理直接提取文本入库，检索出来的全都是噪点。在入库前，必须用脚本过滤掉无意义的特殊符号和重复的页码。
建立回归测试集。随着文档数量的增加，系统经常出现“优化了A问题的回答，却导致B问题回答出错”的情况。建议整理出至少100个包含跨文档、时间冲突等复杂业务场景的评测集，每次调整检索参数或大模型参数时，进行自动化跑分评估。
趋势：从单纯检索走向“智能体化”（Agentic RAG）
从我们目前的实测来看，GPT-5.5的逻辑拆解能力非常强。
未来的企业知识库将不再是简单的“用户提一问，系统检索一次”的单向流动，而是向**Agentic RAG（智能体检索）**演进。
面对一个复杂的业务场景（比如“今年华北区和华南区的售后报销流程有什么不同？”），Agent会先将任务拆解为两个子查询，分别去不同的数据库检索，并在内部进行多轮逻辑推理、比对，最终输出一份结构清晰的综合报告。这才是企业级智能问答真正能够产生业务价值的方向。
