一、前言
对于泛搜索引擎用户情况下，用户只想知道通过推理闭环情况下，最优解是什么，此时Agent需要输出的是，平台能力下的最优解以及最优解分点判断依据，垂直行业下是否需要泛大模型？如何使用大模型取代企业和客户之间低效的人传人熵增沟通？
二、垂直行业下，我们能用大模型做什么？
对于垂直行业搜索引擎情况下，用户核心聚焦的目标是，我当下的问题能否解决，对用户问题的拆解是什么？答案的决策依据是什么，答案的决策逻辑是什么。
由赫伯特·西蒙提出的有限性理论可以知道，企业无法用超出组织能力的愿景，去满足客户的需求，客户100分以外的满意度，一直都是服务的强闭环和快速应答；所以组织内沉淀的Corner Knowledge的充分利用，才是提升企业服务高度和调性合理路径，所以企业知识资产数字化(不是沉淀于各个职能线专家的人脑中，经验中)，服务流程数字化，范式化。是跟上AI工业革命需要补的基础课，在此基础之上，AI才能赋能企业打破职能线的隔离壁垒，高效传递消息，打破信息的熵增，通过人类语言与AI大脑进行交互，快速获得服务客户所需的决策要素，达到时间和满意度这对长久博弈指标的双重优化。
三、面临的突出问题是什么，RAG怎么样才能做到？
这里我们一直以来有个最突出的盲区？AI大模型或者各式各样的模型需要解决的是类人脑泛化的问题，那么，我们需不需要用泛化的思维来赋能企业?
我的主观意见是，不需要！！，我们回归一下我们行业细分，差异竞争的本质是什么，是锐化需求，集中有限的组织力量将我们能服务的场景做到顶尖，再进行降本增效，或者降本平效(能做到这点的已经超级牛了)。
所以在用AI替代人作为连接桥梁的命题上，突出总结出我们的核心场景，并为此进行精心设计，已经是对组织服务的一大重要变革，人员的核心投入由怎么样匹配与理解客户变为，我们如何将我们的企业知识资产，和职能流程进行数字化，范式化，依托大模型，做到千人一面，调性统一；
四、落地到实际，我们需要如何设计我们的AI服务人？
根据上述简短的主观观点表述，落地到系统设计，我们落地到具体系统设计面临的问题，就是 场景 - 知识 - 组织 三点，再往细的拆解就有以下几点
- 我的用户需求场景是什么？
- 需要找到什么样的决策素材chunk；
- 查找的链路是什么，查找的query应该如何组织(有无时间要求？核心三元组诉求（发起元 - 关联关系 - 目标元）)；
- 最后重要级的就是需要什么样的大模型来组织我的核心素材，依据什么样的prompt进行组织、回答、并提取核心点；
- 如何设计当前上下文语境中的连续对话；
(一) 场景
由于有对话交互的产生，对系统的响应要求容忍度也随之提高，所以可以通过引导，分析的方式辅助客户进行场景的定位，当然系统设计上还有数据安全性的要求，如未登录的客户，只能进行类似售前导购和转化思路进行设计，认定了客户身份前提下，才可以进行客户域下的数据的上下文加载
(二) 为什么要设计用户需求场景？
客户的需求场景永远会出现互相博弈对抗形式存在，想要通过泛化的场景下来设计调性复杂度极其高，所以需要进行场景进行切割，并且企业对接客户的需求是有边界的，场景可枚举的，需要把有限的场景做到极致，把有限的需求拆解到极致，这点上主流搜索设计的人 - 货 - 场 理论不谋而合;传统搜索就是个极端博弈的场景，比如你在美团上搜索午饭，我是推荐给你常吃的还是推荐给你新开餐馆，还是推荐给你周边人气餐馆？
但是不是每个公司都是巨无霸，需要满足用户泛需求，泛需求的解决就是借用深度学习下的调优如DSSM模型，MOE评分模型，一直寻找一个动态最优解。大多数公司的用户需求场景是有限的，比如元器件公司服务客户的无非就是 选型 - 样品 - 供应链 - 研发问题解决 等等几个大场景(当然可以细拆)，不会诞生出太多离谱的场景，如我喜欢粉色的MCU有没有？？
(三) 素材Chunk
我们需要什么样的素材，就是企业如何设计我企业知识的模型范式？我的职能链设计什么样的模型范式？并数字化；大数据技术高度方便的前提下，对范式的修改已经不像以前关系型数据库那么令人痛苦（我随便加个属性列，居然由于磁盘碎片化，导致非正常指数级增长）；查询技术我们有传统数据库严谨查询，es搜索引擎反向文档极速查询；
(四) 场景下，我如何找到服务客户所需的数据Chunk？
由于服务客户的数据来源不唯一，且不同场景下，我所需的数据域是变化的，如商品导购是，我需要找到的是商品，售后时 我需要找到的是产品规格说明书，和订单数据等，所以目前所有大模型课程所讲的向量查找方式，不能很好地满足需求(并不是不能)，查询的方式是多种的，且根据数据量预估下，是不一样的，可以是数据库直接查询，可以是搜索引擎查询，也可以是向量化数据库查询(如沉淀的知识问答），查找是多路的，交叉复合的。并不单一；
五、类似千问、DS R1模型，能赋能什么？
(一) 辅助场景判断
大模型革新的点，从底层技术transformer attention机制来看，他可以准确地理解，并提取出用户语境中的核心词，根据这些核心词的组合，我们可以快速判断出用户的场景，如 耐克的T恤的衣服可以水洗吗？ 大模型可以准确提取出 类目：T恤 ，问题：可水洗 ，品牌：耐克 ，若登录情况下，查找用户订单是否有耐克衣服，有则是售后场景，发送给用户所有耐克T恤，并根据商品查找到对应的规格说明，并返回说明，无用户订单，则是售前导购，查找到最近热卖可水洗的耐克T恤，推荐，并附上产品规格说明书中的推荐洗涤方式；
上段内容可看到，有两个链路的查询，分别是商品库，和规格说明书库，乃至视频库，和订单库多路查询复合的结果；
(二) 知识总结，组织友好的多模态交互方式
大模型可返回的结果可以根据prompt要求组织返回多模态的信息呈现，如上述例子中，可以将交互结果总结到一起，并按照优先级和层次进行组合返回，在总结这，很多的应用是，丢正确的，错误的语料给大模型，让他自己判断，个人认为是错误的，解决问题的关键是定义问题，并寻找正确的答案，最后一步总结，是在答案尽量正确的结果之上，按照语言理解的层次去设计结果的返回，并借助大模型强大的语言组织能力，合适的地方填上合适的token，合适的多模态，而不是即做判断，又做表达，这点也要符合人脑的思维逻辑链，单一的工作效率和结果是最高的，attention是最强的
六、最后简单总结系统设计流程
- 设计好属于你组织的知识库、职能链，并数字化、范式化；
- 设计合适的多种查询链路
- 问题理解 -> 核心场景词提取(大模型) -> 结合用户域数据进行场景判断 -> 查询query扩展与组织 -> 按照设计路径进行多路召回相关内容 -> 调用对应场景的prompt -> 回传上下文给大模型 -> 结合prompt回复用户
