IP属地：福建
-
基于Harness Engineering架构的企业实战项目分享第一、总体介绍 基于python-ERP系统的智能采购助手——Agent项目 1、项目外部依赖全景图 2、Agent核心代码架构 第二、项目中具...
-
ACP 大模型应用开发之大模型攻击案例与防御措施列举二前言 上一篇文章，我整理了一些提示词注入攻击的一些案例跟防范的措施，本篇文章会继续整理，并补充一些其他方面的内容。接下来将继续整理提示词攻击的案...
-
KV Cache优化实践：深入理解 KV Cache 的作用及优化方法
在大模型LLM推理部署中，很多开发者都会遇到一个共性瓶颈：模型权重占用显存固定，但一旦开启长上下文、多并发请求，GPU显存瞬间被占满，出现OOM...
-
ACP 大模型应用开发之在生产环境的具体优化实践二本篇文章会接上一篇继续更新关于大模型落地在生产环境相关的一些优化实践策略，可以从各个方面去优化落地。 三、成本优化 3.1 优化系统性能时节约成...
-
ACP 大模型应用开发之在生产环境的具体优化实践一前言 将大模型应用从开发和测试阶段转移到实际业务场景，是一个复杂且关键的过程，涉及业务选型、系统架构、运维与合规等多方面考量。 功能性需求定义大...
-
ACP 大模型应用开发之 vLLM 部署与压测实战前言 微调解决的是「模型会不会做你的任务」；部署解决的是「业务能不能稳定、低成本地调用它」。 很多团队微调完成后卡在中间一步：Java 服务仍调...
-
ACP大模型应用开发之用 Skill 将能力固化为可复用流程整理（上）
🚄 前言 Memory 让 Agent 记住了你的偏好，但具体的工作方法每次还是要在对话里重新交代。Skill 就是解决这个问题的：把「在什么情...
-
ACP 大模型应用开发之用蒸馏让小模型掌握专业能力实战下写在前面：接上篇之后要做什么 上篇走完「教师模型打标 → 过滤 → Baseline」，基座 0.6B 的 JSON 合规率和路由准确率往往惨不...
-
ACP 大模型应用开发之用蒸馏让小模型掌握专业能力实战上篇代码策略：能落在 Java 工程里的部分（教师 API 调用、标注校验、评测指标、数据加载）用 JDK 17 + Jackson + HttpC...