本篇文章会接上一篇继续更新关于大模型落地在生产环境相关的一些优化实践策略，可以从各个方面去优化落地。 三、成本优化 3.1 优化系统性能时节约成本 第二章中许多性能手段同时降...
IP属地：宁夏
-
ACP 大模型应用开发之在生产环境的具体优化实践二 -
ACP 大模型应用开发之 vLLM 部署与压测实战前言 微调解决的是「模型会不会做你的任务」；部署解决的是「业务能不能稳定、低成本地调用它」。 很多团队微调完成后卡在中间一步：Java 服务仍调云端大模型 API，微调成果没...
-
ACP大模型应用开发之用 Skill 将能力固化为可复用流程整理（上）
🚄 前言 Memory 让 Agent 记住了你的偏好，但具体的工作方法每次还是要在对话里重新交代。Skill 就是解决这个问题的：把「在什么情况下，正确做法是什么」固化为可...
-
ACP 大模型应用开发之用蒸馏让小模型掌握专业能力实战下写在前面：接上篇之后要做什么 上篇走完「教师模型打标 → 过滤 → Baseline」，基座 0.6B 的 JSON 合规率和路由准确率往往惨不忍睹，而教师模型已经稳定。本篇...
-
ACP 大模型应用开发之用蒸馏让小模型掌握专业能力实战上篇代码策略：能落在 Java 工程里的部分（教师 API 调用、标注校验、评测指标、数据加载）用 JDK 17 + Jackson + HttpClient 实现；LoRA 训...
-
ACP大模型应用开发工程师-RAG 自动化评测体系学习-java转AI应用开发学习面向 Java 高级开发 的技术笔记：先把 Ragas、TruLens、DeepEval 等「以 Python 生态见长」的框架放在同一张认知地图里；第三节展开 Answer...
-
ACP 大模型应用开发-Agent 评测驱动开发之从端到端测评与白盒评测承接：RAG 自动化评测体系[https://www.jianshu.com/p/0de7ffc44beb]（先学会度量「答案质量」，再度量「过程与工具路径」）。 🚄 前言 ...
-
ACP 大模型应用开发 | 用 Skill 将能力固化为可复用流程（上）🚄 前言 Memory 让 Agent 记住了你的偏好，但具体工作方法每次还要在对话里重新交代。Skill 把「在什么情况下、正确做法是什么」固化为可触发的专属流程。 0 为...
-
ACP 大模型应用开发 | 注册加载生成skill与社区复用skill（下）承接：上篇：从审查痛点到高质量 Skill[https://www.jianshu.com/p/0169231762cb?v=1779173759014]。 🚄 前言 上篇你...