关于LLM支持的agent的api调用

Less is More: Optimizing Function Calling for LLM Execution on Edge Devices

重点关注的是大模型推理时的外部工具调用，通过外部API来扩展LLM的能力，使其能够处理超过自身内置功能的复杂场景。

方法是通过稀疏化api来缩小可选范围，提高选择精度和任务处理速度。

通过对任务需要api的描述及空间映射，匹配api库中的api空间映射，然后通过top-k的形式选择备选api，再通过agent选择需要的一个或连续的多个工具辅助回答任务。
©著作权归作者所有,转载或内容合作请联系作者
平台声明：文章内容（如有图片或视频亦包括在内）由作者上传并发布，文章内容仅代表作者本人观点，简书系信息发布平台，仅提供信息存储服务。

推荐阅读更多精彩内容