
以下是对One API的简单介绍:
- One API是一个使用go语言开发的大语言模型 API 管理与分发系统
- 支持Docker一键快速部署,且资源占用小,高性能
- 开箱支持多平台大模型快速接入
- 功能强大,支持多机部署、stream 模式、模型负载均衡、令牌用户等资源管理等等
- 开源地址参考:https://github.com/songquanpeng/one-api
Docker快速部署和使用示例参考:https://blog.luler.top/d/49
以下是对One API的简单介绍:
- One API是一个使用go语言开发的大语言模型 API 管理与分发系统
- 支持Docker一键快速部署,且资源占用小,高性能
- 开箱支持多平台大模型快速接入
- 功能强大,支持多机部署、stream 模式、模型负载均衡、令牌用户等资源管理等等
- 开源地址参考:https://github.com/songquanpeng/one-api
Docker快速部署和使用示例参考:https://blog.luler.top/d/49