英智Mistral Large 2407 123B服务
目录
目录
免费API_KEY获取方式
快速使用
在编程语言里使用
Shell
Python
Node.js
在第三方应用里使用
在 NextChat 里使用
Q&A
404 Not Found
参考
免费API_KEY获取方式
将您的“API_KEY”(申请服务的免费套餐后可获取)添加到请求头“Authorization”中,即可接入本服务来使用API。
快速使用
打开您的命令行,粘贴如下的内容,然后回车即可:
export API_BASE_URL="{SERVICE_API_BASE_URL}"
export API_KEY="{YOUR_API_KEY}"
curl -X POST $API_BASE_URL/v1/chat/completions -H "Content-Type: application/json" -H "Authorization: Bearer $API_KEY" -d '{
"model": "mistral-large",
"stream": true,
"messages": [
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "英智人工智能智汇API是什么?"}
]
}'
在编程语言里使用
Shell
export API_BASE_URL="{SERVICE_API_BASE_URL}"
export API_KEY="{YOUR_API_KEY}"
curl -X POST $API_BASE_URL/v1/chat/completions -H "Content-Type: application/json" -H "Authorization: Bearer $API_KEY" -d '{
"model": "mistral-large",
"stream": true,
"messages": [
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "英智人工智能智汇API是什么?"}
]
}'
Python
from openai import OpenAI
API_BASE_URL = "{SERVICE_API_BASE_URL}"
API_KEY = "{YOUR_API_KEY}"
client = OpenAI(base_url=f"{API_BASE_URL}/v1", api_key=API_KEY)
response = client.chat.completions.create(
model="mistral-large",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "英智人工智能智汇API是什么?"}
],
)
print(response.choices[0].message.content)
Node.js
import { OpenAI } from "openai";
const API_BASE_URL = "{SERVICE_API_BASE_URL}";
const API_KEY = "{YOUR_API_KEY}";
const client = new OpenAI({ baseURL: `${API_BASE_URL}/v1`, apiKey: API_KEY });
const response = await client.chat.completions.create({
model: "mistral-large",
messages: [
{ role: "system", content: "You are a helpful assistant." },
{ role: "user", content: "英智人工智能智汇API是什么?" },
],
});
console.log(response.choices[0].message.content);
在第三方应用里使用
在 NextChat 里使用
NextChat 在线版 https://app.nextchat.dev
1. 设置
2. 自定义接口
3. 模型服务商:OpenAI
4. 接口地址:{SERVICE_API_BASE_URL}
5. API Key:{YOUR_API_KEY}
6. 自定义模型名:mistral-large
7. 模型:选择自定义的模型
8. Enjoy
Q&A
404 Not Found
请检查 API_BASE_URL 是否正确,如果使用 OpenAI 方式接入,请带上 API 的版本“v1”,即:
{SERVICE_API_BASE_URL}/v1
参考
OpenAI API compatible:
https://ollama.com/blog/openai-compatibility
Ollama API 文档:
https://github.com/ollama/ollama