一分钟接入英智Mistral Large 2407 123B服务

英智Mistral Large 2407 123B服务

目录

目录

免费API_KEY获取方式

快速使用

在编程语言里使用

Shell

Python

Node.js

在第三方应用里使用

在 NextChat 里使用

Q&A

404 Not Found

参考

免费API_KEY获取方式

将您的“API_KEY”(申请服务的免费套餐后可获取)添加到请求头“Authorization”中,即可接入本服务来使用API。

快速使用

打开您的命令行,粘贴如下的内容,然后回车即可:

export API_BASE_URL="{SERVICE_API_BASE_URL}"

export API_KEY="{YOUR_API_KEY}"

curl -X POST $API_BASE_URL/v1/chat/completions -H "Content-Type: application/json" -H "Authorization: Bearer $API_KEY" -d '{

    "model": "mistral-large",

    "stream": true,

    "messages": [

        {"role": "system", "content": "You are a helpful assistant."},

        {"role": "user", "content": "英智人工智能智汇API是什么?"}

    ]

}'

在编程语言里使用

Shell

export API_BASE_URL="{SERVICE_API_BASE_URL}"

export API_KEY="{YOUR_API_KEY}"

curl -X POST $API_BASE_URL/v1/chat/completions -H "Content-Type: application/json" -H "Authorization: Bearer $API_KEY" -d '{

    "model": "mistral-large",

    "stream": true,

    "messages": [

        {"role": "system", "content": "You are a helpful assistant."},

        {"role": "user", "content": "英智人工智能智汇API是什么?"}

    ]

}'

Python

from openai import OpenAI

API_BASE_URL = "{SERVICE_API_BASE_URL}"

API_KEY = "{YOUR_API_KEY}"

client = OpenAI(base_url=f"{API_BASE_URL}/v1", api_key=API_KEY)

response = client.chat.completions.create(

    model="mistral-large",

    messages=[

        {"role": "system", "content": "You are a helpful assistant."},

        {"role": "user", "content": "英智人工智能智汇API是什么?"}

    ],

)

print(response.choices[0].message.content)

Node.js

import { OpenAI } from "openai";

const API_BASE_URL = "{SERVICE_API_BASE_URL}";

const API_KEY = "{YOUR_API_KEY}";

const client = new OpenAI({ baseURL: `${API_BASE_URL}/v1`, apiKey: API_KEY });

const response = await client.chat.completions.create({

  model: "mistral-large",

  messages: [

    { role: "system", content: "You are a helpful assistant." },

    { role: "user", content: "英智人工智能智汇API是什么?" },

  ],

});

console.log(response.choices[0].message.content);

在第三方应用里使用

在 NextChat 里使用

NextChat 在线版 https://app.nextchat.dev

1. 设置

2. 自定义接口

3. 模型服务商:OpenAI

4. 接口地址:{SERVICE_API_BASE_URL}

5. API Key:{YOUR_API_KEY}

6. 自定义模型名:mistral-large

7. 模型:选择自定义的模型

8. Enjoy

Q&A

404 Not Found

请检查 API_BASE_URL 是否正确,如果使用 OpenAI 方式接入,请带上 API 的版本“v1”,即:

{SERVICE_API_BASE_URL}/v1

参考

OpenAI API compatible:

https://ollama.com/blog/openai-compatibility

Ollama API 文档:

https://github.com/ollama/ollama

©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容