Mistral Nemo

vtrix-mistral-nemo

Mistral 与 NVIDIA 合作开发的开源模型. 12B 参数, 128K 上下文窗口. 适合高效的文本处理任务.

认证

authorization `string` 必填

所有 API 都需要通过 Bearer Token 进行认证

获取 API Key：

访问 API Key 管理页面获取您的 API Key

使用方法：

添加到请求头：

Authorization: Bearer YOUR_API_KEY

参数

model `string` 必填

请求使用的模型 ID

值：vtrix-mistral-nemo

messages `array` 必填

表示对话历史的消息对象数组

role string 必填

消息角色

可选值：user、assistant、system、developer

content string | array 必填

文本字符串或多模态数组

max_tokens `integer`

生成的最大 token 数量

范围：1 - 128000

temperature `number`

采样温度

默认值：1.0

范围：0.0 - 2.0

top_p `number`

核采样参数

默认值：1.0

范围：0.0 - 1.0

stream `boolean`

是否增量流式返回响应

默认值：false

代码示例

curl --location 'https://cloud.vtrix.ai/llm/chat/completions' \
--header 'Authorization: Bearer YOUR_API_KEY' \
--header 'Content-Type: application/json' \
--data '{
  "model": "vtrix-mistral-nemo",
  "messages": [{"role": "user", "content": "Hello!"}]
}'

import openai

client = openai.OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://cloud.vtrix.ai/llm"
)

response = client.chat.completions.create(
    model="vtrix-mistral-nemo",
    messages=[{"role": "user", "content": "Hello!"}]
)
print(response.choices[0].message.content)

import OpenAI from 'openai';

const client = new OpenAI({
  apiKey: 'YOUR_API_KEY',
  baseURL: 'https://cloud.vtrix.ai/llm'
});

const response = await client.chat.completions.create({
  model: 'vtrix-mistral-nemo',
  messages: [{ role: 'user', content: 'Hello!' }]
});
console.log(response.choices[0].message.content);

响应格式

{
  "id": "chatcmpl-abc123",
  "object": "chat.completion",
  "created": 1699896916,
  "model": "vtrix-mistral-nemo",
  "choices": [
    {
      "index": 0,
      "message": {
        "role": "assistant",
        "content": "Hello! How can I help you today?"
      },
      "finish_reason": "stop"
    }
  ],
  "usage": {
    "prompt_tokens": 10,
    "completion_tokens": 20,
    "total_tokens": 30
  }
}

Mistral Nemo

认证

authorization `string` 必填

参数

model `string` 必填

messages `array` 必填

role `string` 必填

content `string | array` 必填

max_tokens `integer`

temperature `number`

top_p `number`

stream `boolean`

认证

authorization string 必填

参数

model string 必填

messages array 必填

role string 必填

content string | array 必填

max_tokens integer

temperature number

top_p number

stream boolean

authorization `string` 必填

model `string` 必填

messages `array` 必填

role `string` 必填

content `string | array` 必填

max_tokens `integer`

temperature `number`

top_p `number`

stream `boolean`