Характеристики
Контекстное окно 66K
Дата релиза 17 апреля 2024
Мультимодальность
Входящие данные:
- Текст
Исходящие данные:
- Текст
Цены
Оплата производится по факту за использованные токены. Цены зависят от размера контекста в промпте.
Цены указаны в рублях и могут меняться в зависимости от курса валют
Описание модели
Официальная обученная версия Mistral Mixtral 8x22B. Она использует 39 миллиардов активных параметров из 141 миллиарда, предлагая непревзойденную экономическую эффективность для своего размера. Ее сильные стороны включают: - сильные навыки в математике, программировании и рассуждениях - большая длина контекста (64k) - свободное владение английским, французским, итальянским, немецким и испанским языками
Смотрите результаты тестирования в объявлении о запуске здесь.
API и примеры кода
Наш сервис предоставляет единый API, совместимый с OpenAI SDK. Просто укажите наш base_url и используйте ключ, полученный в личном кабинете.
from openai import OpenAI
client = OpenAI(
api_key="YOUR_API_KEY",
base_url="https://routerai.ru/api/v1"
)
response = client.chat.completions.create(
model="mistralai/mixtral-8x22b-instruct",
messages=[
{"role": "user", "content": "Hello, how are you?"}
]
)
print(response.choices[0].message.content)
import requests
import json
url = "https://routerai.ru/api/v1/chat/completions"
headers = {
"Authorization": "Bearer YOUR_API_KEY",
"Content-Type": "application/json"
}
data = {
"model": "mistralai/mixtral-8x22b-instruct",
"messages": [
{"role": "user", "content": "Hello, how are you?"}
]
}
response = requests.post(url, headers=headers, json=data)
result = response.json()
print(json.dumps(result, indent=2))
curl -X POST "https://routerai.ru/api/v1/chat/completions" \
-H "Authorization: Bearer YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "mistralai/mixtral-8x22b-instruct",
"messages": [
{"role": "user", "content": "Hello, how are you?"}
]
}'