Загрузка...

Mistral Nemo

Разработчик:
Mistral AI
Релиз:
Идентификатор:
mistralai/mistral-nemo

Цены Mistral Nemo в рублях — от 2,00 ₽ за 1 млн токенов

Доступно 5 провайдеров, цены от 2,00 ₽ до 16 ₽ за 1 млн токенов.
Провайдер подбирается автоматически — по доступности, затем по цене.

Тип операции Стоимость
Вход За 1 млн токенов
Токены, полученные и обработанные моделью при анализе пользовательского запроса и контекста. Включают текст сообщения, предыдущую историю диалога и все передаваемые данные.
2,00 ₽
Выход За 1 млн токенов
Токены, генерируемые моделью в виде ответа пользователю. Каждый символ, слово или часть ответа, созданные моделью, включаются в подсчёт выходных токенов.
3,33 ₽
Кэш: чтение не поддерживается
—
Кэш: запись не поддерживается
—

Возможности Mistral Nemo

Модель с 12 миллиардами параметров и длиной контекста в 128 тысяч токенов, созданная Mistral в сотрудничестве с NVIDIA.

Модель является многоязычной и поддерживает английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, корейский, арабский и хинди.

Она поддерживает вызов функций и выпущена под лицензией Apache 2.0.

Характеристики Mistral Nemo

  • 12 млрд параметров

Контекстное окно

Всего
131K токенов
На выход
16K токенов

Модальности

Вход
Текст
Выход
Текст
Поддерживает:
  • Вызов инструментов
  • Структурированный вывод

Провайдеры Mistral Nemo

Модель развёрнута у 5 провайдеров: вход 2,00–16 ₽, выход 3,33–16 ₽ за 1 млн токенов.
Порядок выбора по умолчанию: сначала провайдеры без сбоев, среди них — самый дешёвый, остальные подстраховывают.

Как выбрать провайдера через API
Провайдер Вход Выход Кэш: чтение Контекст
Серверы: Индонезия DekaLLM fp8 2,00 ₽ 3,33 ₽ — 131K
Серверы: США (по штаб-квартире) DeepInfra fp8 2,11 ₽ 3,33 ₽ — 131K
Серверы: США (по штаб-квартире) Io Net fp16 2,56 ₽ 3,33 ₽ 1,67 ₽ 128K
Серверы: США (по штаб-квартире) Parasail fp8 3,33 ₽ 3,33 ₽ — 131K
Серверы: Франция (по штаб-квартире) Mistral 16 ₽ 16 ₽ 1,67 ₽ 131K

Цены считаются по провайдеру, который фактически обработал запрос. Порядок в таблице — по возрастанию цены. Прочерк — провайдер не поддерживает операцию. Флаг — страна серверов или штаб-квартиры провайдера (на мобильном нажмите на первый столбец, на большом экране — на строку).

API Mistral Nemo:
подключение и примеры кода

API RouterAI совместим с OpenAI SDK: в существующем коде достаточно заменить base_url и ключ, идентификатор модели передаётся в поле model. Один ключ открывает доступ ко всем моделям каталога, лимиты и расход — в личном кабинете.

POST https://routerai.ru/api/v1/chat/completions
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://routerai.ru/api/v1"
)

response = client.chat.completions.create(
    model="mistralai/mistral-nemo",
    messages=[
        {"role": "user", "content": "Hello, how are you?"}
    ]
)

print(response.choices[0].message.content)

Эндпоинты API для Mistral Nemo

Схемы запроса и ответа повторяют OpenAI — существующие клиенты и SDK работают без изменений.

Chat Completions

Основной эндпоинт: принимает историю сообщений и возвращает ответ модели. Поддерживает потоковый (SSE) и обычный режимы.

POST https://routerai.ru/api/v1/chat/completions
Документация
Authorization
Bearer YOUR_API_KEY
Content-Type
application/json
Model
mistralai/mistral-nemo

Поддерживаемые параметры запроса

Параметр Тип По умолчанию Описание
max_tokens integer — Верхний предел количества токенов, которые модель может сгенерировать в ответе.
temperature float 1 Влияет на разнообразие ответов модели: чем выше, тем более случайным будет вывод.
top_p float 1 Ограничивает выбор модели долей наиболее вероятных токенов: учитываются только токены, чьи вероятности в сумме дают P.
seed integer — Если задан, инференс выполняется детерминированно — повторные запросы с тем же seed и параметрами должны давать одинаковый результат.
logprobs boolean — Возвращать ли логарифмы вероятностей выходных токенов.

Частые вопросы о Mistral Nemo

Попробуйте Mistral Nemo

В чате или по API — доступ из России за пару минут, оплата в рублях.

Открыть в чате