Загрузка...

Inkling 2 Mini

Разработчик:
Thinkingmachines
Релиз:
Идентификатор:
thinkingmachines/inkling-2-mini

Цены Inkling 2 Mini в рублях — от 10 ₽ за 1 млн токенов

Модель обслуживает один провайдер, оплата — по факту за использованные токены.

Тип операции Стоимость
Вход За 1 млн токенов
Токены, полученные и обработанные моделью при анализе пользовательского запроса и контекста. Включают текст сообщения, предыдущую историю диалога и все передаваемые данные.
10 ₽
Выход За 1 млн токенов
Токены, генерируемые моделью в виде ответа пользователю. Каждый символ, слово или часть ответа, созданные моделью, включаются в подсчёт выходных токенов.
42 ₽
Кэш: чтение За 1 млн токенов
Повторное использование кэшированного контента снижает затраты благодаря применению пониженного тарифа на эти токены.
2,14 ₽
Кэш: запись не поддерживается
—

Возможности Inkling 2 Mini

Inkling 2 Mini — это мультимодальный зацикленный трансформер с открытыми весами от Thinking Machines Lab, с 3,4 млрд активных параметров из 26,4 млрд общих (MoE). Его средние слои прогоняются трижды с общими весами, поэтому он выполняет больше вычислений на токен, чем можно предположить по его размеру, оставаясь при этом достаточно малым, чтобы работать на ноутбуке или одной рабочей GPU. Это самая маленькая модель во втором поколении Inkling, ниже Inkling 2 Small, и она подходит для агентных систем и систем использования инструментов, помощников по программированию, чат-ботов и генерации с дополнением на основе поиска, с поддержкой английского языка и общей многоязычной поддержкой.

Характеристики Inkling 2 Mini

  • MoE
  • 26,4 млрд параметров
  • 3,4 млрд активных параметров

Контекстное окно

Всего
1M токенов
На выход
66K токенов

Модальности

Вход
Текст Изображения
Выход
Текст
Поддерживает:
  • Режим рассуждений
  • Вызов инструментов
  • Структурированный вывод
  • Кэш промпта

Провайдеры Inkling 2 Mini

Модель развёрнута у 1 провайдера: вход 10 ₽, выход 42 ₽ за 1 млн токенов.

Провайдер Вход Выход Кэш: чтение Контекст
PrimeIntellect fp4 10 ₽ 42 ₽ 2,14 ₽ 1M

Цены считаются по провайдеру, который фактически обработал запрос. Порядок в таблице — по возрастанию цены. Прочерк — провайдер не поддерживает операцию.

API Inkling 2 Mini:
подключение и примеры кода

API RouterAI совместим с OpenAI SDK: в существующем коде достаточно заменить base_url и ключ, идентификатор модели передаётся в поле model. Один ключ открывает доступ ко всем моделям каталога, лимиты и расход — в личном кабинете.

POST https://routerai.ru/api/v1/chat/completions
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://routerai.ru/api/v1"
)

response = client.chat.completions.create(
    model="thinkingmachines/inkling-2-mini",
    messages=[
        {"role": "user", "content": "Hello, how are you?"}
    ]
)

print(response.choices[0].message.content)

Эндпоинты API для Inkling 2 Mini

Схемы запроса и ответа повторяют OpenAI — существующие клиенты и SDK работают без изменений.

Chat Completions

Основной эндпоинт: принимает историю сообщений и возвращает ответ модели. Поддерживает потоковый (SSE) и обычный режимы.

POST https://routerai.ru/api/v1/chat/completions
Документация
Authorization
Bearer YOUR_API_KEY
Content-Type
application/json
Model
thinkingmachines/inkling-2-mini

Поддерживаемые параметры запроса

Параметр Тип По умолчанию Описание
max_tokens integer — Верхний предел количества токенов, которые модель может сгенерировать в ответе.
temperature float 1 Влияет на разнообразие ответов модели: чем выше, тем более случайным будет вывод.
top_p float 1 Ограничивает выбор модели долей наиболее вероятных токенов: учитываются только токены, чьи вероятности в сумме дают P.
seed integer — Если задан, инференс выполняется детерминированно — повторные запросы с тем же seed и параметрами должны давать одинаковый результат.
logprobs boolean — Возвращать ли логарифмы вероятностей выходных токенов.

Частые вопросы о Inkling 2 Mini

Попробуйте Inkling 2 Mini

В чате или по API — доступ из России за пару минут, оплата в рублях.

Открыть в чате