Характеристики
Контекстное окно 131K
Дата релиза 23 января 2025
Мультимодальность
Входящие данные:
- Текст
Исходящие данные:
- Текст
Цены
Оплата производится по факту за использованные токены.
Цены по провайдерам
RouterAI работает с несколькими провайдерами для обеспечения максимальной доступности и оптимальных цен.
-
1
SambaNova
69 ₽Входящие -
2
Novita
79 ₽Входящие -
3
DeepInfra
69 ₽Входящие -
4
Together
199 ₽Входящие
Умная маршрутизация запросов
Ваши запросы автоматически направляются к провайдеру с самой низкой ценой. Если провайдер недоступен, система мгновенно переключается на следующего по цене, обеспечивая непрерывную работу вашего приложения без потери запросов.
- Автоматический выбор
- Отказоустойчивость
- Лучшая цена
Цены по провайдерам
RouterAI работает с несколькими провайдерами для обеспечения максимальной доступности и оптимальных цен.
-
1
SambaNova
139 ₽Исходящие -
2
Novita
79 ₽Исходящие -
3
DeepInfra
79 ₽Исходящие -
4
Together
199 ₽Исходящие
Умная маршрутизация запросов
Ваши запросы автоматически направляются к провайдеру с самой низкой ценой. Если провайдер недоступен, система мгновенно переключается на следующего по цене, обеспечивая непрерывную работу вашего приложения без потери запросов.
- Автоматический выбор
- Отказоустойчивость
- Лучшая цена
Цены указаны в рублях и могут меняться в зависимости от курса валют
Описание модели
DeepSeek R1 Distill Llama 70B — это дистиллированная крупная языковая модель, основанная на Llama-3.3-70B-Instruct, с использованием выводов из DeepSeek R1. Модель сочетает в себе передовые методы дистилляции для достижения высокой производительности по нескольким бенчмаркам, включая:
- AIME 2024 pass@1: 70.0
- MATH-500 pass@1: 94.5
- Рейтинг CodeForces: 1633
Модель использует тонкую настройку на основе выводов DeepSeek R1, что позволяет ей демонстрировать конкурентоспособную производительность, сопоставимую с более крупными передовыми моделями.
API и примеры кода
Наш сервис предоставляет единый API, совместимый с OpenAI SDK. Просто укажите наш base_url и используйте ключ, полученный в личном кабинете.
from openai import OpenAI
client = OpenAI(
api_key="YOUR_API_KEY",
base_url="https://routerai.ru/api/v1"
)
response = client.chat.completions.create(
model="deepseek/deepseek-r1-distill-llama-70b",
messages=[
{"role": "user", "content": "Hello, how are you?"}
]
)
print(response.choices[0].message.content)
import requests
import json
url = "https://routerai.ru/api/v1/chat/completions"
headers = {
"Authorization": "Bearer YOUR_API_KEY",
"Content-Type": "application/json"
}
data = {
"model": "deepseek/deepseek-r1-distill-llama-70b",
"messages": [
{"role": "user", "content": "Hello, how are you?"}
]
}
response = requests.post(url, headers=headers, json=data)
result = response.json()
print(json.dumps(result, indent=2))
curl -X POST "https://routerai.ru/api/v1/chat/completions" \
-H "Authorization: Bearer YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "deepseek/deepseek-r1-distill-llama-70b",
"messages": [
{"role": "user", "content": "Hello, how are you?"}
]
}'