Загрузка...

Meta: Llama 3.3 70B Instruct

Идентификатор:
Скопировано в буфер обмена!
Чат

Характеристики

Контекстное окно 131K

Дата релиза 06 декабря 2024

Мультимодальность

Входящие данные:

  • Текст

Исходящие данные:

  • Текст

Цены

Оплата производится по факту за использованные токены.

Тип
Стоимость
Входящие токены
Токены, полученные и обработанные моделью при анализе пользовательского запроса и контекста. Включают текст сообщения, предыдущую историю диалога и все передаваемые данные.
9 ₽ / 1M токенов
Подробнее

Цены по провайдерам

RouterAI работает с несколькими провайдерами для обеспечения максимальной доступности и оптимальных цен.

  • 1
    Novita

    13 ₽
    Входящие
  • 2
    Parasail

    21 ₽
    Входящие
  • 3
    Cloudflare

    28 ₽
    Входящие
  • 4
    Hyperbolic

    39 ₽
    Входящие
  • 5
    Groq

    58 ₽
    Входящие
  • 6
    DeepInfra

    9 ₽
    Входящие
  • 7
    Nebius

    24 ₽
    Входящие
  • 8
    Crusoe

    24 ₽
    Входящие
  • 9
    Friendli

    59 ₽
    Входящие
  • 10
    Google

    71 ₽
    Входящие
  • 11
    Together

    87 ₽
    Входящие
  • 12
    SambaNova

    59 ₽
    Входящие
  • 13
    Inceptron

    11 ₽
    Входящие
  • 14
    WandB

    70 ₽
    Входящие

Умная маршрутизация запросов

Ваши запросы автоматически направляются к провайдеру с самой низкой ценой. Если провайдер недоступен, система мгновенно переключается на следующего по цене, обеспечивая непрерывную работу вашего приложения без потери запросов.

  • Автоматический выбор
  • Отказоустойчивость
  • Лучшая цена
Исходящие токены
Токены, генерируемые моделью в виде ответа пользователю. Каждый символ, слово или часть ответа, созданные моделью, включаются в подсчёт выходных токенов.
31 ₽ / 1M токенов
Подробнее

Цены по провайдерам

RouterAI работает с несколькими провайдерами для обеспечения максимальной доступности и оптимальных цен.

  • 1
    Novita

    39 ₽
    Исходящие
  • 2
    Parasail

    49 ₽
    Исходящие
  • 3
    Cloudflare

    224 ₽
    Исходящие
  • 4
    Hyperbolic

    39 ₽
    Исходящие
  • 5
    Groq

    78 ₽
    Исходящие
  • 6
    DeepInfra

    31 ₽
    Исходящие
  • 7
    Nebius

    74 ₽
    Исходящие
  • 8
    Crusoe

    74 ₽
    Исходящие
  • 9
    Friendli

    59 ₽
    Исходящие
  • 10
    Google

    71 ₽
    Исходящие
  • 11
    Together

    87 ₽
    Исходящие
  • 12
    SambaNova

    119 ₽
    Исходящие
  • 13
    Inceptron

    37 ₽
    Исходящие
  • 14
    WandB

    70 ₽
    Исходящие

Умная маршрутизация запросов

Ваши запросы автоматически направляются к провайдеру с самой низкой ценой. Если провайдер недоступен, система мгновенно переключается на следующего по цене, обеспечивая непрерывную работу вашего приложения без потери запросов.

  • Автоматический выбор
  • Отказоустойчивость
  • Лучшая цена

Цены указаны в рублях и могут меняться в зависимости от курса валют

Описание модели

Многоязычная большая языковая модель (LLM) Meta Llama 3.3 — это предварительно обученная и настроенная на выполнение инструкций генеративная модель с параметром 70B (ввод текста/вывод текста). Модель Llama 3.3, настроенная только для текста, оптимизирована для многоязычных диалоговых случаев использования и превосходит многие доступные открытые и закрытые чат-модели по общепринятым отраслевым стандартам.

Поддерживаемые языки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский.

Модельная карта

API и примеры кода

Наш сервис предоставляет единый API, совместимый с OpenAI SDK. Просто укажите наш base_url и используйте ключ, полученный в личном кабинете.

from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://routerai.ru/api/v1"
)

response = client.chat.completions.create(
    model="meta-llama/llama-3.3-70b-instruct",
    messages=[
        {"role": "user", "content": "Hello, how are you?"}
    ]
)

print(response.choices[0].message.content)
import requests
import json

url = "https://routerai.ru/api/v1/chat/completions"
headers = {
    "Authorization": "Bearer YOUR_API_KEY",
    "Content-Type": "application/json"
}

data = {
    "model": "meta-llama/llama-3.3-70b-instruct",
    "messages": [
        {"role": "user", "content": "Hello, how are you?"}
    ]
}

response = requests.post(url, headers=headers, json=data)
result = response.json()
print(json.dumps(result, indent=2))
curl -X POST "https://routerai.ru/api/v1/chat/completions" \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/llama-3.3-70b-instruct",
    "messages": [
      {"role": "user", "content": "Hello, how are you?"}
    ]
  }'