Загрузка...

Meta: Llama 3.2 90B Vision Instruct

Идентификатор:
Скопировано в буфер обмена!
Чат

Характеристики

Контекстное окно 33K

Дата релиза 25 сентября 2024

Мультимодальность

Входящие данные:

  • Текст
  • Изображения

Исходящие данные:

  • Текст

Цены

Оплата производится по факту за использованные токены. Цены зависят от размера контекста в промпте.

Тип
Стоимость
Входящие токены
Токены, полученные и обработанные моделью при анализе пользовательского запроса и контекста. Включают текст сообщения, предыдущую историю диалога и все передаваемые данные.
35 ₽ / 1M токенов
Исходящие токены
Токены, генерируемые моделью в виде ответа пользователю. Каждый символ, слово или часть ответа, созданные моделью, включаются в подсчёт выходных токенов.
40 ₽ / 1M токенов
Входящие изображения
Токены, соответствующие обработке визуального контента, передаваемого в качестве входных данных. Изображения преобразуются в токены на основе их разрешения, размера и формата.
51,09 ₽ / 1K токенов

Цены указаны в рублях и могут меняться в зависимости от курса валют

Описание модели

Модель Llama 90B Vision — это первоклассная мультимодальная модель с 90 миллиардами параметров, разработанная для самых сложных задач визуального рассуждения и обработки языка. Она обеспечивает непревзойденную точность в описании изображений, ответах на визуальные вопросы и продвинутом понимании текста и изображений. Предварительно обученная на обширных мультимодальных наборах данных и дообученная с учетом отзывов людей, Llama 90B Vision спроектирована для выполнения самых требовательных задач ИИ, основанных на изображениях.

Эта модель идеально подходит для отраслей, требующих передовых мультимодальных возможностей ИИ, особенно тех, которые связаны со сложным, в реальном времени анализом визуальной и текстовой информации.

Нажмите здесь, чтобы перейти к оригинальной карточке модели.

Использование этой модели регулируется Политикой допустимого использования Meta.

API и примеры кода

Наш сервис предоставляет единый API, совместимый с OpenAI SDK. Просто укажите наш base_url и используйте ключ, полученный в личном кабинете.

from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://routerai.ru/api/v1"
)

response = client.chat.completions.create(
    model="meta-llama/llama-3.2-90b-vision-instruct",
    messages=[
        {"role": "user", "content": "Hello, how are you?"}
    ]
)

print(response.choices[0].message.content)
import requests
import json

url = "https://routerai.ru/api/v1/chat/completions"
headers = {
    "Authorization": "Bearer YOUR_API_KEY",
    "Content-Type": "application/json"
}

data = {
    "model": "meta-llama/llama-3.2-90b-vision-instruct",
    "messages": [
        {"role": "user", "content": "Hello, how are you?"}
    ]
}

response = requests.post(url, headers=headers, json=data)
result = response.json()
print(json.dumps(result, indent=2))
curl -X POST "https://routerai.ru/api/v1/chat/completions" \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/llama-3.2-90b-vision-instruct",
    "messages": [
      {"role": "user", "content": "Hello, how are you?"}
    ]
  }'