Gemma 3n 4B

Gemma 3n E4B-it оптимизирован для эффективного выполнения на мобильных и малоресурсных устройствах, таких как телефоны, ноутбуки и планшеты. Он поддерживает мультимодальные вводы — включая текст, визуальные данные и аудио — что позволяет выполнять разнообразные задачи, такие как генерация текста, распознавание речи, перевод и анализ изображений. Используя инновации, такие как кэширование Per-Layer Embedding (PLE) и архитектура MatFormer, Gemma 3n динамически управляет использованием памяти и вычислительной нагрузкой, выборочно активируя параметры модели, что значительно снижает требования к ресурсам во время выполнения.

Эта модель поддерживает широкий языковой диапазон (обучена на более чем 140 языках) и имеет гибкое контекстное окно на 32K токенов. Gemma 3n может выборочно загружать параметры, оптимизируя память и вычислительную эффективность в зависимости от задачи или возможностей устройства, что делает её подходящей для приложений, ориентированных на конфиденциальность, с возможностью работы в оффлайн-режиме и решений AI на устройстве. Подробнее в блоге