Что такое Low-Rank Adaptation (LoRA)

Low-Rank Adaptation (LoRA) — это революционный метод экономичного и быстрого дообучения больших нейросетей. Вместо того чтобы изменять все миллиарды параметров исходной модели, LoRA «замораживает» их и добавляет небольшие обучаемые модули (матрицы низкого ранга). Это позволяет адаптировать нейросеть под новые задачи на обычных видеокартах, экономя колоссальное количество времени и памяти.

В последние годы искусственный интеллект совершил огромный скачок. Появились большие языковые модели (LLM) и генераторы изображений, такие как ChatGPT, LLaMA, Midjourney и Stable Diffusion. Однако у них есть один существенный недостаток: они невероятно огромны. Чтобы научить такую модель чему-то новому — например, специфическому корпоративному сленгу или стилю рисования конкретного художника — традиционно требовалось «перепрошить» всю нейросеть целиком. Этот процесс называется полным дообучением (Full Fine-Tuning), и он требует целых кластеров дорогих промышленных видеокарт.

Именно здесь на сцену выходит LoRA. Эта технология позволяет обойти ограничения «железа» и сделать процесс кастомизации ИИ доступным для обычных разработчиков и энтузиастов.

Как работает LoRA: объяснение простыми словами

Представьте, что базовая нейросеть — это гигантская напечатанная энциклопедия, состоящая из тысяч страниц. Если вы захотите внести в нее правки, вам придется перепечатывать весь тираж. Это долго, дорого и неэффективно.

Метод LoRA предлагает другой подход. Вместо перепечатывания книги (изменения оригинальных весов модели), вы берете блокнот с клейкими стикерами и приклеиваете небольшие заметки с исправлениями поверх нужных страниц. В терминах математики и машинного обучения, оригинальная матрица весов нейросети блокируется от изменений, а параллельно ей создаются две маленькие матрицы (те самые «стикеры»), которые перемножаются между собой. Обучаются только эти маленькие матрицы.

Благодаря этому количество параметров, которые нужно обновлять во время обучения, сокращается в десятки тысяч раз. При этом качество работы модели остается практически на том же уровне, что и при полном дообучении.

Примеры использования LoRA

Сегодня технология Low-Rank Adaptation применяется повсеместно. Вот несколько самых ярких примеров:

• Генерация изображений (Stable Diffusion). Это, пожалуй, самое популярное применение LoRA среди обычных пользователей. Достаточно взять 15–20 своих фотографий, обучить на них небольшой LoRA-файл (размером всего 50–150 МБ) и подключить его к базовой модели. После этого нейросеть начнет генерировать ваши портреты в любых стилях: от киберпанка до аниме.
• Создание специализированных чат-ботов. Компании берут открытые языковые модели (например, LLaMA 3) и с помощью LoRA дообучают их на базах данных своей техподдержки. В результате получается умный ассистент, который идеально знает продукты компании, не требуя при этом аренды суперкомпьютеров.
• Программирование и написание кода. Базовые ИИ-модели можно «прокачать» в определенном языке программирования (например, Rust или Python), обучив небольшую LoRA на качественных репозиториях из GitHub.

Преимущества технологии

Почему сообщество разработчиков ИИ так полюбило этот метод?

• Экономия ресурсов: Обучить LoRA можно на одной домашней видеокарте (например, RTX 3060 или 4090), тогда как для полного дообучения потребовались бы серверные GPU уровня A100.
• Компактность: Файлы LoRA весят мегабайты, а не гигабайты. Ими легко обмениваться в интернете.
• Модульность: Вы можете держать одну тяжелую базовую модель на компьютере и на лету подключать к ней разные модули LoRA в зависимости от текущей задачи.

Интересный факт: математическая элегантность от Microsoft

Технология была разработана и представлена исследователями из компании Microsoft в 2021 году. Команда под руководством Эдварда Ху искала способ дешево адаптировать гигантскую модель GPT-3, у которой было 175 миллиардов параметров. Ученые опирались на математическую теорию о том, что переобученные нейросети имеют низкую «внутреннюю размерность». Иными словами, чтобы модель усвоила новый навык, ей не нужно менять все свои знания — достаточно скорректировать лишь узкий спектр связей. Идея оказалась настолько гениальной и простой в реализации, что произвела революцию в open-source сообществе, сделав ИИ по-настоящему народным.