Chain of Thought (CoT): как заставить нейросеть рассуждать

Chain of Thought (CoT), или «Цепочка рассуждений» — это метод взаимодействия с нейросетями, при котором искусственный интеллект просят не просто выдать готовый ответ, а расписать весь ход своих мыслей шаг за шагом.

Как работает Chain of Thought?

До появления этого метода большие языковые модели (LLM) часто ошибались в логических и математических задачах. Они пытались угадать ответ сразу, опираясь на вероятности слов, что приводило к абсурдным результатам. Метод Chain of Thought изменил правила игры. Заставляя модель разбивать сложную задачу на промежуточные этапы, мы помогаем ей сохранять фокус и выстраивать правильную логику.

Суть CoT заключается в том, что процесс генерации текста становится похожим на человеческое мышление. Когда мы решаем сложную головоломку, мы не выдаем ответ мгновенно. Мы думаем: «Если А равно Б, а Б равно В, значит...». Нейросети, использующие «цепочку рассуждений», делают то же самое.

Примеры использования

Проще всего понять работу Chain of Thought на сравнении стандартного запроса (промпта) и запроса с использованием цепочки рассуждений.

Стандартный подход (без CoT)

Вопрос: У Маши было 5 яблок. Она отдала 2 яблока Пете, а затем купила еще 4. Половину всех своих яблок она съела. Сколько яблок осталось у Маши?

Ответ нейросети: 3 яблока. (Нейросеть могла ошибиться, попытавшись посчитать все в один шаг).

Подход с использованием CoT

Вопрос: У Маши было 5 яблок. Она отдала 2 яблока Пете, а затем купила еще 4. Половину всех яблок она съела. Сколько яблок осталось у Маши? Рассуждай шаг за шагом.

Ответ нейросети:

• Шаг 1: Изначально у Маши было 5 яблок.
• Шаг 2: Она отдала 2 яблока Пете. Осталось: 5 - 2 = 3 яблока.
• Шаг 3: Маша купила еще 4 яблока. Теперь у нее: 3 + 4 = 7 яблок.
• Шаг 4: Она съела половину. 7 / 2 = 3.5 яблока.
• Итог: У Маши осталось 3.5 яблока.

Как видите, промежуточные вычисления не дают модели сбиться с пути и гарантируют точный результат.

Разновидности Chain of Thought

С развитием промпт-инжиниринга (искусства составления запросов к ИИ) появилось несколько вариаций этого метода:

• Zero-shot CoT: Пользователь просто просит модель мыслить поэтапно, не предоставляя ей никаких готовых примеров. Это самый быстрый и популярный способ общения с современными чат-ботами.
• Few-shot CoT: В этом случае пользователь сначала показывает нейросети 2-3 примера того, как именно нужно рассуждать. Это работает лучше для специфических задач, где требуется особый формат вывода или нестандартная логика.
• Tree of Thoughts (Дерево мыслей): Эволюция CoT. Модель генерирует сразу несколько вариантов следующего шага, оценивает их успешность и выбирает лучшую «ветку» рассуждений, отбрасывая тупиковые.

Почему это важно для искусственного интеллекта?

Использование CoT дает несколько ключевых преимуществ:

• Снижение галлюцинаций: Модель реже выдумывает факты, так как каждый ее шаг логически вытекает из предыдущего.
• Упрощение отладки: Если нейросеть ошиблась, разработчик или пользователь может прочитать цепочку рассуждений и понять, на каком именно этапе произошел сбой.
• Решение сложных задач: Метод позволяет LLM справляться с программированием, сложной математикой и многоуровневыми логическими тестами, которые раньше были им не по зубам.

Интересный факт: Магическая фраза «Давай подумаем шаг за шагом»

Метод Chain of Thought был впервые подробно описан исследователями из Google Brain в начале 2022 года. Но самое забавное открытие произошло чуть позже, когда ученые из Токийского университета и Google представили концепцию Zero-shot CoT (цепочка рассуждений без примеров).

Они выяснили, что не обязательно давать нейросети сложные примеры с расписанными шагами. Достаточно просто добавить в конец любого промпта одну волшебную фразу: «Let's think step by step» (Давай подумаем шаг за шагом). Это простое «заклинание» мгновенно повысило точность решения математических задач моделью GPT-3 с 17% до ошеломляющих 78%! Оказалось, что нужная логика уже была заложена в нейросеть, ей просто нужна была команда, чтобы замедлиться и начать рассуждать вслух.