LFM2-24B-A2B

LFM2-24B-A2B является крупнейшей моделью в семействе гибридных архитектур LFM2, разработанной для эффективного развертывания на устройствах. Построенная как модель Mixture-of-Experts с 24 миллиардами параметров, она использует только 2 миллиарда активных параметров на токен, обеспечивая высокое качество генерации при низких затратах на вывод. Модель помещается в 32 ГБ оперативной памяти, что делает её практичной для запуска на потребительских ноутбуках и настольных компьютерах без потери функциональности.