ERNIE 4.5 VL 28B A3B

Мощная мультимодальная модель Mixture-of-Experts с 28 миллиардами параметров, из которых 3 миллиарда активируются на каждый токен, обеспечивает исключительное понимание текста и изображений благодаря своей инновационной гетерогенной структуре MoE с маршрутизацией, изолированной по модальностям. Построенная на масштабируемой инфраструктуре для высокопроизводительного обучения и вывода, модель использует передовые методы пост-тренировки, включая SFT, DPO и UPO для оптимизированной производительности, поддерживая впечатляющую длину контекста в 131 тысячу и выравнивание RLVR для превосходных возможностей кросс-модального рассуждения и генерации.