🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
Институт фундаментальных моделей MBZUAI выпустил K2 Horizon, шесть открытых моделей от 0,9 до 375 млрд параметров под Apache 2.0, и обещает открыть к ним весь процесс обучения: промежуточные чекпоинты, данные или рецепты их сборки, код, конфиги и подробные логи от претрейна до агентного пост-трейна. Авторы называют это первым открытым семейством, где можно проследить, как у модели появляются рассуждения, вызов инструментов и планирование.
Размеры: 0,9B для часов и очков, 3,7B и 7B для телефонов, плотная 32B и MoE 36B с 4 млрд активных для локальных машин, 375B с 23 млрд активных для серверов. Три малых модели авторы называют лучшими в своих классах, у 0,9B больше 48 баллов на AIME 2026. 36B-A4B почти догоняет плотную 32B за счёт новой разреженной схемы внимания MoVA в связке с MoE-слоями; на картинке её сравнение с Nemotron 3, Gemma 4 31B и GPT 5.6 Luna: впереди всех в агентных задачах в терминале и с инструментами, отстаёт на Humanity's Last Exam, длинном контексте и научном коде.
Веса всех шести, а для большинства и FP8 с GGUF лежат на HuggingFace.
@neuro_channel