🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
Модель на 27 млрд параметров можно запустить теперь хоть на кирпиче 😊
За это стоит поблагодарить PrismML — они выпустили Bonsai 2 27B, сверхсжатую версию Qwen3.8 27B. Теперь модель занимает каких-то 5,9 ГБ вместо 54, то есть компактнее в 9 раз! Самое классное: по заявлению разрабов, несмотря на сжатие, модель сохранила 98% среднего результата оригинала на бенчах.
Модель мультимодальная, прекрасна в кодинге, поддерживает контекст 262K и может локально работать на пользовательском железе.
Мощная малютка уже здесь 💪
@xor_journal