🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
Гигантскую модель на 27 млрд параметров теперь можно запустить дома — разрабы из PrismML выпустили Bonsai 2 27B на базе ужатой в 9 раз (!) Qwen3.8.
Веса модели пересобрали со значениями −1, 0 и +1, благодаря чему она теперь занимает 5,9 ГБ вместо 54 ГБ у обычной Qwen. Качество почти не пострадало: сохранилось 98,2% исходного результата. Контекстное окно до 262 тысяч токенов.
Ваш карманный монстр ждёт — забираем.
@exploitex