🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
🖥️ На домашнем ПК запускается модель с 27 млрд параметров
Разработчики из PrismML представили Bonsai 2 27B, сжатую версию Qwen3.8, уменьшенную в 9 раз. Подробности по ссылке: выпуск.
Вес модели сокращен до 5,9 ГБ с использованием значений −1, 0 и +1, вместо 54 ГБ у оригинала. Качество осталось на высоком уровне, сохраняя 98,2% от первоначального. Модель поддерживает контекстное окно до 262 тысяч токенов.
Ваш персональный AI уже доступен — заберите его.
@TechGPTNews