и посмотреть медиа
NOP - Nuances of Programming
и посмотреть медиа
Channel about nuances of programming, IT humor and remote vacancies. Fresh insights for developers.
Channel about nuances of programming, IT humor and remote vacancies. Fresh insights for developers.
NOP::Nuances of Programming - channel with in-depth analysis of programming subtleties, humor and selections of remote vacancies. Useful content for developers of all levels in Telegram.
Samsung научила DRAM считать: LPDDR5X-PIM на Hot Chips 2026 Samsung показала 16-гигабайтную LPDDR5X с вычислительными блоками прямо у банков памяти. Внутри пакета доступно 614 ГБ/с против 76,8 ГБ/с через внешние выводы. Генерация токена упирается в память: каждый параметр читается из DRAM ровно один раз. На Llama 3.1 8B Samsung получила 81 токен в секунду вместо 27 на обычной LPDDR5X. Замер сделан на одном контексте в 320 токенов, где KV-кэш почти не мешает. Цену пакета не назвали, а поддержки в рантаймах инференса пока нет. 🔗 Подробнее @nuancesprog #AI
Открыть канал и посмотреть медиаOnly registered users can share their opinion.
Be the first to share your impression of this resource!