и посмотреть медиа
Machinelearning - ML and Data Science
и посмотреть медиа
Channel about machine learning and Data Science. Practical instructions for running LLMs and neural networks on simple devices.
Channel about machine learning and Data Science. Practical instructions for running LLMs and neural networks on simple devices.
Machinelearning - channel for deep immersion into the world of machine learning and Data Science. Here they explain how to run any LLM with simple steps, share practical examples and tips. Ideal for those who want to master neural networks without complex tools.
✔️ Micron показала серверный модуль DDR5 на 512 ГБ Новинка адресована большим языковым моделям, агентным системам, инференсу в реальном времени и базам данных в памяти: по словам компании, больший объём оперативной памяти позволяет реже обращаться к медленным накопителям. Регистровый модуль рассчитан на скорость до 9200 MT/s. AMD и Intel сейчас проверяют его на своих серверных платформах. В двухпроцессорном сервере с 24 слотами такие модули дают до 12 ТБ оперативной памяти. По замерам Micron, один модуль на 512 ГБ потребляет 16 Вт против 44,2 Вт у четырёх модулей по 128 ГБ, то есть почти на 64% меньше при том же объёме. В аналитике на Spark, где узким местом служит память, модуль, по данным Micron, до 1,4 раза производительнее конфигураций с модулями на 256 ГБ. Массовое производство ожидается во второй половине 2027 года. @ai_machinelearning_big_data #news #ai #ml
Открыть канал и посмотреть медиаOnly registered users can share their opinion.
Be the first to share your impression of this resource!