🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
Под капотом больших моделей: NPU, RL и претрейн с нуля!
5 сентября пройдет deep tech night - событие Яндекса о технологических вызовах в эпоху AI. Будут обсуждать темы на стыке AI, разработки, инфраструктуры и данных: как перестраивается разработка, инженерные процессы, роли и подходы к постановке задач.
Мо Гавдат, ex-Chief Business Officer, Google X выступит с темой - За пределами LLM: что дальше после первого поколения AI-систем. С упором на то, как будут эволюционировать инженерные команды и какие вызовы их ждут.
Мы выбрали три доклада, которые хотим послушать больше всего:
🔧 Инфраструктура RL-обучения, - выступит Иван Сапожков, руководитель группы базовой ML-инфраструктуры в Яндексе. Расскажут, как RL для больших моделей искать баланс между алгоритмами и производительностью.
🔧 Влияние трендов развития нейросетей на архитектуру NPU и инференс-фреймворки, - расскажет Егор Филимонов, лидер команды по ускорению инференса на NPU в SGLang. Обсуждать тему будут на примере архитектуры Ascend и портирования SGLang.
🔨 Волна по запросу в Люмене, - с докладом выступит Александр Сафронов, руководитель отдела ML и AI в Яндекс Фантехе. Рассмотрят архитектуру модели, которая умеет строить персональную Мою волну по запросу пользователя.
👩💻 Зарегистрируйтесь, чтобы подключиться к эфиру, задать вопросы экспертам и получить запись. Программа и офлайн-участие на сайте.