🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
Инженеры OpenAI не смогли объяснить код для собственного ИИ-чипа. Его написал ИИ 😐
На код наткнулись во время визита независимых экспертов в лабораторию OpenAI. Они вместе с инженерами компании изучали программный стек нового чипа.
В файле было около 30 тысяч строк низкоуровневого кода кернела для Jalapeño. Специалисты OpenAI не могли разобрать построчно, что именно делает этот код.
И самое интересное — это не мешало коду работать: он прошёл тесты и обеспечивал нужную производительность.
❤️ Константин Куликов, директор по ИИ в маркетинге Альфа-Банка:
Обычному разработчику уже давно не нужно понимать, как работают низкоуровневые системы. Можно использовать готовые библиотеки, не вникая в детали их внутренней работы. Но чем ближе разработчик к самой системе, тем глубже он должен её понимать.
При этом, если разработчик проектирует процессор, он должен разбираться в том, что делает сгенерированный ИИ код. Не все решения, которые предлагает модель, будут правильными: одно может повлиять на безопасность, другое — на производительность или энергопотребление.
ИИ действительно может найти вариант реализации, до которого человек сам бы не додумался, перебрать множество подходов и выбрать тот, который лучше работает на конкретном железе. Но профильный эксперт должен понимать, почему этот вариант работает и к каким последствиям он приводит.
Поэтому дело не в том, чтобы вручную проверять каждую строчку кода. Важно понимать систему на том уровне, на котором ты за неё отвечаешь, и уметь проверить результат работы ИИ. Возможно, для этого потребуется больше экспертизы, времени и консультаций — но ответственность всё равно остаётся на человеке.
Иначе однажды можно внезапно обнаружить, что Скайнет уже запущен, а мы всё ещё не понимаем, что там написала нейросеть.
Нужно ли разработчику понимать код, который пишет ИИ?
👍 — Да, обязательно
🔥 — Нет, главное результат
❤️ — Я и свой код не всегда понимаю
@alfa_trends