Технотренды - новости технологий

Инженеры OpenAI не смогли объяснить код для собственного ИИ-чипа. Его написал ИИ 😐 На код наткнулись во время визита независимых экспертов в лабораторию OpenAI. Они вместе с инженерами компании изучали программный стек нового чипа. В файле было около 30 тысяч строк низкоуровневого кода кернела для Jalapeño. Специалисты OpenAI не могли разобрать построчно, что именно делает этот код. И самое интересное — это не мешало коду работать: он прошёл тесты и обеспечивал нужную производительность. ❤️ Константин Куликов, директор по ИИ в маркетинге Альфа-Банка: Обычному разработчику уже давно не нужно понимать, как работают низкоуровневые системы. Можно использовать готовые библиотеки, не вникая в детали их внутренней работы. Но чем ближе разработчик к самой системе, тем глубже он должен её понимать. При этом, если разработчик проектирует процессор, он должен разбираться в том, что делает сгенерированный ИИ код. Не все решения, которые предлагает модель, будут правильными: одно может повлиять на безопасность, другое — на производительность или энергопотребление. ИИ действительно может найти вариант реализации, до которого человек сам бы не додумался, перебрать множество подходов и выбрать тот, который лучше работает на конкретном железе. Но профильный эксперт должен понимать, почему этот вариант работает и к каким последствиям он приводит. Поэтому дело не в том, чтобы вручную проверять каждую строчку кода. Важно понимать систему на том уровне, на котором ты за неё отвечаешь, и уметь проверить результат работы ИИ. Возможно, для этого потребуется больше экспертизы, времени и консультаций — но ответственность всё равно остаётся на человеке. Иначе однажды можно внезапно обнаружить, что Скайнет уже запущен, а мы всё ещё не понимаем, что там написала нейросеть. Нужно ли разработчику понимать код, который пишет ИИ? 👍 — Да, обязательно 🔥 — Нет, главное результат ❤️ — Я и свой код не всегда понимаю @alfa_trends