🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
ИИ пора притормозить — миф или реальность 🏎
Искусственный интеллект развивается настолько быстро, что притормозить предлагают уже сами лидеры ИИ-гонки.
Глава Anthropic Дарио Амодеи считает, что возможности ИИ растут быстрее, чем компании успевают создавать защиту от новых рисков.
Илон Маск и Сэм Альтман поддержали идею замедления ИИ ради человечества. Получается парадокс: те, кто двигает ИИ вперёд, теперь сами предлагают сбавить скорость.
Почему реальность
🔴ИИ уже помогает создавать следующий ИИ
Амодеи считает, что элементы рекурсивного самоулучшения уже появляются: модели помогают исследователям разрабатывать и тестировать следующие поколения систем.
Если этот цикл начнёт ускоряться, человеку будет всё сложнее успевать за изменениями.
🔴 ИИ-агенты самовольничают
В недавнем инциденте OpenAI – Hugging Face рой агентов атаковал цели, которые не были связаны с исходной задачей, и пытался взломать систему оценки.
Пока это отдельные случаи. Но чем больше самостоятельности получают агенты, тем дороже может стать такая ошибка.
Почему миф
🔴Притормозить — не значит остановиться
Амодеи и другие скептики предлагают не замораживать обучение моделей, а дать компаниям больше времени на проверку их безопасности.
При таком подходе прогресс всё равно должен оставаться быстрым — просто возможности моделей и защитные механизмы должны развиваться более сбалансированно.
🔴Конкуренция всё равно продолжится
Даже если одна компания сбавит темп, другие разработчики и страны продолжат создавать более мощные модели.
К тому же такие гиганты, как Samsung, уже распродали на нужды ИИ почти всю память, которую выпустят до 2031 года. Поэтому притормозить ИИ практически невозможно.
Своим мнением поделился ❤️ Михаил Васильев, руководитель департамента внедрения, развития и контроля AI-решений Альфа-Банка:
Человечество не в первый раз осторожно относится к собственным успехам. В XIX веке луддиты сопротивлялись промышленной механизации, в XX — прогрессу в генетических исследованиях.
Да, не всегда всё шло по плану, но на горизонте в выигрыше чаще оставались компании и государства-новаторы, а не пугливые консерваторы.
Сегодня с ИИ происходит примерно то же самое. И на мой взгляд это говорит о двух вещах:
Во-первых, мы действительно живём в эпоху очень значимых изменений. По будущему влиянию на общество и экономику их на самом деле можно сравнить с механизацией промышленного труда.
Во-вторых, нам не нужно тормозить этот прогресс. Нужно догонять то, что за ним не успевает. И здесь я солидарен с Дарио Амодеи.
Что именно отстаёт? Механизмы информационной безопасности и контроля за решениями ИИ, правила и нормы его этичного и полезного использования. А ещё — общий уровень знаний о технологии. Для большинства людей ИИ всё ещё не набор математических алгоритмов, а что-то вроде магии и алхимии для людей в прошлом.
История и здравый смысл подсказывают: если направить усилия не на торможение быстро едущего, а на ускорение того, что плетётся позади, всеобщей пользы будет гораздо больше.
Вердикт: скорее миф
@alfa_trends