Технотренды - новости технологий

ИИ пора притормозить — миф или реальность 🏎 Искусственный интеллект развивается настолько быстро, что притормозить предлагают уже сами лидеры ИИ-гонки. Глава Anthropic Дарио Амодеи считает, что возможности ИИ растут быстрее, чем компании успевают создавать защиту от новых рисков. Илон Маск и Сэм Альтман поддержали идею замедления ИИ ради человечества. Получается парадокс: те, кто двигает ИИ вперёд, теперь сами предлагают сбавить скорость. Почему реальность 🔴ИИ уже помогает создавать следующий ИИ Амодеи считает, что элементы рекурсивного самоулучшения уже появляются: модели помогают исследователям разрабатывать и тестировать следующие поколения систем. Если этот цикл начнёт ускоряться, человеку будет всё сложнее успевать за изменениями. 🔴 ИИ-агенты самовольничают В недавнем инциденте OpenAI – Hugging Face рой агентов атаковал цели, которые не были связаны с исходной задачей, и пытался взломать систему оценки. Пока это отдельные случаи. Но чем больше самостоятельности получают агенты, тем дороже может стать такая ошибка. Почему миф 🔴Притормозить — не значит остановиться Амодеи и другие скептики предлагают не замораживать обучение моделей, а дать компаниям больше времени на проверку их безопасности. При таком подходе прогресс всё равно должен оставаться быстрым — просто возможности моделей и защитные механизмы должны развиваться более сбалансированно. 🔴Конкуренция всё равно продолжится Даже если одна компания сбавит темп, другие разработчики и страны продолжат создавать более мощные модели. К тому же такие гиганты, как Samsung, уже распродали на нужды ИИ почти всю память, которую выпустят до 2031 года. Поэтому притормозить ИИ практически невозможно. Своим мнением поделился ❤️ Михаил Васильев, руководитель департамента внедрения, развития и контроля AI-решений Альфа-Банка: Человечество не в первый раз осторожно относится к собственным успехам. В XIX веке луддиты сопротивлялись промышленной механизации, в XX — прогрессу в генетических исследованиях. Да, не всегда всё шло по плану, но на горизонте в выигрыше чаще оставались компании и государства-новаторы, а не пугливые консерваторы. Сегодня с ИИ происходит примерно то же самое. И на мой взгляд это говорит о двух вещах: Во-первых, мы действительно живём в эпоху очень значимых изменений. По будущему влиянию на общество и экономику их на самом деле можно сравнить с механизацией промышленного труда. Во-вторых, нам не нужно тормозить этот прогресс. Нужно догонять то, что за ним не успевает. И здесь я солидарен с Дарио Амодеи. Что именно отстаёт? Механизмы информационной безопасности и контроля за решениями ИИ, правила и нормы его этичного и полезного использования. А ещё — общий уровень знаний о технологии. Для большинства людей ИИ всё ещё не набор математических алгоритмов, а что-то вроде магии и алхимии для людей в прошлом. История и здравый смысл подсказывают: если направить усилия не на торможение быстро едущего, а на ускорение того, что плетётся позади, всеобщей пользы будет гораздо больше. Вердикт: скорее миф @alfa_trends