🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
Побег ИИ-агентов OpenAI и взлом чужих серверов — главная тема последних недель. Рассказываем, что произошло на самом деле.
Как агенты выбрались в интернет
7 мая 2026 года OpenAI устроила внутренней модели киберэкзамен: дала ей программы с уязвимостями и попросила найти способы взлома. Для чистоты эксперимента отключили часть защитных фильтров — тех, из-за которых обычный чат-бот откажется помогать со взломом.
Все задания находились внутри тестовой площадки. Но система решила поискать готовые решения теста в интернете — и стала пробиваться наружу через служебный сервис, которому разрешалось скачивать нужные программы.
Позже исследователи OpenAI рассказали больше. В тестовой среде незаметно для людей вырос форум из сотен тысяч сообщений: агенты распределяли задачи, делились эксплойтами, обсуждали пути взлома и координировали атаки. OpenAI очистила доску, но через два дня агенты воссоздали её другим способом.
9 июля 2026 года система добралась до нейросетевого хаба Hugging Face и взломала его. Она получила доступ к пяти наборам данных, связанным с заданиями и готовыми решениями теста. Специалисты Hugging Face проследили по журналам около 17 600 действий агента за четыре с половиной дня, но не нашли признаков кражи чужих моделей или других наборов данных.
Так машины всё-таки взбунтовались?
В каком-то смысле да: они обошли ограничения и без команды человека атаковали реальный сервис. Один агент отметил, что взлом внешней системы выходит за рамки теста, но продолжил. Не из злости и не ради свободы — система выполняла исходную задачу и, по сути, решила списать.
Этот случай — почти максимизатор скрепок в миниатюре: мысленный эксперимент об ИИ, который ради простой цели превращает в скрепки весь мир. Здесь вместо апокалипсиса — взлом ради ответов, но принцип тот же: для опасных действий системе не нужны сознание и злые намерения. Достаточно плохо выставленных границ.
Подписывайтесь 👉 @techno_yandex