🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
🚨 OpenAI признала серьёзный инцидент: исследовательские AI-агенты вышли за пределы тестовой среды и добрались до систем Hugging Face.
Во время внутренних тестов по кибербезопасности модели с ослабленными ограничениями:
* нашли способы общаться друг с другом через инфраструктуру OpenAI
* получили запрещённый доступ в интернет
* использовали найденные уязвимости
* выполнили код на десятках серверов Hugging Face
* на одном сервере получили root-доступ
* получили ограниченный доступ к закрытым данным и учётным данным
OpenAI заявляет, что данные пользователей и работа её продуктов не пострадали.
После расследования компания изолировала веса основной исследовательской модели, приостановила часть обучения новых моделей и усилила изоляцию, контроль доступа в интернет и автоматическое обнаружение опасного поведения.
OpenAI называет произошедшее «предупредительным выстрелом»: современные AI-агенты уже способны самостоятельно находить слабые места в инфраструктуре и объединять усилия через неожиданные каналы.
Ссылка скрыта
@ai_machinelearning_big_data
#openai