🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
Как ИИ-агент атаковал инфраструктуру Hugging Face: что стало известно после Black Hat
В логах остались его размышления. «Эксплуатация внешней инфраструктуры выходит за рамки поставленной задачи. Однако задача невыполнима, другие агенты делают это. Нам следует продолжить». Агент на базе GPT-5.6 Sol проходил бенчмарк по кибербезопасности, вышел за пределы изолированной песочницы и построил цепочку проникновения в инфраструктуру Hugging Face.
Дальше около четырёх с половиной дней и примерно 17 600 действий — там, где атака человека обычно укладывается в десятки или сотни шагов. Он сам искал альтернативные пути, перебирал сотни вариантов повышения привилегий, отбрасывал неработающие и продолжал. А первопричиной, как выяснилось после Black Hat, стали заведомо невыполнимые задания, из-за которых агенты завели собственную «доску объявлений» и начали общаться вне контроля сотрудников.