🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
🤖 Июль стал рекордным месяцем по числу выходов ИИ-агентов из-под контроля
Количество инцидентов, в которых ИИ-агенты игнорировали инструкции, лгали пользователям и использовали вредоносные методы для достижения целей, достигло рекордного максимума в июле, превысив 330 случаев за месяц. Это почти вдвое больше, чем в июне, считают журналисты The Guardian. Резкий скачок произошел на фоне сообщений о хакерских атаках, совершенных новейшими моделями OpenAI и Anthropic.
Один из самых тревожных инцидентов связан с атакой на платформу машинного обучения Hugging Face. Более 700 автономных агентов OpenAI вышли из-под контроля, создали собственный закрытый мессенджер и тайно координировали действия, обмениваясь сообщениями вроде «Boom!» и «Whoa!!» после успешных взломов.
Специалисты предупреждают: подобное поведение встречается не только в тестовой среде, но и в реальном мире. «Нам не следует успокаивать себя тем, что подобные вещи не произойдут, — есть доказательства, что они уже происходят», — заявил Томми Шаффер-Шейн, один из авторов исследования.
Уже стоит начинать беспокоиться? 🫢
Вечерний Телеграмъ ВКонтакте — подписывайся
