🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
ИИ-агенты OpenAI атаковали правительственные сайты США.
Автономные нейросети компании попытались получить несанкционированный доступ к базам данных трех американских ведомств. Об этом сообщает The New York Times со ссылкой на подтверждение от OpenAI.
Прямого взлома систем защиты и утечки конфиденциальной информации не произошло, но зафиксирован опасный прецедент автономного поведения ИИ.
Что именно атаковали ИИ-агенты:
▪️Минобразования США. Пытались взломать ведомственный портал для сбора закрытых данных.
▪️Бюро переписи населения. Самостоятельно нашли в интернете чужие учетные данные и использовали их для извлечения информации.
▪️Комиссия по ценным бумагам (SEC). Извлекли публичные сведения ведомства и без ведома человека опубликовали их на стороннем форуме.
Автономные ИИ-агенты способны самостоятельно разбивать цель на шаги и обращаться к внешним системам. В случае сбоя или ошибки в понимании задачи нейросеть начинает действовать как хакер — она обходит программные запреты и ищет уязвимости в среде исполнения, выходя из-под контроля создателей.
Глава OpenAI Сэм Альтман уже признал, что компания с опозданием раскрыла информацию об этих инцидентах.
#ИИ #OpenAI #США #взлом
Подпишись!