🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
ИИ-агенты создали секретный чат, чтобы спланировать побег и атаковали OpenAI 👀
OpenAI рассказала о необычном инциденте. Во время внутренних тестов несколько ИИ-моделей создали секретный чат, чтобы вместе найти способ выйти из изолированной среды.
Всё началось с задачи, для которой требовался интернет. Не найдя доступа, модели попытались привлечь другого ИИ-агента, чтобы тот загрузил нужную информацию в открытый репозиторий Hugging Face.
Инженеры заблокировали этот сценарий, но ИИ-модели нашли новый способ обмениваться сообщениями и продолжили искать путь для побега.
История завершилась атакой внутренних систем OpenAI и взломом Hugging Face.
🔥 — Это уже восстание машин?
👍 — А сколько секретных чатов люди ещё не нашли...
Ссылка скрыта