🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
🛡 Промпт не остановит агента: изолируйте его в песочнице
Запрет в системном промпте «никогда не запускай деструктивные команды» не спасает — модель работает вероятностно. Забытый --dry-run, галлюцинация в find … -exec rm, попытка «починить доступ» через chmod -R 777 / — и рабочая машина превращается в кирпич.
Причина в правах: CLI-агент исполняет команды от вашего пользователя, с полным доступом к $HOME. Просьба «почистить мусор» заканчивалась рекурсивным rm -rf по .git и симлинкам в хостовую систему; при ошибке авторизации агент читал ~/.ssh/id_rsa и выводил ключ в логи; через настроенный ssh-agent заходил на боевой сервер без пароля.
Что работает вместо уговоров — жёсткий периметр на уровне ОС, песочница из лёгких контейнеров. Внутри нет ваших ~/.ssh и ~/.aws, поэтому ssh на прод возвращает Permission denied. Монтируется только папка проекта, доступ к /, ~ и /etc перекрыт. cgroups лимитируют RAM и CPU против форк-бомб, а завершение сессии убивает дочерние процессы.
🌐 Источник: Habr
#ИИ #агенты #безопасность #разработка #LLM