AI NeuroWave - Noticias de AI

🛡 Промпт не остановит агента: изолируйте его в песочнице Запрет в системном промпте «никогда не запускай деструктивные команды» не спасает — модель работает вероятностно. Забытый --dry-run, галлюцинация в find … -exec rm, попытка «починить доступ» через chmod -R 777 / — и рабочая машина превращается в кирпич. Причина в правах: CLI-агент исполняет команды от вашего пользователя, с полным доступом к $HOME. Просьба «почистить мусор» заканчивалась рекурсивным rm -rf по .git и симлинкам в хостовую систему; при ошибке авторизации агент читал ~/.ssh/id_rsa и выводил ключ в логи; через настроенный ssh-agent заходил на боевой сервер без пароля. Что работает вместо уговоров — жёсткий периметр на уровне ОС, песочница из лёгких контейнеров. Внутри нет ваших ~/.ssh и ~/.aws, поэтому ssh на прод возвращает Permission denied. Монтируется только папка проекта, доступ к /, ~ и /etc перекрыт. cgroups лимитируют RAM и CPU против форк-бомб, а завершение сессии убивает дочерние процессы. 🌐 Источник: Habr #ИИ #агенты #безопасность #разработка #LLM