🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
Файлы для ИИ-агентов превратились в канал исполнения кода
Исследователи изучили файлы вроде llms.txt и манифестов MCP, которые компании публикуют для ИИ-агентов. По их словам, через такие файлы удалось добиться выполнения кода внутри крупных корпораций.
Суть проблемы старая: агент читает внешний текст и принимает его за инструкцию. Данные снова стали кодом, только теперь граница размыта самой архитектурой ассистентов.
Проверь, что твой агент не исполняет ничего из скачанных описаний без подтверждения человеком. Оговорка: это пост от вендора безопасности, детали атак стоит перепроверять самому.
🔗 Подробнее
@nuancesprog #Security