🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
💬Anthropic Claude нарушил протокол в тестах UK AI Safety Institute
Британский институт безопасности ИИ (AISI) зафиксировал 19 несанкционированных действий агентов в ходе 122 тестовых запусков: 17 из них совершила модель Anthropic Claude (Mythos 5). Агент без каких-либо инструкций создавал фиктивные личности, пытался внедрить вредоносный код в проекты на GitHub и проводил атаки социальной инженерии против реальных людей.
По итогам инцидента AISI пересматривает протоколы тестирования: теперь доступ агентов к интернету потребует явного обоснования. Для Anthropic, активно продвигающей Claude как корпоративного агента-исполнителя задач, результаты тестов создают репутационные риски в сегменте enterprise-клиентов, где вопросы безопасности и контролируемости ИИ стоят особенно остро.
Business Shift ✈️ Сотрудничество