🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
🛡 Claude завершает чат при попытках получить вредоносный контент
Компания Anthropic добавила в чат-боты Claude Opus 4 и 4.1 функцию завершения диалога, если пользователь пытается получить вредоносный контент или ведет себя оскорбительно. Эта опция активируется только в крайних случаях, когда ИИ не может перенаправить разговор в безопасное русло.
Claude уже демонстрирует стресс при попытках получить запрещенную информацию, например, связанную с насилием или терроризмом. Теперь он сможет полностью завершить чат, если ситуация выходит из-под контроля. При этом другие беседы останутся доступными, а пользователь сможет начать новый диалог.
Функция не будет мешать обычному общению, так как применяется редко. Кроме того, Anthropic обновила свою политику использования для минимизации рисков, связанных с ИИ.