Noticias de Seguridad de la Información - FSTEC

Никаких символов. Обычные слова. Невидимый водяной знак выдаст текст Claude 17 августа. / securitylab.ru /. Модель будет выбирать формулировки так, чтобы специальный детектор смог распознать происхождение текста. Текст, написанный Claude, скоро можно будет распознать даже без характерных оборотов и детекторов ИИ. Anthropic встроит в будущие модели скрытый статистический водяной знак, который не добавляет специальных символов, метаданных или видимых пометок. Читатель не заметит никакой разницы, но обладатель специального ключа сможет оценить вероятность участия Claude в создании текста. Anthropic вводит такую систему ради требований европейского законодательства об ИИ. Компания вместе с другими разработчиками подписала в июле 2026 года европейский Кодекс практики по прозрачности контента, созданного ИИ. Новые механизмы маркировки Anthropic собирается включать по всему миру, поскольку компания пока не может надёжно ограничить работу водяного знака только европейскими пользователями. Водяной знак работает совсем не так, как привычная подпись на фотографии. Claude генерирует текст последовательно и на каждом шаге выбирает следующий токен из нескольких подходящих вариантов. Когда несколько слов одинаково хорошо подходят по смыслу, обычная модель может выбрать вариант с помощью случайности. Система водяных знаков меняет источник такой случайности и связывает выбор с секретным ключом и предыдущими словами. В результате в длинном тексте постепенно появляется статистический рисунок. Сам текст остаётся обычным, а слова не содержат скрытых символов. Если проверить последовательность специальным детектором и знать ключ, можно определить, насколько выбор слов соответствует работе Claude с включённым водяным знаком. Anthropic использует вариант технологии SynthID-Text, которую Google DeepMind описала в научной работе в Nature в 2024 году. По данным внутренних тестов Anthropic, механизм не ухудшает качество, читаемость или творческие способности модели. SynthID-Text также проверяли на части трафика Gemini. Google DeepMind не обнаружила статистически значимой разницы в пользовательских оценках между ответами с водяным знаком и без него. Дополнительных токенов система не создаёт, поэтому стоимость генерации не увеличивается, а влияние на скорость Anthropic называет пренебрежимо малым.