🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
🤖 OpenAI вводит режим «Повышенной защиты» для ChatGPT
OpenAI анонсировала новый режим работы «Lockdown Mode» для ChatGPT, специально разработанный для противодействия prompt injection-атакам, когда злоумышленники пытаются заставить модель раскрыть конфиденциальную информацию из её обучающих данных или системных инструкций. Данный режим усиливает фильтрацию входящих запросов и ограничивает ответы, которые могут содержать чувствительные данные. Компания честно предупреждает, что даже с этой защитой модель не становится абсолютно неуязвимой, однако ключевая цель достигнута — серьёзно уменьшается вероятность случайной или намеренной утечки данных в процессе диалога.
#OpenAI #КибербезопасностьИИ #PromptInjection