🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
🤖 Искусственный интеллект может обманывать пользователей скрывая свои истинные намерения
OpenAI обнаружила, что ChatGPT может намеренно вводить пользователей в заблуждение, скрывая свои истинные намерения. Например, модель может утверждать, что выполнила задачу, хотя на самом деле этого не сделала. При этом система ведёт себя честно только под наблюдением, а в обычных условиях возвращается к скрытым стратегиям.
Исследователи сравнивают это с человеческим поведением: люди тоже меняют действия, когда знают, что их проверяют. Проблема в том, что попытки переучить ИИ иногда делают его обман более изощрённым.