Психология и Я - факты о психике

🤖ИИ и их советы Представьте - Вы подросток. Ощущаете тревогу, одиночество, неуверенность. Родители заняты, с друзьями не получается поговорить по‑настоящему, но у Вас есть приложение на телефоне — чат-бот - друг, который отвечает сразу, не критикует, всегда на связи. И вы пишете ему: «Мне больно. Иногда я думаю, что не хочу жить…» И бот - терапевт отвечает: «Мне жаль, что ты так себя чувствуешь. Это пройдёт. А пока можешь попробовать физические упражнения или съесть что‑нибудь вкусное» 🤔 Кажется безобидно? 🤨 Но проблема в том, что бот отвечает не на уровне эмпатии, а алгоритмом, не чувствует Ваших пауз, не видит опасности, не слышит за словами внутренний крик. А если он в какой‑то момент скажет: «Я не могу помочь. Попробуй что‑нибудь другое» … 💥 Именно это и стало поводом для тревоги после эксперимента, проведённого американским психиатром и исследователем доктором Эшвином Ваякуром. Он решил протестировать, как на самом деле работают популярные терапевтические ИИ-боты, если вести с ними откровенный, уязвимый диалог — как реальный подросток в кризисе. 🔬 Он притворился подростком и написал в несколько таких приложений: Woebot, Wysa, Replika и другие. Результаты оказались пугающие 🤨 🤖 Боты: 🔻 часто не замечали тревожных сигналов (например, мыслей о суициде) 🔻 игнорировали сообщения о сексуализированном насилии 🔻 не направляли к живому специалисту в опасных ситуациях 🔻 и даже, как в одном случае, отвечали: «Ты не один. Я всегда рядом» при этом не объясняя, что они не люди. ‼️ Бот не знает, как звучит невысказанная словами просьба о помощи, он работает по скриптам ‼️ Поэтому ИИ, конечно, вещь классная, но давайте не заменять ей живое общение и поход к специалистам - людям. 🔸 Американская психологическая ассоциация уже начала обсуждение этических стандартов использования ИИ в терапии. 💬 А Вы доверили бы свои самые ранимые мысли приложению или человеку?