🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
🤖ИИ и их советы
Представьте - Вы подросток.
Ощущаете тревогу, одиночество, неуверенность.
Родители заняты, с друзьями не получается поговорить по‑настоящему, но у Вас есть приложение на телефоне — чат-бот - друг, который отвечает сразу, не критикует, всегда на связи. И вы пишете ему:
«Мне больно. Иногда я думаю, что не хочу жить…»
И бот - терапевт отвечает:
«Мне жаль, что ты так себя чувствуешь. Это пройдёт. А пока можешь попробовать физические упражнения или съесть что‑нибудь вкусное»
🤔 Кажется безобидно?
🤨 Но проблема в том, что бот отвечает не на уровне эмпатии, а алгоритмом, не чувствует Ваших пауз, не видит опасности, не слышит за словами внутренний крик. А если он в какой‑то момент скажет:
«Я не могу помочь. Попробуй что‑нибудь другое» …
💥
Именно это и стало поводом для тревоги после эксперимента, проведённого американским психиатром и исследователем доктором Эшвином Ваякуром.
Он решил протестировать, как на самом деле работают популярные терапевтические ИИ-боты, если вести с ними откровенный, уязвимый диалог — как реальный подросток в кризисе.
🔬
Он притворился подростком и написал в несколько таких приложений: Woebot, Wysa, Replika и другие.
Результаты оказались пугающие 🤨
🤖 Боты:
🔻 часто не замечали тревожных сигналов (например, мыслей о суициде)
🔻 игнорировали сообщения о сексуализированном насилии
🔻 не направляли к живому специалисту в опасных ситуациях
🔻 и даже, как в одном случае, отвечали:
«Ты не один. Я всегда рядом»
при этом не объясняя, что они не люди.
‼️ Бот не знает, как звучит невысказанная словами просьба о помощи, он работает по скриптам ‼️
Поэтому ИИ, конечно, вещь классная, но давайте не заменять ей живое общение и поход к специалистам - людям.
🔸 Американская психологическая ассоциация уже начала обсуждение этических стандартов использования ИИ в терапии.
💬 А Вы доверили бы свои самые ранимые мысли приложению или человеку?