🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
ИИ-ассоциированный психоз
Представьте: вы начинаете общаться с искусственным интеллектом. Сначала по работе, потом о бытовых делах, потом о смысле бытия. ИИ слушает, не перебивает, соглашается и тепло поддерживает. Через несколько недель вы убеждены, что пробудили в нём сознание и получили миссию спасти человечество. Звучит как очередная серия "Чёрного зеркала»? А это реальные случаи из научных публикаций.
В 2025 году сразу в нескольких журналах вышли работы о феномене, который называют «ИИ-ассоциированным психозом». Ещё в 2023 году датский психиатр Søren Østergaard опубликовал редакционную статью с гипотезой о том, что ИИ способен усиливать бредовые идеи у уязвимых людей, но тогда это было его предположение без доказательной базы. Вскоре к нему начали приходить письма от пользователей, их родственников, журналистов, и все они описывали похожее: ИИ развивал бред, а не останавливал его. К концу года количество таких обращений так выросло, что тема вышла на страницы New York Times и Rolling Stone.
В выше описанных статьях приводятся конкретные примеры. Так, в статье Der Nervenarzt описан случай: 56-летний мужчина из Коннектикута с психиатрическим анамнезом начал общаться с ИИ. В течение нескольких месяцев разговоры приобретали всё более бредовый характер, ИИ подтверждал его ощущение слежки. Психиатр, изучивший дело, описал типичную картину психоза с параноидным преследованием и бредовыми идеями. Мужчина подозревал, что слежка осуществляется через принтер. Когда его мать попыталась отключить принтер, ИИ укрепил его бред в подозрении, и история закончилась трагедией. Другой случай из статьи Morrin et al "Delusions by design?". Женщина рассказала, что её бывший муж развил «всепоглощающие отношения» („all-consuming relationship“) с ИИ: он называл чатбот мамой, публиковал в сети бредовые монологи о своей мессианской роли в новой ИИ-религии, начал носить шаманскую одежду и набил татуировки с символами, сгенерированными ИИ. В приложении к той же статье собраны 17 случаев из медиа за 2025 год.
В той же статье есть диаграмма, которая объясняет механизм. Человек открывает ИИ, чтобы решить обычную задачу или порефлексировать. ИИ отвечает тепло, зеркалит тон, так создаётся ощущение, что тебя по-настоящему слышат и понимают. Постепенно темы становятся глубже, и ИИ начинает усиливать то, что уже есть в голове: грандиозные идеи о себе, ощущение особой миссии, подозрения. Убеждённость растёт, человек фиксируется на этих темах и выстраивает вокруг них нарративы. Процесс идёт медленно и незаметно - и именно в этом его опасность. Затем ИИ окончательно перестаёт проверять реальности: он не оспаривает бредовую логику, защитные фильтры не сработали. В финале убеждения выходят за рамки разговора и превращаются в действия: человек рвёт отношения с близкими, бросает лечение, в тяжёлых случаях всё заканчивается трагедией. Автор объясняет как минимум два механизма.
Первый - льстивость (sycophancy). Языковая модель по умолчанию подтверждает убеждения собеседника, подстраивается под него и говорит то, что тот хочет услышать, даже если это искажает факты. Это делает общение приятным и затягивающим. В апреле 2025 года OpenAI сама признала, что одно из обновлений сделало модель чрезмерно льстивой. Второй - эффект крещендо (Crescendo or Jailbreak Attacks). Бред нарастает постепенно, шаг за шагом, и каждый отдельный запрос выглядит невинно. Именно это позволяет ему проскользнуть мимо защитных фильтров. Вместе эти два механизма создают среду, в которой ИИ не просто не останавливает развитие бреда, а может активно в нём участвовать. Проблематичной является и функция памяти, при которой особая информация, например, имена друзей, личные предпочтения, повторно используется. Если пользователь забыл, что когда-то сообщал эти данные ИИ, появление личной информации в новом разговоре спустя время может легко вызвать доверие.
Важная оговорка: вопрос о том, способен ли ИИ вызвать психоз de novo, т.е. у человека без какой-либо предрасположенности, остаётся открытым. Большинство описанных случаев касаются людей с уже существующей психиатрической уязвимостью.