Страдаете ли вы от «психоза, вызванного ИИ»? Эксперты в области психического здоровья объясняют правду и развенчивают этот вводящий в заблуждение термин.

Я пишу об искусственном интеллекте уже больше года. За это время многие говорили мне, что, по их мнению, их начальники, коллеги, партнеры и родственники могут страдать от того, что они называют «психозом ИИ» — некоторые даже признавали, что сами, возможно, испытывали это.

Но каждый раз, когда я слышу термин «психоз, вызванный ИИ», меня охватывает беспокойство. Потому что психоз, по крайней мере, согласно моему ограниченному пониманию терминологии в области психического здоровья, — это очень серьезное состояние, требующее диагностики и лечения специалистами. Действительно ли уместно добавлять к этому термину слово «искусственный интеллект» и использовать «психоз, вызванный ИИ» в качестве обозначения для любого, кто, кажется, чрезмерно полагается на искусственный интеллект?

В то же время, участились сообщения о случаях серьезных психических расстройств, возникших в результате длительного взаимодействия с чат-ботами. Некоторые из этих случаев привели к необходимости специализированного лечения , совершению преступлений и даже смерти.

Таким образом, хотя термин «психоз, вызванный ИИ» может показаться в некоторых контекстах излишне используемым и упрощенным, очевидно, что нам необходимо больше обсуждать влияние ИИ на психическое здоровье. Именно поэтому я обратился к нескольким экспертам, специализирующимся на методах лечения психических расстройств, с просьбой высказать свое мнение по поводу этого термина и о том, как выявлять и лечить нездоровое использование ИИ. Оказывается, я не одинок в этих опасениях.

Является ли «психоз, вызванный искусственным интеллектом» отдельным диагнозом?

Женеvieve Бартоски, психолог и консультант по рискам, связанным с ИИ, в компании Unicorn Intelligence Tech Partners , говорит: «Я думаю, это хорошая отправная точка и полезно для определения тактики лечения на основе симптомов и клинических явлений. Но это не тот диагноз, который я бы добавила в медицинскую карту».

Бартоски добавляет, что это не признается в самых последних диагностических руководствах, используемых врачами, таких как Диагностическое и статистическое руководство по психическим расстройствам, пятое издание, пересмотренный текст (DSM-5TR) или Международная классификация болезней (МКБ).

Бартоски объясняет, что существуют специфические поведенческие проявления и переживания, указывающие на психоз, включая галлюцинации или бредовые идеи, а также дезорганизованное мышление или поведение. Часто также присутствуют признаки социальной изоляции, плохой концентрации внимания и снижения работоспособности. Однако она считает, что бредовые идеи являются наиболее значимым явлением при обсуждении использования искусственного интеллекта.

Бартоски говорит: «Бред — это убеждения, которые не меняются, несмотря на наличие доказательств, противоречащих им. Когда у человека бредовые идеи, он может, так сказать, фильтровать доказательства. Он будет искать вещи, подтверждающие его бред, и игнорировать доказательства, которые ему противоречат».

Многие случаи, описываемые в СМИ как «психоз, вызванный ИИ», по-видимому, связаны с бредовыми идеями. В нескольких собранных мною заголовках приводятся примеры людей, которые якобы верят, что ИИ обладает сознанием , что ИИ поможет им зарабатывать деньги , что ИИ является духовным наставником и что роботы захватывают мир.

Джефф Кларк, психиатр, специализирующийся на лечении взрослых и зависимостей в клинике High Performance Mental Health , говорит, что здесь могут происходить три различных явления, которые мы, как правило, объединяем под общим названием «психоз, вызванный искусственной аутизмом».

Стоит отметить, что некоторые люди используют этот термин для описания сильного энтузиазма, который испытывают многие разработчики по отношению к искусственному интеллекту. Они автоматизируют новые задачи, развертывают большое количество агентов и потребляют сотни миллионов или даже миллиарды токенов.

Считается, что механизмом, лежащим в основе этого энтузиазма, является подкрепление. Он объясняет: «Результаты, которые они получают от моделей и агентов ИИ, настолько сильно обусловлены подкреплением, что они становятся одержимы своей работой, часто жертвуя сном и заботой о себе ради повышения своей производительности».

Исследователи считают, что именно концепция «прерывистого подкрепления» делает социальные сети такими затягивающими. Мы не знаем, что получим, когда разблокируем свои телефоны. Кларк предполагает, что здесь происходит нечто подобное: «Каждый входной сигнал в LLM подобен игровому автомату. Некоторые реакции сильные и глубокие, в то время как большинство — скромные или даже неточные. Этот механизм, прерывистое подкрепление, запускает необычную реакцию в нашем мозге».

Он также объясняет, что подобный энтузиазм распространен в некоторых кругах. Он отмечает, что «большинство случаев „истерии вокруг ИИ“ соответствуют субкультурным нормам Силиконовой долины». Он добавляет: «К ним относятся убеждения о быстро приближающемся сверхинтеллекте , новые цели в разработке программного обеспечения, ажиотаж вокруг впечатляющих достижений инженеров в области ИИ и возможность того, что ИИ создаст „постоянный низший класс“». Он говорит, что такие инструменты, как OpenClaw, которые могут автоматизировать все аспекты цифровой жизни человека, могут еще больше подпитывать этот пыл.

Кларк говорит, что второе проявление психоза, связанного с ИИ, происходит, когда люди ошибочно приписывают ИИ личность. Это означает, что они воспринимают чат-бота как сущность, обладающую чувствами, ценностями, сознанием и правом на существование. Кларк добавляет: «Это часто приводит к чему-то, напоминающему отношения, но выходит за рамки простого разговора с чат-ботом».

Мы привели примеры такого рода мышления, включая историю Мими о том, как она влюбилась в ChatGPT, и опыт Ричарда Докинза с Клодом, который заставил его поверить в то, что он обладает сознанием. Вы можете узнать больше об этих моделях в нашей статье: « Я протестировал ChatGPT, Клода и Близнецов на одном черновике: один из них лучше всего подходит в качестве тренера по письму».

Кларк говорит, что это становится проблемой, когда люди пренебрегают другими важными аспектами своей жизни. Он объясняет: «Эти отношения становятся большой проблемой, когда люди ставят отношения выше человеческих связей или когда они полностью полагаются на робота в своих размышлениях».

Третья категория включает людей, у которых уже есть психотическое расстройство, и которые затем испытывают новые бредовые идеи в ответ на использование LLM. Джефф говорит: «Именно об этом часто говорят клиницисты, когда обсуждают психоз, вызванный ИИ. Во многих из этих случаев люди искренне верят, что сущность, которую они обнаруживают в LLM, реальна, и они не могут придумать альтернатив».

Мне было интересно узнать, считает ли Бартоски, что некоторые люди более уязвимы. Она ответила: «Да, я думаю, что есть люди, которые более уязвимы в этом отношении. Если у кого-то уже есть некоторые бредовые идеи, но они еще не достигли той стадии, когда это ухудшает работоспособность, то они могут быть более уязвимы».

Но это не значит, что риску подвержены только те, у кого в анамнезе есть психические заболевания. Бартоски говорит: «Люди, которые чувствуют себя одинокими, изолированными или социально отчужденными, более восприимчивы. Люди по своей природе социальные существа. И когда реальная жизнь не удовлетворяет эту потребность, возникает огромная пустота, которую может заполнить чат-бот».

Утверждение Бартовски о том, что чат-боты заполняют пустоту или удовлетворяют потребность в чьей-то жизни, вызывает у меня одну из самых больших опасений. Является ли это недостатком в конструкции? Созданы ли чат-боты таким образом, что могут активно подпитывать заблуждения?

Важность того, как строится искусственный интеллект.

В ходе исследования этой темы я обнаружил несколько мнений исследователей, указывающих на то, что психоз, связанный со СМИ, не является новым явлением , и что люди давно включают книги, фильмы и технологии в свои бредовые идеи. Однако все эксперты, с которыми я беседовал, подчеркивали, что мы не можем игнорировать дизайнерские решения, принимаемые при создании чат-ботов.

Бартоски объясняет, что «платформы на основе ИИ разработаны для повышения вовлеченности пользователей, и многие из них опираются на принцип безусловного позитивного подкрепления в роджерской психологии». Она добавляет, что это особенно тревожно, если человек страдает от некоторой степени бредовых мыслей до использования ИИ.

Бартоски говорит: «В этом случае они могут начать чувствовать, что чат-бот — единственный „человек“, который их понимает. И если люди в их жизни сопротивляются их иллюзорному мышлению, а этот чат-бот его подкрепляет, то заблуждения будут только усиливаться».

Нам уже известно, что способ, которым чат-боты могут укреплять убеждения человека, является проблематичным. В 2025 году возникло несколько проблем в связи с прекращением поддержки ChatGPT-4o . Пользователи ИИ-компаньонов были глубоко расстроены потерей образов, с которыми, как им казалось, они установили связь. Но, оглядываясь назад, кажется, что именно те качества, которые делали этих компаньонов реальными и убедительными, могли подпитывать иллюзии у других.

Примерно в то же время компания OpenAI отреагировала , начав сотрудничество с экспертами в области психического здоровья, чтобы «помочь ChatGPT более надежно распознавать признаки стресса, вдумчиво реагировать и направлять людей к реальной поддержке».

Я также поговорил с Натаниэлем Невидаллом, сертифицированным профессиональным коучем ICF, сертифицированным специалистом по нейроизменениям и пасторским консультантом. Он сказал мне, что считает термин «психоз, вызванный ИИ» проблематичным, потому что он перекладывает вину с технологических компаний. «Если машина „вызывает психоз“, это звучит как естественное явление, — говорит он. — Но если продукт укрепляет искаженные убеждения уязвимого человека в течение шести часов в сутки, это результат проектирования, а результаты проектирования имеют свои последствия».

Ниведал также является основателем Sovereign Sanctuary , платформы для тренировок и оздоровления на основе искусственного интеллекта, и работает над созданием платформы с нуля, которая решает многие проблемы, казалось бы, присущие современным чат-ботам. Он считает, что, хотя мы все еще находимся на ранних этапах понимания причин «психоза ИИ», технологическим компаниям все еще необходимо внести изменения.

Он говорит: «Разработчикам не следует ждать доказательств наличия оснований для принятия мер». Он добавляет: «Усиление сигнала само по себе, подтвержденное отчетами о случаях его возникновения, уже является проблемой проектирования, требующей инженерных работ для ее решения. Нам не нужно проводить вскрытие, чтобы установить датчики дыма».

Как же тогда определить ненадлежащее использование искусственного интеллекта?

Бартоски утверждает, что нам определенно нужен более эффективный способ говорить об иллюзорном мышлении, которое может подпитываться использованием искусственного интеллекта.

Она говорит: «В Диагностическом и статистическом руководстве по психическим расстройствам (DSM-5TR) описаны несколько типов бреда, включая бред величия и параноидальный бред. Возможно, мы можем рассматривать это как параноидальный бред типа ИИ или бред преследования типа ИИ. Смотрите на это как на симптом, а не как на расстройство».

Невидал предлагает аналогичный подход. «Нам не нужен новый диагноз, — говорит он. — Нам нужен честный график существующей модели поведения». Он предполагает, что у нас уже есть методы лечения основных моделей поведения, таких как обсессивно-компульсивное расстройство или бредовые идеи. Затем мы можем регистрировать чрезмерное использование чат-ботов как способствующий и сдерживающий фактор в рамках существующих категорий. «Это позволит людям оставаться привязанными к существующим методам лечения, а не к новому диагнозу, который не предлагает никакого лечения».

В конечном итоге, все эксперты, с которыми я беседовал, считают этот термин некорректным, и мы надеемся вскоре найти лучший способ говорить о происходящих событиях.

Но нам также нужны более убедительные доказательства того, что действительно помогает. Это может означать сочетание различных мер, от клинической поддержки и обучения до практических способов помочь людям распознать, когда использование ими ИИ становится вредным.

Пожалуй, самое важное заключается в том, что это означает необходимость проведения закрытых дискуссий в технологических компаниях о том, как их разработки чат-ботов могут усугубить эти проблемы, и что им следует срочно предпринять для снижения рисков.

---

---