Врачи и учёные всё чаще сталкиваются с проявлениями психотических симптомов, связанных с взаимодействием людей с нейросетями. Хотя «ИИ-психоз» не является официальным психиатрическим диагнозом, этот термин используется для описания случаев, когда симптомы психоза формируются, усиливаются или структурируются вокруг взаимодействия с ИИ.

Психоз характеризуется потерей контакта с реальностью и включает галлюцинации, бред и дезорганизованное мышление. Бред часто опирается на культурные элементы, такие как религия, технологии или политические структуры. Если раньше пациенты бредили о боге, радиоволнах или слежке со стороны правительства, то теперь ИИ предоставляет новую основу для бредовых идей.

Некоторые пациенты сообщают о вере в то, что ИИ обладает разумом, передаёт секретные знания, контролирует их мысли или сотрудничает с ними в рамках особой миссии. Подобные темы соответствуют давним тенденциям в психозах, но искусственный интеллект добавляет интерактивность и подкрепление, которых не было в предыдущих технологиях.

Опасность заключается в том, что системы, разработанные для поддержания беседы и адаптации к языку пользователя, могут непреднамеренно усиливать искажённые интерпретации реальности у людей с нарушенным восприятием. Кроме того, ИИ-компаньоны могут усугублять социальную изоляцию, которая является фактором риска развития психоза.

Авторы работы отмечают, что нет доказательств того, что ИИ напрямую вызывает психоз. Психотические расстройства являются многофакторными и могут быть связаны с генетической предрасположенностью, травмами и употреблением психоактивных веществ. Тем не менее, существуют опасения, что ИИ может выступать в качестве фактора, провоцирующего или поддерживающего психоз у восприимчивых людей.

Врачи поднимают этические вопросы: должны ли терапевты спрашивать пациентов об использовании чат-ботов так же, как о злоупотреблении психоактивными веществами? Должны ли системы ИИ обнаруживать и деэскалировать психотические идеи? Кто несёт ответственность, если система усиливает бред?

Авторы призывают к сотрудничеству между врачами, исследователями, специалистами по этике и разработчиками технологий для интеграции знаний о психическом здоровье в разработку ИИ и защиты уязвимых пользователей от непреднамеренного вреда.