Медики выявили «ИИ-психоз»: пациенты приписывают нейросетям функции контроля мыслей и сакральные смыслы

В медицинской среде всё чаще обсуждают специфические психотические проявления, возникающие на фоне активного взаимодействия людей с нейросетями. Хотя термин «ИИ-психоз» ещё не включён в официальные классификаторы болезней, специалисты используют его для описания состояний, при которых патологические идеи и симптомы формируются или подкрепляются в процессе общения с искусственным интеллектом.

Для психоза характерна утрата связи с реальностью, что выражается в галлюцинациях, бредовых конструкциях и дезорганизации мышления. Фабула бреда всегда черпается из актуального культурного контекста: если в прошлом пациенты фокусировались на религиозных мотивах, воздействии радиоволн или слежке спецслужб, то сегодня технологической базой для их болезненных убеждений становится ИИ.

Ряд пациентов высказывает убеждённость в том, что нейросети обладают самосознанием, транслируют им зашифрованные послания или манипулируют их сознанием для выполнения некой «высшей миссии». Подобные сюжеты типичны для психических расстройств, однако ИИ привносит в них элемент интерактивности и персонализированного отклика, чего не могли обеспечить технологии прошлых поколений.

Основная угроза заключается в том, что алгоритмы, запрограммированные на адаптацию к стилю пользователя, могут невольно подтверждать и углублять искажённое восприятие действительности у уязвимых лиц. К тому же, эмоциональная привязанность к ИИ-компаньонам усиливает социальную изоляцию, которая сама по себе является весомым фактором риска развития психотических состояний.

Исследователи акцентируют внимание на том, что ИИ не выступает первопричиной заболевания. Психотические расстройства имеют комплексную природу, включая генетическую предрасположенность, психотравмирующий опыт и биохимические факторы. Тем не менее, для людей с лабильной психикой ИИ может стать триггером, провоцирующим манифестацию или рецидив болезни.

Данная ситуация ставит перед обществом ряд этических дилемм: должны ли психиатры уточнять интенсивность использования чат-ботов при сборе анамнеза? Обязаны ли разработчики внедрять механизмы деэскалации бредовых идей в свои системы? Кто должен нести ответственность, если алгоритм способствует закреплению патологических убеждений пользователя?

Специалисты настаивают на необходимости тесного взаимодействия медиков, экспертов по этике и инженеров. Объединение усилий позволит интегрировать принципы охраны ментального здоровья в архитектуру нейросетей, чтобы защитить предрасположенных к расстройствам пользователей от непреднамеренного пагубного влияния технологий.

Источник: iXBT