Исследователь из Северной столицы проанализировал предрасположенность больших языковых моделей к генерации ложных данных и феномену «цифровой шизофрении».
Научная работа Растяма Алиева, представляющего Лабораторию критической теории культуры НИУ ВШЭ в Санкт-Петербурге, была опубликована в журнале «Логос». Автор подчеркивает, что алгоритмы искусственного интеллекта не просто искажают восприятие действительности, но и планомерно замещают её. В результате формируется принципиально иной уровень реальности, где границы между оригиналом и симуляцией окончательно стираются.
Учёный проводит глубокую аналогию между «галлюцинациями» нейросетей — их склонностью выдавать вымышленные факты за истину — и клиническими проявлениями психических расстройств.
«На протяжении десятилетий массовая культура и научная фантастика навязывали нам образ ИИ как холодного, лишенного эмоций андроида. Такой портрет ближе к симптоматике расстройств аутистического спектра. Однако в действительности нейросети демонстрируют иную природу: они успешно интерпретируют эмоциональные контексты и воспроизводят паттерны, напоминающие когнитивные искажения», — отмечается в материале.
По мнению Алиева, алгоритмы формируют специфические способы мышления, что можно интерпретировать как признаки «психической нестабильности» ИИ.
«Убедиться в специфическом состоянии «пациента» несложно: если дать нейросети установку отвечать в манере человека, страдающего шизофренией, точность её реакций парадоксальным образом растет. Модель начинает проявлять гиперфиксацию на деталях и знаках», — поясняет исследователь.
При столкновении со сложными запросами склонность к конфабуляциям обостряется: не имея прямого ответа, нейросеть начинает синтезировать фрагменты из своей базы знаний с результатами собственной «фантазии».
«С одной стороны, ИИ базируется на реальных данных, с другой — активно конструирует будущее. Сегодня нейросети становятся частью нашего быта: к ним обращаются за психологической поддержкой, ими заменяют квалифицированных специалистов. Однако к такому инструменту нужно подходить с предельной осторожностью. Всегда осознавайте, что ваш цифровой собеседник серьезно «нездоров», и подвергайте любой полученный от него результат тщательной верификации», — резюмирует автор.