Исследователи из Токийского университета обнаружили неожиданные параллели между деятельностью популярных языковых моделей, таких как ChatGPT, и речевыми расстройствами у людей. Исследование, опубликованное в мае 2025 года в журнале «Advanced Science», показало, что текстогенерирующие системы ИИ могут «заблуждаться» почти так же, как пациенты с афазией Вернике — заболеванием, при котором человек говорит бегло, но бессвязно. Это открытие не только проливает свет на природу ошибок ИИ, но и предлагает новые подходы к диагностике речевых нарушений.
В основе исследования лежит метод анализа энергетических ландшафтов — подход, заимствованный из физики. В упрощённой форме его можно представить как визуализацию внутренних процессов в виде шарика, катящегося по ландшафту с различными уровнями. Чем более «пологий» ландшафт, тем хаотичнее движение — это характерно как для мозга пациентов с афазией, так и для языковых моделей. Например, когда ChatGPT выдает убедительный, но ошибочный ответ, его внутренние процессы напоминают движение шарика по неровной поверхности без чёткой траектории.
Исследователи сравнили данные мозговой активности людей, страдающих разными формами афазии, с внутренними сигналами четырёх языковых моделей, включая GPT-2 и Llama-3.1. Выяснилось, что ИИ часто «спотыкается» так же, как и пациенты с рецептивной афазией, которые испытывают сложности с пониманием смысла слов.
Профессор Такамицу Ватанабэ из Международного исследовательского центра нейронаук WPI-IRCN подчёркивает: речь не идёт о том, что у чат-ботов возникают «повреждения мозга». Но сходство в обработке информации открывает двойственные перспективы. В медицине — это возможность создать объективные критерии диагностики афазии, анализируя мозговую активность, а не только внешние проявления. Для разработчиков ИИ — это путь к созданию более точных систем, которые можно «настраивать», основываясь на принципах работы здорового мозга. Уже сейчас этот метод позволяет предсказать склонность модели к ошибкам, исследуя её внутреннюю динамику — например, частоту «скачков» между темами или повторение одних и тех же фраз.
Хотя исследование не предоставляет готовых решений, оно формирует новую основу для сотрудничества нейробиологов и инженеров. Понимание общих ограничений в обработке информации может привести к прорывам в обеих сферах — от создания интеллектуальных помощников, которые реже «галлюцинируют», до разработки терапии, адаптированной под уникальные особенности мозга.
Источник: iXBT
