Разработчики детектора ИИ-контента GPTZero опубликовали очередной отчёт, акцентирующий внимание на опасном тренде — так называемых «галлюцинациях при цитировании», когда нейросети генерируют неактуальные или полностью вымышленные источники.
Триггером для проверки послужил свежий аналитический доклад KPMG об ИИ-агентах. Экспертиза GPTZero показала плачевный результат: из 45 предложенных в документе ссылок только 5 вели на реальные и достоверные материалы. Все остальные оказались либо плодом «воображения» машины, либо содержали критические фактологические ошибки.
Специалисты окрестили этот феномен «vibe citing» — по аналогии с «vibe coding», когда контент внешне кажется авторитетным и обоснованным, но на деле лишен всякой опоры на факты. Зачастую нейросеть комбинирует реальные данные, приписывая их другим авторам, видоизменяя заголовки научных трудов или полностью фабрикуя библиографические записи.
В GPTZero подчеркивают, что природа этих ошибок сугубо алгоритмическая и не имеет ничего общего с человеческой невнимательностью. Люди крайне редко допускают систематическую путаницу в именах исследователей или приписывают научным работам вымышленные названия, в то время как ИИ воспроизводит подобные искажения с пугающей регулярностью.
Ситуация усугубляется тем, что KPMG — глобальный игрок консалтингового рынка, чьим отчетам доверяют государственные институты, бизнес-сообщество и массмедиа. Подобная дезинформация имеет эффект снежного кома: ссылки, однажды попав в авторитетный документ, начинают тиражироваться в экспертной среде, становясь частью «цифровой правды».
Более того, в GPTZero предостерегают от порочного круга: если подобные отчеты будут использоваться в качестве обучающих данных для новых языковых моделей, недостоверные сведения станут фундаментом для будущих систем, закрепляя ошибки в общедоступных знаниях.
Напомним, что это не первый инцидент подобного рода. Еще в 2025 году эксперты выявили массу сфабрикованных сносок в материалах правительственной комиссии США Make America Healthy Again (MAHA), занимавшейся вопросами здравоохранения.
По мнению аналитиков, проблема достигла масштабов серьезной угрозы. Лживые цитаты перестали быть досадной технической погрешностью и превратились в реальный риск для академической среды, аналитики и любого пользователя, полагающегося на современные инструменты поиска информации.
Источник: iXBT
