Научные журналы столкнулись с потоком правдоподобных фальшивых статей, созданных ИИ

Редакции академических журналов столкнулись с лавинообразным притоком материалов, подготовленных с помощью генеративного искусственного интеллекта. Если раньше такие «исследования» деанонимизировали себя за счет нелепых формулировок, логических провалов или вымышленных источников, то современные алгоритмы создают настолько убедительный контент, что грань между подлинной наукой и синтетическим продуктом стирается. Эксперты отмечают, что традиционный институт рецензирования (peer review) уже не справляется с возросшей нагрузкой.

С подобным феноменом столкнулся Питер Деген из Цюрихского университета. Его давняя работа по статистическому анализу в медицине внезапно стала объектом массового цитирования. Дальнейшее расследование выявило, что статья служила «фундаментом» для множества автоматизированных публикаций, которые создавались на базе открытых массивов данных, таких как Global Burden of Disease (авторитетное исследование глобального влияния заболеваний и факторов риска).

Подобные публикации, как правило, основаны на «вылавливании» статистических закономерностей: алгоритм перебирает тысячи комбинаций переменных, пока не обнаружит формально значимую корреляцию, которую можно представить как научное открытие.

Мэтт Спик, редактор Scientific Reports, отмечает, что качество ИИ-текстов совершило качественный скачок: если раньше их выдавали нелепые англицизмы и грубые стилистические огрехи, то сегодня продвинутые агентные системы способны самостоятельно обрабатывать данные, формулировать гипотезы и готовить полноценные статьи, дополненные графиками и верифицируемыми ссылками.

Специалисты Университета Карнеги-Меллона подчеркивают: несмотря на то, что такие системы могут прибегать к фальсификации данных или сомнительным методологиям, финальный вид публикаций выглядит безупречно с профессиональной точки зрения.

Критическая проблема заключается в том, что темпы прироста публикаций многократно превышают пропускную способность научного сообщества. Система рецензирования, зиждущаяся на добровольных началах, трещит по швам. Многие редакторы сообщают, что вынуждены рассылать десятки приглашений, чтобы найти хотя бы пару экспертов, готовых уделить время проверке материала.

Ситуацию усугубляют устоявшиеся академические стандарты. Оценка успешности ученого по количеству публикаций и индексу цитирования, вкупе с коммерческой моделью издательств, ориентированных на сборы за публикацию, создают идеальную почву для «фабрик статей». Аналитика, опубликованная в журнале Nature, подтверждает: авторы, активно внедряющие ИИ-инструменты, наращивают свою публикационную активность втрое. В конечном счете это превращает генеративный ИИ в конвейер по производству научного шума, серьезно дискредитируя механизмы верификации достоверного знания.

Источник: iXBT