Зачем учёным использовать большие языковые модели

8 минут назад Прокомментировать Просмотры: 2

Недавно мне попалась статья доктора физико-математических наук о возможности применения LLM в научных исследованиях. Автор пришёл к выводу, что использовать их таким образом нельзя. Однако в качестве экспериментальной базы он выбрал поисковый сервис «Нейро» от Яндекса, а не ведущие большие языковые модели. Этот выбор показался мне настолько необычным, что я задумался: возможно, некоторые учёные просто не представляют, как нейросети могут помогать в науке.

Речь пойдёт не о научных открытиях, сделанных с помощью LLM, а о нейросетях как полезном инструменте, отказ от которого ставит науку в невыгодное положение. А заодно — о небольшом скандале, интриге и расследовании.

Как всё началось

В одну из традиционных киберленинских суббот я прочитал любопытную статью. Её автор — Александр Александрович Самохин, доктор физико-математических наук, главный научный сотрудник Института общей физики им. А. М. Прохорова РАН. Статья называется «Что говорит искусственный интеллект» (Науковедческие исследования, 2026, № 3).

В ней автор оценивал способность ИИ вести научное исследование на примере сервиса «Нейро» от Яндекса.

Сам автор так описывает принцип работы сервиса:

Нейросеть перефразирует вопрос в поисковый запрос. Поисковая система находит топ подходящих источников и выбирает из них пять. На их основе нейросеть из семейства YandexGPT-3 генерирует ответ.

После чего делает вывод:

…работа слабо отличается от процесса подбора из доступной ему элементной базы некоторой совокупности утверждений, определений и т.п., выделяемых из этой базы на основе ключевых слов.

Тут я заподозрил, что мы с автором вкладываем разный смысл в понятия «поиск» и «исследование». Ведь на основании такой поисковой сводки он рассуждает о том, способен ли ИИ быть учёным:

…рассмотренный вариант ИИ не может самостоятельно выполнять функции нормального научного исследователя.

Я вспомнил годы своей незаконченной аспирантуры и вдруг понял: для многих исследование действительно сводится к поиску и обзору литературы по теме. Не к экспериментам, проверке гипотез или изучению нового, а именно к поиску и обзору.

Оставлю в стороне то, что вывод о пригодности LLM для исследовательской работы сделан на основании экспериментов с поисковым сервисом, пусть и с оговоркой о конкретном варианте ИИ. Возможно, дело в блокировках или традиционном консерватизме большой науки. Но заключение, которое на другой экспериментальной базе могло бы выглядеть вполне логичным, здесь звучит как странная шутка.

Похоже, часть научного сообщества по-прежнему скептически относится к использованию LLM в работе. Однако если не требовать от моделей прорывных идей и новых теорий, а применять их там, где они действительно сильны, результат может быть весьма полезным. Поиск и обзор литературы, выявление внутренних противоречий в текстах, проверка расчётов, написание кода, контроль формальных требований и последовательности рассуждений пригодятся практически любому исследователю.

Я решил провести небольшой эксперимент: взял пять подряд идущих статей из результатов поиска Киберленинки по словам «искусственный интеллект» с фильтром «2026», исключил студенческие работы и проанализировал содержание вместе с Claude Opus и Gemini Argon.

Вот что получилось.

Разбор пяти научных статей

Первая статья — «Предпринимательство и искусственный интеллект». Её автор — Антон Вячеславович Кондрух, кандидат педагогических наук, доцент кафедры экономики и управления Севастопольского филиала РЭУ имени Г. В. Плеханова. Universum: экономика и юриспруденция, июль 2026 года.

Начну с библиографии. Ошибки, за которые прежде обвиняли LLM, теперь скорее хочется поставить в вину самим авторам.

15	Farre-Mensa, Koudijs, Manso; IZA DP 17055; с. 1–48	Под номером 17055 в IZA указана работа Fossen, McLemore и Sorgner с тем же названием	Реквизиты существуют, но авторы указаны неверно
16	Smith, Miller; Cogent Business & Management, 12(1), 2533433	У статьи с этим номером один автор — Hanan Alsharah, а её название заканчивается словами «entrepreneurial performance»	Неверные авторы и лишнее окончание в названии
17	Wang L., Chen Y.; SEPS, 2025, 98(1), 102307	Похожая статья опубликована в томе 103 за февраль 2026 года под номером 102381; её авторы — Tian, Wang, Chen и Zhang	Искажены авторы, название, том и номер

Методы. В работе заявлены системный и феноменологический подходы, синергетика, ресурсная концепция и динамические способности. Однако в тексте ни один из них не применяется.

Семантический анализ. Автор утверждает, что установил отсутствие единого определения ИИ, но не приводит и не сопоставляет ни одного определения других исследователей.

Таблица. Девять строк без источников, данных и примеров при этом представлены как результат сравнительного анализа, проведённого «впервые в научном дискурсе».

В целом статья производит впечатление исследования по форме, но не по содержанию.

Вторая статья — «К проблеме необъяснимости решений искусственного интеллекта». Автор — С. В. Поляков, аспирант кафедры истории и философии РЭУ имени Г. В. Плеханова. Философия и культура, 2026 год.

Аналогия вместо доказательства. В аннотации утверждается, что «доказано существование принципиальной связи» между эффективностью и необъяснимостью. Но самого доказательства в тексте нет: приведены ссылки на два обзора и сравнение с интуицией эксперта. Переход от тезиса о неслучайном сходстве к утверждению о фундаментальном свойстве просто декларируется.

Каталепсис. Автор утверждает, что каталепсис обходится без активного участия рассудка. У стоиков всё наоборот: каталепсис возникает, когда ум признаёт, что впечатление не может быть ложным, и соглашается с ним. В жесте Зенона согласие предшествует сжатому кулаку, которым обозначалось постижение. Иными словами, стоическое понятие употреблено буквально в противоположном смысле. При этом в библиографии нет ни одного источника о стоиках.

Критерии. Стабильность, граничные условия, робастность и внешняя валидация — обычные элементы тестирования моделей. К тому же первый и третий критерии практически совпадают: «стабильность результатов при сходных входных данных» и «стабильность решений при небольших вариациях входных параметров».

Также обнаружена вольная интерпретация источников и возможные отклонения при цитировании — в частности, Я. Хохви и данных KPMG. Сама библиография при этом в порядке.

Примечательно, что официальный рецензент указал на явные ошибки, но автор оставил замечания без внимания.

Третья статья — «Искусственный интеллект в педагогическом образовании». Авторы — кандидаты педагогических наук А. М. Магомедгаджиева и А. Ш. Бакмаев, Дагестанский педагогический университет имени Р. Гамзатова. Мир науки, культуры, образования, 2026 год.

Гипотеза не проверена. Она сформулирована так: «ИИ позволяет оптимизировать и улучшить процесс обучения». Ни измерений, ни сравнения групп, ни даже опроса в статье нет. В заключении вторая фраза гипотезы дословно повторяется уже в качестве вывода.

Типы ИИ не выделены. Одна из целей работы — «выделить типы ИИ», а в заключении сообщается, что это сделано. Но вместо типов в тексте приведён список сервисов — от MathGPT до Google Translate.

Рекомендации сводятся к пяти общим строкам: двум принципам «руководства» и трём пунктам о том, чего «необходимо избегать». Именно они представлены как научная новизна.

На уроке нет ИИ. План-конспект «с использованием искусственного интеллекта» представляет собой обычный урок по оператору if: ИИ не упоминается ни на одном из восьми этапов.

В библиографии обнаружилась подозрительная ссылка: Касперская Н. И. Цифровая трансформация образования: вызовы и возможности // Высшее образование в России. 2023; Т. 32, № 1: 22–35. Она встречается в списках литературы нескольких научных статей, однако найти такую работу Касперской мне не удалось. Предполагаю, что ссылка могла возникнуть как галлюцинация LLM в статье 2025 года, а затем постепенно распространиться по другим публикациям.

В итоге перед нами добротная методическая заметка двух преподавателей, но заявленные результаты в тексте отсутствуют. Сам урок тоже не содержит примера применения ИИ.

Четвёртая статья «К вопросу о правосубъектности искусственного интеллекта». Автор — Александр Владимирович Токолов, Финансовый университет при Правительстве Российской Федерации. Вестник Московского университета МВД России, 2026 год.

Подробно разбирать содержание я не стал: значительная часть текста представляет собой пересказ статьи «Проблема субъектности искусственного интеллекта» Сергея Викторовича Зыкова, научного сотрудника Института философии и права СО РАН. Актуальные проблемы российского права, 2024 год. При этом ссылок на Зыкова в статье нет. Пересказ был обнаружен с помощью LLM и семантического поиска.

Один пример приведён ниже, остальные — под спойлером:

Зыков, 2024 год:

Следует заметить, что и в рамках правовых систем, предполагающих фикционную теорию юридического лица, за последним всегда стоят конкретные люди. Они наделены, в частности, инстинктом самосохранения…

Токолов, 2026 год:

Важно отметить, что даже в правовых системах, применяющих теорию фикции, за юридическим лицом всегда стоит реальный человек, обладающий инстинктом самосохранения.

Скрытый текст

№	Зыков, 2024	Токолов, 2026
А1	«В связи с проблемой включения в гражданский оборот объектов, произведенных искусственным интеллектом (ИИ), должен быть решен вопрос о субъектности прав на них.»	«Рассматривается вопрос о том, как интегрировать в экономическую систему продукты, созданные с помощью искусственного интеллекта, для чего необходимо найти ответ на проблему правовой принадлежности к этим объектам.»
А2	«Социальное поведение людей формируется на основе их физической сущности… Очевидно, что физической сущности искусственный интеллект заведомо лишен.»	«Человеческое поведение складывается под влиянием биологической природы, в то время как искусственный интеллект лишен физической природы и собственной воли.»
А3	«Даже если говорить о юридическом лице (в ряде систем, являющихся фикционными образованиями), последствия его деятельности так или иначе возлагаются на лиц физических.»	«В случае с юридическими лицами, которые в определенных системах являются фиктивными структурами, ответственность за их действия всегда ложится на плечи физических лиц.»
А4	«Рассмотрение же ИИ в качестве субъекта гражданского правоотношения не только не оправданно, но и препятствует доктринальному решению вопроса правосубъектности, которое является необходимой предпосылкой формирования норм действующего законодательства.»	«Рассматривать искусственный интеллект как субъект гражданских отношений не имеет смысла, так как это может стать препятствием для теоретического определения его правосубъектности, что является ключевым элементом для создания соответствующих правовых норм.»

№	Зыков, 2024	Токолов, 2026	Примета
1	«Развитие технологий искусственного интеллекта (ИИ) ставит проблему правовой охраны полученных с его использованием результатов. Она подразумевает решение вопроса о субъекте прав на такие результаты, который рассматривается в подавляющем большинстве публикаций данной тематики. Эта задача нормативно закреплена в разд. 12 Концепции…» (132)	«Прогресс в области искусственного интеллекта вызывает необходимость разработки правовых механизмов защиты результатов, достигнутых с его помощью. Важным аспектом выступает определение владельца прав на эти результаты, что является основной темой обсуждения в научной литературе по этому вопросу. Задача защиты прав… определена в разд. 12 Концепции…» (119)	Совпадает ссылка на раздел 12
2	«Желание сохранить на данном этапе максимум возможностей объяснимо, но этим путем мы не решим практические проблемы правовой охраны, связанные с функционированием ИИ.» (132)	«Необходимость сохранения большего количества опций и функций искусственного интеллекта на текущем этапе развития вполне оправдано, однако подобный путь не приведет к решению реальных задач в сфере правовой защиты, связанных с работой искусственного интеллекта.» (120)	У Зыкова «возможности» — это варианты правообладателя из предыдущего абзаца. После удаления абзаца фраза утратила предмет
3	«В современном российском праве встречаются работы, в которых закрепление прав непосредственно за ИИ на произведенные им результаты сознательно исключено из рассмотрения, но они составляют явное меньшинство публикаций по данной теме.» (133)	«…подход, встречающийся в некоторых российских исследованиях, где прямое признание прав искусственного интеллекта на результаты его деятельности является предметом исключения из обсуждения, хотя такие работы составляют относительно небольшую долю в общем количестве публикаций по этой проблематике.» (120)
4	«…к теории самостоятельной субъектности ИИ российских исследователей в значительной степени подталкивают некоторые зарубежные исследования (в частности, концепции неличных субъектов, искусственного юридического лица)» (133; сноска 4: Голованов, с. 24–25)	«…идея о независимом статусе искусственного интеллекта в работах российских ученых находит свое отражение благодаря влиянию ряда зарубежных исследовательских проектов, в том числе концепций, связанных с неличностными субъектами и созданием искусственных юридических личностей [3, с. 24–25].» (120)	Совпадают источник и страницы
5	«Вопрос о субъектности ИИ в большинстве случаев не ставится жестко и однозначно, как правило, обозначается в качестве дискуссионного. К сожалению, не всегда можно проследить аргументацию этой концепции. Например, когда рассматривается единственная альтернатива… такая постановка вопроса предопределяет его решение.» (133; сноска 6: Ивлиев, Егорова, с. 34)	«Вопрос о том, является ли искусственный интеллект субъектом права, часто выражается в форме дискуссии и не имеет четкого ответа. К сожалению, не всегда можно увидеть четкую аргументацию в поддержку этой идеи. В частности, когда предлагаются только две возможности… [5, с. 34]. Данная формулировка вопроса заранее определяет его ответ…» (120)	Тот же источник и та же страница
6	«…человек приобретает также альтруистические качества, которые тоже во многом связаны с его физической природой, хотя эта взаимосвязь является более сложной. Теоретически можно сформировать у ИИ качества идеальной личности (хотя неочевидны критерии такой „идеальности“…), однако как будет обеспечиваться их формирование?» (134)	«…формирует альтруистические качества, которые также имеют корни в его биологии, хотя эти связи обычно оказываются более запутанными. В теории, возможно создать искусственный интеллект с качествами идеального человека, хотя определение этого „идеала“ остается спорным и зависит от личных убеждений, но как же гарантировать формирование таких качеств?» (120)	Кавычки вокруг заменённого слова сохранены
7	«…и в рамках правовых систем, предполагающих фикционную теорию юридического лица, за последним всегда стоят конкретные люди. Они наделены, в частности, инстинктом самосохранения…» (135)	«Важно отметить, что даже в правовых системах, применяющих теорию фикции, за юридическим лицом всегда стоит реальный человек, обладающий инстинктом самосохранения.» (120)
8	«Е. В. Вавилин предлагает наделить ИИ „авторскими и исключительными“ правами на созданные произведения, налоговыми обязанностями и обязанностями по возмещению вреда, а разработчиков — правами на вознаграждение за создание и использование ИИ…» (135; сноска 19: с. 153)	«Так, Е. В. Вавилин предлагает предоставить искусственному интеллекту права на авторство и эксклюзивность по отношению к созданным им произведениям, а также налоговые обязательства и ответственность за причинение вреда, в то время как разработчикам предоставляется право на вознаграждение за разработку и применение искусственного интеллекта… [2, с. 153].» (120)	Та же страница. «Исключительные» права превратились в «эксклюзивность»
9	«Основу аргументации исследователя составляет опасение, что если наделить правами… разработчика и инвестора (владельца), то в силу высокой продуктивности первого указанные лица получат сверхприбыли, сфера будет монополизирована, а „живое человеческое творчество в скором времени будет обречено стать раритетом“» (135)	«Автор такой концепции исходит из беспокойства по поводу возможных последствий присвоения прав… разработчикам и инвесторам (владельцам). Предполагается, что из-за высокой эффективности искусственного интеллекта эти лица смогут получить избыточные доходы, что приведет к монополизации отрасли. В результате, человеческое творчество в ближайшем будущем может оказаться на грани исчезновения и стать дорогим раритетом.» (120)	Цитата Вавилина лишилась кавычек. Далее у Зыкова стоит сноска 21 на Гольцова и Голованова, у Токолова в этом месте — ссылка [3], а источник 4 в тексте не цитируется
10	«Насколько можно понять, логика здесь в том, чтобы „перетянуть“ выгоды от указанных лиц на ИИ. На наш взгляд, указанные проблемы решаются посредством конкуренции: создание ИИ для решения задачи, предполагающей востребованный результат (например, нейросетей для генерации изображения), не всегда требует больших финансовых вложений, с этим вполне справляются субъекты малого предпринимательства, отдельные физические лица.» (135–136)	«По всей видимости, здесь стоит задача „привлечь“ выгоды от определенных лиц в сторону искусственного интеллекта. …развитие ИИ во многих сферах может быть обеспечено за счет здоровой конкуренции. Разработка искусственного интеллекта для решения задач, которые обещают высокую потребительскую привлекательность (например, нейросети для создания визуального контента), не всегда требует значительных финансовых вложений, и здесь могут успешно справляться небольшие предприниматели и индивидуальные разработчики.» (120–121)	Собственный аргумент Зыкова («на наш взгляд») и тот же пример в скобках
11	«Например, В. Д. Голованов отмечает, что ИИ и его носитель „лишены чувств, эмоций, интересов, которые присущи человеку, вследствие чего творить не могут“. Аналогичную мысль формулирует М. Н. Комашко: „Произведением… некий объект становится не в силу своих объективных характеристик, а благодаря осознанию автором факта создания им произведения, оценке автором созданного им объекта как произведения, а своего труда — как акта творчества“» (136; сноска 25: с. 106)	«…как, например, В. Д. Голованов, указывают на то, что что искусственный интеллект и его оператор не обладают чувствами, эмоциями и личными интересами, характерными для человека, и поэтому не в состоянии творить. М. Н. Комашко выражает схожую идею: чтобы объект стал произведением… необходимо наличие осознания создателя о том, что он создал произведение, его оценка созданного им объекта как произведения и его собственное трудолюбие как акт творчества [6, с. 106].» (121)	Общая опечатка: в обоих текстах указан «В. Д. Голованов», а в обоих списках литературы — «Н. М.». «Труд» превратился в «трудолюбие». Указана та же страница Комашко
12	«Уже в настоящее время даже так называемый слабый ИИ (нейросети) в состоянии продуцировать объекты, вполне сопоставимые с результатами деятельности человека. И такие объекты, пусть медленно, становятся всё более востребованными на практике, а не только в качестве забавного курьеза. Близкий к данному подход — редуцирование вопроса к технической проблематике: указание на возможность наделения юнита субъектностью в случае появления сильного ИИ» (136; сноска 28: Морхат, с. 93)	«Сегодня даже так называемый „слабый“ искусственный интеллект способен создавать продукты, которые не уступают в качестве результатам человеческой работы. Эти продукты пока еще не находят широкого применения, но их значение растет и они уже не являются просто развлечением. …упрощение проблемы до уровня технической задачи: утверждение о возможности придания субъектности единице при возникновении мощного искусственного интеллекта [7, с. 93].» (121)	«Юнит» и «сильный ИИ» заменены на «единицу» и «мощный» ИИ. Страница Морхата совпадает
13	«Нужно согласиться с авторами, указывающими на то, что препятствием к признанию ИИ субъектами права является отсутствие у них воли. Но не следует на этой констатации останавливаться: даже современный уровень развития теоретически позволяет эту волю у ИИ сформировать, однако она будет в своих базовых параметрах зависеть от целей разработчика (или „учителя“ программы), добросовестность которых, как уже отмечалось, сложно проконтролировать.» (137; сноска 30: с. 100–101, 103)	«Стоит принять во внимание мнение экспертов, которые подчеркивают, что одной из основных проблем признания наделения искусственного интеллекта субъектами права является их неспособность иметь собственную волю [9, с. 100–101, 103]. Не стоит забывать, что даже при нынешнем прогрессе теории создание личности у искусственного интеллекта теоретически возможно, но ее основные характеристики будут зависеть от намерений ее создателя (или „наставника“), чью честность и порядочность, как уже было подчеркнуто, сложно оценить [10].» (121)	Совпадают все три страницы. Слова «как уже было подчеркнуто» отсылают к абзацу Зыкова о сертификации, отсутствующему у Токолова. Ссылка [10] ведёт на статью об уголовном процессе
14	«Однако если речь идет о принципиально новой организационно-правовой форме, то следует отметить, что процесс нахождения баланса между интересами кредиторов юридического лица и интересами лиц, определяющих его деятельность, был длительным и продолжает совершенствоваться (вспомним относительно недавнее появление субсидиарной ответственности органов и учредителей хозяйственных обществ в российском праве). Выстраивание подобных отношений с чистого листа применительно к совершенно новому субъекту неизбежно приведет к издержкам для участников гражданского оборота.» (137)	«Когда речь заходит о создании абсолютно новой юридической правовой формы, стоит обратить особое внимание, что поиск гармонии между интересами заемщиков и дееспособных лиц, управляющих компанией, всегда был и остается на сегодняшний день трудоемким процессом (напомним, что относительно недавно в российском законодательстве появилась субсидиарная ответственность основателей и руководителей коммерческих организаций). Создание таких отношений на начальном этапе, практически с нуля, касающихся абсолютно нового типа субъекта, неизбежно приведет к дополнительным, возможно не малым, расходам для всех участников рынка.» (121)	«Кредиторы» превратились в «заёмщиков»: смысл изменился на противоположный. Вставка в скобках совпадает

Пятая статья — «Искусственный интеллект и политическое восприятие». Автор — Дмитрий Игоревич Каминченко, кандидат политических наук, доцент кафедры политологии Национального исследовательского Нижегородского государственного университета. Вестник Пермского университета, 2026 год.

Это хороший пилотный эксперимент, однако значимость корреляций указана неверно, один из выводов возник из сравнения абсолютных чисел в неравных группах, а главный вывод о влиянии опыта не проверен статистически. Коэффициент 0,12 отмечен как p<0,01 при n=60; нулевых оценок в группах примерно из 37 и 20 человек было 12 и 5 соответственно, что составляет 32% против 25%.

Компетентный консультант, рецензент или LLM могли бы обнаружить эти проблемы на раннем этапе. Существенное достоинство работы — публикация пусть и агрегированных данных: это редкий случай, когда можно провести независимую проверку, а не ограничиваться оценкой текста.

Что показывает этот эксперимент

Оговорюсь: наличие проблем во всех пяти статьях вовсе не доказывает кризис в науке. Чтобы хотя бы начать об этом рассуждать, потребовалось бы проверить не менее 250 случайно выбранных публикаций, а это для меня слишком большой объём. Кроме того, настоящая наука не может полностью избежать ошибок и противоречий: она работает с вопросами, требующими гипотез, исследований и экспериментов.

Стоит также признать, что институт рецензирования перегружен и работает недостаточно эффективно. Причины хорошо знакомы всем, кто хоть немного сталкивался с публикацией научных статей. Найти рецензента, искренне заинтересованного в работе, непросто; нередко отзывы пишутся формально и по просьбе. Давление вузов на преподавателей независимо от их статуса и реального участия в исследованиях, а также включение публикаций в KPI подталкивают авторов к формальному отношению к собственным текстам.

Часть этих проблем можно уменьшить за счёт грамотного применения LLM. Из любопытства я прикинул стоимость масштабной проверки статей Киберленинки на внутренние противоречия, фальсифицируемость, новизну, корректность, внутренние связи и другие признаки. По моей оценке, базовая проверка всего архива с помощью Haiku обошлась бы примерно в 7–8 тысяч долларов; каскад из Haiku и 10% запросов к Opus — в 15 тысяч долларов; проверка только с Opus — до 100 тысяч долларов. Для государства это небольшие суммы. Я протестировал базовый промпт на выбранных статьях: дешёвая модель обнаруживает меньше четверти проблем, дорогая — большую часть, хотя может теряться в сложных и запутанных текстах.

Использование LLM авторами и рецензентами для проверки структуры, фактических ошибок, выполнения и контроля расчётов — то есть задач, не связанных непосредственно с творчеством, — могло бы принести существенную пользу. Иррациональное предубеждение некоторых учёных против LLM, возможно, связано с непониманием того, что это прежде всего инструмент.

И ещё одно замечание. Не стоит рассчитывать на нейросеть как на идеального рецензента: она далека от совершенства. Лучше использовать её как критика, а не соавтора; ответственность за работу всё равно остаётся за человеком. Ещё менее разумно превращать LLM в фильтр для научных статей: это приведёт к тому же взлому награды. Подобно тому как антиплагиат и ИИ-детекторы обходят пересказом, такой фильтр можно будет обойти описанием науки вместо самой науки.

Источник