Специалисты выявили неточности в результатах научных исследований, которые могли оставаться без внимания на протяжении многих лет. Применение технологии искусственного интеллекта для предсказания температуры испарения различных соединений привело к расхождениям с информацией из общепринятой научной базы данных, используемой химиками уже почти три четверти века. Тем не менее, дальнейшая проверка первоисточников показала, что причиной несоответствия были ошибки в самой базе данных, а не в разработанном алгоритме.

Ученые подчеркивают, что данный эпизод подчёркивает возможную ценность искусственного интеллекта для аудита научных публикаций и справочных материалов. В то же время он акцентирует необходимость повторной оценки первичных источников информации, особенно на фоне быстрого прогресса в области ИИ.

Постепенное совершенствование больших языковых моделей трансформирует подходы к научной деятельности. Новейшие разработки в области искусственного интеллекта позволяют автоматизировать ряд сложных и затратных процессов, таких как создание сложного программного обеспечения, выявление тенденций в обширных наборах информации и содействие в оценке математических и физических выводов.

В последнее десятилетие наблюдается значительный рост числа опубликованных научных работ. Применение искусственного интеллекта и автоматизированных процессов может ещё больше увеличить эту тенденцию. Однако увеличение количества исследований создаёт дополнительную нагрузку на существующую систему экспертной оценки научной деятельности, требуя от специалистов тщательной проверки достоверности представленных данных, возможности их воспроизведения и выявления возможных недочетов.

Суть проблемы заключается в том, что объём генерируемой научной информации увеличивается быстрее, чем способность людей осуществлять её ручную проверку. В ряде дисциплин, таких как математика или теоретическая информатика, детальный анализ одной работы может потребовать последовательного изучения сложных доказательств построчно и занять у эксперта несколько рабочих дней.

Искусственный интеллект способствовал обнаружению недочетов в базе данных справочных материалов

Примером применения ИИ для подобной проверки служит исследование, проведенное теоретическими химиками из научной группы Zhejiang, расположенной в Ханчжоу (Китай). Ученые использовали систему искусственного интеллекта с целью предсказания температуры кипения ряда молекул.

Вычисленные алгоритмом показатели демонстрировали расхождения с информацией, представленной в авторитетной научной базе знаний, являвшейся общепринятым ресурсом для специалистов-химиков во всем мире на протяжении длительного времени.

На начальном этапе могло возникнуть впечатление об ошибке со стороны системы на базе ИИ. Тем не менее, исследователи решили провести ручную проверку и проанализировали первоначальные научные труды, которые послужили основой для формирования справочной информации.

В конечном итоге стало ясно, что некоторые записи внутри самой базы данных содержали неточности.

Исследователи выявили недочеты как в архивных научных публикациях, так и в справочных материалах прошлых лет. Иногда это были незначительные ошибки при наборе текста, а порой – некорректные измерения температуры испарения веществ.

Суть проблемы заключалась в том, что последующие научные работники брали за основу уже имеющиеся опубликованные данные. Это создавало возможность для автоматического воспроизведения ошибок из старых источников в свежих научных исследованиях.

Как отметил специалист в области теоретической химии, Себастьян Пиос, работающий в Zhejiang Lab, подобные неточности могли затруднить дальнейшие научные изыскания, поскольку ошибочные показатели продолжали восприниматься как проверенная информация.

Следовательно, неожиданный вывод, сделанный искусственным интеллектом, оказался не признаком так называемых «выдумок» модели, а указанием на то, что существующие научные сведения могут быть ошибочными.

Искусственные интеллект-агенты приступили к оценке научных публикаций.

В качестве иллюстрации можно привести случай с применением комплекса ИИ-агентов для анализа и подтверждения достоверности научных работ.

Специалисты из SAI Labs создали комплекс искусственного интеллекта, предназначенный для изучения публикаций, выбранных для устных выступлений на Международной конференции по машинному обучению ICML в 2026 году.

В общей сложности система обработала 168 научных трудов. Для 105 из них была предпринята полная попытка повторения представленных результатов.

Авторы использовали платформу SAI Review, которая является развитием их предыдущих проектов с открытым кодом OpenAIReview и Veritas.

Работа системы начинается с изучения научной статьи. Она выделяет ключевые положения авторов, получает доступ к предоставленным данным и пытается повторить заявленные результаты. После этого полученные данные сопоставляются с утверждениями, содержащимися в первоначальной работе.

Вместе с тем, данная технология способна исследовать текст научной работы без проведения всех экспериментов, упомянутых в ней, что позволяет ей частично воспроизводить задачи научного экспертного анализа.

Тем не менее, исследования продемонстрировали, что текущий уровень развития подобных систем недостаточен для автоматизированной оценки научных трудов.

После изучения 168 научных работ было выявлено, что в 92 из них содержатся утверждения, подлежащие оценке. При этом лишь в 34 исследованиях искусственный интеллект смог повторить более чем сорок процентов этих проверенных данных.

Из числа тех 92 статей, где присутствовало не менее пяти оцениваемых положений, во восьми случаях ИИ продемонстрировал способность воспроизвести свыше восьмидесяти процентов из них.

Искусственный интеллект в настоящее время не способен полностью заменить квалифицированного научного эксперта

Эксперты, опрошенные журналом Nature, отмечают, что искусственные нейронные сети, подобно людям, подвержены ошибкам. В связи с этим, выводы, полученные при их помощи, требуют дополнительной проверки человеком.

Существует вероятность того, что алгоритмы могут упустить ключевые исходные посылки, исказить интерпретацию результатов или даже создать вымышленные факты. Поэтому несоответствия, выявленные искусственным интеллектом, не должны рассматриваться как безоговорочное свидетельство ошибки в научной публикации.

Несмотря на это, эксперты полагают, что подобные разработки способны служить ценной поддержкой для лиц, осуществляющих научную экспертизу. Искусственный интеллект обладает возможностью оперативно анализировать значительные массивы данных, обнаруживать аномальные показатели, выявлять противоречия между заявленными положениями и полученными данными, а также акцентировать внимание эксперта на участках, нуждающихся в более детальном изучении.

Случай с температурами кипения демонстрирует еще один существенный момент данного подхода. Порой неожиданный вывод, сделанный искусственным интеллектом, может не являться дефектом самого алгоритма, а сигнализировать о наличии ошибки в исходной информации, которую научное сообщество длительное время воспринимало как достоверную.

В настоящее время ИИ-агенты, предназначенные для поиска ошибок в научных изысканиях, эффективнее всего служат инструментом привлечения внимания специалистов к возможным затруднениям, а не самостоятельным способом определения достоверности представленных данных.

В перспективе подобные инструменты могут функционировать как дополнительный этап контроля качества научных работ, однако финальный вердикт об итогах по-прежнему должен основываться на оценке квалифицированных специалистов и проверке первичных данных.