Искусственный интеллект может ложно обнаружить внеземную жизнь: угроза для космических миссий

Специалисты из Университета штата Мичиган продемонстрировали, что нейросети способны демонстрировать абсолютную уверенность в ошибочных суждениях при идентификации признаков жизни. Подобный изъян может представлять серь、езную угрозу для грядущих космических экспедиций, полагающихся на автономный анализ данных. Программа безупречно разграничивала виртуальные формы жизни и неодушевленные элементы, но впоследствии начала квалифицировать искусственные фальсификации как подлинные живые структуры.

В ходе исследования эксперты задействовали цифровую среду Avida, населенную способными к репликации компьютерными организмами и лишенными этого свойства объектами. Прошедшая тренировку модель демонстрировала правильную классификацию в 99,97% ситуаций. Тем не менее, когда исследователи приступили к планомерной модификации неодушевленных фрагментов кода для получения образцов, частично повторяющих исходные паттерны, ситуация изменилась.

В итоге ИИ почти со стопроцентной вероятностью причислил эти объекты к категории живых, проигнорировав ключевой критерий данной среды — способность к самовоспроизведению.

Как поясняют авторы проекта, корни проблемы кроются в способности нейросетей улавливать поверхностные статистические корреляции без глубинного осмысления базовой природы изучаемых объектов. Это порождает существенные риски для миссий, в рамках которых автоматизированные комплексы должны будут самостоятельно выявлять следы внеземной жизни на марсианской поверхности, ледяных лунах и прочих небесных телах, отбирая наиболее перспективные образцы для детального изучения.

Тем временем космическое ведомство США и его академические союзники активно внедряют технологии машинного обучения для экзобиологических исследований. В частности, одна из инициатив NASA удостоилась финансирования в размере 5 миллионов долларов на разработку алгоритмов, способных распознавать биомаркеры в многокомпонентных химических спектрах. Платформа будет тренироваться как минимум на тысяче образцов, охватывающих метеоритное вещество, минералы, окаменелости и живые ткани, задействуя информацию с бортовых масс-спектрометров [приборов для прецизионного анализа химического состава], активно используемых в межпланетных перелетах.

Специалисты подчеркивают необходимость обучать ИИ-системы не только на актуальных биологических образцах, но и на косвенных следах жизнедеятельности, включая палеонтологические артефакты и биогенные химические соединения. При этом мичиганские исследователи убеждены, что существующие подходы пока не обладают достаточной надежностью для автономного поиска внеземной жизни и нуждаются в доработке механизмов, способных предотвращать подобные когнитивные сбои.

Источник: iXBT