Ученые из Университета штата Мичиган пришли к выводу, что современные алгоритмы искусственного интеллекта могут демонстрировать пугающую непредсказуемость при поиске следов внеземных биологических систем.
В ходе эксперимента специалистам удалось с легкостью дезориентировать специализированную нейросеть: стоило лишь внести в исходные данные незначительные правки, как модель начинала ошибочно интерпретировать их как достоверные признаки живой материи.
Основная задача исследования заключалась в проверке способности ИИ корректно идентифицировать биомаркеры. Для этого была задействована платформа Avida, моделирующая процессы цифровой эволюции, где виртуальные объекты развиваются путем репликации кода, накапливая случайные мутации, подобно биологическим видам.
Нейросеть тренировали на десятках тысяч цифровых организмов, часть из которых обладала функцией самовоспроизведения. На знакомых массивах данных система демонстрировала безупречную точность классификации.
Ситуация кардинально изменилась, когда исследователи начали модифицировать код организмов, предлагая нейросети принципиально новые варианты. Выяснилось, что порой достаточно всего 150 микроизменений в структуре данных, чтобы алгоритм начал с уверенностью принимать «шум» за признаки жизни. Как подчеркивает соавтор работы Анкит Гупта, исследователям удавалось сбить нейросеть с толку в 100% случаев, независимо от того, какие именно модификации применялись.
«У искусственного интеллекта есть свое «ахиллесово пяло»: он способен уловить закономерность, но при этом интерпретировать ее в корне неверно», — поясняет Кристоф Адами, соавтор исследования. По его мнению, корень проблемы кроется в критической зависимости нейросетей от сходства новых данных с обучающей выборкой.
Полученные результаты имеют огромное значение не только для астробиологии и будущих миссий по поиску жизни на других планетах, где ИИ будет работать автономно. Эта уязвимость характерна для всех сфер, где нейросети принимают ответственные решения: от систем распознавания лиц и медицинской диагностики до управления беспилотным транспортом.
Ученые настаивают на том, что на текущем этапе развития технологий ИИ должен выступать лишь вспомогательным инструментом, а его выводы нуждаются в обязательной верификации человеком. В процессах, где цена ошибки крайне велика — особенно в вопросах поиска внеземного разума — окончательный вердикт должен оставаться за специалистом.
Источник: iXBT
