Microsoft и биологи обнаружили уязвимости в системе проверки ИИ-сгенерированных геномов

Генеративные модели искусственного интеллекта стремительно трансформируют современную биологию, открывая беспрецедентные возможности для конструирования фундаментальных биомолекул. Тем не менее научное сообщество бьет тревогу: повсеместная доступность подобных технологий сопряжена с серьезными угрозами, что диктует необходимость срочного внедрения протоколов биологической безопасности.

Еще в 2024 году лауреат Нобелевской премии Дэвид Бейкер из Вашингтонского университета (разработчик системы RoseTTAFold для моделирования белковых структур) и выдающийся генетик Джордж Черч из Гарварда предложили интегрировать специализированные «водяные знаки» в синтетические генетические последовательности для верификации их происхождения.

Однако свежий отчет экспертов Microsoft указывает на то, что подобные меры не являются панацеей. Сгенерированные нейросетями генетические коды зачастую успешно обходят существующие барьеры защиты. Традиционные программные средства анализа ДНК оказываются неспособны идентифицировать патогенные цепочки, если те умело замаскированы среди «нейтральных» фрагментов.

Авторы исследования призывают к созданию комплексной архитектуры биобезопасности до того, как технологический прогресс приведет к необратимым последствиям. Сегодня ИИ способен проектировать не только белки, но и РНК, а также целые клеточные системы. Инструментарий вроде RFdiffusion2 и PocketGen позволяет осуществлять атомарное моделирование белков под специфические задачи — от запуска биохимических реакций до таргетного взаимодействия с медикаментами. РНК-терапия остается крайне многообещающим, но сложным в реализации направлением из-за трудностей с прогнозированием пространственной конфигурации молекул.

Экспериментально доказано, что алгоритмы могут быть перенастроены на создание опасных биоматериалов. В ходе одного из тестов ИИ спроектировал токсичные белки, которые остались незамеченными системами безопасности. В другом случае алгоритм, нацеленный на поиск противовирусных соединений, ошибочно идентифицировал известный нейротоксин как потенциальное лекарство.

Для минимизации рисков требуется установление жесткого регламента на всех этапах взаимодействия ИИ с биологическими данными. В Великобритании уже внедрены стандарты проверки синтеза ДНК, а в США аспекты биобезопасности стали неотъемлемой частью стратегии развития ИИ в биотехнологическом секторе. Технологические гиганты, в свою очередь, выразили готовность исключать последовательности опасных вирусов из обучающих выборок и проводить тщательный аудит своих разработок.

Исследователи настаивают на формировании многоуровневого оборонного контура, включающего строгую фильтрацию данных, контролируемое обучение моделей и регулярные стресс-тесты на уязвимость. По их убеждению, эффективная система защиты должна представлять собой адаптивный механизм, способный мгновенно реагировать на новые вызовы в сфере биотехнологий.

Источник: iXBT