Главы ведущих технологических корпораций обратились к законодателям США с требованием ужесточить правила работы на рынке синтетической ДНК и РНК. По мнению экспертов, стремительный прогресс в области искусственного интеллекта существенно снижает порог вхождения для разработки патогенов, создавая критические угрозы для глобальной биобезопасности.
Совместное обращение, обнародованное 3 июня, подписали знаковые фигуры отрасли: Сэм Альтман (OpenAI), Дарио Амодеи (Anthropic), Демис Хассабис (Google DeepMind) и Мустафа Сулейман (Microsoft AI).
Инициаторы предлагают ввести обязательный федеральный аудит всех заказов на синтез генетического материала. Предлагаемые меры включают сверку запросов с реестрами патогенов, обязательную верификацию личности заказчиков и проведение комплексной оценки рисков до запуска производственного цикла.
В документе подчеркивается, что современные ИИ-системы демонстрируют впечатляющую эффективность в биологических исследованиях. Хотя технология еще не способна синтезировать новые угрозы самостоятельно, она выступает мощным катализатором, предоставляя пользователям доступ к сложным генетическим алгоритмам и ускоряя анализ биологических процессов.
Основанием для столь радикального призыва послужили результаты внутреннего тестирования ИИ-моделей. В OpenAI с начала 2024 года проводят стресс-тесты, имитирующие работу с биологическими угрозами. Полученные данные оказались настолько тревожными, что компания признала недостаточность существующих добровольных стандартов саморегулирования.
Аналогичные опасения транслируют и специалисты Anthropic, предупреждая об эффекте «биологического усиления». Речь идет о способности ИИ-инструментов помогать непрофильным специалистам в реализации задач, которые ранее требовали глубокой академической подготовки и специфических компетенций. Биология признана одной из наиболее уязвимых областей перед лицом растущей мощности нейросетей.
Примечательно, что необходимость коллективных действий объединила непримиримых конкурентов по рынку ИИ. Тот факт, что OpenAI и Anthropic выступили единым фронтом, красноречиво свидетельствует о глубине осознания рисков, стоящих перед человечеством.
В случае одобрения данных мер Конгрессом, производителям синтетики придется радикально пересмотреть операционные процессы. Это повлечет за собой рост издержек, что может стать серьезным испытанием для малых компаний. С другой стороны, возникнет целый сегмент рынка для систем автоматизированной фильтрации и риск-менеджмента в области биогенетики.
Потенциальное регулирование может затронуть и экосистему децентрализованной науки (DeSci), где открытый обмен геномными данными является основой прогресса. Новые административные преграды способны существенно усложнить взаимодействие участников исследовательских сообществ.
По сути, разработчики ИИ предлагают сместить вектор контроля: вместо попыток ограничить саму архитектуру нейросетей, акцент предлагается сделать на физической инфраструктуре биопроизводства. Такой подход рассматривается как наиболее прагматичный способ нейтрализации угроз, исходящих от неконтролируемого использования прогрессивного программного обеспечения в биологических целях.
Источник: iXBT
