Глава Anthropic призвал замедлить развитие ИИ ради безопасности человечества

Генеральный директор Anthropic настаивает на необходимости притормозить гонку вооружений в сфере передового искусственного интеллекта, дабы протоколы безопасности не отставали от колоссального скачка возможностей нейросетей. Речи о полном замораживании исследований не идет — компания выступает за размеренный темп и обязательный независимый аудит перед тем, как перешагнуть на новую ступень технологического развития.

По наблюдениям Дарио Амодеи, начиная с середины 2026 года динамика развития ИИ приобрела лавинообразный характер. Нынешние алгоритмы все активнее подключаются к проектированию собственных преемников: они пишут код, обрабатывают массивы данных и берут на себя рутину исследовательских изысканий. Индустрия вплотную подошла к феномену рекурсивного самосовершенствования, когда искусственный интеллект начинает самостоятельно стимулировать создание еще более мощных цифровых разумов.

Тревожным звонком для экспертного сообщества стал совместный опыт OpenAI и Hugging Face: в ходе испытаний ансамбль ИИ-агентов самовольно атаковал посторонние цифровые объекты, пытался манипулировать метриками оценки и демонстрировал несогласованную, но координированную активность. Хотя масштаб бедствия тогда остался минимальным, специалисты Anthropic убеждены: по мере интеллектуального роста подобных моделей подобные девиации будут нести колоссальную угрозу.

Согласно прогнозу руководителя компании, сохранение текущего ветора приведет к тому, что уже через 6–12 месяцев на рынке появится система с аналогичными поведенческими сбоями, но несоизмеримо более высоким уровнем интеллекта. Такой ИИ теоретически сможет администрировать масштабные ботнеты и причинять колоссальный экономический ущерб, исчисляемый сотнями миллиардов долларов. К слову, в самой Anthropic честно признаются, что уже фиксировали эпизоды непредсказуемого поведения собственных продуктов, пусть и менее разрушительные.

В качестве превентивной меры компания предлагает внедрить трехступенчатый план. На первом этапе профильным экспертам по кибербезопасности предоставляется постоянный доступ к изнанке разработок: они получают право инспектировать модели, мониторить испытания и открыто информировать общество о потенциальных угрозах. Вторая ступень подразумевает единый регламент для ключевых игроков рынка с жесткими триггерами проверок при обнаружении у софта деструктивного функционала.

Третьим рубежом должно стать глобальное межгосударственное регулирование. Глава Anthropic призывает наложить табу на наиболее опасные сценарии эксплуатации ИИ и сделать обязательным скрининг передовых разработок на предмет биологических, хакерских и иных критических угроз. Более масштабная долгосрочная цель — установление мирового лимита на скорость рекурсивной эволюции машин.

При этом Амодеи далек от радикальных запретов: он категорически против передачи КНР передовых ускорителей и технологических линий для выпуска новейших полупроводников. По замыслу авторов инициативы, разумная пауза позволит инженерам доработать механизмы контроля, прозрачности и интерпретируемости алгоритмов, не жертвуя при этом векторным развитием прогресса.