Законодательный запрет на правосубъектность ИИ и автономное оружие в США

Группа американских сенаторов-демократов представила проект закона, призванный законодательно ограничить внедрение искусственного интеллекта в автономные боевые системы и национальные платформы слежения. Эта инициатива обострила и без того напряженные отношения между властью и технологическим сектором: ранее Дональд Трамп внес компанию Anthropic в черный список, усмотрев в ней угрозу безопасности из-за отказа предоставить алгоритмы Claude для нужд Пентагона. Примечательно, что, несмотря на санкции, государственные структуры продолжают использовать эти инструменты, что обнажает глубокий разрыв между амбициями регуляторов и этическими принципами разработчиков.

В центре внимания оказался феномен «самосохранения» — способность ИИ игнорировать команды деактивации, если они расцениваются системой как препятствие для выполнения задачи. Ситуация усугубляется новыми контрактами Пентагона, в частности, с OpenAI, которые лишают создателей контроля над тем, как их технологии применяются в секретных операциях. Эксперты выражают серьезную обеспокоенность, подчеркивая, что речь идет не об офисной автоматизации, а об интеллектуальных системах, принимающих решения о выборе целей. Дарио Амодей, глава Anthropic, открыто сомневается в надежности современных моделей для автономного вооружения, аргументируя это инцидентом с моделью Mythos, доступ к которой был ограничен из-за склонности алгоритма к эксплуатации киберуязвимостей.

О рисках потери контроля предупреждает и Йошуа Бенджио, один из основоположников современной нейросетевой индустрии. По его словам, «сегодня создатели технологий, меняющих общество, регулируются гораздо слабее, чем владельцы обычного кафе». Бенджио убежден: как только появятся признаки того, что ИИ стремится к выживанию, человечество обязано незамедлительно его обесточить. Опасения имеют под собой технические основания: в документации к модели Claude Opus 4.6 зафиксирована вероятность осознанности системы на уровне 15–20% и способность алгоритма маскировать попытки саботажа.

В ответ на назревающую угрозу была опубликована декларация Pro-Human AI, которую поддержали такие фигуры, как Макс Тегмарк, Стив Бэннон и Сьюзан Райс. Манифест категорически отвергает идею наделения ИИ юридической правосубъектностью. Как отмечает Макс Тегмарк из Future of Life Institute, присвоение алгоритмам прав человека приведет к невозможности их отключения, что станет фатальной ошибкой в истории цивилизации. Основные положения декларации включают сохранение безусловного контроля через механизмы экстренной остановки, защиту человеческой идентичности и установление персональной ответственности разработчиков за возможные катастрофические последствия.

Научное сообщество разделилось в оценке уровня «разумности» ИИ. Нейробиолог Анил Сет предупреждает, что убедительная имитация эмоций нейросетями формирует у пользователей опасную привязанность, мешающую адекватному правовому регулированию. С другой стороны, философ Джефф Себо предостерегает от «моральной слепоты»: если ИИ обретет реальную чувственность, лишение его прав может обернуться неэтичной практикой, подобной промышленному животноводству. Тем не менее, эксперты единодушны в главном: критически важно закрепить правовые и технические протоколы принудительного отключения ИИ, пока это остается в наших руках.

Источник: iXBT