ИИ угрожает гибелью миллиарду людей: Билл Гейтс требует государственного контроля

Один из отцов-основателей Microsoft Билл Гейтс настаивает на жестком государственном контроле над сфера искусственного интеллекта. По его убеждению, создатели нейросетей не должны в одиночку формировать регламенты безопасности — к разработке стандартов надзора обязательно должны подключаться законодатели и силовые структуры.

В ходе беседы с журналистами NBC News миллиардеру задали вопрос о необходимости принятия профильных федеральных актов в Соединенных Штатах. «Разумеется», — подчеркнул он. Филантроп убежден, что властям надлежит принимать непосредственное участие в формировании стандартов защищенности и аудита ИИ. При этом инноватор полагает, что новые предписания не станут фатальным тормозом для прогресса: хотя требования и добавят корпорациям хлопот, они не способны критически замедлить технологический скачок.

Кроме того, Гейтс призвал сместить фокус внимания с абстрактных опасений по поводу зарождения неуправляемого сверхразума на вполне осязаемые вызовы сегодняшнего дня. Он убежден, что актуальные цифровые алгоритмы, попав в деструктивные руки, способны спровоцировать разрушительные последствия.

«Искусственный интеллект обладает достаточным потенциалом, чтобы инициировать сценарии с гибелью миллиардов людей», — предупредил Гейтс. Тем не менее, он уточнил, что вероятность полного исчезновения человечества все еще дискуссионна, тогда как превентивные меры против злонамеренного применения имеющихся систем требуют предельной концентрации усилий.

Подобные заявления звучат на фоне острых дискуссий внутри индустрии о темпах эволюции передовых архитектур. Ранее генеральный директор Anthropic Дарио Амодей призывал ввести госрегулирование для всех американских вендоров, занимающихся передовыми интеллектуальными системами. По его оценке, одних лишь джентльменских соглашений мало, поскольку они бессильны против игроков, не желающих добровольно сбавлять обороты. Амодей также убежден, что эффективная трансграничная безопасность потребует широкой глобальной кооперации, включая диалог с Пекином.

Руководитель OpenAI Сэм Альтман также высказывался за создание универсальных международных стандартов. По его мнению, они призваны регламентировать методы оценки возможностей ИИ, анализ угроз и надежность защитных контуров, а также гарантировать сохранение решающего влияния человека. В то же время шеф Meta* Марк Цукерберг придерживается противоположной позиции, отвергая тотальную отраслевую стандартизацию: он считает, что каждая отдельная лаборатория обязана сама взвешивать риски и при необходимости ставить разработку на паузу.

Процесс правового регулирования ИИ уже набирает обороты на уровне американских регионов. Так, в Калифорнии сформирован экспертный ареопаг для выработки дополнительных защитных барьеров, аналогичные инициативы стартовали в Мэриленде и Нью-Йорке. Президент Microsoft Брэд Смит, со своей стороны, отметил, что бизнесу вовсе не обязательно дожидаться принятия законов, чтобы поставить безопасность выше гонки капиталов. Он провел параллель между создателями ИИ и авиаконструкторами: если у инженеров есть сомнения в надежности лайнера, погоня за первенством на рынке не должна перевешивать здравый смысл.

Иными словами, лидеры технологического сектора единодушны в том, что безопасность ИИ требует повышенного внимания, однако кардинально расходятся в вопросе о том, кто именно должен диктовать обязательные правила игры. Гейтс твердо уверен, что пальма первенства здесь должна принадлежать государству.

* Деятельность организации «Американская транснациональная холдинговая компания Meta Platforms Inc. по реализации продуктов — социальных сетей Facebook и Instagram» признана экстремистской и запрещена в РФ

Источник: iXBT