Ватикан и сооснователь Anthropic объединяются для создания энциклики против боевого ИИ

Ватикан подтвердил, что 25 мая понтифик представит свою дебютную энциклику под заголовком «Magnifica Humanitas» («Великое человечество»). Труд всецело посвящен отстаиванию незыблемости человеческого достоинства в период стремительного распространения систем искусственного интеллекта. Отходя от многолетней практики, когда оглашение подобных актов доверяют курии или сотрудникам пресс-службы, папа решил представить документ лично.

Знаковым событием станет участие в презентации Кристофера Олаха, сооснователя компании Anthropic. Олах курирует передовое направление по интерпретируемости нейросетей — научные изыскания, нацеленные на «взлом» внутренних алгоритмов мощных моделей ИИ. Эксперты стремятся установить, допустимо ли полагаться на столь сложные системы, если принципы принятия ими решений остаются для человечества непроницаемым «черным ящиком». Также в мероприятии примут участие государственный секретарь Святого Престола кардинал Пьетро Паролин и кардинал Виктор Мануэль Фернандес.

Согласно сведениям агентства Reuters, энциклика содержит решительное порицание применения ИИ-алгоритмов в военных целях и предостерегает от угроз, которые бесконтрольная автоматизация несет правам рабочих. На минувшей неделе Лев XIV в ходе выступления в одном из крупнейших европейских университетов жестко раскритиковал использование нейросетей в ведении боевых действий. Апеллируя к текущим мировым конфликтам, понтифик охарактеризовал это явление как «бесчеловечную деградацию военного дела, превращающую технологии в инструмент тотального уничтожения».

Первый в истории папа-американец подписал исторический документ 15 мая. Выбор даты символичен: она приурочена к 135-летию публикации культовой энциклики «Rerum novarum» («О новых вещах») папы Льва XIII, который в 1891 году встал на защиту справедливости и прав трудящихся в эпоху промышленных потрясений. Нынешний глава Церкви, принявший имя в честь своего предшественника, проводит прямую аналогию между индустриальным переворотом XIX столетия и современным ИИ-бумом. Для него нынешний технологический скачок является тектоническим сдвигом, требующим от Церкви четкой и бескомпромиссной этической позиции.

Папские энциклики представляют собой высший уровень церковного учительства, адресованный полуторамиллиардной пастве. С первых дней своего понтификата Лев XIV сделал проблематику безопасности ИИ приоритетным вектором своей деятельности, настойчиво призывая мировое сообщество осознать экзистенциальные риски, связанные с неконтролируемым развитием цифровой среды.

Источник: iXBT