Более 560 работников Google направили открытое обращение к генеральному директору корпорации Сундару Пичаи, настаивая на выходе компании из всех закрытых военных проектов, базирующихся на технологиях искусственного интеллекта. Информация об этом была обнародована изданием Financial Times.
Согласно полученным данным, в числе инициаторов — свыше 20 вице-президентов, директоров и ключевых исследователей подразделения DeepMind. В документе содержится категоричное требование прекратить взаимодействие с «секретными инициативами», поскольку отсутствие прозрачности не позволяет разработчикам контролировать последующее применение созданных ими инструментов.
Авторы петиции подчеркивают, что подобные разработки несут угрозу появления автономных систем вооружения или средств тотальной слежки, при этом специалисты компании будут лишены возможности отслеживать эти процессы или как-либо влиять на их этичность.
Триггером для протеста стали сведения о потенциальном контракте между Google и Пентагоном, предполагающем внедрение модели Gemini в секретные военные операции. Существуют опасения, что в соглашении отсутствуют защитные протоколы, на которых ранее настаивал главный конкурент — компания Anthropic.
Подписавшиеся подчеркивают, что эксплуатация ИИ в изолированных (air-gapped) сетях исключает любую возможность аудита и надзора за поведением нейросетей после их интеграции в оборонные системы.
«Наша цель — создание искусственного интеллекта, работающего на благо человечества, а не участие в проектах, которые могут привести к разрушительным или негуманным последствиям», — отмечается в тексте письма. Единственным надежным способом минимизации рисков сотрудники считают полный отказ от участия в любых засекреченных разработках.
Ситуация осложняется политическим контекстом: ранее руководство Anthropic отказалось передать властям США неограниченные права на использование чат-бота Claude. В ответ администрация Дональда Трампа признала компанию угрозой безопасности и ограничила её доступ к государственным закупкам — на данный момент это решение оспаривается в судебном порядке.
Источник: iXBT
