Apple пригрозила удалить X и Grok из App Store из-за сексуальных дипфейков

Корпорация Apple раскрыла подробности своего закулисного взаимодействия с сенаторами США, касающегося масштабного скандала вокруг распространения интимных дипфейков, созданных нейросетью Grok в начале текущего года.

В тот период Apple оказалась под серьезным давлением общественности и регуляторов: звучали настойчивые требования удалить социальную сеть X и чат-бот Grok из App Store. Причиной стало то, что алгоритмы бота беспрепятственно выполняли запросы пользователей на создание откровенных изображений, включая фото реальных людей и несовершеннолетних.

Несмотря на публичное молчание в разгар кризиса, как сообщает издание NBC News, компания Apple вела жесткий диалог с разработчиками. В частном порядке корпорация указала руководству X на грубые нарушения правил платформы и пригрозила полным удалением Grok из фирменного магазина приложений.

Представители Apple связались с командами X и Grok сразу после шквала жалоб и медийного резонанса. Разработчикам было поставлено ультимативное требование: представить и реализовать план по ужесточению контроля над генерируемым контентом.

Команда Илона Маска предприняла попытку обновить приложение Grok, однако первая итерация правок не удовлетворила модераторов Apple. Лишь после внесения более глубоких корректировок в логику работы ИИ удалось добиться компромисса.

В официальном письме Apple подчеркивается: «После тщательной проверки мы установили, что компания X существенно минимизировала нарушения, однако исходная версия Grok оставалась недопустимой. Мы отклонили обновление и предупредили разработчика о риске удаления приложения. Только после серии дополнительных изменений и адаптации алгоритмов безопасность продукта достигла уровня, необходимого для одобрения в App Store».

Напомним, что Grok — генеративный ИИ от стартапа xAI Илона Маска. Продукт был представлен в конце 2023 года как интегрированный в социальную сеть X инструмент, позиционируемый разработчиками как «свободная» альтернатива ChatGPT, лишенная жестких цензурных ограничений.

В начале года, под давлением общественности, компания xAI ограничила функции обработки фотографий реальных людей. Ранее инциденты привели к радикальным мерам: власти Малайзии и Индонезии полностью заблокировали доступ к чат-боту. В свою очередь, британский премьер-министр Кир Стармер заявил, что правительство рассматривает любые меры, включая блокировку всей сети X. Проблема вышла на международный уровень — Великобритания инициировала консультации с Канадой и Австралией о возможных совместных санкциях против активов Илона Маска.

Источник: iXBT