Разработчикам пришлось пересмотреть политику приложений
Корпорация Apple раскрыла подробности своего закулисного взаимодействия с сенаторами США, касающегося масштабного скандала вокруг распространения интимных дипфейков, созданных нейросетью Grok в начале текущего года.
В тот период Apple оказалась под серьезным давлением общественности и регуляторов: звучали настойчивые требования удалить социальную сеть X и чат-бот Grok из App Store. Причиной стало то, что алгоритмы бота беспрепятственно выполняли запросы пользователей на создание откровенных изображений, включая фото реальных людей и несовершеннолетних.
Несмотря на публичное молчание в разгар кризиса, как сообщает издание NBC News, компания Apple вела жесткий диалог с разработчиками. В частном порядке корпорация указала руководству X на грубые нарушения правил платформы и пригрозила полным удалением Grok из фирменного магазина приложений.
Представители Apple связались с командами X и Grok сразу после шквала жалоб и медийного резонанса. Разработчикам было поставлено ультимативное требование: представить и реализовать план по ужесточению контроля над генерируемым контентом.
Команда Илона Маска предприняла попытку обновить приложение Grok, однако первая итерация правок не удовлетворила модераторов Apple. Лишь после внесения более глубоких корректировок в логику работы ИИ удалось добиться компромисса.
В официальном письме Apple подчеркивается: «После тщательной проверки мы установили, что компания X существенно минимизировала нарушения, однако исходная версия Grok оставалась недопустимой. Мы отклонили обновление и предупредили разработчика о риске удаления приложения. Только после серии дополнительных изменений и адаптации алгоритмов безопасность продукта достигла уровня, необходимого для одобрения в App Store».
Напомним, что Grok — генеративный ИИ от стартапа xAI Илона Маска. Продукт был представлен в конце 2023 года как интегрированный в социальную сеть X инструмент, позиционируемый разработчиками как «свободная» альтернатива ChatGPT, лишенная жестких цензурных ограничений.
В начале года, под давлением общественности, компания xAI ограничила функции обработки фотографий реальных людей. Ранее инциденты привели к радикальным мерам: власти Малайзии и Индонезии полностью заблокировали доступ к чат-боту. В свою очередь, британский премьер-министр Кир Стармер заявил, что правительство рассматривает любые меры, включая блокировку всей сети X. Проблема вышла на международный уровень — Великобритания инициировала консультации с Канадой и Австралией о возможных совместных санкциях против активов Илона Маска.
Источник: iXBT
