Apple удалила из App Store приложения, которые с помощью ИИ «раздевают» людей на фотографиях

Apple ужесточила требования App Store и запретила приложения, которые с помощью искусственного интеллекта генерируют «раздевающие» изображения, то есть реалистичные обнажённые снимки реальных людей, созданные без их согласия. Разработчики должны не допускать появления подобного контента и оперативно его удалять. В противном случае приложение будет исключено из магазина.

Новый пункт 2.5.19 нацелен на обман со стороны разработчиков. Тех, кто скрывает функцию «обнажения» во время проверки, а после одобрения включает её, могут лишить места в App Store и доступа к программе Apple Developer Program. Поводом послужили случаи, когда приложения выдавали себя за безобидные утилиты, а затем активировали опасную возможность.

Изменения касаются и ИИ-чат-ботов. Ранее Apple грозилась убрать из магазина Grok от xAI из-за дипфейков с обнажёнными телами, и обновлённую версию одобрили лишь после того, как компания внедрила защитные механизмы. Теперь подобные требования действуют для приложений всех категорий.

Кроме того, Apple распространила запрет на приложения, связанные с торговлей людьми и эксплуатацией детей, на альтернативные магазины приложений.

Источник: iXBT