И заверил, что технологии не будут использоваться ни для каких сторонних целей.
Старший вице-президент Apple по разработке ПО Крейг Федериги дал интервью The Wall Street Journal и прояснил ситуацию с анонсированными ранее защитными функциями iPhone, которые раскритиковали пользователи и СМИ.
По его словам, к путанице привело одновременное объявление о двух разных инструментах: функции определения контента с сексуальным насилием над детьми в облачном хранилище iCloud и опции, отвечающей за оповещение родителей о получении и отправке сексуальных фотографий. Руководитель подробно объяснил принцип работы обеих технологий.
Функция определения контента с сексуальным насилием над детьми в iCloud
Федериги подчеркнул, технология сканирования применяется только к фотографиям, которые загружаются в iCloud. Если владелец iPhone отключает выгрузку снимков в облачное хранилище, защитная функция тоже автоматически выключается.
За сканирование отвечает многоэтапный алгоритм, который проводит частичный анализ снимков на iPhone при выгрузке фотографий в iCloud. Вторая часть проверки происходит уже в iCloud силами облачного хранилища.
Apple получит предупреждение только в случае, если в облачном хранилище пользователя появится определённое количество снимков с изображением сексуального насилия над детьми, по словам Федериги — около 30. При этом компания узнает только об этих потенциально незаконных фотографиях — все другие остаются для неё недоступными.
Это должно быть предельно ясно — анализ не затрагивает фотографии вашего ребёнка в ванне или, раз уж на то пошло, снимки с изображением порнографии любого другого рода. Алгоритм в буквальном смысле определяет только точнейшие совпадения с конкретными изображениями с детской порнографией.
Крейг Федериги
вице-президент Apple
Учётная запись, на которой алгоритм фиксирует более 30 вероятных нарушений, получает пометку и после её проверяют специалисты Apple на предмет того, действительно ли снимки содержат детскую порнографию. Если это так, Apple сообщает об этом в Национальный центр поиска пропавших и эксплуатируемых детей.
Федериги категорически отверг версию журналистки о том, что функция сканирования — это лазейка для властей, предоставляющий им доступ к данным пользователей. По его словам, компания разработала систему с несколькими уровнями проверки, поэтому её нельзя использовать ни для чего, кроме определения детской порнографии.
Опция оповещения родителей о получении и отправке сексуальных фотографий в iMessage
Если родитель включит эту функцию на iPhone своего ребёнка, то получаемые им снимки потенциально порнографического характера будут размыты. При этом ребёнок получит предупреждение о том, что содержимое может быть небезопасным, но сможет проигнорировать его и посмотреть снимок.
Родители смогут включить функцию оповещения о том, что ребёнок решил посмотреть потенциально опасный контент в случае, если ему меньше 12 лет. По словам Федериги, если эта опция будет включена, то iPhone уведомит ребёнка о том, что родитель получит оповещение о просмотре.
Федериги подчеркнул, что технологии, использующиеся для проверки снимков в iMessage и для поиска контента с сексуальным насилием над детьми, кардинально отличаются друг от друга. Определение содержимого снимков в iMessage происходит при помощи алгоритмов машинного обучения на iPhone. Поиск контента в iCloud же выполняется нейросетями путём сопоставления хешей изображений.
Функции для защиты детей появятся на iPhone в США с запуском iOS 15, которая должна выйти в сентябре 2021 года. Когда эти технологии начнут работать в других странах, пока неизвестно.
