Компания будет преобразовать фотографии в хеш. Сами снимки обещают не хранить и не передавать.
Meta вместе с британской горячей линией Revenge Porn Helpline запустила платформу StopNCII.org. Запуск поддержали более 50 неправительственных организаций по всему миру. Об этом сообщается на сайте компании.
Аббревиатура NCII из названия обозначает «обмен интимными изображениями в интернете без согласия» (non-consensual sharing of intimate images). Meta считает, что публикации таких фотографий могут разрушить жизнь человека.
Компания предложила пользователям, чьи фотографии или видео опубликовали или могут опубликовать в фейсбуке и инстаграме, выбрать файлы, которые система смогла бы оперативно обнаружить. Файлы преобразуют в цифровой отпечаток, который соцсети и будут использовать.
Meta утверждает, что исходное изображение останется на устройстве пользователя, его никуда не загрузят и не будут передавать. Операция хэширования необратимая — по хэшу не получится восстановить оригинальное содержание файла.
Загружать фотографии могут только лица старше 18 лет.
После загрузки фотографий нужно создать уникальный PIN, по которому можно отслеживать статус проверок.
StopNCII.org уточняет, что технология может помочь удалить только фотографии, идентичные исходному файлу. Если к снимку применили фильтр или обрезали, алгоритм может не распознать его. Для таких изображений нужно создавать новую заявку.
Эту технологию Meta тестирует с 2017 года в Австралии. Тогда нужно было отправлять снимки себе в чате Messenger, но их должны были просматривать другие люди — чтобы вручную создать хеш. Руководитель службы безопасности Facebook Антигона Дэвис заявляла, что фотографии видела «только очень маленькая группа из около пяти специально обученных аналитиков». Позже функцию запустили и для пользователей США, Канады и Великобритании.
