Социальная платформа «Одноклассники» внедрила новые технологии для автоматического обнаружения и скрытия эротических изображений.
Инициатива, под названием «Музей у вас дома», использует машинное обучение для фильтрации нежелательного контента в ленте и комментариях.
Согласно словам директора по продукту ОК, Александра Москвичева, целью этого обновления является обеспечение более комфортной и безопасной среды на платформе.
За последние два года мы внедрили множество улучшений, которые улучшают общение на платформе. Теперь, благодаря помощи наших пользователей и новым технологиям, люди в ОК будут видеть ещё меньше нежелательного контента, — сообщил Москвичев.
В рамках исследования для настройки фильтров пользователи оценивали, какие изображения они считают неприемлемыми. Используя эти данные, разработчики обучили две модели машинного обучения, которые теперь автоматически скрывают подобный контент. Пользователи социальной сети могут просматривать скрытые изображения, кликнув по ним, или игнорировать такой контент.
Важно отметить, что обновление не затрагивает изображения искусства, спортивные фотографии и пляжные снимки, такие как классическая живопись и статуарное искусство.