Команда «Одноклассников» приняла временные меры по ограничению пользователей, оставляющих обидные комментарии. Как отметили в пресс-службе, использование технологий машинного обучения позволило снизить количество негативных отзывов под постами, фотографиями и видео на 47%.
В социальной сети была интегрирована модель машинного обучения, которая автоматически распознает токсичные комментарии и временно ограничивает их авторов в оставлении новых сообщений продолжительностью от одного часа до 24 часов. Продолжительность зависит от частоты негативных высказываний пользователя.
Модель машинного обучения была обучена на наборе из 400 тысяч высказываний, характеризуемых как недружелюбные или вызывающие негативное обсуждение.
Ранее в 2024 году платформа начала автоматически определять и скрывать нецензурные слова, а также размывать изображения интимного характера.
Источник: iXBT
