Расизм, сексизм, гомофобия и другая агрессия.
«ВКонтакте» начала тестировать нейросеть для автоматического распознавания материалов с враждебными высказываниями, говорится в блоге компании.
Нейросеть учится определять самые разные категории оскорблений и угроз. Среди них — проявления ксенофобии, расизма, гомофобии, сексизма и других предрассудков, а также оскорбления на почве религиозной принадлежности, возраста, внешности или наличия заболеваний.
Чтобы усилить модерацию, «ВКонтакте» добавила новую категорию жалоб — «Враждебные высказывания». Эта категория поможет в обучении нейросети, а пока модерацией занимаются сотрудники компании.
За первую половину 2020 года «ВКонтакте» удалила 520 тысяч материалов по теме разжигания вражды и ненависти, заблокировала 1340 профилей и 2470 сообществ, распространяющие враждебные высказывания.
