В будущем компания собирается ввести её аналог и для голосовых чатов.
Тестировать обновлённую систему среди участников программы Xbox Insider начали 14 октября. Она добавляет в раздел настроек несколько опций, которые можно применить, скрывая нежелательный или оскорбительный контент из личных сообщений.
Пользователям предлагают выбрать один из четырёх уровней фильтрации текста.
- «Дружелюбный» — скрывает как можно больше потенциально оскорбительных фраз, но не обычную речь и обсуждения игр. Это настройка по умолчанию для всех детских аккаунтов.
- «Средний» — оставляет грубые выражения, которые могут использовать в дружеской переписке, скрывает прямые оскорбления.
- «Для взрослых» — скрывает только «контент, цель которого в большинстве случаев — навредить адресату».
- «Без фильтра» — отключает систему, ничего не изменяя в мессенджере Xbox Live.
На всех сообщениях, попавших под фильтрацию, будет специальная заглушка. Игрок может нажать на любое из них и при желании отобразить их по одному.
Различные уровни «автомодерации» позволят применить для разных сообщений — например, включить её только для пользователей, которых нет в списке друзей.
В Microsoft заявили, что в фильтрах работает не только стандартная система по поиску нецензурных выражений, но и специальный ИИ, который помогает определять контекст.
Контекст — это очень тонкая вещь, особенно когда дело касается видеоигр.
Готовиться к «серии убийств» перед онлайн-миссией в Halo — это одно. Но совсем другое — когда такие фразы произносят при совершенно иных обстоятельствах.
Так что для нас попытки понять контекст и различные нюансы речи — это вечная борьба.
Сотрудники компании также рассказали, что планируют ввести подобные системы фильтров для голосовых чатов. Они хотят создать алгоритмы, которые будут анализировать аудио в реальном времени и, например, автоматически «запикивать» мат в речи.
В Microsoft подчеркнули, что будут подробно объяснять пользователям, как работают подобные системы, и внимательно отнесутся к вопросу сохранности личных данных.
Опции текстовой фильтрации собираются активировать для всех игроков в течение осени 2019-го, а «автомодерация» аудио всё ещё находится в разработке.
О своих планах по борьбе с токсичностью в Microsoft рассказывали уже неоднократно. Ранее Фил Спенсер уже говорил об опциональных фильтрах, отмечая, что «Xbox — не платформа со свободой слова».
