Blizzard будет бороться с токсичными игроками с помощью ИИ

Глава разработки Overwatch Джефф Каплан рассказал о новом способе борьбы с токсичными игроками. Blizzard сделает искуственный интеллект, который будет следить за поведением игроков в чате.

Джефф сказал, что сейчас Blizzard учит программу определять оскорбления на разных языках. Разработчики хотят сделать так, чтобы игрокам не приходилось отправлять репорты вручную — все будет работать автоматически.

Когда система будет готова, Blizzard займется определением агрессивного поведения. Искусственный интеллект будет совершать ошибки, если его сделают топорным. Например, если вы будете материться в чате, а программа распознает токсичность по набору слов — вас забанят.

Джефф отметил, что команда учит ИИ на самых вопиющих примерах. При этом ИИ не будет влезать в личные сообщения и его можно будет настроить: сделать так, чтобы он сообщал только о подозрительном поведении, или банил за повторные нарушения.

Blizzard входит в состав инициативы по борьбе с токсичностью Fair Play Alliance вместе с Riot и Twitch. Они разбираются, как закрепить у игроков привычку вести себя хорошо.

В репортах обычно пишут — «Эй, Эдриан — плохой, я хочу его наказать», но почему нельзя сказать, что Эдриан был потрясающим тиммейтом и я был рад сыграть с ним?