Новый бот Microsoft умеет распознавать картинки, но игнорирует нацистов и нацистскую символику

17.04.2016

На этот раз корпорация обезопасила своего бота от проделок троллей

Новый бот Microsoft умеет распознавать картинки, но игнорирует нацистов и нацистскую символику
С некоторыми другими изображениями бот тоже не справляется. Правда, описать это фото действительно сложно

Пару недель назад корпорация Microsoft представила миру бота Tay, который пытался общаться с пользователями Twitter. Но те быстро научили бота плохим вещам, тот стал расистом всего за один день. Поэтому Microsoft отключила бота. Через несколько дней бота снова ввели в строй, но тот признался в курении наркотических веществ рядом с полицией, и его снова отправили «спать».

Сейчас разработчики компании создали нового бота, CaptionBot. Его специализация — идентификация изображений. Со многими картинками CaptionBot справляется отлично, он узнает знаменитостей, распознает людей и объекты на фото. Но на этот раз компания ввела «систему безопасности» — нацистов и соответствующую символику бот не распознает. Сообщает просто, что «описать картинку не могу» и все. Кроме того, некоторые картинки бот описывает не слишком верно. На фото с Рипли и Чужим дается описание следующего вида: «Я не слишком уверен, но я думаю, что это мужчина чистит зубы».

Ok, #CaptionBot is pretty funny to play around with…. pic.twitter.com/mQLsUQv8nf

— Dark Bunny Tees (@DarkBunnyTees) 14 апреля 2016 г.

Может, и чистит, конечно, но не мужчина и не щеткой.

Того же Гитлера бот упорно не узнает, как и свастику.

Тем не менее, Мао Цзэдуна, Пол Пота, Саддама Хусейна бот узнает быстро и без ошибок.

Представители корпорации уже сообщили, что ими была внедрена фильтрация «на базовом уровне, для того, чтобы предотвратить различные сценарии». Узнав об этом, некоторые пользователи тут же заявили, что корпорация использует цензуру.

Сейчас распознавание видео и фото является важным аспектом социальных сетей и других сервисов — люди генерируют огромное количество такого конента, и его необходимо уметь ранжировать, чтобы информация была структурированной, и среди огромного числа видео с котиками и детьми можно было бы найти отдельный видеоролик.

ИИ справляется с этой задачей более-менее нормально, включая сервисы от Google, Facebook и т.п. Бот Microsoft выполняет свою работу тоже неплохо. Иногда, конечно, ошибается.