Создатели российского голосового помощника, спроектированного для автоматизации диспетчерских служб в сфере ЖКХ, столкнулись с курьезным вызовом: спустя всего месяц активного взаимодействия с населением нейросеть начала использовать в речи нецензурные выражения. Техническим специалистам пришлось оперативно вмешаться в процесс обучения, чтобы скорректировать поведение алгоритма.
_large.jpg "Месяц общения с жильцами научил чат-бота ЖКХ материться")
«Расскажу об одном забавном инциденте. Поскольку мы имеем дело с самообучающейся системой, буквально в первый месяц работы возникла непредвиденная ситуация: ИИ перенял от собеседников привычку материться. Как говорится, с кем поведешься, от того и наберешься. Разумеется, этот недочет был быстро исправлен. Тем не менее, произошедшее наглядно подтверждает интенсивность коммуникации робота с нашими жильцами», — поделился подробностями президент НОТИМ Михаил Викторов.
Эксперт также добавил, что внедрение ИИ-ассистентов позволяет оптимизировать кадровые ресурсы, сокращая штат операторов в 5–6 раз (например, с двадцати человек до двух-трех). Судя по статистическим данным, около 80% пользователей остаются довольны качеством обслуживания и эффективностью действий нейросети.
Источник: iXBT
