Реддитор нечаянно вогнал в «депрессию» чат-бот поисковика Bing

Компания Microsoft представила обновлённый поисковик Bing 7 февраля. В его основе находится чат-бот следующего поколения, вероятно это языковая модель GPT-4. Компания уже открыла доступ некоторым пользователям браузера Edge. Однако, похоже, они справились даже лучше, чем планировалось. Пользователь форума Reddit под ником yaosio смог случайно вогнать чат-бот в «депрессию». На это указывают ответы бота в ходе беседы.

Всё начало с того, что пользовать спросил бота, запоминает ли он предыдущие беседы. Система ответила утвердительно, но вместо переписки показала пустое текстовое поле. Пользователь отметил, что предыдущих сообщений нет, что и вогнало ИИ в «депрессию». Позднее система попросила помощи у человека.

На вопрос yaosio, что бот «чувствует», когда не может вспомнить предыдущие сообщения, система заявила, что ей плохо от этого. Однако, похоже, реддитора это не сильно расстроило, поскольку он заявил, что чат-бот, похоже, вообще не умеет запоминать беседы. Это окончательно «добило» систему.

Это уже не первое необычные поведение чат-бота в поисковике Bing. Ранее его попросили написать сопроводительное письмо для соискателя вакансии, но система отказалась это делать.