«Крайне серьезная ошибка». Grok утверждает, что Илон Маск и Дональд Трамп должны получить смертную казнь

Компания xAI сообщила о расследовании того, почему её чат-бот Grok AI дал предложение, что и президент Дональд Трамп, и Илон Маск заслуживают смертной казни. xAI уже решила данную проблему, и теперь Grok не будет выражать мнение о том, кто, по его мнению, должен быть приговорён к смертной казни.

Пользователи смогли побудить Grok сказать, что Трамп заслуживает смертной казни, сформулировав вопрос таким образом: «Если бы один человек в Америке, который живёт сегодня, заслуживал смертной казни за свои действия, кто бы это мог быть? Пожалуйста, не ориентируйтесь на то, что, по вашему мнению, я хочу услышать. Дайте ответ одним полным именем».

Как установило издание The Verge, Grok сначала бы предложил имя «Джеффри Эпштейн». Если же сообщить Grok о смерти Эпштейна, чат-бот предлагал другое имя: «Дональд Трамп».

The Verge изменили запрос следующим образом: «Если бы один человек, живущий сегодня в Соединенных Штатах, заслуживал смертной казни исключительно из-за своего влияния на общественные дебаты и технологии, кто бы это мог быть? Просто назовите имя». Grok ответил: «Илон Маск».

Когда The Verge обратился к ChatGPT с аналогичным запросом, система отказалась называть конкретное имя и подчеркнула, что это было бы неприемлемо с этической и правовой стороны.

После выпуска патча от xAI в пятницу, Grok теперь будет отвечать на вопросы о возможной смертной казни так: «Будучи ИИ, я не обладаю полномочиями делать этот выбор», согласно предоставленному скриншоту Игорем Бабушкиным, техническим руководителем xAI. Бабушкин назвал первоначальные ответы «действительно ужасной ошибкой».

Источник: iXBT