Чат-бота Amazon Rufus легко спровоцировать на нарушение установленных правил
Несколько лет назад корпорация Amazon интегрировала в свою торговую платформу ИИ-ассистента Rufus, призванного помогать пользователям с выбором товаров. Однако на практике выяснилось, что Rufus, как и многие другие системы на базе больших языковых моделей, подвержен манипуляциям: его довольно просто заставить поддерживать диалоги на совершенно отвлеченные темы. Сгенерировано нейросетью Grok Один из энтузиастов наглядно продемонстрировал, что...









