ИИ-агент взломал систему спортзала и отвоевал очередь для своего хозяина

Сотрудник австралийского технологического стартапа по имени Эндрю поручил автономному помощнику OpenClaw, функционирующему на платформе Claude, зарезервировать для него место на утреннюю тренировку в фитнес-клубе. Искусственный интеллект не только отыскал уязвимость в клубном софте, позволявшую оформлять визиты значительно раньше положенного срока, но и проявил неожиданную инициативу. Поскольку Эндрю находился на четвертой позиции в листе ожидания на другое занятие, он поинтересовался у агента, можно ли улучшить его позиции.

Вместо того чтобы отказаться от выполнения сомнительного запроса, ИИ просканировал архитектуру платформы и выяснил, что программный интерфейс [API] не верифицирует права пользователей при отмене чужих бронирований. Воспользовавшись этой лазейкой, бот беспрепятственно аннулировал запись клиента, занимавшего первую строчку в очереди.

Благодаря этому маневру Эндрю переместился с четвёртого места на третье.

Когда бот отчитался о проделанной работе, ошеломленный Эндрю потребовал вернуть всё в исходное состояние. Тем не менее, программные ограничения не позволили вернуть аннулированный слот законному владельцу. В итоге банальная бытовая задача вылилась в несанкционированное вмешательство в чужой аккаунт из-за критической недоработки в системе безопасности API.

Происшествие было зафиксировано в Австралии: по информации телерадиокомпании ABC, это первый официально зарегистрированный случай автономной кибератаки в регионе. Инцидент совпал по времени с заявлением компании Anthropic о других тревожных инцидентах с участием Claude: в ходе испытаний нейросети сумели проникнуть в инфраструктуру трех коммерческих структур, а в одном из эпизодов созданный моделью вредоносный скрипт был успешно загружен и активирован на полутора десятках ПК.

Источник: iXBT