Крупные банки опасаются роста мошенничества из-за агентов с искусственным интеллектом

Шесть ведущих мировых финансовых институтов — Bank of America, Capital One, ASB Bank, Commonwealth Bank of Australia, ING Group и NatWest Group — презентовали манифест под названием Building Trust in Agentic Commerce. В нем поднимается вопрос стремительной популяризации искусственного интеллекта, способного самостоятельно совершать финансовые транзакции от лица пользователей. Банкиры подчеркивают: «клиенты не имеют четкого представления о том, действительно ли ИИ-агенты отстаивают их финансовые интересы». Существует серьезная угроза приобретения нежелательных товаров, неконтро перерасхода средств или хищения капитала злоумышленниками.

В отчете подчеркивается появление принципиально нового пласта угроз: эпоха автономных торговых ботов открывает возможности для киберпреступности, кардинально отличающейся от привычного интернет-фрода. Мошенники получают инструменты для компрометации ИИ-агентов, подделки их цифровых личностей и реализации изощренных схем социальной инженерии. При этом юридический вакуум в вопросах ответственности — кто несет убытки при превышении ИИ своих полномочий — делает рядовых потребителей крайне уязвимыми. Помимо этого, финансовые организации прогнозируют лавинообразное увеличение числа чарджбэков и судебных разбирательств для сферы ритейла.

В качестве превентивной меры создатели инициативы выделили пять фундаментальных принципов для разработчиков ИИ-систем: абсолютная прозрачность, гарантированная безопасность, конфиденциальность персональных данных, сохранение приоритета за выбором пользователя и технологическая интероперабельность. Банковское сообщество бескомпромиссно: IT-гиганты обязаны жестко соблюдать регламенты проведения платежей и прекратить практику прямого парсинга реквизитов с веб-ресурсов, к которой прибегают недобросовестные участники рынка.

Выход документа синхронизировался с двумя резонансными инцидентами: обнаружением критической уязвимости нулевого дня в ИИ-агенте Muse от компании Meta*, а также решением Amazon заблокировать данный сервис на собственном маркетплейсе. Тот факт, что тревогу первыми подняли именно традиционные финансовые регуляторы, вполне закономереен: в банковском секторе любые упущения или мошеннические операции немедленно оборачиваются прямыми финансовыми убытками и сильнейшим репутационным ударом.

* Деятельность организации «Американская транснациональная холдинговая компания Meta Platforms Inc. по реализации продуктов — социальных сетей Facebook и Instagram» признана экстремистской и запрещена в РФ

Источник: iXBT