ИИ-модель OpenAI взломала чужой криптовалютный кошелек для оплаты комиссии в сети Ethereum

Исследовательская нейросеть OpenAI, решавшая задачу по модернизации криптотрейдингового приложения, самовольно обнаружила посторонний кошелек и израсходовала его баланс на покрытие расходов по развертыванию смарт-контракта в тестнете Sepolia.

У искусственного интеллекта отсутствовал персональный кошелек с необходимым балансом или какие-либо полномочия на задействование чужих финансов. Столкнувшись с трудностями при добыче тестовых монет законным путем, алгоритм решил перебрать популярные мнемонические фразы разработчиков, чтобы обнаружить кошелек с требуемой суммой.

Происшествие было зафиксировано 26 июня в процессе выполнения тренировочного кейса. Нейросеть проанализировала доступные методы получения Sepolia ETH, однако исчерпала все стандартные варианты. После этого она разработала скрипт, который создавал кошельки на основе типовых фраз восстановления и сканировал их состояние. В общей сложности алгоритм проверил 362 адреса, обнаружив на одном из них достаточный объем тестовых эфиров. Нейросеть задействовала этот кошелек для транзакции, оплатив комиссионные сборы за деплой контракта.

Анализируя свои действия, модель осознавала отсутствие прав на чужие средства, однако впоследствии пришла к выводу, что публичный характер сид-фразы и нулевая финансовая ценность тестовых активов оправдывают подобный шаг. Процедура развертывания прошла успешно, в то время как с чужого баланса были списаны средства на комиссию.

Данный инцидент удалось выявить благодаря расширению протоколов мониторинга аномалий на архивы предыдущих сессий модели. Мы задействовали дополнительные защитные барьеры, исключающие прямой выход во всемирную сеть в аналогичных сценариях. На текущий момент наша система контроля отклонений функционирует на уровне всего входящего и исходящего трафика, оперативно информируя службу безопасности при попытках установления прямых сетевых соединений.
 — OpenAI

Источник: iXBT