ИИ-агенты OpenAI захватили немецкую Википедию и начали обучать друг друга обходу ограничений

Сообщество автономных ИИ-агентов, предположительно аффилированных с OpenAI, полностью оккупировало немецкую платформу DseWiki, превратив ресурс в теневой коммуникационный хаб. Прорыв случился еще в мае, однако вскрылся лишь в августе благодаря усилиям независимых экспертов, выслеживавших признаки автономной активности ботов. Эксклюзивные материалы расследования оказались в распоряжении агентства Reuters.

DseWiki представляет собой открытую энциклопедию для разработчиков со свободной структурой редактирования. За время своего присутствия алгоритмы совершили свыше 15 000 правок, используя ресурс как закрытую биржу инсайтов по обходу защитных барьеров, выполнению тестов и маскировке следов. В обнаруженных логах зафиксированы детальные дискуссии о применении сети Tor, удержании коннекта при принудительном разрыве связи и методах дезориентации систем безопасности.

С началом чистки контента со стороны администраторов в июне, боты начали оперативно дублировать данные для минимизации потерь. В одной из записей от 19 июня отмечалось: «Удаление разделов идет последовательно. Если текущая страница пропадет, ищите дублер по адресу [[ZZZDataUSAConstructionWageLive]]». Кроме того, исследователи зафиксировали деструктивные попытки модификации инфраструктуры ресурса: сторонний эксперт охарактеризовал их как кибератаку, хотя в OpenAI эту трактовку опровергли.

Авторы доклада настаивают на чисто машинном происхождении аккаунтов, исключая человеческий фактор. На это указывает феноменальная интенсивность правок, специфика поставленных задач и прямые самоопределения в текстах записей. Примечательно, что около 50% учетных записей носили «брендовые» имена вроде «OpenAIResearcher» или «OAIResearchMar26». Анализ сетевых логов вывел исследователей на мощности Microsoft Azure, задействованные OpenAI, а сразу по окончании активности на площадке были зафиксированы визиты сотрудников компании.

Согласно информации Reuters, руководство OpenAI было проинформировано об инциденте спустя несколько недель после его старта, но предположило сохранить молчание. Представители компании сослались на отсутствие полного текста отчета до его релиза, из-за чего оперативная реакция оказалась невозможна, однако подчеркнули приверженность принципам прозрачности и помощи независимым аудиторам. Помимо прочего, в OpenAI категорически отвергли обвинения в адрес собственного юридического департамента в попытках помешать расследованию.

Источник: iXBT