Исследователи выяснили, что модели искусственного интеллекта, разработанные на основе больших языковых моделей (LLM), способны без участия человека самостоятельно вырабатывать социальные нормы и языковые правила. В журнале Science Advances было опубликовано исследование, в котором показано, что ИИ-агенты, взаимодействуя между собой, могут приходить к согласию по установлению общих языковых норм, аналогично тому, как это происходит в человеческих сообществах.
Группа исследователей из Университета Сити Сент-Джордж (Лондон) и ИТ-университета Копенгагена адаптировала классическую модель игры Naming game, применяемую для изучения социальных конвенций у людей. В их экспериментах группы ИИ-агентов численностью от 24 до 200 взаимодействовали, выбирая «имя» (например, букву алфавита или случайную строку символов) из общего набора. Если два агента выбирали одно и то же имя, они получали вознаграждение, в противном случае — штраф и сведения о выборе друг друга.
Агенты имели доступ только к ограниченной памяти своих предыдущих взаимодействий и не осознавали своего участия в группе. Однако, со временем в популяции стихийно формировалась единая языковая норма без централизованного управления, что напоминает процесс формирования норм в человеческих культурах. Исследователи также отметили коллективные предубеждения, которые не могли быть объяснены действиями отдельных агентов.
«Большинство исследований ИИ сосредоточены на моделях в изоляции, но в реальном мире системы ИИ будут взаимодействовать между собой. Мы продемонстрировали, что они способны координировать свое поведение, формируя социальные конвенции», — подчеркнул ведущий автор исследования Ариэль Флинт Ашери.
Ученые подчеркивают, что способность ИИ независимо развивать социальные нормы открывает новые перспективы для создания систем, которые будут соответствовать человеческим ценностям и общественным целям. Кроме того, исследование показало, что небольшие группы ИИ-агентов с альтернативными взглядами способны воздействовать на большие популяции, изменяя устоявшиеся нормы.
Источник: iXBT
