Что ждет нас после AGI: Google DeepMind исследует четыре пути к сверхразуму

Прокомментировать Просмотры: 3

Источник изображения: сгенерировано Muse

Тим Геневейн из Google DeepMind опубликовал эссе о том, как может развиваться искусственный интеллект после достижения AGI — общего искусственного интеллекта, способного выполнять практически любые интеллектуальные задачи на уровне человека. Следующим этапом может стать ASI — искусственный сверхразум, который будет стабильно превосходить крупные коллективы экспертов в решении задач, требующих от людей многих лет работы.

Одним из факторов такого перехода Геневейн называет «когнитивную индустриализацию» — масштабное удешевление и автоматизацию интеллектуального труда. За последние 10 лет эффективные вычислительные ресурсы для ИИ ежегодно увеличивались как минимум в 10 раз. Этому одновременно способствовали совершенствование оборудования, повышение эффективности алгоритмов и рост инвестиций в вычислительную инфраструктуру. Так, благодаря развитию производства микросхем вычислительная мощность на каждый вложенный доллар ежегодно возрастала примерно в 1,5 раза, а эффективность алгоритмов обучения за десятилетие увеличивалась в 3–6 раз в год.

Если эта тенденция сохранится, через 10 лет интеллектуальную задачу, на которую нынешнему ИИ необходимы вычисления стоимостью $1 млрд, можно будет решить всего за $1000. При этом число ИИ-агентов сопоставимого качества, которые можно будет запустить на доступных вычислительных ресурсах, теоретически превысит нынешнее население Земли. Согласно более осторожной оценке, учитывающей физические и экономические ограничения, общее число доступных агентов может вырасти более чем в 1000 раз к 2030 году и более чем в миллиард раз за десятилетие.

По мнению Геневейна, после достижения уровня AGI одного лишь увеличения скорости работы и числа агентов может хватить для появления форм сверхразума. Впрочем, само по себе масштабирование не гарантирует развития всех необходимых интеллектуальных способностей.

Автор выделяет четыре технологических пути перехода от AGI к ASI.

Первый — дальнейшее увеличение размеров моделей, объёмов обучающих данных и вычислительных ресурсов, выделяемых на обработку каждого запроса. Этот подход уже расширяет возможности ИИ, однако его развитие сдерживают нехватка качественных данных, снижающаяся отдача от роста моделей и ограничения физической инфраструктуры.

Второй путь предполагает переход к новым технологическим парадигмам. Современные модели в основном обучаются предсказывать следующий элемент последовательности в наборах данных, после чего их дорабатывают для рассуждений и выполнения инструкций. Тем не менее они по-прежнему ограничены в непрерывном обучении, построении моделей окружающего мира, принятии решений и самостоятельном создании принципиально новых понятий. Учёные пока не пришли к единому мнению о том, можно ли преодолеть эти недостатки развитием существующих архитектур или потребуются принципиально новые подходы.

Третий путь связан с координацией множества ИИ-агентов. Подобно корпорациям и научным сообществам, которые справляются с задачами, недоступными отдельным людям, миллионы экземпляров AGI могут объединяться в виртуальные коллективы. Первые эксперименты показывают, что взаимодействие агентов способно повысить эффективность решения некоторых задач. Однако по мере роста их числа возникают потери из-за сложностей координации, а также риски распространения ошибок, манипуляций и сговора.

Четвёртый путь — рекурсивное самоулучшение (RSI), при котором ИИ самостоятельно совершенствует программный код, архитектуры моделей, алгоритмы обучения и даже конструкции микросхем, ускоряя создание следующих поколений систем. Самоулучшение также может происходить за счёт данных: например, AlphaZero достиг сверхчеловеческого уровня игры, обучаясь на собственном опыте. Однако этот процесс не обязательно будет ускоряться бесконечно: каждое последующее усовершенствование может требовать всё больших усилий, а ошибки в оценке результатов способны остановить развитие или даже ухудшить его результаты.

Эти четыре направления не исключают друг друга и могут взаимно усиливаться. Геневейн подчёркивает, что даже без неконтролируемого ускорения рекурсивного самоулучшения рост вычислительных ресурсов, эффективности моделей и числа согласованно работающих агентов способен обеспечить быстрое развитие ИИ за пределами человеческого уровня. Поэтому ограничение лишь одного направления — например, вычислительных мощностей для обучения моделей — не обязательно остановит движение к ASI: прогресс может продолжиться другими технологическими путями.

Автор эссе считает, что методы измерения и прогнозирования прогресса на пути к сверхразуму необходимо разрабатывать уже сейчас. Особенно полезными могут оказаться области с автоматической проверкой результатов, например математические доказательства. Эссе основано на техническом докладе From AGI to ASI, подготовленном Геневейном совместно с другими специалистами. Переход к сверхразуму рассматривается в нём как совокупность технологических возможностей, последствия которых для науки, экономики и общества следует изучать заблаговременно.

 

Источник: iXBT

Похожие статьи

Поиск по играм, новостям и статьям…

Введите не менее двух символов

Введите не менее двух символов