Развитие современного ИИ: какие задачи еще предстоит решить?

В начале июля Южная Корея принимала Международную конференцию по машинному обучению (ICML) — авторитетное событие, ставшее площадкой для презентации ключевых исследований и обсуждения фундаментальных вызовов индустрии. В роли приглашенного спикера выступил Арвинд Нараянан (Arvind Narayanan) — профессор компьютерных наук Принстонского университета, руководитель Центра политики в сфере информационных технологий и признанный эксперт в области ИИ. Его доклад был посвящен вектору эволюции технологий искусственного интеллекта и роли человека в трансформирующемся мире. Ждет ли нас гармоничный симбиоз или же технологическое доминирование одной из сторон? Профессор представил развернутые ответы на эти насущные вопросы.

---

Взгляд со стороны: как общество адаптируется к переменам

Постепенно эта дилемма перешла из плоскости абстрактной философии в сферу прикладных задач. Сформировались две магистральные концепции: пойдя по пути первой, мы рискуем упустить возможность развить и закрепить критически важные компетенции.

Ключевой тезис выступления емко сформулирован в следующей цитате:

…view AI as a transformative technology on the scale of the industrial revolution

(воспринимать ИИ как фундаментальную технологию, меняющую реальность в масштабах промышленной революции).

В качестве исторической аналогии Нараянан обращается к эпохе повсеместной электрификации предприятий: комплексная модернизация производств растянулась тогда почти на четыре десятилетия. Преобразования охватили не только инженерную инфраструктуру, но и человеческий капитал: рынок труда прошел через масштабные волны переквалификации, найма и увольнений. На этом фундаменте лектор выстраивает схему проецирования теории диффузии инноваций (diffusion-of-innovations theory) на современный ИИ-ландшафт:

Опираясь на эту модель, сейчас мы находимся на фазе раннего внедрения (early adoption). Согласно масштабному исследованию среди пользователей Claude, список ключевых опасений перед ИИ возглавляют: недостаточная надежность моделей (26,7%), структурные сдвиги в занятости и экономике (22,3%), утрата субъектности и автономии (21,9%), риск когнитивного угасания (16,3%), а также вызовы для государственного управления (14,7%).

Арвинд Нараянан предлагает в первую очередь разобрать проблему надежности: как ее количественно и качественно оценить? Комплексный критерий объединяет несколько параметров: результативность (регулярность выдачи корректных ответов), устойчивость (стабильная работа в зашумленной или неидеальной среде), калибровка уверенности (способность алгоритма понимать границы собственной компетентности) и системная безопасность (исключение фатальных сбоев). Принципиально важно, что полностью автономные агенты («automatic agents») и ассистивные системы взаимодействия («collaboration agents») требуют кардинально разных подходов к обучению, архитектуре и тестированию.

Далее автор обращается к вопросу трансформации рынка труда и на примере разработки ПО (software engineering) демонстрирует, почему происходящие перемены не несут фатальной угрозы. Как отмечается в исследовании 2019 года, сам по себе кодинг редко выступает узким местом разработки. Внедрение ИИ лишь сместило баланс между формулированием бизнес-требований, непосредственным программированием, контролем качества и сопровождением продукта. Эту динамику Нараянан визуализирует метафорой трехслойного сэндвича:

• DECIDE — декомпозиция потребностей заказчика, поиск Product-Market Fit (PMF);

• EXECUTE — непосредственное написание и отладка исходного кода;

• DELIVER — глубокое понимание архитектуры для интеграции, релиза и долгосрочной поддержки решения.

Здесь докладчик проводит наглядную параллель с подъемным краном: механизм кратно увеличивает подъемную силу, но не отменяет ответственности человека-оператора, который полностью контролирует процесс.

Recursive Self-Improvement and Human-like AI

Размышляя о потенциале рекурсивного самосовершенствования нейросетей, ученый поднимает фундаментальный вопрос: чего именно мы ждем от этой концепции — банальной оптимизации гиперпараметров или полноценной замены исследовательского интеллекта и творческого поиска? Пока индустрия ближе к первой цели, поскольку ИИ наиболее эффективен в алгоритмически верифицируемых задачах. Это порождает так называемый парадокс креативности: у нас нет четких метрик для измерения творческого потенциала машин. На этот счет автор формулирует две гипотезы:

• ИИ по-прежнему уступает человеку во многих измерениях креативности, особенно в гибкости репрезентации знаний: именно ограниченность биологической памяти стимулирует человека искать лаконичные и емкие смысловые модели.

• Человеческое сознание способно радикально перестраивать картину мира при поступлении новых фактов, тогда как нейросети лишь дообучаются в рамках заранее заложенной структуры.

Economically transformative AI and Superintelligence

Современные модели уже обладают достаточной мощью для трансформации базовых экономических процессов. Тем не менее большинство критических задач невозможно решить исключительно «в лаборатории»: так, открытие новой молекулы лекарства требует многолетней масштабной верификации в клинической практике.

Главная мысль этого блока сводится к тому, что технологический прогресс неизбежно подстегивает интеллектуальную эволюцию самого человечества:

AI progress also improves human intelligence. We are the superintelligence.

Резюмируя эти тезисы, Арвинд Нараянан заключает:

None of these dimensions (Recursive Self-Improvement, Human-like AI, Economically transformative AI and Superintelligence) is both achievable in the lab and will have drast economic or labor impacts. Our skills and agency will remain valuable for the foreeable future.

(Ни одно из этих направлений не может быть полностью реализовано в лабораторных условиях так, чтобы моментально вызвать тектонические сдвиги в экономике или структуре занятости. Человеческий опыт, навыки и субъектность сохранят свою ценность в обозримой перспективе.)

Как изменится роль человека с развитием ИИ?

Возвращаясь к исходному вопросу, спикер констатирует: фокус человеческой деятельности неизбежно сместится с непосредственного создания контента на его критическую оценку и валидацию.

Почему экспертная оценка устойчива к автоматизации? Потому что адекватный аудит требует не просто проверки фактов, но и определения самих критериев качества наряду с глубоким доменным профессионализмом. По этой причине оценка ИИ-агентов выделилась в самостоятельную научную отрасль: непрерывно шлифуются бенчмарки и расширяется спектр контрольных сценариев. Попытка тотально автоматизировать экспертную оценку — опасная ловушка, хотя агенты вполне применимы для базового тестирования кода или проверки воспроизводимости результатов.

Экстраполируя эти выводы на глобальный научный поиск («Как ИИ трансформирует фундаментальные исследования?»), Нараянан прогнозирует: интеграция алгоритмов потребует специализированного инструментария, нацеленного на формирование именно человеческого понимания решений, найденных моделью. Цель науки — не просто получить готовый результат, а раскрыть суть явлений, поэтому механическая автоматизация процесса поиска противоречит самой природе научного познания.

The human understanding is not some friction to be automated away. It is rather essential. It is central to the very purposes behind why we do science, and if we lose human understanding, we lose all of these things that flow from it.

(Человеческое понимание — это не барьер, который нужно устранять ради автоматизации. Напротив, это краеугольный камень. Оно определяет сам смысл научных изысканий, и если мы утратим способность понимать суть, то лишимся и всех сопутствующих достижений.)

В финале своего выступления Арвинд Нараянан сформулировал практические принципы адаптации к эпохе ИИ:

• синхронное развитие возможностей алгоритмов и компетенций людей, управляющих ими;

• выверенный баланс между операционной продуктивностью и долгосрочным профессиональным ростом;

• готовность к осознанному когнитивному усилию и глубокой мыслительной работе;

• сохранение авторского контроля: отказ от безоговорочного доверия выводам ИИ и запрет на бесконтрольное делегирование ключевых решений.

 

Источник