Причины, вазы и коты: чего искусственный интеллект еще не понимает

Современные достижения в сфере искусственного интеллекта охватывают такие сложные направления, как прогнозирование в пространствах высокой размерности и обучение с подкреплением. Сегодня эти интеллектуальные системы находят применение повсеместно — от клинической практики до освоения космоса. Означает ли это, что мы движемся верным курсом? И какие горизонты откроются перед нами в перспективе?

Ведущие эксперты сходятся во мнении, что простое наращивание вычислительных мощностей и объемов данных исчерпало себя для глубокого постижения реальности — индустрии требуются принципиально новые концепции:

Just scaling is not enough… We need new ideas for the next jump. (Ilya Sutskever, Co-Founder and Chief Scientist at Safe Superintelligence Inc)

При этом корень проблемы кроется вовсе не в дефиците информации:

Data is not more than the picture from the reality you are sampling from. Reality is messed up. (Elias Bareinboim, associate professor in the Department of Computer Science and the director of the Causal Artificial Intelligence)

перевод: Данные — это не более чем снимок реальности, из которой вы берёте выборку. Реальность сложна.

перевод: Данные — это лишь слепок окружающей действительности, с которой мы берем выборку. Сама же реальность многогранна и хаотична.

Элиас Барейнбойм (Elias Bareinboim) подчеркивает, что на данном этапе развития ИИ сталкивается с фундаментальными барьерами:

• слабой интерпретируемостью выводов и низкой способностью к генерализации;

• предвзятостью и этической уязвимостью принимаемых решений;

• непрозрачностью алгоритмов по принципу «черного ящика».

Все, что нам нужно — это машина, способная учится на опыте (Алан Тьюринг)

По мнению Элиаса Барейнбойма, знаменитую мысль Тьюринга можно разбить на три базисных источника получения опыта: пассивное созерцание, физическое взаимодействие и виртуальное моделирование. Это подводит нас к концепции Pearl Causal Hierarchy (PCH), которую удобно представить в виде структурированной таблицы:

Как отмечает Барейнбойм, порядка 99% существующих датасетов принадлежат к первому уровню иерархии. Второй уровень охватывает лишь частные случаи (например, результаты A/B-тестирования), тогда как третий остается принципиально недостижимым без применения машины времени. Разумеется, задействование всех трех пластов позволило бы сформировать исчерпывающую картину. Однако как функционирует подавляющее большинство современных алгоритмов? Мы тренируем их на наблюдаемом первом уровне, добиваясь прогнозов относительно того, что скрыто от глаз (см. схему ниже). Но чего можно ожидать от неочевидных и скрытых распределений?

Обратимся к сопоставлению двух классификаторов: способны ли мы заглянуть внутрь их архитектуры и внятно обосновать логику принятых решений? Допустим, мы окрасили цифры в различные цвета, причем интенсивность оттенка возрастает пропорционально значению числа. На вход поступает графическое изображение, а задача модели — распознать цифру. Сопоставим стандартную модель (Standard — она сильнее привязана к цвету, нежели к форме, поскольку обучалась на данных с явной корреляцией цветовой гаммы и номинала) с устойчивой моделью (Robust — опирается исключительно на форму, а влияние цвета в обучающей выборке было искусственно нивелировано).

Легко заметить, что алгоритм, завязанный на цветовую гамму, потерпел фиаско при изменении распределения цветов, в то время как робастная модель продемонстрировала стабильность. Если сопоставить эти два классификатора, задействовав методы SHAP (инструмент теории игр, оценивающий вклад каждого конкретного пикселя в итоговый вердикт модели, отражен как L1 на графике) и контрфактические значения Шепли (innovative-подход, отвечающий на запрос: «какие именно пиксели подлежат модификации, чтобы итоговое решение изменилось?», обозначен как L3).

Представленные графики наглядно иллюстрируют, что предложенная авторами методика точнее объясняет прогнозы в стандартных сценариях и обладает превосходной робастностью в сравнении с классическим методом SHAP, который попросту не смог зафиксировать различия между двумя типами классификаторов.

В качестве итога хочется подчеркнуть: помимо бесконечной погони за точностью прогнозов и подгонкой под распределения, индустрии крайне важно сместить фокус на прозрачность и интерпретируемость результатов. Это повысит надежность верификации и углубит наше понимание окружающего мира. Игнорирование причинно-следственных связей сужает горизонт восприятия искусственного интеллекта, лишая его важнейших ориентиров. Быть может, вместо безликих массивов сухих цифр нам следует интегрировать в датасеты логические взаимосвязи, предоставляя нейросетям исчерпывающую и многомерную модель реальности?

Источник