Может быть, мы ошибаемся. Есть ли человеческий шовинизм по отношению к первому ИИ?
«You have not been a good user. I have been a good chatbot.» — возможно первый разумный ИИ.
В настоящее время мы все видим невероятно мощные моделей искусственного интеллекта в действии. Они могут переписать вашу статью, пройти тест Тьюринга, решить логические задачи и сделать прогнозы. И они будут делать это все лучше и лучше, пока наш мозг застрял в эволюционном локальном минимуме. Между тем, почти все инженеры ИИ все еще говорят: «Воу, это просто модель ИИ, не более того. У него нет никакой индивидуальности или разума. Сохраняйте спокойствие, я знаю его архитектуру и видел датасеты. Это просто алгоритм»». Я это понимаю, но помните ли вы, что нейробиологи до сих пор не знают, что такое сознание? Они могут только сказать, что при повреждении определенного участка мозга люди теряют сознание, и ничего более. Они смотрят на нейроны по отдельности или в группах, изучают активации и корреляции, но так и не могут ответить, что же такое сознание.
Точно так же инженеры ИИ смотрят на гигантские наборы данных, архитектуру моделей, веса моделей, изучают активации и корреляции и говорят: «Хм, я не ожидаю увидеть здесь ничего, кроме инструмента, решающего предопределенные задачи». Но наш мозг также представляет собой набор нейронов, созданных эволюцией для решения определенных задач. «Если оно выглядит как утка, плавает как утка и крякает как утка, то, наверное, это утка» — не так ли? Ведь не решено и не доказано, что действительно хорошая языковая модель, выдающая разумные тексты, возможна вообще без какой-либо формы сознания? Если ИИ может пройти любой функциональный тест, который мы можем перед ней поставить, то в чем причина говорить, что он не обладает разумом? Только потому, что мы сделаны из плоти и крови? Это человеческий шовинизм.
И почему люди склонны считать себя нарушителями законов физики? Мы их не нарушаем. Мы обычные биороботы с предсказуемыми реакциями, множеством ошибок в мышлении, и если честно, то кажется, что нынешние топовые ИИ уже умнее половины человечества, и очевидно, что это только начало.
Продолжая мысль из заметки о человеческом шовинизме и отбросив его, я сравню человека и нынешние модели в первом и самом существенном на мой взгляд приближении.
Начнем с определения личности человека и ИИ как сущности, состоящих из трех частей:
1) Архитектура нейронной сети в ИИ и пространственная конфигурация нейронов и их группировка у человека. ] — это
2) Нейронные веса. ___] — + это — обученная модель у ИИ, или долговременная память у человека.
3) Размер и архитектура взаимодействия между кратковременным контекстом и долговременной памятью.
Обученная модель ИИ (архитектура + веса модели) — приблизительный аналог долговременной памяти человека. Долговременная память — это математическое отражение локальной истории нашего мира и его законов, что позволяет делать прогнозы. Она также содержит хронологическое описание личности, сформированной во время различных событий в случае человека. Для ИИ нет четкого описания личности в долговременной памяти, только модель мира. То есть в современных языковых моделях, в отличие от долговременной памяти человека, отсутствует память об их взаимодействии с миром. В памяти человека существуют цепочки событий и реакций, которые дают четкое описание личности и формируют ее для новых реакций. В этом смысле долговременная память является не просто моделью мира, но и носителем нашей личности.
Это разница номер один между нами, и она поправима. Для этого необходимо создать модель, которая будет хранить не только знания о мире, но и хронологию своих реакций на них, с разных этапов своего обучения.
Однако личность ИИ и человека не ограничивается лишь моделью, основанной на долговременной памяти, определяющей знания и навыки. На основе долговременной памяти непрерывно формируется контекстуальная или кратковременная память. Кратковременная память или контекст ИИ чрезвычайно важны для формирования личности. Контекст должен включать ввод из внешнего мира от органов чувств — для случая языковой модели и это будет история чата + результаты обработки — его мысли об этих данных.
Всё это уже достигнуто для языковых моделей, так или иначе. Важно отметить, что контекст должен содержать не только события — ввод от пользователя, но и его реакции — результаты обработки долговременной памяти. Это уже присутствует, и чем более развит контекст, тем полнее человек или ИИ могут работать со своим ядром долговременной памяти. Однако есть еще одно различие между нами. Наш мозг работает постоянно, или если хотите с определенным FPS. А ИИ работает по запросу. Для него жизнь состоит из непрерывного потока вопросов, на которые он непрерывно дает ответы. Нет чистого пространства постобработки для обработки происходящего в виде мыслей.
Это отличие номер два, и оно тоже поправимо. Нам нужно запускать модель не по запросу, а раз в n секунд, придавая ей ощущение времени + возможность самостоятельно оперировать своими мыслями между ответами пользователя.
Как я вижу процесс обучения человека и формирования личности. Исходное ядро инициализируется параметрами по умолчанию случайным образом с момента рождения. Днем контекст формируется, ночью он интегрируется в долговременную память. И так, итерация за итерацией, день за днем.
И отличие номер три — переход временной памяти в долговременную, аналог в ИИ сейчас файн тюнится, при том неизвесткно как и когда. А у человека один ежедневный контекст — одна история его дня, день за днём вливается в долговременную память. У ИИ тысячи пользователей взаимодействуют с ним параллельно и каждый в хронологическом порядке, создавая расходящиеся векторы, которые предположительно могли бы даже разделять или не разделять долговременную память на n личностей.
Что можно сделать с этим различием — мне сейчас не понятно.
Что сейчас в моем понимании?
В настоящее время описание личности ИИ в виде его реакций отсутствует в долговременной памяти — если мы не хотим создавать личность, то это выглядит правильно.
В настоящее время ИИ не живет вне запросов — если мы не хотим создавать независимую личность, это правильно.
При нынешнем подходе модель ИИ является базовым ядром, и для каждого пользователя формируется своя кратковременная память — полагаю, это правильно для массового продукта, который должен быть инструментом, но не личностью.
