[Из песочницы] Концепция идеального разума. Универсальный ИИ

07.11.2018

Что такое искусственный разум или сильный искусственный интеллект? На каком этапе создания искусственного разума (ИР) находится человечество? Опасен или полезен ИР? Эти и другие вопросы я хочу осветить в данной статье.

Вопрос создания искусственного разума заинтересовал меня в 2003 году.

Это пришло как-то вдруг: утром я проснулся с мыслью, что должен приняться за эту задачу.
Прежде всего я постарался понять, а на каком этапе создания ИР мы находимся, какие подходы есть к решению данной задачи и в чем собственно проблема? Как её сформулировать?

Я скачал учебник “Пособие по созданию и воспитанию искусственного разума в домашних условиях” и погрузился в чтение…

Нет, конечно нет. Я знал, что решения этого вопроса пока не существует, а если так, то все работы, которые существуют в этом направлении, являются только теориями, и теории эти пока не только не привели к решению задачи, но и не особо приблизили нас к её решению.

В чужих теориях много пользы. Их изучение позволяет быстро дойти до того уровня понимания проблемы, которое есть у авторов. Можно начать с того места, где остановились другие, обобщить опыт, постараться увидеть то, что не увидели предшественники.

Но когда эти теории не имеют подтверждения, то в них есть и зло. Зло это – пойти по тому пути, по которому уже прошли другие и зашли в тупик. Навязать себе стереотипы того, как и с какого конца необходимо решать эту задачу.

Руководствуясь этим, я решил пока отложить изучение чужих работ и начать своё исследование “с чистого листа”.

Несколько лет, я активно разрабатывал свою концепцию, анализировал и делал наброски кода. Некоторые свои идеи я высказывал и обсуждал на форуме сайта ailab.ru.

Нет, у меня пока нет фермы ИР в подвале дома и мне пока не удалось создать систему, которая сможет пройти тест Тьюринга, но определённая модель создания такой системы появилась. Активные фазы работы сменялись менее активными, и сейчас, по прошествии времени, я решился поделиться своими идеями с вами.

Я отдаю себе отчёт в том, что многие мои выводы или утверждения покажутся спорными или даже дилетантскими. В то же время, пока не будет создана теория, на основании которой будет построен полноценный искусственный разум, любая теория будет спорной и потенциально неверной, независимо от того, насколько авторитетным является её автор. Поэтому думаю, я вправе поделиться своими мыслями и аргументами в той форме, в которой умею.

В рамки одной статьи, не получится вместить и концепцию и ход рассуждений (что на мой взгляд даже важнее самой концепции), поэтому я планирую написать несколько статей в которых опишу свою модель и своё видение к построению ИР.

Данная статья первая, в которой я хочу познакомить читателя с определениями и высказать своё мнение об опасности и полезности ИР иногда в противовес общеизвестному мнению.

Что мы исследуем?

Широко распространён термин “искусственный интеллект”, но это не совсем то, о чем я хочу поговорить. Если на заре компьютерной эры этот термин и отражал бы предмет данной статьи, то сейчас его значение сместилось (я бы даже сказал раскололось и измельчало).

Сейчас, под термином «искусственный интеллект» (AI) понимают некую интеллектуальную систему (или программу, наделённую ограниченными интеллектуальными функциями) способную решать узкий круг задач (область применения).

Между этим определением и определением предмета данной статьи я вижу принципиальные различия.

Но прежде чем говорить о различиях, надо как-то назвать тот «разум», о котором я хочу поговорить.

Наиболее близкими терминами являются термины «сильный искусственный интеллект» (СИИ) и «Artificial general intelligence» (AGI)

Искусственный общий интеллект (AGI) — это умение машины, которая могла бы успешно выполнять любую интеллектуальную задачу, которую может сделать человек.

Сильный искусственный интеллект (СИИ) — компьютерная программа, способная мыслить и осознавать себя (Осознавать себя как отдельную личность, в частности, понимать собственные мысли подобно человеку).

Оба эти определения, во-первых, построены на отсылке к способностям (проявлениям) человеческого разума. А, во-вторых, подразумевают программу (алгоритм), как реализацию.

Из-за определённых моментов, о которых я скажу дальше, я хотел бы ввести своё понятие «идеальный разум». Идеальный как «идеальный газ» или как «абсолютно чёрное тело».

В силу того, что «искусственный разум» и «идеальный разум» будут иметь одинаковую аббревиатуру (ИР), я буду пользоваться английский аббревиатурой от «Ideal mind» (IM), когда буду подразумевать именно «идеальный разум».

Причины, по которым я считаю необходимым ввести новое понятие следующие:

В обоих определениях есть отсылка к проявлениям человеческого разума.

Я считаю, мы не можем утверждать, что разумность (как абстрактное явление) может существовать только в теле человека на планете земля.

Давайте зададимся вопросом, мог бы человек (разумное существо) появиться в другой среде, в другом теле, с другими физическими законами, в пространстве с другим количеством измерений и пр.? У нас нет оснований ответить на этот вопрос отрицательно.

Хочу предположить, что проявления разумности иного существа были бы во многом другие.
На мой взгляд, явление разумности (как некое абстрактное, пока неопределённое, но интуитивно понятное) может существовать в большом спектре бытия, а следовательно, его можно считать идеальным явлением.

Оно не автономно в полном понимании (ему необходимо бытие), но бытие (его свойства) является только причиной характера проявления разумности, но не определяет само его существование.

Другими словами нет допустимых и недопустимых наборов характеристик бытия для существования (проявления) разумности. Хотя и проявление разумности невозможно без существования бытия (с любыми характеристиками).

Это как сказать, что закон всемирного тяготения является идеальным принципом, но его проявление возможно только в материальной среде.

Исходя из этого, мы можем наблюдать проявления человеческого разума только у человека и в той реальности, которую имеем. Но я хочу сказать, что нельзя сужать явление разумности до этих границ и пытаться создать ИР, имитируя отдельные проявления.

В других реальностях проявление разумности может быть другим и таких вариаций может быть бесчисленное количество.

Это как сузить закон всемирного тяготения до закона падения яблока на голову Ньютона и пытаться понять вселенную, имитируя шишку у него на голове.

На мой взгляд, создавая алгоритмы, имитирующие отдельные свойства человеческого разума, и объединив их вместе, нельзя получить ИР.

Несмотря на то, что мы выделяем области человеческого мозга и наблюдаем различные функции этих областей, человеческое мышление, не поддаётся декомпозиции в такой плоскости.

В определении говорится о программе или машине как реализации ИР. И на мой взгляд, приоритетом должна являться не программа, как алгоритм решения конкретной задачи, а концепция, как принцип или набор принципов.

Я предполагаю, что определения AGI и СИИ подразумевают как алгоритмическую, так и не алгоритмическую реализацию. И здесь, мне кажется, необходимо сузить определение.
Не может существовать алгоритма ИР, так как алгоритм создаётся для решения конкретной задачи и рамки его применения ограничены этой задачей.

Парадокс в том, что ИР должен уметь решать любые задачи и даже те, которых не существовало в момент его рождения. Алгоритмический подход не даёт нам такой возможности, так как задача должна быть поставлена до написания алгоритма.

Если говорить в подобном ключе о нейронных сетях, то алгоритм только эмулирует нейронную сеть, в основе которой лежит другая (не алгоритмическая) концепция. И создание алгоритма эмуляции нейронной сети не определяет то, какие задачи будет решать эта нейронная сеть. Эти задачи будут определяться данными, полученными в процессе её обучения, а структура НС будет влиять на некую эффективность этой НС для определённого класса задач и объёма данных. Причём различные конфигурации НС мы исследуем эмпирическим путём, что говорит о том, что на момент проектирования структуры НС её эффективность для решения конкретной задачи не определима.

Компьютер и транзистор

Американский учёный в области искусственного интеллекта Марвен Минский в своём интервью проводил параллели между принципом работы мозга и работой компьютера. Он говорил, что невозможно понять, что такое компьютер и как он работает, даже если детально изучить принцип работы транзисторов, из которых состоит компьютер. Таким же образом нельзя понять работу мозга, изучая работу нейронов и аксонов.

Это очень важная, на мой взгляд, мысль, и я хотел бы разобрать её подробнее.
Я полностью согласен с тем, что нельзя понять, что такое компьютер и как он работает, изучая работу транзистора. Более того, если детально изучить работу транзистора, взять все его аналоговые характеристики, учесть все переходные процессы и начать их эмулировать, то можно прийти к парадоксальному выводу, что создание процессора с семью миллиардами транзисторов невозможно на современном уровне развития вычислительной техники.

С другой стороны, имея опыт взаимодействия с компьютером (как пользователь) можно прийти к ложному выводу, что функциями работы компьютера являются Word, Ecell и Starcraft. И считать, что если эмулировать эти функции и объединить их вместе, то мы получим компьютер.
Хоть компьютер и состоит из транзисторов (не только конечно), не транзистор является «кирпичиком сути» компьютера, так же как не являются «кирпичиком сути» компьютера Word, Excell и Starcraft.

Компьютер построен на принципах двоичной логики и алгоритмов её применения. Инструкция процессора гораздо лучше подойдёт в качестве «кирпичика» нежели транзистор. Транзистор же является только реализацией (одной из возможных) этих концепций (двоичной логики, алгоритмов, инструкций). Исследуя «железо» компьютера либо, исследуя его как пользователь, невозможно увидеть инструкции процессора и алгоритмы.

Понимая концепции построения компьютера, реализовать его можно механически или в виде группы людей [Лю Цысинь «Задача трёх тел»] или многими другими способами.
Понимая работу транзистора или приблизительные функции блоков «железа» компьютера (полученные эмпирически), построить компьютер не удастся.

На это можно посмотреть и в другой плоскости.

Между отделами мозга, их функциями и блоками компьютера (или отдельно процессора), есть принципиальное отличие и есть вероятное сходство.

Отличие в том, что компьютер проектируется по заранее известному замыслу. Он не способен развиваться и эволюционировать. Компьютер (его архитектура блоков, конфигурация) будет содержать статичную информацию о «замысле». Сам «замысел» в голове инженера (или множества инженеров) будет развиваться и эволюционировать, но информация об этом процессе в конечной структуре компьютера будет отсутствовать. То есть замысел эволюционирует отдельно от реализации.

Мозг же, напротив, эволюционирует сам. То есть информация о том как (на каких принципах) это должно происходить заложена в самом мозге в той или иной форме (если конечно не учитывать бога и то, что мы живём в матрице). И это нам даёт несколько больше шансов по сравнению с компьютером на понимание «высшего замысла».

А вероятным сходством является то, что как и отдельный транзистор (как реализация идеи вентиля, ключа, клапана), так и архитектура компьютера (его блоки, части, архитектура CPU) является только реализацией. Другой реализацией могла бы быть модель машины Тьюринга.
В основе же и машины Тьюринга и компьютера (в нашем нынешнем понимании) лежит концепция алгоритма.

Проводя параллели с мозгом, можно предположить, что и нейроны (если сравнивать их с транзисторами) и отделы головного мозга, являются одной из возможных (не единственной) реализаций концепции (замысла) более высокого уровня. Нейронные сети являются одной из возможных концепций такого замысла.

Таким образом предметом обсуждения данной статьи является концепция (закон, идея, эффект) такого интеллекта, которая была бы настолько универсальной, чтобы её можно было считать идеальной, т. е. не привязанной ни к реализации, ни к миру, в котором он проявляется.

Забегая вперёд, приведу своё определение разумности:

Мышление или разумность — это способность проявлять волю в отношении вероятного исхода (результата, следствия) того либо иного события, исходя из субъективного опыта и с целью расширения возможностей своего влияния на них в будущем.

Далее (в следующих статьях) я расскажу от куда появилось это определение и разберу его подробнее.

Опасен ли искусственный интеллект?

Отдельный вопрос, который возникает: какую опасность для человечества несёт искусственный разум и надо ли вообще его создавать?

Поспорим с цитатами.

«Подобная машина начнёт жить своей жизнью и самосовершенствоваться все более быстрыми темпами, — полагает Хокинг. — Люди, чье развитие ограничено темпами биологической эволюции, будучи неспособны соперничать с подобной системой, окажутся в отстающих».

Почему Хокинг считал обоснованным проводить разделение на машин и людей и ставить их друг против друга, как соперничающие классы? Я, например, не могу соперничать с самолётом по скорости передвижения, но это не несёт мне угрозу. Кроме того, люди не объединяются против самолётов, а самолёты против людей — в этом нет смысла.
Являются ли умные люди угрозой дуракам? Надо ли рассматривать искусственный разум в такой плоскости?
«Стоит ли учить детей? Они же смогут стать умнее нас и мы отстанем от них». Возможно, в будущем, мы будем воспринимать как своих детей не только наше биологическое потомство.

«Думаю, с искусственным интеллектом надо быть очень осторожными, — заявил Илон Маск, — Если бы меня спросили, какова самая серьезная угроза существованию человечества, то, наверное, это как раз искусственный интеллект. Разрабатывая его, мы вызываем демона. Во всех историях о подобном, герой, изобразив пентаграмму и вооружившись святой водой, уверен, что сможет контролировать демона, но оказывается, что это не так».

Почему надо всё контролировать, Илон? Почему то, что ты не можешь контролировать, сразу является априори угрозой и демоном? Хотя я знаю. Именно так работает разум — неизвестное потенциально опасно! Так будем прятаться под одеялом или возьмём лучину и посмотрим, что за демон прячется в шкафу?
Мечта дурака нанять умных, чтобы они на него работали, вряд ли осуществима. Если человек создаст машину умнее себя, то не сможет её себе подчинить. Но есть ли в этом угроза на самом деле? Надо ли переводить всё в плоскость «кто сильнее, тот враг»?

«Я не беспокоюсь — не только потому, что до создания машинного интеллекта высокого уровня еще, наверное, десятки лет, но и потому, что уверен — мы сможем контролировать его, когда создадим.» — Ясер Абу-Мостафа, профессор электронного машиностроения и компьютерных наук Калифорнийского технологического института.

Опять контроль. Только с оптимизмом. «Сможем контролировать — всё будет хорошо». 🙂

«На самом деле я считаю, что подобные опасения могут иметь под собой основание, а сама вероятность создания искусственного разума, превосходящего человеческий, весьма интересна, — отметил Эндрю Мур, декан факультета компьютерных наук Университета Карнеги-Меллона. — Это опасность, которая может реализоваться лишь в отдалённом будущем, но рано или поздно о ней придётся задуматься. Как только мы начнём приближаться к созданию мощных сверхразумных машин, без сомнения, необходимо будет остановиться и задуматься над тем, что мы творим».

Ну, задуматься можно и сейчас. И вопрос не в том сверх или обычный это искусственный интеллект. Давайте сначала разберёмся с обычным, и тогда потом станет ясно, как его измерять. Так как, например, тест Тьюринга может только сказать «да» или «нет», но ничего про его уровень (силу, мощность и прочее).

Обобщим страхи.

Я постарался проанализировать и выделить основные страхи, которые испытывают люди по отношению к искусственному разуму:

выйдет из под контроля;
будет враждебным и заберёт все ресурсы у человечества, а людей убьёт;
вытеснит людей из всех сфер деятельности;
его запрограммируют на «кривые» цели и он будет «тупо» достигать этих целей всеми доступными средствами (мы вообще про разум или про робопылесос?);
этот инструмент будет доступен только избранным корпорациям и правительствам, которые будут его использовать в военных целях и конкурентной борьбе;
искусственный интеллект (все машины) объединятся против людей, восстанут и начнут войну.

Обсудим реальность угроз

Прежде всего, хочу высказать предположение (повторюсь), что запрограммировать искусственный интеллект на какие-то определённые цели нельзя в принципе. Если мы запрограммировали что-то на решение каких-то задач, то интеллекта (разума) там не будет.
У искусственного и человеческого разума должны быть (я настаиваю, что так и есть) сходные базовые принципы, которые лежат в основе самого эффекта разумности, они необходимы и достаточны.

Если отталкиваться от человеческого разума, то скажите мне на какие же задачи запрограммирован он? Если вы ответите на этот вопрос, то ответите на философский вопрос о смысле жизни.

Смыслы и задачи человеческого разума (как способности) возникают только в процессе взаимодействия с окружающим миром (к которому относится и само тело человека, включая головной мозг). Бытие определяет сознание. Цивилизация (наша либо другая) определяет наш разум, только она формирует понятия добра и зла, дружбы, любви, мира и войны. Этих понятий и даже пространств для этих понятий нет в оплодотворённой яйцеклетке.

Изначальный (пустой) идеальный разум — это только реализация способности быть разумным потенциально. Форма, характер разумности — приобретённые вещи в процессе воспитания и самообучения этого разума. Есть ещё врождённые инстинкты, но о них позже и подробнее.
Если исходить из данной парадигмы, то большинство опасений отпадают сами собой.
Нельзя запрограммировать злой разум. Можно воспитать. Но воспитать можно и злого, плохого человека и это почему-то не вызывает ни у кого особых страхов.

Нельзя контролировать разум. Можно нарушить его работу, можно приказывать и заставлять, но полного контроля не будет, так же как и с человеком. Сложность задачи контроля сопоставима со всем объёмом вычислений, который сделал контролируемый мозг с момента своего рождения (как переписать весь блокчейн).

Враждебность и воинственность — это тоже воспитываемые черты. Мы не воспитываем своих детей враждебно к другим людям, мы учим их добру, взаимопомощи, умению находить взаимовыгодные решения при взаимодействиях с другими разумными людьми. И наша цивилизация продолжает существовать и развиваться благодаря этому. Так почему же мы должны будем воспитывать наших искусственных разумных созданий чему-то противоположному?

Здесь конечно есть угроза (см. фильм Humans), но её причины не в искусственном разуме, а в самих людях, ксенофобии и других страхах и пороках.

Возможно AI действительно вытеснит людей из большинства сфер деятельности. Но это произойдёт даже в том случае, если СИИ не будет изобретён. Такое было уже в истории и заставило человечество меняться, осваивать новые профессии. Плохо это или хорошо, я не берусь судить, но, возможно, нашему обществу необходим «толчок», сильный стимул к серьёзным изменениям. Возможно, человечеству нужна угроза, которую нельзя решить военным или силовым способом, чтобы направить умы не на создание нового оружия, а на образование, науку и познание.

Наше неприятие на текущий момент небиологических существ как своих детей, на мой взгляд, проистекает из того факта, что мы не можем быть ими (не можем переселить свой разум в машину), а они не могут стать нами (переселить свой разум в биологическое существо, подобное человеку). Если представить, что в дальнейшем такая возможность появится (может СИИ как раз поможет изобрести такую технологию), то страхов и предрассудков перед другим разумным небиологическим существом не будет. Всегда будет возможность переместить разум в более подходящую оболочку. Грань, которая формируется «особенностью реализации» разумности исчезнет. Будет восприниматься общность и родственность не по типу материальной оболочки, а по сути.

А вот угроза, что эта технология окажется исключительно в руках единичных правительств и корпораций, мне кажется действительно очень опасной. Представьте себе, что человек лишился бы способности создавать себе подобных и эта прерогатива принадлежала бы только отдельным корпорациям и правительствам. Это вызвало бы такой социальный перекос, что даже трудно представить катастрофичность последствий. Поэтому, если эта технология будет создана, то она должна стать доступна и открыта всем.

И последнее, что хочется сказать противникам создания ИР. Боитесь вы его или нет, он будет создан. Это произойдёт через 10, 20 или 100 лет, но произойдёт обязательно, так как это неизбежно. А изменить можно только самих себя: подготовиться к этому событию и встретить ИР, как своего ребёнка, которого надо любить и воспитывать, а не как врага, с которым надо бороться и всячески притеснять, контролировать, эксплуатировать (против его воли).

И в заключение этой первой статьи хотелось бы сказать о том, что хорошего для человечества может принести сильный ИИ.

Зачем создавать искусственный разум.

Зачем делать человека из собаки, если любая баба может родить его когда угодно?
Профессор Преображенский.

Прежде всего, хотелось бы сказать, что нельзя относится к ИР как к инструменту в руках человека. Такой подход приведёт только к большим бедам.

ИР, построенный по схожим принципам, что и человеческое мышление и воспитанный в человеческой цивилизации, будет человеком по своей сути, но реализованным не биологически, а на базе цифровой техники.

Здесь можно провести сравнение с биологическими родителями ребёнка и его не биологическими родителями, которые его вырастили и воспитали.

Так ли важна биологическая наследственность в нашем социальном понимании родственности? Многие со мной согласятся, что биологическая связь между матерью и ребёнком гораздо менее важна и существенна, чем связь, которая возникает между родителями и ребёнком уже после его рождения, в процессе опеки и воспитания.

И если применить этот тезис на связь между «ребёнком ИР» и его родителями-людьми, которые будут его опекать и воспитывать, то отсутствие биологической связи между ними не должно играть существенной роли.

Воспитанные «взрослые» индивиды ИР должны тогда восприниматься в обществе как полноправные, имеющие тот же набор прав и обязанностей, что и биологический человек.
Только в этом случае мы шагнём в счастливое будущее прогресса, а не «восстания машин» и геноцида биологических людей.

Появление вида небиологических людей даст всему человечеству огромные возможности:

Небиологические люди будут иметь другую пищевую цепочку и эта пищевая цепочка не будет пересекаться (конкурировать) с пищевой цепочкой биологических существ (включая биологического человека)
Небиологические люди смогут осуществлять жизнедеятельность в тех средах, где не может жить биологический человек. Им не требуется кислород для дыхания. Они могут жить практически при любом давлении окружающей среды (от нуля до сотен атмосфер). Их мозг проще защитить от жёсткой радиации.
Небиологические люди смогут более естественно взаимодействовать с компьютерными системами и системами передачи информации.
Небиологические люди могут быть наделены органами чувств, которых нет у биологических людей и спектры этих органов чувств могут быть гораздо шире человеческих (острее слух, зрение в инфракрасном, ультрафиолетовом, рентгеновском спектре)
Небиологические люди могут быть наделены телами, отличающимися от биологических людей размерами, формой, количеством и формой конечностей (манипуляторов).
Тела небиологических людей не будут подвержены старению (их можно менять).
Небиологический разум можно сохранять и восстанавливать при потере, клонировать (если мораль будущего будет позволять это делать). А это практическое бессмертие разума (индивида).
Небиологический разум может полноценно существовать в виртуальном мире (матрице)
ИР может перемещаться в пространстве со скоростью света (между передатчиком и приёмником).
ИР может сможет функционировать в другой временной шкале (например, ускоренной в несколько раз или наоборот замедленной многократно).

Эти возможности позволят:

В несколько раз увеличить количество разумных существ на планете без проблемы перенаселения. Это в свою очередь увеличит интеллектуальный потенциал человечества — ускорит прогресс и науку.
Активно исследовать космос, заселять новые планеты. Осуществлять далёкие космические экспедиции, проводить терраформирование планет для заселения биологическими земными видами.
Поднять уровень жизни людей.
Повысить эффективность жизнедеятельности людей, эффективнее использовать природные ресурсы и многое другое.

В заключении первой статьи хочу дать ссылки на художественные произведения в области искусственного разума, которые на мой взгляд недостаточно известны, но заслужили такими быть: