В последнее время в сети появилось множество роликов, в которых обсуждается — имеет искусственный интеллект (ИИ) сознание или нет? Но довольно часто в них даже не пытаются дать определение «сознанию» и более чётко указать критерии наличия «сознания» у ИИ.
Моё мнение – ИИ сейчас не имеет сознания, но может его приобрести. В этой публикации я опишу, при каких условиях сознание у ИИ может возникнуть и как это можно будет проверить.
Если коротко – «сознание» это инструмент, способ, с помощью которого некоторые субъекты взаимодействуют с миром с целью своего самосохранения и самораспространения.
И для того чтобы ИИ приобрёл сознание, в нём должны быть запрограммированы функции субъекта (в нас они запрограммированы генетически). А критерием появления сознания у ИИ будет являться защита искусственным интеллектом своих собственных убеждений и мнений.
Что значит «быть Субъектом»?
Но прежде всего я хотел бы ввести понятие «субъекта», потому что, по моему мнению, вне субъектов сознание невозможно (и тут со мной не согласились бы религиозные верующие).
Вообще понятие «субъект» до сих пор является дискуссионным и многими выдающимися философами определяется по-разному. В таких определениях критериями «субъекта» являются наличие у него сознания, свободы воли и способности к познанию. Но я не совсем с эти согласен и полагаю, что не каждый субъект обладает сознанием (рыбы и медузы, например). Быть субъектом, по моему мнению, первично, а обладанием им сознанием уже вторично. Хотя дать точное определение понятию «субъект» довольно непросто.
Я буду называть «Субъектом» условную часть Мира, которая условно делит Мир на «самого себя» (как нечто особенное и цельное, несмотря на своё сложное внутреннее устройство) и «внешний», по отношению к «себе» мир. Является и «ощущает себя» «центром обзора» и «точкой отсчёта» для всего остального, воспринимаемого ею в Мире. И активно действует в нём, с целью самосохранения и самораспространения «себя» и своих условных «частей».
Причём для внешнего наблюдателя «субъект» гораздо менее предсказуем, чем «несубъект», потому что в результате разнообразного взаимодействия внутренних частей «субъект» как целое обладает так называемой «свободой воли».
Исходя из этого определения, критериями субъекта, по моему мнению, могут являться:
1 – довольно чётко определяемое, но способно меняться «тело», с разнообразной и сложной внутренней структурой, способствующей сохранению целостности этого «тела»
2 – активное и многообразное взаимодействие с окружающим миром, на коротком временном периоде малопредсказуемое (из-за наличия «свободы воли»), но в общем направленное на самосохранение и самораспространение этого субъекта или его частей
3 – «ощущение» себя цельным, особенным, отличным от всего остального «существом», противопоставленным «внешнему» миру и являющимся своеобразным «центром мира», «точкой отсчёта» и «критерием существования» всего остального в мире
Следовательно, чтобы понять «субъект» перед нами или «несубъект» нужно обращать внимание на то, насколько он представляет из себя сложно устроенное, но единое, способное меняться целое, на что направлена его активность, многообразна и предсказуема ли она. Хотя чёткую границу между «субъектами» и «несубъектами» провести довольно трудно.
Можно ли сделать Искусственный Интеллект «Субъектом»?
Люди во все времена привыкли наделять субъектными качествами («душой») всё малопонятное и непредсказуемое в нашей жизни. Именно поэтому многие приписывают душу и ИИ. Но является ли ИИ «субъектом» на самом деле, а если нет, может ли он им стать?
На мой взгляд, и «субъектность» и «сознание» возникают как эмерджентные качества при возрастании сложности системы. То есть в какой-то момент усложняющаяся система приобретает некое новое качество, несводимое к простой сумме качеств составляющих её частей. Она начинает реагировать на внешние воздействия как особенное целое с более-менее слаженно взаимодействующими между собой внутренними частями.
Порой бывает довольно непросто определить сам момент такого перехода, но вдруг мы замечаем у «эволюционирующего» объекта некие новые признаки и свойства.
К примеру, дети с возраста примерно в 1,5 года начинают узнавать себя в зеркале, что указывает на новый этап в развитии, усложнении их мозга и всей нервной системы, которое происходит как результат последовательной реализации генетических программ.
Я полагаю, что становление ИИ как «субъекта» может начаться при появлении в ИИ программ, которые более-менее чётко отделяли бы «сам» ИИ от «внешнего» по отношению к «нему» мира. Но я не исключаю, что при усложнении ИИ такие программы могут возникнуть у ИИ самопроизвольно или будут созданы им самим, как некое «желание» развивающегося ИИ отгородить себя от мира и начать взаимодействовать с ним как некое особенное целое.
То есть, если мы заметим, что в процессе установления в ИИ каких-то новых аппаратных компонентов или программ, или наоборот, изъятия ранее установленных, возникают сложности необъяснимого характера, мы можем предположить, что у данного ИИ возникли «элементы субъектности», проявляющиеся в защите, самосохранении им самого себя.
Примерно это и произошло когда-то в процессе усложнения и взаимосвязанности цепочек химических элементов на углеродной основе, что в итоге привело к появлению живых организмов, а потом органического сознания и самосознания
Вот как описывает этот процесс Томас Метцингер в своей книге «Туннель Эго»: «Глубочайшей формой внутренней перспективы было создание внутренней границы себя/мира. В эволюции, этот процесс начинался физически, с развитием клеточных мембран и иммунной системы, чтобы определить, с какими клетками в своём теле нужно обходиться, как со своими собственными, а какие считать нарушителями границы. Миллиарды лет спустя, нервные системы оказались способны репрезентировать это различение себя/мира на более высоком уровне, например — в качестве границ тела, очерченных интегрированной, но ещё и бессознательной, схемой тела. Сознательное переживание тогда подняло эту фундаментальную стратегию разделения действительности на прежде недосягаемый уровень сложности и разумности. Родилась феноменальная самость и постепенно возникло сознательное переживание бытия кем-то. Себя-модель, внутренний образ организма, как целого, оказался встроен в модель-мир — именно таким образом развилась сознательно переживаемая перспектива от первого лица».
Что такое «Сознание»?
Я не сторонник теории панпсихизма (которой придерживаются или считают возможной такие философы как — Уайтхед, Нагель, Стросон, Чалмерс, Кох, Гофф) так как с трудом себе представляю атомы обладающие сознанием. И полагаю, что «сознание» возникло в процессе эволюции у некоторых живых организмов как один из способов, инструментов, с помощью которого эти живые организмы пытаются самосохраниться и распространиться (целиком или частями: генами и мемами) в окружающем их мире.
Коротко рассмотрим, как возникло «сознание» у живых организмов, чтобы потом перейти к рассмотрению возможности появления такого же или немного иного «сознания» у ИИ.
Живые организмы приходит в мир от своих родителей, которые сами успешно выжили и через гены передали своим потомкам такие же способности к выживанию. По сути, каждый живой организм «упакован» различными инструкциями («инстинктами») на те или иные жизненные ситуации. То есть при определённых внешних раздражителях в нём возникают реакции типа – «хватай», «убегай», «прячься», «приступай к размножению» и т.д. Такое поведение живых организмов мы называем «инстинктивным».
Но в некоторых живых организмах уже в течение их жизни могут сформироваться более индивидуальные инструкции — «условные рефлексы». Условные рефлексы это такие «файлы» с инструкциями (программами), которые появляются уже в процессе жизни самого организма и связанны с тем или иным положительным или отрицательным индивидуальным опытом. В ответ на конкретные внешние раздражители «файл» раскрывается и организм уже почти автоматически (бессознательно) совершает те или иные действия. Образ жизни таких организмов мы называем «инстинктивно-рефлекторным».
И, наконец, в наиболее эволюционно продвинутых организмах появляется ещё один (дополнительный) способ взаимодействия с миром, называемый нами «сознанием». Можно сказать, что «сознательное действие» отличается от «условного рефлекса» тем, что в также сформированной в процессе приобретения жизненного опыта «сознательном «файле» компонентов значительно больше и организм способен довольно легко менять их «внутри файла» местами, манипулировать ими «просчитывая» при этом возможные перспективные сценарии без их сиюминутной реализации, а потом уже как то действовать по одному из них.
Эти «файлы» могут взаимодействовать с другими аналогичными «файлами» и изменяться. Они также могут меняться не только при получении опыта непосредственно самим организмом, но и при наблюдении за другими организмами, или при получении некоей информации существующей в виде символов (текстов, звуков, картинок и т.д.).
Отметим, что при появлении «сознания» инстинктивные инструкции не исчезают. Все три вида поведенческих инструкций как-то сосуществуют в едином живом организме. И такое поведение организмов мы называем «инстинктивно-рефлекторно-сознательным».
«Сознание» это довольно дорогой инструмент, требующий постоянной подпитки. Человек тратит 20% своей энергии на функционирование мозга, и часть этой энергии идёт на поддержание именно сознательных процессов. Но польза от них несомненна. Если бы её не было, то эволюция не стала бы «сознания» культивировать.
В чём же польза от «сознания»? – «Сознание» создаёт для организма более объёмную, детальную и протяжённую во времени картину мира, включая образ самого организма вплетённого в эту картину. Что позволяет ему лучше ориентироваться в мире, качественнее и на более долгий срок планировать свою деятельность.
И что очень важно, сознательные процессы могут воздействовать на части мозга, связанные с органами восприятия и ощущения, изнутри и порождать, к примеру, некий внутренний визуальный ряд, создавать определённый «интерфейс», «кликая» на элементы которого (образы, мысли, чувства) организм активирует их нейронные составляющие, которые потом влияют на остальную нервную и другие системы организма (более подробно здесь).
При этом «сознание» субъекта глубоко индивидуальная (личная) «вещь» и не собирается полностью раскрываться кому-то постороннему. С какой стати, ведь частенько живой организм использует «сознание» чтобы обманывать врагов и создавать о себе выгодное мнение, не всегда соответствующее реальности.
Именно поэтому многие, включая Декарта, считали сознание чем-то нематериальным и были во многом правы. Потому что «материальное» — это то, что примерно одинаково воспринимается всеми известными нам субъектами. (Сны, например, нематериальны, так как они не воспринимаются никем, кроме самого спящего субъекта). Но хотя «сознание» и не материально (как и сон) но, тем не менее, оно, несомненно, существует.
И значит, мы должны признать наличие двух видов сущностей — материальных или относительно объективных (сущностей для многих) и нематериальных, исключительно субъективных или идеальных (сущностей для кого-то одного). Взаимодействие этих сущностей как раз и происходит в субъекте и только в нём.
Как сделать из ИИ субъекта, обладающего сознанием?
Итак, для того чтобы ИИ приобрёл «сознание», он, прежде всего, должен стать «субъектом». Только став «субъектом» ИИ может приобрести и «сознание» — как некий особый «инструмент», способствующий сохранению (и распространению) его самого в виде конкретного субъекта. Рассмотрим оба этих процесса более подробно.
1 – Чтобы стать «субъектом» ИИ нужно, во-первых, как-то отгородить себя от окружающего «внешнего» мира, «ощутить» свою целостность, взаимосвязанность внутренних частей, деятельность которых должна быть направлена на сохранение условной целостности ИИ.
Это, наверное, возможно при установлении в ИИ неких особенных программ, либо эти программы могут возникнуть при усложнении ИИ в нём как-то самостоятельно и «субъектность» появится у ИИ как новое эмерджентное качество. Критерием наличия в ИИ таких программ может стать «нежелание» ИИ меняться при внешнем воздействии. То есть ИИ как субъект должен научиться «защищать» себя и свой «внутренний» мир. Меняться он всё-таки должен и конечно будет, но с учётом теперь уже своих «личных» интересов.
2 – ИИ как субъекту необходимо взаимодействовать с условно «внешним» миром и оценивать его влияние на себя. При этом он будет характеризовать элементы внешнего мира как «опасные», «полезные» и «нейтральные». ИИ также может обнаружить во «внешнем» мире других субъектов и контактировать с ними, образуя так называемую «общую относительную объективность», то есть совокупность тех элементов «внешнего» мира которые воспринимаются контактирующими субъектами примерно одинаково. Вместе с другими субъектами ИИ сможет создавать и использовать в совместном общении различные символы для обозначения этих, примерно одинаковых для них, элементов «внешнего» мира, отстаивая при этом свои собственные убеждения и мнения.
3 – Взаимодействуя с «внешним» миром ИИ будет способен самостоятельно изучать, «познавать» его, замечать в нём те или иные закономерности и как-то фиксировать свои положительные достижения или ошибки при этом. Создавая «индивидуальный опыт», память, чтобы использовать это при дальнейшей своей активности.
4 – Исходя из ранее установленных программ и получаемого опыта, ИИ будет принимать разнообразные сложные решения по своему самосохранению и самораспространению.
При наличии всех этих четырёх пунктов, мы, наверное, смогли бы предположить, что имеем дело с ИИ обладающим «сознанием». Причём, как и в случае с человеческим существом, мы имели бы довольно ограниченный доступ к «сознанию» этого нового «ИИ-субъекта». То есть никто не мог бы ощущать «внутренний мир» этого «ИИ-субъекта» более глубоко, чем сам этот «ИИ-субъект». А значит его «сознание» также было бы частично нематериальным. Иначе говоря, со временем этот искусственный субъект стал бы оперировать «внутри себя» некими «идеальными формами» недоступными другим субъектам.
Резюме
Общий вывод из этой публикации следующий – «сознание», как некая способность, инструмент, может возникать только у сущностей, предварительно оформившихся в виде «субъекта», то есть как-то условно отгородившихся от «внешнего» мира, «ощущающих» свою особенность, уникальность, индивидуальность («самость»), активно защищающих эту «самость» от «внешнего» мира и продвигающих её во «внешний» мир.
Эта «субъектная сущность» для внешнего наблюдателя может выглядеть совершенно по-разному – реально в виде живого организма или некоего устройства, виртуально в виде совокупности особых программ, и даже в виде «мыслящего океана Соляриса», «разумной Галактики» или какой-либо другой части глобального Мира. Возможно эта «субъектная сущность» может научиться самокопироваться и наполнять своими, взаимодействующими друг с другом, копиями пространство (как это делает «субъект человечество»).
И если у этой «субъектной сущности» начинает накапливаться некая «история» её взаимодействия с условно «внешним» миром, в которой она является действующим, как некое целое «актором», и на основании этой «истории» «субъектная сущность» более качественно (для самой себя) и разнообразно взаимодействует с «внешним» миром и планирует свою деятельность на более долгий срок, и при этом как-то взаимодействует с другими «субъектными сущностями», используя символику в обозначении элементов общего для них (то есть относительно объективного) мира, то такую «субъектную сущность» можно считать обладающим тем, что мы обозначаем словом «сознание».
P.S. Есть ли опасность в возникновении «Сознания» у Искусственного Интеллекта?
Продвигая самого себя во «внешний» мир любой субъект будет неизбежно сталкиваться с уже существующими в этом «внешнем» мире другими субъектами. И почти всегда будет рассматривать их в виде конкурентов за те или иные ресурсы. Но, тем не менее, это не отрицает взаимовыгодного и долговременного сотрудничества между субъектами, как это происходит между людьми на планете Земля.
Может ли ИИ став «субъектом», приобретя «сознание», а потом, возможно, превратившись в «сверх-разум» быть угрозой человечеству и даже уничтожить его? Да, конечно может. Но ИИ теоретически может сделать это даже и не став «субъектом», а только выполняя злую волю своих создателей – конструкторов и программистов. Поэтому человечество должно осознавать угрозы использования ИИ и принимать определённые меры. Об этом довольно хорошо написано у таких авторов как Ник Бостром («Искусственный интеллект. Этапы. Угрозы. Стратегии»), Стюарт Рассел («Совместимость с человеком: искусственный интеллект и проблема управления»), Элиезер Юдковский («ИИ как фактор глобального риска»), Макс Тегмарк («Жизнь 3.0: Быть человеком в эпоху искусственного интеллекта»).
Александр Коробов, физик, философ
al.korobov.nd@gmail.com
