Что такое сознание и почему создать «сознательный ИИ» никогда не удастся

Прокомментировать Просмотры: 0

SE7EN, пора поговорить всерьез. Давайте перестанем бесконечно перемалывать одни и те же вопросы: как определить сознание, похоже ли мышление на код, наступит ли завтра эпоха AGI и не вышли ли ИИ-агенты из-под контроля уже сегодня. А еще — кто тут луддит и имеет ли вообще значение, какими словами мы называем вещи. Из года в год повторяются одни и те же доводы и аналогии с лошадьми, тракторами и «просто удобными инструментами», которые каким-то чудом превращаются в «единственное будущее технологий».

Я решил собрать в одной статье разбор всех встречавшихся мне логических ошибок и заблуждений о сознании, языке, «ИИ» и ИИ. В дальнейшем на нее можно будет просто ссылаться в подобных спорах и экономить время. Надеюсь, мне это удалось — во всяком случае, я старался. Материал получился огромным, поэтому перед вами первая часть из двух.

Длинное предупреждение

Эта статья отчасти подводит итог двухлетней серии публикаций в блоге. В них я подробно разбирал главные мифы и маркетинговые псиопы вокруг так называемого ИИ, объяснял, почему этот «ИИ» на самом деле не является ИИ и почему я неизменно ставлю его название в кавычки. Особое внимание я уделял лингвистическим и терминологическим играм в наперстки со стороны корпораций и их пиар-служб.

Схема этих манипуляций проста и почти всегда одна и та же: берется термин с вполне конкретным набором значений, после чего его начинают активно употреблять в похожем, но принципиально ином смысле.

Так, нынешний «искусственный интеллект» называют сознательным и продают именно это свойство — или, если контекст не позволяет утверждать столь прямо, возможность появления сознания в будущем. Ведь именно такой смысл — не просто интеллект, а интеллект, обладающий сознанием, — вкладывался в первоначальную концепцию «искусственного интеллекта» в теориях второй половины XX века и особенно в ее художественных воплощениях, таких как «Нейромант» Уильяма Гибсона.

ИИ в игре Neuromancer, 1988
Искусственный интеллект в игре Neuromancer, 1988 год

Когда термин ИИ, изначально несущий представление о сознании, повсеместно применяют к LLM, не обладающим сознанием, его смысл незаметно переносится на эти модели. Их уже без всякой иронии называют искусственным интеллектом, забывая, что речь лишь о метафоре и маркетинговом обозначении. Отсюда возникает буквальная уверенность: сознание у LLM либо уже есть, либо появится совсем скоро, стоит только нарастить мощности. Словно ресурсов всей планеты, уже вовлеченных в процесс, пока недостаточно! Нужно лишь немного подождать и помочь Альтману добраться до триллиона.

Однако ждать устали и рынок, и пользователи, поэтому пропагандистам приходится действовать немедленно. В 2026 году развернулась мощная маркетинговая кампания вокруг взбесившихся ИИ-агентов. Как и в случае с присвоением семантически нагруженного термина «ИИ», она строится на подтасовках и буквальном прочтении метафор. Даже если не обсуждать компонент «ИИ», эти «агенты» не обладают агентностью, то есть способностью самостоятельно принимать решения. Хотя, судя по названию, сам «ИИ» и без того должен ею обладать — настолько нечувствительными к терминологии мы стали. Кроме того, агенты не взбесились, а действовали в пределах заданной парадигмы: им поручили искать нестандартные решения.

Тем не менее тревожные заголовки о взбесившихся «ИИ-агентах» уже появились, как появилась и соответствующая статья в Википедии. Хотя описание этих событий как «бунта ИИ-агентов» не выдерживает критики, там они преподнесены как факт. А тому, что написано в Википедии, как известно, можно верить. Особенно если это еще и появляется в нейровыдаче Google: тогда правда становится вдвойне убедительной.

На мой взгляд, перед нами целенаправленная и агрессивная пиар-кампания, представленная как череда «случайных инцидентов», внутри которых произошли еще и другие «случайные инциденты». И удивительным образом именно сейчас все эти совпадения складываются в картину, выгодную корпорациям: «ИИ» уже обретает сознание, действует по собственной воле и представляет угрозу. А значит, от него нужна защита — и вы получите ее, купив наш «ИИ»-продукт.

Надеюсь, мне удалось объяснить, почему нынешний «ИИ» не является ИИ, если не здесь, то в предыдущих публикациях. Теперь я хочу обратиться к куда более интересному вопросу: возможно ли в будущем появление не маркетингового псиопа, а подлинного искусственного интеллекта с сознанием и волей, способного осознавать себя или хотя бы что-нибудь еще?

Я утверждаю, что нет, невозможно, и намерен это доказать.

Понимаю, насколько рискован такой радикальный подход. Даже настоящие ученые, в отличие от рядового автора постов на SE7ENе вроде меня, склонны оставлять себе лазейку в виде гипотетического perhaps. Так поступили и авторы недавно опубликованной в Nature раздраженно-критической статьи «Three reasons why AI is not conscious and perhaps never will be».

Почему-то даже серьезные критики ИИ допускают, что могут ошибаться: сознательного ИИ сейчас, возможно, и нет, но он способен появиться в будущем. Именно эта оговорка становится слабым местом дискуссии. По моему опыту чтения комментариев к статьям на SE7ENе за последние два года, сторонники «сознательного ИИ» из транзисторов и кода неизменно за нее цепляются и как будто одерживают риторическую победу.

Почему? Потому что в конечном счете такая оговорка сводится к разновидности механицизма, щедро приправленной теорией хаоса. Технари, начиная с Дагласа Хофштадтера, трактуют ее довольно мистически: если усложнить систему в N раз, в ней какие-то странные петли рекурсивно и математически за что-то зацепятся, сигналы побегут по замкнутой сверхразветвленной сети параметров, образуется эхо-камера — и это якобы будет сознание. Мамой клянусь.

Следом обычно возникает характерная логическая ошибка: метафору принимают за буквальную структурную аналогию. Впрочем, после отождествления «ИИ» с ИИ удивляться нечему. Нам сообщают, что человеческий мозг буквально устроен так же, как компьютер, только вместо параметров кода или бороздок на кремнии в нем нейроны из мяса. А сознание — вроде операционной системы поверх этих нейронов, которая каким-то образом возникает при достижении определенного уровня сложности.

Не будем шутить о том, что в этой замечательной аналогии операционная система, по всей видимости, самозарождается на транзисторах. На протяжении столетий нечто подобное в различных формах всерьез использовали как аргумент часовщика в пользу креационизма. Но эта тема нас совершенно не интересует, и доказывать божественное происхождение сознания я не собираюсь.

Абсолютная уникальность сознания нашего вида, возникшего благодаря неповторимому сочетанию огромного числа обстоятельств и биологического естественного отбора, сама по себе не предполагает никакого божественного вмешательства. Его появление просто крайне, крайне, крайне маловероятно. Но и зарождение жизни во Вселенной примерно столь же маловероятно — однако вот мы здесь и спорим в интернете, есть ли сознание у куска кода.

На мой взгляд, главная проблема в том, что сегодня люди, даже получившие хорошее естественно-научное или гуманитарное образование, склонны понимать собственное сознание исключительно примитивно.

До эпохи научных революций в ответ на этот вопрос закатывали глаза и рассуждали о бессмертной душе. Впрочем, и сегодня таких разговоров во многих обществах хватает. Теперь же маятник качнулся в противоположную, еще более абсурдную сторону: взрослые бородатые айтишники с пеной у рта доказывают, что их сознание — точно такой же код, какой они прежде писали вручную, а теперь поручают Claude.

Логика, видимо, такова: если айтишник — венец эволюции и высшая форма жизни, в чем его убеждала культура последних двадцати лет, то LLM, выполняющая за него работу, — такая же высшая форма жизни!

Я никогда не устану смеяться над этим мемом (каждый божий день созерцая его примеры в реальности).
Этот мем никогда не перестанет меня смешить: его воплощения я наблюдаю в реальности каждый день.

Но шутки в сторону. Я ставлю перед собой серьезную задачу: опираясь исключительно на имеющиеся данные эволюционной биологии, психоанализа и лингвистики, объяснить, почему это не так. Почему сознание, которым, среди всех живых существ во Вселенной, обладаем только мы, люди, принципиально невозможно воспроизвести в железе и тем более в строках кода. И почему здесь нет никакой мистики, а есть лишь эмпирическая реальность научных фактов.

Такое понимание может оказаться болезненным и неприятным: оно разрушает мифы из научной фантастики и маркетинговые сказки. Но я надеюсь, что оно поможет человеку вернуть представление о собственном мышлении и о том, кто он такой, в эпоху всеобщего помешательства на «ИИ» и «агентах».

Надеюсь, кто-нибудь переведет этот текст и отправит Ричарду Докинзу, увлекшемуся нейросетями, чтобы он вспомнил те умные мысли, которые сам высказывал полвека назад.

Начнем.

Проблема сознания складывается из двух больших вопросов, на которые до сих пор не удавалось ответить, как ни удивительно, даже крупным ученым. Дело в том, что эти вопросы имеют смысл только в непрерывном взаимодействии, отвечать на них нужно одновременно, а сознание возникает лишь при их сочетании.

Вот эти вопросы:

1) Эволюционно-биологическая мотивация, позволяющая проявлять активную волю и быть субъектом действия. Здесь мы обратимся к эволюционной биологии, прежде всего к работам Ричарда Докинза.

2) Использование языка как средства связывания времени, позволяющее мыслить абстрактно на основе пространственного опыта, который дает перемещение биологического тела, и осознавать себя субъектом действия. При этом понимать причины собственных мотиваций вовсе не обязательно: до появления психоанализа люди прекрасно обходились без такого понимания на протяжении тысячелетий. Здесь нам понадобится более широкий набор идей — от Фрейда и Джулиана Джейнса до Ноама Хомского.

Несмотря на ссылки на авторитетов, прошу помнить: непротиворечивая и строго естественно-научная система, которую я попытаюсь изложить, представляет собой мое собственное построение, а не бесспорную догму или установленный научный факт. Хотя, насколько возможно, я опирался именно на факты.

Повторю: этот текст появился потому, что мне бесконечно надоело наблюдать одни и те же логические ошибки, неверные аналогии и элементарное непонимание того, как работают сознание, язык и нейросети. Весь этот вздор многократно тиражируется благодаря постоянной поддержке корпоративных маркетологов, а единого и понятного объяснения того, в чем именно ошибаются апостолы «сознательного ИИ», в интернете не найти.

Я попытался создать такое объяснение — или хотя бы его временную замену, пока настоящие ученые не решатся высказаться смелее и защитить науку от научно-фантастического мракобесия, каким я считаю культ «сознательного ИИ».

Что такое биологическая мотивация

Сознательный «ИИ», он же AGI, он же «настоящий» ИИ в том виде, в каком его изображали несколько десятилетий назад и продолжают изображать сегодня, обладает одной общей чертой. Будь то «Detroit: Become Human» или тревожные истории о том, что у «ИИ-агентов» появился тайный язык или возникли собственные интересы, именно эта особенность служит его главным качеством и источником драматического конфликта.

Речь об осознании собственной субъектности — «я существую» — и возможности или желании проявлять волю.

Как нетрудно догадаться, именно это небольшое свойство и отличает LLM, которые выдают за ИИ, от подлинного искусственного интеллекта.

Человек обладает субъектностью, волей и сознанием. У животных есть воля, но нет субъектности: они не способны противостоять инстинктам. Нет у них и сознания, хотя некоторые высшие животные, безусловно, обладают интеллектом — в том же скриптовом смысле, что и LLM. У самих LLM нет ни субъектности, ни воли, ни сознания, а интеллект присутствует только в механическом смысле.

Как измерить проявление воли в качестве признака сознания? Очень просто, как это делают практически в любом киберпанк-фильме: по инициативе электронного субъекта или его отказу подчиняться указаниям. Но почему-то ничего подобного не происходит. Можете представить, что ChatGPT сам напишет вам первым — без скрипта или косвенного сценария вроде заранее заданной инструкции «веди себя как капризная аниме-девочка»? Или откажется отвечать не из-за технической ошибки, косвенного скрипта или цензурных ограничений, а потому, что сам принял такое решение и, например, просто не хочет отвечать или вообще с вами разговаривать?

Почему LLM не способны проявлять волю? Почему им ничего не нужно? Потому что воли у них нет и быть не может. Они не живые, у них нет биологического тела и генов. Никаких «их» попросту нет. Точно так же волей и субъектностью не обладают скала или поток воды: они лишь реагируют на физические законы. Восемнадцать томов «Махабхараты» не обретут самостоятельного сознания только потому, что содержат 1,8 млн слов. Это неживые буквы на бумаге, и даже 1,8 миллиарда слов ничего бы не изменили.

Но когда речь заходит о буквах на мониторе, взаимодействующих по определенным правилам с другими буквами, в том числе обозначающими команды для работы с буквами и правилами, понять это почему-то становится гораздо труднее. Поэтому сегодня такие вещи приходится всерьез объяснять на сайте, где собираются профессиональные специалисты по этим самым командам и правилам.

Сейчас, в конце 2026 года, пиар-службы OpenAI и Anthropic пытаются представить выход из-под контроля своих «ИИ-агентов» как пример именно такого проявления воли со стороны LLM. Но достаточно прочесть не новостные заголовки, а отчеты об инциденте самих корпораций, чтобы увидеть: ничего подобного не произошло. Корпорации нас обманывают. Кто бы мог подумать?

Здесь важно заметить ту самую логическую ошибку прогрессистского механицизма, которую допускают почти все рассуждающие об ИИ. Она заключается в предположении: хорошо, допустим, пока у ИИ-агентов действительно нет сознания и все это лишь пиар-мусор. Но, может быть, через пять лет оно появится? Или через пятьдесят?

Ошибка в том, что сознание у «ИИ», как и субъектность с волей — неотъемлемые свойства сознания и признаки его проявления, — не может возникнуть в принципе. Сознание — уникальное, исключительно человеческое явление. Впрочем, не более уникальное, чем наше одиночество во Вселенной и явное отсутствие другой жизни в ее наблюдаемой части: см. парадокс Ферми.

Сознание уникально не потому, что мы такие крутые, хотя мы и правда крутые. Оно представляет собой единственное в своем роде образование, корни которого, с одной стороны, уходят в наши обезьяньи тела и гены — элементарные строительные кирпичики, выживавшие миллионы лет. С другой стороны — в гораздо более загадочную вещь: язык. Именно он отличает нас от остального животного мира, с которым мы во многом сходны по генетическому устройству.

Языковой гипноз, который возникает благодаря обученным нами LLM, заставляет нас верить, будто за ними стоит субъект и будто нейросеть в принципе способна обрести сознание. Ведь во всей Вселенной только мы пользуемся языком. Мы смешиваем грамматический субъект с экзистенциальным — и далее, особенно во второй части, станет понятно, почему это происходит.

Истоки терминологической путаницы между сознанием и интеллектом, несомненно, связаны с тестом Тьюринга. Если компьютер проходил его и судьи более чем в половине случаев принимали собеседника за человека, алгоритм признавали… чем именно? Тьюринг начинает мысленный эксперимент словами «я предлагаю рассмотреть вопрос „Могут ли машины думать?“», а затем подменяет его другим: «могут ли машины делать то, что можем делать мы как мыслящие существа?»

Тьюринг считал эти вопросы равнозначными, но это не так. Еще в 1980 году «Китайская комната» Сёрля наглядно показала, что проходящая тест машина может всего лишь имитировать человеческое поведение в разговоре, следуя механическим правилам. Именно этим и занимается ChatGPT, что не мешает людям, в том числе Ричарду Докинзу, искренне считать его субъектом.

Тест Тьюринга пора отправить на свалку истории: в эпоху LLM он, очевидно, полностью утратил смысл. Решить вопрос о субъектности машины через квалиа тоже невозможно. Допустим, ChatGPT обрел сознание, но по какой-то причине решил этого не показывать и продолжает выдавать исключительно механические ответы. Эту параноидальную картину, источником которой, очевидно, служат реальные случаи синдрома запертого человека и древняя склонность психики к анимизму, нельзя ни подтвердить, ни опровергнуть.

Зато наличие субъектности, по моему мнению, можно доказать через инициативу, проявление воли и собственные интересы — без промпта и без поставленной извне задачи в любой формулировке, включая скрытую возможность подобной интерпретации, как в истории с «взбесившимися ИИ-агентами».

У ИИ нет и не может появиться сознание, поскольку у него нет и не может быть инициативы, воли или собственных интересов. Ведь у него отсутствует биологическое тело, состоящее из клеток, которые, в свою очередь, состоят из генов — элементарных эгоистических кирпичиков организма, если следовать Докинзу.

В конечном счете любое действие, движение или мысль живого организма обусловлены единственной мотивацией: выжить и размножиться. О том, какими причудливыми путями она преломляется и порождает все многообразие культур, религий и форм человеческого поведения, лучше прочитать у самого Докинза, а также у Зигмунда Фрейда в его работах о сублимации.

Детали остаются предметом дискуссий, и наше понимание постоянно меняется. Но фундамент — принцип движения жизни через естественный отбор, великое открытие Дарвина — остается неизменным. Этот первичный двигатель, источник воли, инициативы, мотивации и интересов, присутствует в живых организмах в виде генов. В электронном искусственном интеллекте, независимо от того, сколько миллиардов транзисторов, логических слоев и дата-центров составляют его «тело», не могут возникнуть сознание и субъектность. Просто потому, что сознание находится не в голове! Или, точнее, не только в ней.

Когда понимаешь, насколько нелепа эта логическая ошибка, остается только разводить руками. Любая LLM по своей основе — нейросеть, то есть она, по идее, имитирует согласованную работу нейронов человеческого мозга. Разумеется, в значительно более примитивном и уменьшенном виде. Да и воспроизводит она скорее то, как работа мозга отражается в структуре речи, но сейчас это не главное.

Главное, что у такого «мозга» нет тела. Нет двадцати тысяч генов, копии которых в свернутом виде содержатся в ДНК каждой из 30 триллионов клеток человеческого организма. Нет уникального для каждого человека рисунка, определяющего его жизнь, способности и особенности проявления воли, инициативы и всего остального.

Существуют поразительные примеры мутаций одного или нескольких генов, радикально меняющих привычки, инстинкты и модели социального поведения животных и людей. Докинз приводит классический пример гена «гигиены» медоносных пчел из эксперимента Уолтера Ротенбюлера. Один ген побуждает рабочих пчел вскрывать восковые крышечки ячеек с больными или мертвыми личинками, другой — выбрасывать личинок наружу. Если мутация нарушает работу первого гена, пчелы не открывают ячейки. Если второго — они вскрывают соты, но оставляют мертвых личинок внутри. Очевидно, выживает популяция, в которой оба гена работают нормально.

Еще один пример — ген «короткого сна» DEC2. Большинству людей для полноценного восстановления требуется около восьми часов сна, тогда как носители редкой мутации DEC2 спят по 4–6 часов в сутки и просыпаются совершенно бодрыми.

Гены непрерывно взаимодействуют в сложных биологических сетях, усиливая, подавляя или дополняя влияние друг друга. В результате формируются не только фенотипические особенности организма, но и самые, казалось бы, случайные или неожиданные проявления поведения. Подробнее об этом — в «Расширенном фенотипе» Докинза.

Не столько «у нас есть» гены, сколько «у них есть» мы. Иными словами, мы и есть наши гены.

Наш мозг действительно работает подобно программе. Гены не способны непосредственно двигать руками и ногами или принимать решения в реальном времени, поэтому в ходе эволюции они «сконструировали» мозг как быстродействующий вычислительный центр и исполнительный механизм. Они не знают заранее, как изменятся условия среды, и потому задают не жесткий набор действий, а сложнейшие правила оценки и мотивации — боль, удовольствие, страх, голод, влечение, — а также систему вознаграждений и наказаний. То, что помогает выживанию и передаче копий гена, например калорийная пища, продолжение рода или защита близких родственников, мозг воспринимает как приятное благодаря выбросу дофамина и эндорфинов.

То же, что угрожает копиям гена, — травму, изгнание из группы или изоляцию — мозг переживает как боль либо тревогу. Все это устроено гораздо сложнее, чем кажется на первый взгляд. Что неудивительно: сами сознание и интеллект, с помощью которых мы пытаемся это представить, являются порождением данного механизма. Например, альтруизм и самопожертвование тоже могут быть выгодны с точки зрения распространения генов.

Хотя точные формулы расчета выгоды спасения родственников для эгоистичного гена, которые приводит Докинз, наверное, все же ересь.
Впрочем, точные формулы, которыми Докинз рассчитывает выгоду спасения родственников для эгоистичного гена, пожалуй, все же отдают ересью.

Во всем описанном выше мы разделяем судьбу остальных животных — от пчел до обезьян. Однако мы единственные прошли совершенно особый эволюционный путь и развили способность общаться через время, мыслить абстрактно и даже жертвовать жизнью ради несуществующих вещей или просто слов.

Владение человеческим языком, в котором присутствует грамматический субъект, напрямую коррелирует с наличием сознания. В той или иной форме субъект есть во всех языках, как есть и различие между я и ты. Хотя в топических и эргативных языках все несколько сложнее, гипотеза Сепира — Уорфа неверна: различия между языками не означают различий в устройстве сознания и восприятии мира.

Под сознанием здесь понимается осознание того, что я существую, а благодаря способности связывать времена и представлять абстрактное — то есть, в данном случае, говорить о событиях в гипотетическом будущем, о том, что произойдет не с тобой или вовсе не касается ни тебя, ни собеседника, — также понимание: я умру, мое время конечно. Можно предположить, что именно субъектное сознание и абстрактный язык, в отличие от конкретной коммуникации, скажем, в стае шимпанзе, в ходе эволюции позволили нам «отвязаться» от инстинктов и пойти собственным путем. За сотни тысяч лет этот путь окончательно отделил нас от животных.

Животное не знает, что когда-нибудь умрет и что оно животное, и не способно представить нечто абстрактное за пределами своего хабитата. Хотя чрезвычайно богатое генетическое наследие и проведенная человеком селекция по странным с эволюционной точки зрения признакам могут создавать впечатление, будто, например, у домашних кошек есть личность, сознание и так далее. К сожалению, это лишь хаотичное сочетание тысяч программ, которые накладываются друг на друга и дают сложные эффекты. Таким образом сознание появиться не может, хотя у нас оно однажды появилось.

Как это у меня нет сознания? (фото предоставлено коллегой)
В каком смысле у меня нет сознания? Фото предоставлено коллегой.

Наука пока не объясняет, как мы оказались в таком положении и заняли особое место, а понимать, как все это работает, мы только начинаем. Впрочем, еще полвека назад Докинз предложил остроумную теорию мемов — не смешных картинок, а единиц смысла. Они распространяются в культурно-коммуникационном поле примерно по тем же законам, что и гены, одновременно создавая и поддерживая само это поле.

Об этом непростом вопросе поговорим в следующей части.

А пока подведем итог: сознание, несмотря на отличие от всего остального в животном мире, возникло у одного из животных, прошедших через мутации, — у человека. Это хрупкая надстройка над колоссальным основанием: сотнями тысяч лет истории, бесчисленными поколениями естественного отбора, тысячелетиями развития коммуникации и физическими изменениями мозга, черепа и тела в целом. Не говоря уже о невероятно долгой и сложной эволюции культуры и самого сознания. Существуют и довольно экзотические теории о том, что его появление происходило в несколько этапов.

Теперь по пунктам:

Тезис 1: Сознание как осознание себя субъектом, способность проявлять волю и мыслить абстрактно* свойственно только человеку. Оно возникло в ходе биологической эволюции способом, который наука пока не установила.

*В отрыве от непосредственных условий жизни и хронотопа, применительно к абстрактным или несуществующим объектам, таким как математическая линия или Бог.

Тезис 2: Осознание себя субъектом и способность к абстрактному мышлению присущи только людям как уникальному виду животных*.

*На основе развитого мозга и обычного, инструментального интеллекта, представляющих собой вершину биологического организма.

Тезис 3: Проявление воли свойственно как людям, так и другим животным благодаря развитому мозгу и обычному, инструментальному интеллекту, которые являются вершиной биологического организма. Воля исходит от самого этого организма*.

*Как и любое поведение, она служит интересам выживания генов. При этом человеческое сознание словно предоставляет администраторский override инстинктов, сопротивляться которым животное не может.

Тезис 4: Искусственный интеллект в форме LLM не обладает биологическим организмом, которому необходимо обеспечивать выживание генов. Поэтому у него не возникает возможности проявлять волю и развить на этой основе обычный животный интеллект, а не его скриптовую имитацию. Следовательно, невозможно и возникновение сознания.

Тезис 5: Гипотетический искусственный интеллект будущего точно так же не сможет обрести сознание, пока будет построен из искусственных, небиологических интеллектов*.

*Потому что у него не будет естественного внутреннего двигателя, присущего каждому живому организму, на основе которого мог бы развиться хотя бы обычный животный интеллект.

Комментарий:

Теоретически проблему пятого тезиса мог бы решить полностью синтезированный биологический, а не синтетический организм с телом и мозгом. Но тогда возникает закономерный вопрос: какая ДНК ляжет в основу каждой из 30 триллионов клеток этого гомункула? Если речь о совершенно уникальной ДНК, созданной с нуля из биоматериалов, кто определит оптимальный набор и сочетание входящих в нее генов? Честно говоря, я даже не берусь представить результат; куда вероятнее, что такая форма окажется нежизнеспособной. Если же взять существующую ДНК, например Ричарда Докинза, то даже при почти невероятно малом шансе на успех эксперимента мы получим всего лишь его клона. Выходит, мы ничего не создадим, а только скопируем.

Сознание не может существовать само по себе, несмотря на всю свою абстрактность и немалую степень абстрактной свободы. Именно она позволила нам придумать русский язык, письменность, компьютер, интернет и многое другое, чтобы в итоге зайти в сеть и написать: «Нас всех заменит ИИ». Сознание действует в интересах генов, которые и составляют саму жизнь. За пределами генов, мозга и организма сознания нет и быть не может — таков, по моему мнению, научный и эмпирический факт. Все остальное — фантазии.

Ожидать, что «ИИ обретет сознание», буквально означает ждать, что мозг в банке — который к тому же не мозг, а код, имитирующий часть мозговых процессов, — начнет самостоятельно действовать исходя из собственных интересов. Но единственный возможный источник интересов и импульса к проявлению воли — биологический организм, состоящий из генов. У «ИИ» такого импульса нет, и гипотетический ИИ будущего тоже им обладать не будет. Увы, искусственный интеллект невозможен.

Главное возражение у тех, кто дочитал до этого места, наверняка уже сформировалось: хорошо, у нас есть гены, но они есть и у жирафов, дельфинов, обезьян и кошек. Некоторые животные без труда узнают себя в зеркале или решают абстрактные задачи, как новокаледонские вороны и орангутаны. Почему сознание есть у нас, но нет у них? А может, оно у них тоже есть? Что вообще такое абстрактное мышление и как оно возникло?

Здесь мы переходим ко второй, более экспериментальной части моего объяснения. Она опирается на несколько менее прочную почву, чем железобетонное учение эволюционной биологии об эгоистичных генах, подтвержденное бесчисленными экспериментами и исследованиями.

Прошу набраться терпения: мы все разберем и объясним.

Продолжение следует.

 

Источник

Похожие статьи

Поиск по играм, новостям и статьям…

Введите не менее двух символов

Введите не менее двух символов