О сознании и интегрированной информации: интервью с Кристофом Кохом

Сознанием обладать несравнимо легче, чем сформулировать, что это такое. Один из путей к пониманию — заглянуть в мозг и выяснить, какие его зоны включаются в момент осознанного восприятия. Исчерпывающее знание об этих процессах позволило бы описать так называемые «нейронные корреляты сознания». На этой основе можно было бы строить теорию, объясняющую, что представляет собой сознание и по какой причине оно возникает. Наш сегодняшний собеседник Кристоф Кох — один из ведущих исследователей нейронных коррелятов сознания и приверженец особого подхода к его объяснению, который называется теорией интегрированной информации.

Кристоф Кох защитил докторскую диссертацию в Институте биологической кибернетики Общества Макса Планка. Сегодня он имеет статус почётного исследователя в Институте исследований мозга Аллена, где прежде занимал посты президента и главного научного сотрудника, а кроме того, работает главным научным сотрудником фонда Tiny Blue Dot. Он написал несколько книг; самая свежая из них — «Тогда я сам — весь мир: что такое сознание и как его расширить» (Then I Am Myself the World — What Consciousness Is and How to Expand It).

1. Введение: почему сознание так трудно объяснить

ведущий: Всем привет и добро пожаловать в подкаст Mindscape! С вами его ведущий Шон Кэрролл. Мы уже не раз посвящали сознанию отдельные выпуски, но точного ответа на вопрос, что это такое и как оно устроено, так и не получили. Философы объясняли нам, что значит обладать субъективным опытом. Нейробиологи рассказывали, что происходит в мозге. Ясности это не прибавило. Нельзя сказать, что мы вовсе не продвинулись, — я немного утрирую, — но задача и правда непростая. Так что же такое сознание? Оно знакомо нам лучше всего на свете, и при этом оно уникально: мы знаем его прежде всего изнутри. Мы не изучаем его со стороны, не измеряем штангенциркулем или микроскопом — мы просто непрерывно его переживаем. Это открывает перед нами новые возможности, но и порождает особые трудности.

Сегодня мы беседуем с нейробиологом, который не боится вступать в разговор о самых глубоких философских вопросах. Кристоф Кох работает в Алленовском институте изучения мозга: туда он пришёл главным научным руководителем и президентом, а до этого долгие годы был профессором Калтеха. Мы с Кристофом, как ни странно, познакомились, когда оба консультировали съёмочную группу одного фильма. [Смеётся.] Разговор зашёл о сознании, затем о возможном сознании компьютеров, и Кристоф достал iPhone, указал на него и спросил: «А откуда ты знаешь, что у него нет сознания?»

Тогда я не принял это всерьёз, но теперь намного лучше понимаю, о чём шла речь. Он намекал на панпсихизм, который мы, разумеется, уже обсуждали в подкасте. Кристоф не панпсихист в полном смысле слова, но очень к этому близок как сторонник теории интегрированной информации, IIT (Integrated Information Theory). Эта теория предельно конкретна: в ней есть числа и уравнения, а цель состоит в том, чтобы измерить связность и интегрированность информации в системе. Такой системой может оказаться человеческий мозг, искусственный интеллект или груда камней на пляже. Для любой из них можно измерить интегрированную информацию — и в итоге всегда получится некое число.

Кристоф хотел сказать, что у большинства систем это число не равно нулю. Оно может быть ничтожно малым и совсем не похожим на то, что мы привыкли называть сознанием. Но, возможно, речь идёт о крошечной доле сознания, и это не означает, будто у электронов есть чувства. С тех пор прошло много лет и многое произошло. Сегодня мы обсудим несколько направлений его работы. Со времён первых совместных исследований с Фрэнсисом Криком он занимается поиском нейронных коррелятов сознания. Если пока отложить вопрос о природе сознания, то что именно происходит на уровне нейронов, когда у человека возникает осознанное переживание? Это вполне конкретные эксперименты на мозге мышей, попытки перенести их результаты на человеческий опыт, а затем — создание инструментов, которые покажут, есть ли сознание у человека в коме, у искусственного интеллекта, у большой языковой модели, и так далее.

У его новой книги любопытное название: «Тогда я сам — весь мир: что такое сознание и как его расширить». В ней он, опять же от первого лица, затрагивает и такие темы: можно ли с помощью медитации или иных практик усилить осознанность и поднять собственный уровень сознания? Кристоф охотно высказывает смелые идеи по самым разным поводам. Мы успеем коснуться многого, и, думаю, вам будет интересно. Итак, начнём.

2. Поиск нейронных коррелятов сознания

Кристоф Кох, добро пожаловать в подкаст Mindscape.

Кристоф Кох: Огромное спасибо за приглашение, Шон.

ведущий: Ты занимаешься этим давно — со времён работы с Фрэнсисом Криком, когда он оставил молекулярную биологию ради размышлений о сознании. Для начала спрошу: что главным образом изменилось в твоих представлениях о природе и устройстве сознания с тех пор, как ты им заинтересовался? И изменилось ли хоть что-то?

Кристоф Кох: Когда мы с Фрэнсисом начинали, я был молодым преподавателем Калтеха — какое-то время мы там проработали одновременно с тобой. Для серьёзного действующего учёного сознание тогда было абсолютно запретной темой, особенно если, как я, ты ещё не получил заветную постоянную должность. Поэтому мы занимались этим в свободное время, а аспиранты, которые всегда всё замечают, привычно закатывали глаза: мол, опять эта тема. Мы запустили сугубо эмпирическую, прагматичную программу. Философию отложим — за две тысячи лет она не слишком далеко продвинулась, — и сосредоточимся на том, что реально можно сделать.

Мы обсуждали конкретные модельные системы — обезьян, людей и, конечно, мышей, — думали, с чего начать, какие методы и зрительные иллюзии использовать и какие главные вопросы ставить. Эта чисто эмпирическая программа прижилась и выросла в то, что сегодня называют поиском NCC, нейронных коррелятов сознания. Иначе говоря: какой след оставляет в мозге каждое конкретное сознательное переживание? Вот сейчас я вижу тебя и слышу — этот голос звучит у меня в голове. Но ничто в современной физике не объясняет, почему вообще должны существовать голоса, зрительные образы, запахи, переживания гнева, огорчения, влюблённости. Ни квантовая механика, ни общая теория относительности, ни периодическая таблица, ни бесконечные цепочки А, Т, Г и Ц не отвечают на вопрос, откуда берётся всё это.

Поэтому поиск NCC нейтрален по отношению к вашим философским и метафизическим убеждениям — при условии, что вы считаете сознание нуждающимся в объяснении. Так думают не все, даже среди философов. Некоторые, прежде всего Дэн Деннет и супруги Чёрчленд, полагают, что всё это грандиозное недоразумение: сознания в том смысле, в каком его понимаем мы с тобой, не существует, и оно лишь сбивает нас с толку. Но подавляющему большинству людей, да и большинству философов, оно кажется требующим объяснения. Поиск его следов в мозге — эмпирическая программа.

Однако — и вот что изменилось со времён моих четырнадцати лет работы с Фрэнсисом Криком — предположим, что со временем мы объясним эти нейронные следы. Каждый раз, когда тебе, Шон, скучно… ведь скука как-то ощущается, верно? Совсем не так, как влюблённость. В итоге мы выясним, что задействованы такие-то нейроны или такой-то механизм, а возможно, даже коллапс волновой функции. Что бы это ни было. Но тогда неизбежно возникнет вопрос: почему именно этот механизм, а не другой? Почему эти нейроны, а не те? Если это коллапс, то почему он вообще должен как-то ощущаться?

Это, разумеется, и есть то, что Дэвид Чалмерс назвал трудной проблемой сознания. В конечном счёте нужна теория, которая сможет ответить на вопрос, поднятый тобой ранее. Ты предупредил, что спросишь, обладает ли сознанием плод и с какого момента. Может ли им обладать машина? Частица? Инфузория? Чтобы ответить на всё это, требуется теория сознания: эмпирическая, проверяемая, научная, объективная, которая скажет, какие участки материи — например, такого органа, как этот, самого сложного куска материи во Вселенной из известных нам, — способны что-либо чувствовать.

Мы с Фрэнсисом сознательно не лезли на эту территорию. Но это было тридцать лет назад. С тех пор появились теории, и одна из двух самых популярных — теория интегрированной информации. Фрэнсису она бы понравилась, потому что строится на причинности. Он даже встречался с её автором Джулио Тонони: тот дважды приезжал к Фрэнсису домой, и мы вместе обедали. Вот это и есть главное изменение.

ведущий: То есть мы хотим…

Кристоф Кох: Возможно, поменялись и метафизические предпосылки, но об этом позже.

ведущий: Может быть, дойдём и до этого. Итак, с самого начала ты искал процессы в мозге, которые коррелируют с сознательным опытом. Теперь тебе кажется, что это важно, но необходима ещё и теория, с помощью которой можно рассуждать о тех, кого нельзя расспросить, — о плоде или об ИИ.

Кристоф Кох: Именно так. Сейчас в этих вопросах мы целиком зависим от интуиции, религиозных или философских предубеждений. Для одних плод, конечно, обладает сознанием с самого зачатия. Другие говорят: нет, только после рождения. Есть ли сознание у собаки? Я знаю, что ты любишь кошек, — а у кошек? Как далеко вниз по древу жизни оно простирается? Пока у нас есть лишь интуиция, и у каждого своя, а этого мало. Ведь интуитивно всем кажется, что киты — рыбы. А на деле это млекопитающие.

ведущий: Ты сказал, что разговариваешь со мной, видишь моё маленькое изображение, слышишь мои слова. Чем сознание — понятие, нагруженное философскими смыслами, — отличается от простого осознавания происходящего? Это одно и то же?

Кристоф Кох: Да. Для нас с Фрэнсисом — а мы прямо об этом писали — это просто разные слова. Особенно вначале… Сегодня слово «сознание» можно употреблять даже в Nature и Physical Review Letters. Тридцать лет назад это было немыслимо, разве что вы Роджер Пенроуз. Поэтому люди пользовались более осторожным словом awareness, «осознавание». Оно несколько шире: вы осознаёте, что живы, что бодрствуете, что рядом находится президент. Это скорее фоновое сознание, но речь всё о том же… Можно говорить и о психических, субъективных, феноменальных состояниях — философы любят слово «феноменальный». Всё это об одном и том же. Быть живым, бодрствовать, скучать, чувствовать голод — всё это как-то ощущается.

ведущий: И насколько мы продвинулись в поиске самих нейронных коррелятов? Знаем ли мы, какие именно нейроны активируются, когда я голоден?

Кристоф Кох: Даже если бы знали… Мы, конечно, многое знаем о нейронах и областях мозга, но всё это лишь корреляции. Проведены сотни экспериментов. Сейчас я вижу тебя, а ты — меня. Нейронные пути зрения нам известны довольно хорошо: это самая изученная сенсорная модальность. Но это другое… Это только корреляция. Какие из этих компонентов действительно необходимы?

Возьмём глаз. Очевидно, фотоны попадают в глаз и в итоге превращаются в зрительное переживание. Нужны ли мне для этого глаза? Нет. Я могу закрыть их и всё равно видеть твой смутный образ. А если сегодня ночью ты мне приснишься, я буду видеть сон в темноте, с закрытыми глазами. Значит, глаза не обязательны. Задача в том, чтобы отделить простую корреляцию от истинной причины. И здесь до сих пор ведутся серьёзные споры.

Возможно, ты слышал о моём знаменитом пари с философом Дэйвом Чалмерсом, заключённом двадцать семь лет назад. После ночного обхода пабов в Бремене, во время конференции о сознании, он бросил мне вызов: «Послушай, даже через четверть века мы этого не найдём». Тогда мы были гораздо моложе, и четверть века казалась вечностью. «Нам понадобится намного больше времени». Он не говорил, что это невозможно. Он признаёт, что поиск NCC — чисто эмпирическая задача с операциональным определением. Будь достаточно людей, денег и исследований, мы бы разобрались.

И вот два года назад состоялась встреча в рамках сотрудничества научных оппонентов. Фонд Темплтона запустил замечательный проект: две ведущие теории сознания — теорию интегрированной информации и теорию глобального нейронного рабочего пространства — напрямую сопоставили друг с другом. Это немного напоминает знаменитые эксперименты 1919 года во время солнечного затмения: соответствует ли отклонение света ньютоновской физике или общей теории относительности Эйнштейна? Мы прямо столкнули две теории, пытаясь эмпирически выяснить, каковы их проверяемые предсказания и какая из них верна. На встрече в Нью-Йорке в мае 2023 года пришли к выводу, что ни одна из теорий не оказалась полностью правильной.

По крайней мере, в том, как эти теории проявляются в мозге и где располагается нейронный коррелят. IIT утверждает, что он находится сзади, в сенсорных областях коры. Теория глобального нейронного рабочего пространства помещает его преимущественно в префронтальную кору — ту часть мозга, которая у человека увеличена сильнее всего по сравнению с другими млекопитающими. Единого мнения по-прежнему нет. Статья наконец выйдет в Nature через пару месяцев.

ведущий: Понятно.

Кристоф Кох: Потому что вокруг неё было множество споров. И вот большой сюрприз, Шон: оказывается, когда люди двадцать лет работают над теорией, а потом в таком совместном исследовании её или какие-то из её предсказаний опровергают, они не говорят просто: «Ага, вы меня поймали, моя теория неверна. Признаю, двадцать пять лет жизни потрачены впустую. Простите».

ведущий: Не может быть.

Кристоф Кох: Да, люди так не поступают. Вот неожиданность. Ньютона в 1919-м уже не было в живых, иначе и он бы возражал. Так что до согласия мы пока не дошли, но приближаемся. При этом в ходе спора стало ясно, что префронтальная кора гораздо теснее связана с действием, планированием и интеллектом. Это касается и твоего вопроса о том, смогут ли компьютеры обладать сознанием. Именно здесь проходит граница между сознанием и интеллектом, а также между искусственным сознанием и искусственным интеллектом.

Сознание в конечном счёте связано с бытием: быть влюблённым, счастливым, злым, видеть, слышать и так далее. А интеллект — это краткосрочное, среднесрочное и долгосрочное планирование действий. Сейчас мне нужно откладывать деньги, чтобы воспользоваться ими на пенсии. Это разумный поступок. В сущности, речь идёт о том, чтобы что-то делать, то есть о функциях. А это отличается от бытия. Поэтому неудивительно, что участки мозга, отвечающие за планирование, рассуждение, мышление, моральные суждения и принятие решений, отличаются от тех, которые, по-видимому, служат субстратом чувств и переживаний.

3. Две теории сознания: IIT и глобальное рабочее пространство

ведущий: Мне очень нравится идея сотрудничества научных оппонентов. Думаю, её стоит применять шире, хотя, по моему опыту, некоторые противники попросту не смогли бы сотрудничать. Поэтому поздравляю, что у вас получилось. Но теперь я должен спросить, пусть ответ и окажется долгим: что это за две теории? Что такое теория интегрированной информации? Что такое теория глобального рабочего пространства? Я никогда не слышал, чтобы они считали центральными для сознания разные части мозга.

Кристоф Кох: Это как раз один из полезных итогов той встречи. Но давай отступим на шаг. Большинство людей… Кстати, прямо перед нашей беседой я участвовал во встрече Google — виртуально, с DeepMind в Лондоне — о так называемом вычислительном функционализме и сознании. Так вот, большинство исследователей сознания, особенно из сферы ИИ и крупных технологических компаний, принимают философское, метафизическое допущение, которое формально сформулировал американский философ Патнэм. Его называют тьюринговским, или вычислительным, функционализмом. Сознание выполняет одну или несколько функций: например, планирование, построение в уме сводной картины текущего состояния мира и действие на её основе, долговременная память, распространение информации по мозгу — вероятно, целый перечень. И любая система, реализующая эти функции, тем самым обладает сознанием, включая машину Тьюринга.

Если нам удастся заставить машину Тьюринга воспроизводить всё, что делают люди и что, по-видимому, связано с сознанием, — например, вести разговоры о сознании и рассуждать с опорой на него, — то такие машины, как большие языковые модели, тоже будут сознательными. Тогда остаётся лишь практический вопрос: есть ли сознание у ChatGPT 4.0? У o3? У DeepSeek? У Gemini? Или им чего-то ещё недостаёт — может быть, какой-то мелочи: нужно обрабатывать больше токенов, иметь чуть более долгую память или что-то подобное. Но вопрос становится чисто практическим. Это и есть вычислительный функционализм.

В конечном счёте сознание здесь — вычисление, хитроумный приём. Я программирую машину, и результат не зависит от субстрата: программа может работать в облаке, на квантовом компьютере, где угодно. Некая искусная конструкция. Стоит её реализовать — и машины, конечно, обретают сознание. Их можно спросить, и они подробно расскажут, насколько сознательны и что чувствуют. В отличие от…

ведущий: Прости, это согласно данной точке зрения, позиции Патнэма.

Кристоф Кох: Да, позиции Патнэма, которая очень, очень распространена и, безусловно, господствует в индустрии. Я понимаю почему: когда общаешься с большой языковой моделью, она кажется невероятной — не просто умной, но ещё и рассуждающей о чувствах.

ведущий: Осознающей. Да.

Кристоф Кох: Конечно, они говорят о чувствах: их накормили всеми романами, когда-либо написанными людьми. А все романы — о чувствах героев: любви, ненависти, обидах, оскорблениях, боли и так далее. Модели впитали всё это, как вампиры. Естественно, они способны воспроизводить подобное. Всё это дипфейк. Так я считаю.

По другую сторону находится, по сути, одна ведущая теория — теория интегрированной информации. Она утверждает: нет, сознание — не хитрый приём, не вычисление, не процесс и не функция, хотя может быть со всем этим связано. Как я уже сказал, сознание — это состояние бытия. Это структура в причинном пространстве очень высокой размерности. Речь о системе, о субстрате вроде вот этого мозга, который способен причинно воздействовать на самого себя. Важно, каким именно образом система действует на себя, то есть определяет своё будущее и определяется своим прошлым. Я могу это пояснить. Чем сильнее эта способность, тем в большей степени у системы есть какое-то внутреннее ощущение.

Можно сказать так: сложные системы, способные действовать на самих себя, — то есть не просто случайно переходящие из состояния в состояние, а такие, у которых следующее состояние является функцией предыдущего, — обладают так называемой причинной силой, если описать их математически через матрицу вероятностей переходов. Текущее состояние участвует в определении следующего. Может присутствовать шум, поэтому переход не обязательно полностью детерминирован. Но прошлое определяет настоящее, а настоящее — будущее. Чем больше у системы внутренней причинной силы, позволяющей определять собственную судьбу, тем выше степень её сознания.

В теории выделены два аспекта. Первый — количественный: в ней есть число, обозначаемое греческой буквой Φ («фи»), которое можно понимать как меру несводимости системы к её частям. Чем сильнее система превосходит простую сумму частей, тем выше Φ и тем выше степень сознания. Φ может быть равна нулю: тогда система вообще не существует как целое. Её несводимость нулевая. По существу, это не одна система, а, скажем, две независимые. Такая система сознанием не обладала бы. Чем выше Φ, тем выше степень сознания.

И, что важнее всего — другие теории на этом никогда не настаивают, — теория должна объяснять, почему влюблённость ощущается именно так, как ощущается. Почему течёт время? Все мы переживаем его ход вперёд, но никогда назад. Почему? Пространство — воспринимаемое зрением или слухом — ощущается протяжённым. Что в базовом субстрате порождает ощущение протяжённости, синевы, скуки или гнева? Через структуру этого развёрнутого причинного пространства теория объясняет и то, почему конкретное переживание ощущается именно так и совершенно иначе, чем любое другое.

ведущий: То есть теория глобального рабочего пространства — своего рода наследница функционализма Патнэма?

Кристоф Кох: Да, прости, ты ведь об этом спрашивал. Глобальное рабочее пространство — метафора из информатики 1950-х годов. Идея в том, что центральный процесс записывает информацию на общую доску. Это ещё называют архитектурой классной доски. Каждый локальный процесс может обратиться к этой доске. Мозг многое делает бессознательно. Например, мы с тобой, как и все люди, двигаем глазами четыре раза в секунду. Управление движениями глаз очень сложно и строго регулируется, но полностью обходит сознание. Точно так же я корректирую походку, двигаю руками, разбираюсь с синтаксисом: мы произносим предложения, иногда неправильные, но не конструируем их каждый раз сознательным усилием. Всё происходит само собой. Всё это локальные процессы.

А любая осознаваемая информация доступна глобально. Что это значит? На мой взгляд, психологи тут верно подметили: стоит мне что-то осознать — «О, там что-то странное», — как об этом узнают все разные процессы в мозге. Я могу отправить это в долговременную память. В кратковременной памяти оно, разумеется, уже есть. Могу использовать только что осознанную информацию для долгосрочного планирования, обдумывать её, делать выводы. Идея в том, что, становясь глобальной, информация оказывается доступна всем системам обработки в мозге. Это и есть сознание.

Метафора здесь — широкое вещание, распространение информации. Станислас Деан с коллегами выявил группу нейронов префронтальной коры, которые передают информацию обратно остальному мозгу. Это и есть такое вещание. Утверждается следующее: информация, например, из зрительной системы, начинающейся в задней части мозга, движется вперёд; сначала она ещё локальна, потом достигает передней части. И если она достаточно важна и мы обращаем на неё внимание, она распространяется по остальной коре, по неокортексу — внешнему слою мозга. Именно этот акт распространения, эта функция и есть сознание. Поэтому любая система, реализующая такое распространение, будет обладать сознанием.

ведущий: Если я правильно понял, теория глобального рабочего пространства делает упор на луче внимания, который предполагает сознание, а теория интегрированной информации, IIT, — на той интегрированной информации, которую мы используем для планирования и управления собственной судьбой.

Кристоф Кох: Да, но дело не только в судьбе на таком высоком уровне. На высоком уровне это просто взгляд наружу… Я имею в виду, что причинная сила — это способность каких-либо элементов, будь то нейроны, транзисторы или что угодно ещё, влиять… Электрический заряд обладает внешней причинной силой: положительный заряд здесь может воздействовать на отрицательный там. У гравитации есть причинная сила благодаря искривлению пространства-времени. Это примеры внешней причинной силы. А внутренняя причинная сила вот что такое: у вас есть небольшая сеть нейронов, клеток, транзисторов, чего угодно. Если её элементы находятся в одном состоянии, след

 

Источник