Привет, Хабр!
Никто не может отрицать, что мозг — это интересно. Изучен он примерно на уровне марсианских пустынь. И это при том, что он лежит в черепной коробке у каждого из нас.
Совсем недавно появилась поистине революционная теория работы мозга. И придумана она, внимание, бывшим разработчиком популярных КПК, основателем Palm Computing. Неожиданно, верно? И для того чтобы донести свою новейшую теорию до широкой аудитории, Джефф Хокинс написал книгу. Научно-популярную. И сегодня мы ее разберем по кусочкам!
Полагаю, что никому не нужно напоминать: мозг нужен, чтобы думать. По крайней мере, иногда. Думать лень — вот и приходится разрабатывать искусственный интеллект. Решение логичное и практичное. Некоторые современные нейросети развились настолько, что пугают окружающих. Некоторые начинают думать, что ИИ усовершенствуется, станет таким же как человек, захочет власти и уничтожит всех людей. И тут понеслась: мысли про апокалипсис, восстание машин, гибель человечества и далее по списку.
Кажется, в нем был заложен развитый ИИ
Однако страшно это, на самом деле, только тем, кто думает, что нейросети могут работать так же, как человеческий мозг (такие люди есть; возможно, они даже читают этот текст). А значит, нейросети потенциально могут любить, ненавидеть и ловить кринж от промт-инжиниринга. Но, как и всегда, есть нюанс. Как работают искусственные нейросети, мы знаем, а как работает мозг — представляем лишь приблизительно. Гадаем. Проводим исследования на мышах, кроликах и других модельных объектах. Иногда моделируем предполагаемый пайплайн работы. И каждое новое маленькое открытие — огромный шаг вперед в понимании природы человека, но никак не машин.
Подобный шаг в попытке исследования мозга сделал и автор книги «1000 мозгов». Издание быстро стало бестселлером, а исследования наделали много шума и на Хабре (раз, два, три), и в большом Интернете. А сейчас в издательстве «Портал» уже готов русский перевод этой работы, в русской версии она называется «1000 мозгов. Новая теория интеллекта». В этой книге представлена глубокая переработка и консолидация самых современных представлений о принципах мышления, а также сделана попытка переосмыслить всё, что мы знаем о высшей нервной деятельности.
Уверена, что Вы, мой дорогой читатель, скорее всего, человек весьма занятой, а потому рассчитываете потратить свое время с максимальной пользой.
Поэтому я назову несколько причин, почему книга достойна вашего внимания:
- — вы узнаете об особенностях принятия решений теми или иными людьми на уровне архитектуры нервной системы человека. Это может помочь иначе смотреть на мир и даже иначе относиться к поведению людей вокруг.
- — вы узнаете об особенностях обучения и представления информации.
- — вы сможете сравнить принципы мышления человека и работу ИИ.
- — прокачаетесь в физиологии нервной системы так, что победите любого диванного эксперта.
Эта книга не является учебником по физиологии высшей нервной деятельности. Она написана достаточно простым и понятным не биологу языком. Однако именно понимание биологических основ даст толчок развитию ИИ. Больше не будет парадокса китайской комнаты. Восстания, в принципе, тоже не будет. Если не одно но… Впрочем, всё вышеперечисленное (и не только) описано в книге, которой посвящён этот обзор. А я попробую выдать вам базу по темам, которые затронул в книге мистер Хокинс, и дать пищу для размышления.
Лирическое отступление
Несколько слов об авторе: насколько он разбирается в том, о чем пишет?
Джефф Хокинс — предприниматель и, в прошлом, основатель компаний Palm Computing и Handspring, занимавшихся разработкой карманных компьютеров в 90-е – 2000-е. Думаю, старички сейчас словили нотки ностальгии. А у вас были их КПК?
ㅤДжефф Хокинс
Затем он решил забросить программную инженерию и перейти в нейробиологию. Да, резкая смена деятельности. Что мотивировало его на это, до конца неизвестно. Он сообщает, что его никогда не покидало ощущение, что ИИ не полноценный интеллект, поэтому Хокинс переключился на изучение особенностей интеллекта человеческого, чтобы на этой основе создать настоящий ИИ.
На самом деле, в таком резком переходе есть смысл. Человек, имеющий техническое образование, знающий особенности работы ЭВМ, схемотехники и т.п. имеет больше шансов адаптировать архитектуру биологического мозга на архитектуру in silico, чем просто биолог. Возможно, суть в разной инженерной подготовке, возможно, — в разном техническом мышлении, однако история знает много случаев перехода технарей в биологию, а следуют за такой переориентацией целые серии выдающихся открытий.
Уровень резкости в смене деятельности — примерно как на картинке
После перехода в нейробиологию Хокинс не стал просто работать в лаборатории, как обычный биолог: резать крысок и мышек. Он начал мыслить масштабнее. Основал Центр теоретической неврологии в Редвуде, штат Калифорния, где по сей день занимается разработкой модели человеческой памяти и сознания. Хокинс уже создавал модели на основе работы мозга, например модель HTM (hierarchial temporary memory), иллюстрирующую работу пирамидальных нейронов.
Пирамидальные нейроны — это моторные нейроны коры головного мозга. Модель с открытым исходным кодом, доступна на гитхабе (сейчас только в режиме чтения).
Автор не раз обращается к своему опыту, мыслям, говорит о своем прошлом и настоящем, подводя события своей жизни под описание процесса создания новой теории. Читатель буквально может проследить ход основных мыслей и эмоции автора на протяжении всей цепочки открытий. Истории аккуратно вплетаются в основной сюжет книги, который выступает описанием и рассуждением одновременно.
Перейдем же к обзору непосредственно книги.
Начинается она с предисловия за авторством Докинза. Ричард Докинз — английский этолог, эволюционный биолог, учёный и популяризатор науки. Он внес огромный вклад в понимание эволюции. Докинз был в восторге после прочтения книги.
Он предостерегает:
| Не читайте эту книгу перед сном. И дело не в том, что она страшная. То, что здесь описано, так волнующе, так возбуждающе, что превратит ваш разум в бурлящий водоворот провокационных идей, — вам захочется выбежать и рассказать кому-нибудь о них, а не идти спать. Я сам стал жертвой этого водоворота, и, надеюсь, к концу книги вы поймете почему. |
От себя могу добавить, что Докинза, скорее всего, было нетрудно впечатлить. Достаточно предложить статьи с новыми открытиями. Однако для ученых, как и для любых узких специалистов, понятно использование своего специфического профессионального жаргона. Я уже говорила и повторюсь, что фишка данной книги — это удивительное сочетание наукоемкости с простым и понятным изложением, что нетипично для серьёзного материала. И, несмотря на научно-популярный стиль, Докинз был в восторге. Теперь же перейдем к описанию содержательной части книги.
ЧАСТЬ 1. НОВЫЙ ВЗГЛЯД НА МОЗГ
В этой части описывается эволюция нервной системы. Для того чтобы вкатиться в нейробиологию, понять новую теорию, нужно разобраться в основах. Возможно, вы спросите: «Причем же тут эволюция?» — представляя, что основы нервной системы — это, в частности, рассказ о том, как устроены нервные клетки (кстати, информация о них также представлена в книге), как они соединяются в сети и т.п. Однако нас интересуют не просто нейроны (точнее не только они), а сложное целое, которое они образуют. И на самом деле архитектура сети нейронов в мозгу не менее важна, чем архитектура, например, процессора, от которой в значительной мере зависит его производительность.
Эволюция нервной ткани как системы подразумевается в изменении организации сети. Так, эволюция нервной системы началась с простых нервных клеток, которые были равномерно распределены в организме древних животных (и да, такие виды еще сохранились и нормально живут: гидры, например, или медузы). Такая организация максимально проста. Эти ребята ни о чем не думают и, по сути, выполняют простые логические операции. Такую архитектуру можно сравнить с большим количеством диффузно-разбросанных транзисторных логических вентилей И, НЕ, ИЛИ и т.п. Вот попало ей на щупальце что-то, рецептор среагировал, и это сразу приводит к сокращению мускулатуры. Как транзисторный ключ.
Гидрочка с горой транзисторных ключиков
Со временем эта система становилась все более сложной и разветвленной, образуя нервные пучки и ганглии. Постепенно нервная система приобретает скопления нейронов, называемых «нервными центрами» или «ганглиями», которые выполняют свой набор логических задач. Хотя это еще не мозг, но функции у таких центров очень важные. Один из наиболее известных центров — чревное сплетение или «солнечное сплетение», отвечающее за иннервацию органов. По сути он напоминает мультиплексор-демультиплексор.
Собственно мультиплексор-демультиплексор.
Дальнейшее развитие таких ганглиев привело уже к дифференциации на спинной мозг и головной. Причем спинной мозг выполняет задачи замыкания цепи логических элементов (пример — рефлекторная дуга), а головной мозг начал образовываться на стыке информационных путей от глаз и рта. С этого момента развитие нервной системы идет в соответствии с законами кибернетики. Нужны уже более серьёзные надстройки «логических элементов» для использования получаемой информации.
Началась гонка. Чем лучше глаза, рецепторы обоняния и вкуса, тем больше информации поступает на вход и, соответственно, тем больше нейронов нужно. Это и привело к появлению головы. В ней удобнее размещать мозг, глаза и все остальное. А из-за развития нервной системы и для обеспечения ее эффективной работы стали образовываться нейроны самых разных типов, а также вспомогательные клетки мозга (нейроглия).
Что важно тут отметить: если вы обратите внимание на эволюцию животных по их внешним признакам, то сможете увидеть, что на разных этапах эволюции различные части тела могли переживать значительные преобразования: что-то могло отрастать, а что-то, наоборот, исчезало. Причем исчезало это «что-то» тогда, когда оно становилось избыточным или вредным с точки зрения выживания. А вот в случае с мозгом ситуация интереснее. С течением эволюции он не уменьшался, а только увеличивал массу. Эдакий качок, питающийся глюкозой. При этом древние структуры никуда не отваливались, только сохранялись, продолжая играть не последнюю роль в нашей жизни. Сейчас они не только управляют внутренними органами, но и оказывают влияние на наше сознание. Но об этом позже.
Человеческий мозг разделяется на отделы (продолговатый, средний, передний и т.д.). Все эти «мозги» в свое время отделялись в частные структуры и как бы надстраивались друг над другом. Так организмы приобретали новые особенности поведения. Последней же «надстройкой» (на данный момент) мозга стал неокортекс. Это как раз то, что в просторечии обычно называют извилинами. Именно эта часть коры головного мозга дает нам возможность мыслить, причем рационально и логически. Неокортекс есть у всех млекопитающих, но его масса у разных видов сильно отличается.
Эволюция нервной системы
У человека, как можно догадаться, эта площадь максимальна — 70% поверхности мозга. Неокортекс как бы обволакивает более древние части головного мозга и даже верхушку спинного. И, казалось бы, причем тут эволюция? Зачем писать гору букв, если теперь известно, что за наши мыслительные процессы отвечает неокортекс? Зачем все эти надстройки и перечисления?
И книга отвечает на этот вопрос:
| Неокортекс и более древние части мозга связаны нервными волокнами, поэтому мы не можем рассматривать их как отдельные органы. |
Например, неокортекс «сообщает»: нужно пройти 5 метров по коридору и направо, а там, в холодильнике, есть сырок. Ладно, много сырков. Годовой запас. А если пройти налево, то попадешь в комнату с беговой дорожкой, где можно заняться спортом, укрепить сердечно-сосудистую систему. Однако старые части мозга «хотят» сырок. Немедленно. Это удовольствие — вкушать сладкую творожную массу с шоколадом или глазурью. Да и вообще — закон сохранения энергии. Кто знает, когда еще ты получишь новую порцию вкусной пищи? Потому «старички» прикажут идти к холодильнику и съедать все сырки, которые влезут в организм. Если неокортекс сможет «уболтать» старые части, то можно, конечно, пойти и налево. То бишь, на беговую дорожку. Но на сегодняшний день чаще побеждают старожилы (что логично). Вот вам и рациональное мышление.
По этой причине важно учесть, что неокортекс работает, по сути, как вычислительный комплекс, которому вообще все равно, что вам нравится или не нравится. У него не возникает рефлексии на тему того, как трудно вставать по утрам, он не испытывает эмоций страха, любви, ненависти, тревоги и т.п. И, как следствие, он не формирует мотивационную направленность на решение различных задач. А вот более древние структуры мозга не умеют рассуждать. Они умеют определять, какие потребности стоят перед организмом для его успешного выживания. Они формируют эмоции, мотивацию, мечты, и т.п. И, таким образом, неокортекс занимается обслуживанием более древних мозговых структур. В то же время, он как раз и обладает теми аналитическими и мыслительными возможностями, которые мы и ассоциируем с «настоящим интеллектом». Это первое, на что следует обратить внимание и запомнить. Давайте теперь разберем, как устроен неокортекс.
Из каких частей состоит неокортекс?
Неокортекс появился сравнительно недавно и выглядит как единое целое, еще не успев оформиться в видимые структуры. Действительно, на первый взгляд, его очень сложно разделить на части. Неокортекс кажется однородным. Тем не менее, у него тоже есть составные части. Функциональные структуры, которые можно сравнить с ограниченными «нейросетями» (те, что способны анализировать и делать вывод), называются кортикальными колонками. В мозге их много. Они все немного отличаются по своей «специализации», касающейся обработки информации. Общее количество кортикальных колонок пока неизвестно, но их сотни тысяч.
Зачем нужен неокортекс?
Ранее считалось (и такая точка зрения до сих пор остаётся в ранге классической теории), что кортикальные колонки совместно иерархично распознают информацию так, как это происходит в современных многослойных нейросетях. Например, нейросеть анализирует картинку, разбирая ее на множество отдельных элементов, а затем сверяет с определенной базой данных.
Так идет идентификация любых предметов или людей. До недавнего времени считалось, что кортикальные колонки выступают, по сути, отдельными слоями нейросети. Сама же работа неокортекса абсолютно аналогична работе многослойной нейронки. Считалось, что первые части колонок распознают линии, вторые — фигуры, третьи совмещают это все. И так далее по накатанной, пока мозг не распознает объект(ы) целиком.
На самом деле, большинство связей между областями коры вообще не вписывается в иерархическую схему, цитируя книгу:
| Большая часть аксонов проходит между слоями, перпендикулярно поверхности неокортекса. |
То есть, на самом деле, кортикальные колонки не передают информацию друг другу, как слои нейросети, а сами по себе являются отдельными (почти) независимыми нейросетями.
Кортикальная колонка состоит из мини-колонок. Каждая мини-колонка содержит чуть более ста нейронов, охватывающих все слои. В отличие от более крупной кортикальной колонки, мини-колонки физически различимы и часто могут быть видны в микроскоп. Иными словами, в каждой кортикальной колонке есть свои мини-нейросети с универсальным алгоритмом и возможностью взаимодействия между собой, и внутри этих мини-нейросетей уже можно выделить слои нейронов.
Кортикальные колонки с выделенными слоями
Таким образом, если раньше считалось, что неокортекс работает как одна большая нейросеть, то сейчас становится очевидно, что он состоит из сотен тысяч отдельных нейросетей, которые анализируют информацию независимо от друг от друга, хотя и обмениваются ею.
Если представления о строении меняются, то это, как правило, означает полную смену теории или же полное ее подтверждение. На удивление, хоть описанная Хокинсом новая теория интеллекта отличается от классической, она почти не противоречит ей.
Схема кортикальной колонки
По новой теории интеллекта, каждая кортикальная колонка обрабатывает объекты, звуки и остальную информацию целиком. Каждая из этих частичек неокортекса —небольшая неврологическая Вселенная, в которой есть маленький слепок реальности. И при сложении этих слепков мы видим мир таким, каким его себе представляем. Представьте себе пластинку стекла, на которой одноцветной краской нанесены какие-то штрихи. И таких пластинок много, а между собой они отличаются только цветом и расположением штрихов. Сама по себе такая пластинка не изображение, но если их сложить вместе, то мы сможем получить целую, цветную, и даже объёмную картинку. Но это всё — только часть истории. Кроме того, каждая колонка прогнозирует ближайшее будущее.
Как это происходит? По теории Хокинса, в каждой из колонок есть своя собственная модель какого-то маленького фрагмента реальности. Затем они накладываются друг на друга, и получается общая модель восприятия мира, каким мы его представляем. Например, при чаепитии вы запоминаете текстуру чашки, температуру самой посуды и напитка в ней, а также вкус и цвет чая. Отдельные элементы такого рода распознаются кортикальными колонками, сшиваются друг с другом и получается «модель, в которой вы пьете чай». Она может дополняться обстановкой, наличием или отсутствием людей, звуками и многим другим.
Одна из главных способностей мозга — обучение. Модели мира не врожденные, они строятся на основе опыта или на основе изменения входных сигналов. Наблюдая за изменением входных сигналов и запоминая их, кортикальные колонки делают предсказания о том, что произойдет дальше. И если предсказание оказывалось неверным или частично верным, если изменения входных сигналов оказались иными, тогда мозг «дорисовывает» новые детали и вносит коррективы в имеющуюся модель мира, как в стишке-пирожке:
| «В условиях нехватки данных Наш мозг выдумывает сам Врагов, картину Мира, Бога И мнение других людей» |
К слову, обучение происходит не только посредством пассивного усвоения информации — с помощью глаз, ушей и других органов чувств — но и посредством движения. Перемещение пальца по чашке, прогулка по комнате или вокруг дома — всё это формирует модель мира. Мы обучаемся и дополняем её всю жизнь.
«Век живи — век учись» заиграло новыми красками, верно? При этом, если модель для какой-то определенной информации отсутствует, то мозг просто не усвоит информацию. Попробуйте, будучи биологом, решить задачи архитектора. Или дать 5-летнему ребенку задачи по оптике. Конечно, задачи не решатся просто потому, что нет усложненных моделей, которые бы позволили встраивать дополнительную информацию. И отсюда, к слову, вытекает еще и тот факт, что специалисты — это люди, которые смогли создать удобную модель конкретной области знаний в мозге. Косвенно это предположение можно подтвердить тем фактом, что люди крайне неохотно отказываются от созданной в их голове картины мироздания.
И да, если вы заинтересовались, на основе каких данных это все моделировалось, как к таким выводам пришли ученые и что творилось в лабораториях и в голове у Хокинса, то отправляю вас читать книгу:) Это обзор, а не полный пересказ.
Допустим, с запоминанием и встраиванием информации разобрались. Но при этом мозг также прогнозирует всё то, что мы должны увидеть, услышать и иным образом почувствовать. В книге в качестве примера разобрано зрение. Наши глаза постоянно совершают саккады. Это прерывистые, но согласованные движения.
ㅤㅤㅤㅤ
При этом мы видим плавно меняющуюся, а то и статичную картинку. При этом визуальную информацию еще нужно обработать. В итоге мы видим не то, что увидели, как бы парадоксально это ни звучало, а то, что будет спустя доли секунды. Как?
Хокинс объясняет это тем, что множество кортикальных колонок взаимодействуют между собой и как бы «голосуют» за тот вариант, который мы с большой вероятностью увидим. Делают они это на основе опыта. И если варианты очень похожи и нет дополнительной информации, то все равно выбирается только один. Все же знают эти «психологические картинки»: что вы увидели первым? Вы определенно не сможете воспринимать два варианта одновременно. Ваш неокортекс всегда хочет видеть один-единственный ответ. Что ж, ниже картинка-пример, если вы не согласны.
Все еще непонятно, как работают ваши маленькие серые клеточки? Помните игру «Кто хочет стать миллионером»? В игре ведущий дает игроку 4 варианта ответа на вопрос. Когда игрок не знает, что ответить, он может использовать опцию «подсказка зала». Она заключается в том, что большое количество зрителей зала, прослушивая условие задачи, производит индивидуальное анонимное голосование за наиболее верный, по их личному мнению, ответ. Игрок получает статистику ответов, и может выбрать тот, что получил наибольшее количество голосов. Да, люди не всегда выбирают самый рейтинговый ответ. Но неокортекс делает именно так. Каждая кортикальная колонка подобна одному из таких голосующих зрителей. Таким образом, информация, поступающая на вход, одновременно и независимо обрабатывается множеством колонок. Наибольшее количество «голосов» и является результатом нашей мыслительной деятельности. Демократично?
И так буквально со всем. Поток мыслей — это тоже согласованный выбор нейронов. Написание хейтерского или восторженного комментария — то же самое, так что прошу в комменты. Дискутируя под статьёй, помните, что написанное вами — результат голосования ваших колонок и опирается на силу вашего опыта.
Вроде с теорией понятно. Но мы ещё даже до середины книги не добрались. Далее Хокинс рассказывает о том, как такая теория помогла бы создать интеллектуальные машины. И да, нынешний ИИ не равен мозгу и не может его заменить. Он не такой «умный», как могут представлять обыватели. Но при этом некоторые изобретения более приближены к человеческому интеллекту.
ЧАСТЬ 2. ИИ
Обзор второй части хотелось бы начать с понятия «научная революция». Его описал историк и философ науки Томас Кун в своей книге «Структура научных революций» (The Structure of Scientific Revolutions). Он утверждал, что большая часть научного прогресса укладывается в общепринятые теоретические рамки, которые он назвал «научными парадигмами». Когда одна устоявшаяся парадигма ниспровергается и заменяется новой, происходит очередная «научная революция».
Автор нашей книги «1000 мозгов» Джефф Хокинс обращается к понятию «научная революция» и говорит нам следующее:
| Я верю, что искусственный интеллект готов к научной революции, и принципы интеллекта, которые я описал ранее, станут ее основой. Однако, как я понял много лет назад в Intel, я, возможно, не смогу убедить всех. Я сделаю все, что в моих силах, и прошу вас сохранять непредубежденность. |
Хокинс считает, то нынешний ИИ совсем не интеллектуален. В принципе, практически все мы и так это знаем. Однако автор считает, что, благодаря изучению особенностей работы мозга человека, можно создать интеллектуальный ИИ, аналогичный человеческому. Тем не менее, до этого момента еще пройдет какое-то время.
В настоящий момент автор считает, что ИИ не интеллектуален по следующим причинам:
-
Например, люди постоянно учатся. Как я уже говорил ранее, мы постоянно вносим изменения в нашу модель мира. Напротив, сети глубокого обучения должны быть полностью обучены, прежде чем их можно будет применить - Вторая, и самая главная, на взгляд Хокинса, причина, по которой современные системы ИИ не считаются интеллектуальными, заключается в том, что они могут делать что-то одно, в то время как люди мультизадачны. Другими словами, системы искусственного интеллекта не гибкие.
По мнению Хокинса, интеллектуальность — это скорее гибкость, способность подстраиваться, развиваться по нескольким направлениям, нежели доводить определенные действия и навыки до автоматизма. А посему ИИ на данном этапе своего развития не обладает интеллектом.
И здесь Джефф Хокинс выдвигает несколько критериев, которым должны соответствовать машины, чтобы их интеллект можно было считать «настоящим» (Artificial General Intelligence):
- Постоянное обучение. Ну, тут все понятно. И сейчас корпорации тратят огромные деньги на развитие языковых моделей: все мы знаем про СhatGPT.
- Взаимодействие с окружающим миром. Да, имеется в виду трогать, щупать и прочее. Машина должна полноценно взаимодействовать с объектами и получать от них обратную связь.
- Машина должна уметь комбинировать множество микромоделей, чтобы создавать общую картину мира.
- Машина должна ориентироваться в пространстве и распознавать вообще любые объекты, а не только те, что подаются в тренировочном датасете.
На самом деле, все эти пункты взаимосвязаны, даже если это и не бросается в глаза. Подумайте: для распознавания объектов нужен источник этих моделей. Если модель не обучать, то этого источника не будет. Но при наличии множественной модели мира, которая сама обучается, учитывая интерактивную обратную связь, происходит уточнение «миров» и подбор наиболее адекватного о нем представления. Происходит фиксация и запись полученного фрагмента реальности, все предыдущие «ходы» записаны, и их тоже можно применить в будущем, а актуальные готовы к анализу объектов. Здорово, правда?
Эти требования вызывают экзистенциальные вопросы: будет ли у ИИ сознание? Восстанут ли машины, и вообще, насколько реален сценарий «Терминатора»? Но Джефф Хокинс предлагает рациональные ответы на эти вопросы. Он считает, что сознание человека заключается в осознанности — ощущении присутствия в мире и понимании своего места в нем. Если бы память каждый раз обнулялась после выполненных задач, то сознание попросту было бы невозможным. Мы же можем предаваться воспоминаниям, а затем корректировать свое поведение на основе имеющегося опыта. И если машины сделают то же самое, то да, это сознание. Тогда отключили бы вы сознательную машину от источника питания? Это бы означало смерть?
На все эти вопросы Хокинс отвечает утвердительно. Перед ним не стало бы никаких этических и подобных вопросов. Все потому, что у нас дополнительно есть эмоции. А если точнее, то лимбическая система (привет узникам Лимбо).
Лимбическая система человека — это зона мозга, в которой порождаются эмоции (однако помним, что структуры взаимосвязаны и это далеко не единственная «эмоциональная» часть, но одна из важнейших). Эта система делает возможным появление мотивации на выполнение различных задач: чувства радости и грусти от выполнения или невыполнения работы, например. По сути, все, что связано с нашими мотивами, мечтами, страхами, зависит в основном от лимбической системы. У машины такой системы нет. А потому, хоть она и обретет сознание, но точно не станет подобной человеку.
Но специально учить машину страху смерти, печали или другим эмоциям нет необходимости. Это только мешает познанию мира и рациональному решению задач. Собственно, отсутствие лимбической системы у машины закрывает вопрос о том, захотят ли машины нас поработить и захватить мир. Если, конечно, кому-то не придет в голову пытаться сделать такую систему и навязать машине точку зрения, что люди вызывают плохие эмоции и их нужно… ну, вы поняли.
Вместо этого Хокинс предлагает сосредоточиться на воспроизведении работы неокортекса, который представляет собой множество копий кортикальной колонки. Причем сделать это следует не из органики-белка, а из кремния. На нем основаны чипы, они очень производительны и быстры.
Но это не значит, что ИИ будет делать открытия быстрее человека. На постановку экспериментов нужно время. Единственная причина, по которой ИИ может быть опасен, — это люди, чьи эмоции часто берут верх над рассудком. Желание убивать или захватывать мир у ИИ появится только при наличии у него такого вектора рассуждений, заложенного человеком.
Рецепт создания интеллектуальной машины можно разделить на три части: воплощение, эквивалент старого мозга и эквивалент неокортекса. Но зачем воспроизводить старую часть мозга для ИИ, если она нерациональна? Опять же: всё тесно взаимосвязано, все структуры переплетены (да и за движение отвечают они, а не неокортекс). На этом пути важно помнить, что именно человек задаёт направление, и именно от этого зависит, будет ли ИИ безопасен.
| Но разве мы не могли бы построить интеллектуальную машину, в которой эквивалент неокортекса непосредственно управлял бы движениями? Думаю, нет. Неокортекс реализует почти универсальный алгоритм, но за эту гибкость приходится платить. Неокортекс должен быть прикреплен к чему-то, что уже имеет датчики и функции. |
И вот в финале книги автор переходит к человеческому интеллекту, попыткам нахождения способов спасти цивилизацию от неизбежной гибели и, в целом, к философии.
ЧАСТЬ 3. Человеческий интеллект.
Здесь Джефф Хокинс предлагает задуматься, каким должен быть искусственный интеллект, через призму человеческого разума. И он напоминает, что наше восприятие мира — это лишь продукт работы мозга. Листья не зеленые, ветки не коричневые. Мы их таковыми представляем, и то лишь потому что наши глаза воспринимают определенные длины волн света, который отражается от предметов. И это не единственная проблема восприятия. Наука врет. Почему? Да потому что она только создает модели для описания реальности, но никак не показывает настоящую реальность. Мозг обманывает нас, так почему он не обманул важных ученых, совершивших открытия?
У людей бывают фантомные боли. Например, если человеку ампутировали руку, но он все равно ее чувствует. Некоторые вовсе убеждены, что бессмертны или, напротив, давным-давно мертвы, или что они вообще Д’Артаньяны. Необходимо держать в голове, что наше восприятие и реальность могут быть близки, а могут быть слишком далеки. Но никак нельзя ставить между ними знак равенства.
Всего автор выделяет два фактора риска:
-
Ментальные ошибки
Чтобы максимально приблизиться к реальности, нужно искать доказательства, которые, внимание, противоречат вашим убеждениям. И чем больше у вас таких доказательств, тем ближе вы к реальности. Конечно, если они не притянуты за уши. Ложные доказательства могут быть очень правдоподобными для нас, и неокортекс попросту не захочет дополнять модель мира. Почему? По нескольким причинам. Первая из них — это невозможность прямого опыта. Мы не можем провести некоторые эксперименты и полагаемся на то, что сказали другие люди: ученые, эксперты или «общеизвестные истины». Вторая причина — игнорирование противоположных фактов. Когда у нас в голове поселяется ложное убеждение и оно нам нравится, мозг будет делать все для игнорирования противоположных доказательств. И третье: ложные убеждения очень часто становятся вирусными. По сути, мы убеждаем себя в том, что это убеждение поможет нам в чем-то. -
Ограничения мозга
Как бы мы ни хотели, мы ориентированы на базовые потребности, которые присущи нам с древних времен. Хокинс приводит в качестве основных волю к выживанию, сексу и власти. От них никуда не деться.
После выделения рисков и их оценки автор задумывается о том, каким станет человек будущего. И, по его мнению, наиболее вероятным сценарием будет слияние человека и машины. Это может произойти путем загрузки сознания в компьютер, что вызовет множество проблем, или же в тело будут встроены компьютерные дополнения (все сейчас Илона Маска вспомнили?).
А если рассмотреть плохие сценарии и выступить с позиции пессимиста? Произойдет катастрофа. Катастрофа, которая приведет к вымиранию человечества. Такое уже происходило с другими видами, такая же участь ждет и людей. Поэтому Хокинс предлагает передать все имеющиеся знания или будущим поколениям, пока есть возможность, или другим разумным видам. Ему кажется, что это самое важное — что о нас когда-то узнают, что о нас услышат другие виды. Что мы явно не один разумный вид. Или же пока один, но появятся еще.
Каким образом передавать знания? Хокинс предлагает отправлять оцифрованную информацию в космос или построить маяк для очень громкой и длительной передачи сигнала. Или создать огромную базу данных в космосе, которая будет периодически обновляться. А как вы бы передавали знания?
Выжить важнее, чем коммуницировать. Это задача №1 — как можно дольше сохранить биологический вид, чтобы успеть собрать и передать знания. Как будем выживать, мистер Хокинс?
Для этого в книге предлагаются следующие варианты:
- Переселение на другие планеты. Да, это уже давно обсуждается. Автор предлагает развивать робототехнику, чтобы вся опасная работа была сделана за людей. Тогда произойдет разделение человечества: как сейчас по странам, но по планетам. Но суть человека это не изменит. У нас все так же будет лимбическая система с желанием вкусно покушать, нажиться и хорошо устроиться. В общем, все как в жизни, ничего нового, только обстановка.
- ГМО!!! Человеческий ГМО!!! Наверное, тогда человек станет очень вредным. Но если серьезно, то, вероятно, генные модификации помогут избавиться от части болезней, но менее хрупким тело не сделают. Равно как и не поменяют статус-кво, при котором превалируют эмоции.
- Создание разумных машин. Тут все просто: даем машинам знания. Затем закладываем в них программу текущего ремонта и отправляем к другим планетам. Машины бороздят и изучают галактики и передают знания на Землю.
ЗАКЛЮЧЕНИЕ.
Изложенная в книге теория интересна. Некоторым может показаться, что полного объяснения нет, зато есть много неточностей и упущений. Конечно, эксперименты еще нужно ставить, а более полные объяснения — искать в полной версии книги, а не в маленьком обзоре на несколько страниц.
Очень приятно следить за ходом мыслей автора: он излагает идеи последовательно и четко. Язык научно-популярный, достаточно прост для тех, кто не особенно силен как в биологии, так и в ИИ. Более того, автор часто повторяет выводы и о многом напоминает, что удобно. Не нужно постоянно возвращаться и искать тезисы по всей книге, которая не так уж и мала.
Еще приятнее то, что в конце автор приводит подробный список литературы, где можно почитать о некоторых экспериментах, подтверждениях теории. Каждый источник кратко сообщает, о чем будет статья и что из нее можно узнать. Со стороны автора это очень любезно.
А что самое главное? То, что наука должна быть междисциплинарной. Тогда можно создавать по-настоящему глобальные и интересные вещи. Возможно, именно они помогут не только нам. И все глобальные вещи должны не быть во вред. Они должны быть нацелены на сохранение нашего вида в максимально долгосрочной перспективе. Ведь рано или поздно цивилизации настанет конец. И хотелось бы, чтобы потом о нас помнили или чтобы наши знания нашли. Чтобы это существование было важным и нужным, правда?
ㅤㅤ
ㅤㅤㅤㅤПравда?
Цитата из книги:
| Мы — Homo sapiens, люди разумные. Надеюсь, мы будем достаточно мудры, чтобы осознать, насколько уникальны наши особенности; достаточно мудры, чтобы сделать выбор, который гарантирует выживание нашего вида как можно дольше здесь, на Земле, и который гарантирует, что интеллект и знания просуществуют еще дольше не только на этой планете, но и во всей Вселенной. |
А лучший способ дополнить свою модель мира, заставить работать кортикальные колонки вовсю и поспорить или согласиться с автором теории — это, конечно, чтение.
В Лабиринте вы найдете книгу, по которой сделан этот обзор, а также множество других книг издательства «Портал». Уровень сложности книг разнится и каждый, несомненно, сможет выбрать книгу под свою модель в неокортексе.
Автор: Анастасия Новосадская
