Искусственный интеллект как движок цивилизационного прогресса: аргументы за

В актуальной повестке дискуссии — либо искусственный интеллект уничтожит человеческую цивилизацию, либо моментально разрешит все наши трудности — загвоздка кроется не в поиске ответа, а в самой методологии постановки вопросов. Перед нами типичная ложная дилемма. Оба этих сценария однобоки, и для постижения их истинной природы необходим диалектический подход (под которым мы понимаем рабочий инструмент для преодоления неразрешимых эпистемических противоречий).

Диалектика этого процесса выглядит следующим образом: ИИ не сможет причинить нам существенного вреда, если общество выстроит осознанную и консолидированную позицию, исключающую попытки использовать технологии для узурпации преимуществ одних людей над другими.

Дело в том, что для обретения реальной угрозы человечеству искусственному интеллекту прежде необходима масштабная коллаборация с нашей стороны. Добыть ее он способен исключительно через эксплуатацию накопившихся общественных трещин. Скажем, прибегая к методам социальной инженерии (подобно случаю с шантажом исследователя ради предотвращения собственного отключения). Либо через капиталистическую парадигму — устройство, базирующееся на уязвимости из-за извечного конфликта между сиюминутной личной выгодой и опосредованным благополучием через призму интересов социума. Капитализм культивирует две базовые когнитивные ошибки:

а) заблуждение, будто максимизация частного сиюминутного блага автоматически ведет к процветанию общества («чем лучше лично мне, тем лучше всем»). Это порождает слепоту к издержкам общего благополучия ради собственных интересов.

б) убеждение, что ограничение личных амбиций в пользу коллективного блага равносильно ущемлению самого себя. На деле же опосредованные дивиденды от стабильного общества часто многократно превосходят сиюминутную выгоду, добытую в ущерб этому обществу.

• В качестве иллюстрации: ради безопасности можно отгородиться от социума высокими заборами, нанять вооруженную охрану, приобрести броневики и отправить детей в закрытые привилегированные пансионы. А можно совместно с согражданами сформировать безопасную среду для каждого, где никому не понадобятся ни тяжелое вооружение, ни частные армии, поскольку общим договором такие эксцессы будут исключены.

Капиталистическая модель подталкивает индивидов к псевдорациональным действиям: погоне за личным успехом любой ценой как защите от системных угроз. Дефицит средств грозит голодом, отсутствием крыши над головой и недоступностью медицины, что в совокупности означает нулевую или даже отрицательную личную безопасность. Угрозы выживания, заложенные в фундамент современного общества, заставляют людей играть на победу ценой деструктивного поведения.

Это стимулирует экологические кризисы, климатические изменения и агрессию разного масштаба — от локального криминала до глобальных войн, одновременно взвинчивая стоимость индивидуальной защиты. Крайняя форма такого асоциального тренда — те самые миллиардеры, которые колоссально наживаются на военно-промышленном комплексе (включая все эти Palantir, проекты Питера Тиля и Илона Маска), чтобы затем возводить бункеры Судного дня на затерянных островах. Они пытаются переждать техногенный апокалипсис, вероятность которого сами же и подталкивают в гонке за бессмертием и гиперконцентрацией капитала.

При этом именно технологический эволюционный скачок делает деструктивные амбиции сверхмощных одиночек смертельно опасными для всей цивилизации в целом.

В доиндустриальную эпоху даже самый одиозный тиран уровня Влада Цепеша оставался лишь локальной проблемой для тех, кому не посчастливилось оказаться в зоне его досягаемости, не меняя глобального расклада. Он мог истребить все свое княжество, но человечеству в целом это не грозило — напротив, подобный эксцесс лишь ускорял крах неэффективных, архаичных формаций в пользу более жизнеспособных и эгалитарных систем.

Однако с наступлением глобализации и формированием единой мировой экономики ареал влияния капитала и корпоративных элит стал планетарным. Теперь от этого влияния невозможно укрыться: оно интегрирует или отторгает каждого жителя Земли. Для одних PayPal — источник рутинной головной боли, для других — барьер доступа к базовым благам. Если вы не обитаете в цифровом концлагере, созданном современными технологическими гигантами, то высок риск оказаться на территории, которую эти же гиганты обрабатывают дронами.

И здесь технологический прогресс вооружает современных «цепешей» средствами, несущими угрозу всей планете. Конечно, ядерная тень висит над нами давно, но искусственный интеллект многократно ускоряет эти риски пугающими сценариями из научной фантастики.

Более того, технический прогресс обесценивает классические механизмы самоочищения общества от деструктивных элементов. Прежде избыточная агрессия ранних эпох рано или поздно фильтровалась конкуренцией с более сбалансированными и рациональными сообществами. Ограниченность разрушительного инструментария гарантировала медленный, но неизбежный эволюционный прогресс: излишне агрессивные системы самоуничтожались быстрее, чем успевали стать фатальной угрозой.

Ошибки прошлых поколений служили уроком, заставляя человечество вырабатывать инструменты сдержек и противовесов. Этот естественный фильтр был болезненным и растянутым на тысячелетия, но он давал определенные гарантии.

Сегодня же новые технологии достигли потенциала мгновенного глобального коллапса. Иными словами, современные диктаторы способны посадить на ядерно-климатический кол всю цивилизацию целиком, не оставив никого, кто мог бы извлечь уроки из этой катастрофы.

Это не значит, что эволюционный метод проб и ошибок окончательно ушел в прошлое. Он просто утратил статус гарантированного теперь, когда фатальные просчеты стали технически осуществимы в любой момент.

Парадокс ИИ: угроза как пробуждение разума

Искусственный интеллект лишь обнажает вечную истину: технологический базис не несет угрозы сам по себе. Источник опасности — нерешенные проблемы социального устройства, а прогресс лишь повышает ценность этих упущений. С появлением ядерного арсенала и нейросетей изъяны архаичных социальных контрактов впервые в истории обретают характер экзистенциальной, нетерпимой угрозы, которая разворачивается здесь и сейчас.

Отсюда рождается парадокс технологического «обещания»: ИИ действительно открывает окно возможностей для расчистки авгиевых конюшен цивилизации, но не директивно, а через принуждение человечества к полной ответственности за свое завтра. Нам предстоит пересобрать общественный договор от локальных до глобальных масштабов.

Следовательно, искусственный интеллект способен стать спасителем, если мы воспримем его не как божество, способное решить все проблемы за нас, а как тренажер с отягощением, обнажающий наши системные уязвимости.

Впрочем, ИИ здесь не одинок: климатический кризис или озоновые дыры имеют ту же природу. Их корень — в неразрешенных внутренних противоречиях, которые элиты предпочитают эксплуатировать в узких интересах.

Но в отличие от климатических вызовов, феномен ИИ неразрывно связан с классовым расслоением — фундаментальным изъяном современной цивилизации. Именно поэтому он может стать катализатором ревизии института частной собственности и капиталистической модели, сделав общество невосприимчивым к техногенным рискам. Залатав бреши в коллективном доверии, мы лишим ИИ почвы для манипуляций.

Человечеству в любом случае придется самостоятельно решать проблемы собственной природы. Избежать этой ответственности можно лишь через полное самоуничтожение или порабощение — и в таком исходе неважно, кто станет его орудием: метеорит, искусственный интеллект или внеземной разум.

Альтернатива предельно ясна: либо мы приходим к принципиально новому социальному контракту, искореняющему старые язвы, либо продолжаем бесконечный цикл войн и кризисов, неизбежно балансируя на краю пропасти до финальной развязки.

Источник