Предлагаю поразмышлять о ближайшем будущем нашей цивилизации. Этот краткий обзор послужит своего рода прелюдией к опросу, который ждет вас в конце. Если вы уже глубоко погружены в историю вопроса, можете смело переходить сразу к голосованию.
Похоже, первым, кто всерьез осознал, что человечество стремительно приближается к точке бифуркации — рубежу, после которого привычный уклад может радикально трансформироваться, — был американский историк и литератор Генри Адамс. Это была незаурядная личность: будучи потомком двух президентов США и выпускником Гарварда, он живо интересовался фундаментальными вопросами мироздания, вплоть до попыток описать исторический процесс через призму законов термодинамики и концепцию энтропии.
Однако нас интересуют два его знаковых труда: «Закон ускорения» (1904) и «Правило фаз, примененное к истории» (1909). В них Адамс постулирует, что цивилизация развивается стадийно: каждая новая фаза характеризуется резким приростом энергопотребления, при этом длительность самих этапов прогрессивно сокращается. По сути, это модель гиперболического роста, где произведение продолжительности фазы на ее интенсивность остается константой. Адамс выделил четыре стадии развития:
-
Религиозная (эпоха господства инстинктов, эмоций и веры), длившаяся многие тысячелетия.
-
Механическая (освоение компаса, печатного станка, паровой машины), охватившая период с XVII по XIX век.
-
Электрическая (динамо-машины, промышленная революция), стартовавшая около 1900 года и, по его прогнозам, рассчитанная на несколько десятилетий.
-
Финальная (эфирная или математическая) — этап, когда темп развития становится настолько головокружительным, что мысль переходит в абстрактную форму, растворяясь в чистой математике и энергии.
Оперируя терминами термодинамики, он интерпретировал технологический прогресс как последовательность фазовых переходов. Примечательно, что его описание финальной стадии поразительно напоминает современные концепции искусственного интеллекта. Адамс прогнозировал, что этот предел будет достигнут не позднее 2025 года, и стоит признать — в прогнозах сроков он оказался удивительно точен.
Если довериться свидетельствам «отца водородной бомбы» Станислава Улама, понятие сингулярности применительно к будущему человечества первым ввел Джон фон Нейман. В частных беседах он отмечал, что ускоряющийся прогресс технологий неизбежно ведет к некоему критическому порогу, за которым существование человечества в его нынешнем облике станет попросту невозможно.
Тем не менее, популяризатором термина «технологическая сингулярность» в современном понимании считается математик и фантаст Вернор Виндж. В 1983 году в журнале Omni он высказал мысль, что создание искусственного интеллекта, превосходящего человеческий, ознаменует переход, сравнимый с прохождением горизонта событий черной дыры.
В 1993 году Виндж опубликовал знаковое эссе «Технологическая сингулярность: Как выжить в эру пост-человечества». Автор сразу берет быка за рога, утверждая: в течение ближайших тридцати лет у нас появится возможность создать сверхразум, после чего эпоха человека завершится. Напомню, что выход ChatGPT 3.5 пришелся как раз на конец 2022 года. Виндж прогнозировал реализацию этого сценария в интервале между 2005 и 2030 годами.
Не менее любопытны размышления Теодора Качинского — фигуры, мягко говоря, противоречивой (математик, анархист, террорист), — изложенные в его манифесте 1995 года. Вот показательный отрывок:
«Если машины будут принимать решения самостоятельно, мы не в силах предвидеть последствия — их поведение станет непредсказуемым. Человечество окажется в полной зависимости от них. Можно возразить, что люди никогда не допустят такой утраты контроля, однако мы можем незаметно привыкнуть делегировать машинам принятие решений, поскольку их вердикты будут объективно эффективнее наших. В конечном счете, общество станет настолько сложным, что управление им без помощи алгоритмов станет невозможно. В этот момент машины станут фактическими хозяевами, а люди — заложниками системы, отключение которой будет равносильно самоубийству».
После публикации манифеста Качинского вычислили и приговорили к пожизненному заключению. Однако его идеи нашли отклик, в частности, у известного IT-визионера Билла Джоя. В 2000 году в журнале Wired вышло его резонансное эссе «Почему мы не нужны будущему».
Джой рисует мрачные перспективы: роботы, сопоставимые с человеком, вытеснят нас с рынка труда, сделав ненужными. Он приводит аналогию с вымиранием южноамериканских сумчатых после появления там более совершенных плацентарных млекопитающих. Джой опасался, что та же участь ждет и человечество. Кроме того, он предостерегал от бесконтрольного развития нанотехнологий и генной инженерии, предлагая приравнять их к ядерным разработкам и ввести строжайшую секретность. Его страх перед самовоспроизводящимися системами разделяют многие исследователи, о чем подробно писал хабровчанин Кarell в статье «Если мы нужны будущему, то как?».
Существуют и куда более оптимистичные взгляды. Ганс Моравек в своих работах предрекает появление к 2030–2040 годам семейства высокоразвитых роботов, которые станут следующим этапом эволюции жизни, идущей в десять миллионов раз быстрее биологической (см. график).
Моравек полагает, что человечество ждет «комфортная пенсия», а наиболее продвинутые особи, возможно, перенесут сознание в кремниевые носители. Биологическое человечество, по его мнению, будет постепенно и безболезненно уходить в прошлое. Вторит ему футуролог Рэймонд Курцвейл, автор «Закона ускоряющейся отдачи». В своей недавней книге он предсказывает достижение человеческого уровня ИИ к 2029 году, а к 2045-му — полноценное слияние человека с машиной.
Наконец, открытое письмо 2023 года от ведущих деятелей индустрии с призывом приостановить обучение мощных нейросетей лишь подтвердило серьезность опасений, хотя на практике инициатива не возымела эффекта.
Как видим, все пути ведут к горизонту 2045 года. Вне зависимости от сценария — будет ли это симбиоз с ИИ, мягкое вытеснение или гибель цивилизации, — мы стоим на пороге фундаментальных перемен. И, возможно, именно эти риски объясняют «великое молчание» Вселенной, известное как парадокс Ферми.
