Серая стена сингулярности Нет, нужно перефразировать. Вот вариант: Безликий барьер сингулярности

Под технологической сингулярностью принято понимать рубеж, за которым искусственный интеллект начнёт открывать новые законы природы, создавать технологии и совершенствовать собственные модели так стремительно, что людям останется лишь пользоваться плодами его труда.

Уже сейчас многие привычные устройства кажутся волшебством тому, кто не знает, как они работают. Но за этой «магией» стоят вполне постижимые принципы, исследования, расчёты и инженерные решения. Ни один человек при этом не способен удержать в голове весь объём знаний: он существует как общее достояние множества учёных и специалистов, которое передаётся, проверяется и развивается. Задолго до появления ИИ наука превратилась в коллективный способ познания мира.

А что, если главный итог развития ИИ пополнит этот общий фонд знаний?

Допустим, искусственный интеллект поможет открыть математическую теорию, которая будет одновременно глубокой и доступной для человеческого понимания. Благодаря ей прежде разрозненные области математики предстанут частями единой структуры. Подготовленные специалисты смогут освоить её принципы и самостоятельно применять их на практике. Если же новая теория к тому же заметно ускорит уже известные вычисления, в первую очередь изменится баланс влияния между людьми в обществе.

Это единственное условие, которое задаёт данная статья.

Назовём такой сценарий Постижимой (Интеллигибельной) сингулярностью (Intelligible Singularity) — в противовес привычной сингулярности «чёрного ящика». Её суть в том, что фундаментальное знание, добытое при участии ИИ, возвращается к человеку в компактной, ясной форме, пригодной для самостоятельного развития.

Серый шар: знание всегда приходит вместе с последствиями

В 2019 году философ Ник Бостром выдвинул гипотезу «уязвимого мира». В его мысленном эксперименте человечество достаёт открытия из огромной урны. Белые шары приносят в основном пользу, серые дают смешанные последствия, а чёрный при нынешнем устройстве общества делает цивилизационную катастрофу крайне вероятной. Бостром также подчёркивает, что технологии в урне могут быть взаимосвязаны: одно открытие приближает сразу целую группу других.

История науки подарила нам немало серых шаров, особенно среди самых мощных технологий. Яркий пример — ядерная физика. Она открыла дорогу к атомному оружию и поставила мир перед угрозой самоуничтожения, но она же дала атомную энергетику, лучевую терапию, медицинскую диагностику и множество исследовательских методов. За стенами лаборатории судьбу технологии определяли главным образом политические решения отдельных людей и общее устройство цивилизации.

Фундаментальный математический метод в этой картине — особый серый шар: он ускоряет получение новых результатов и снижает его стоимость, поэтому последствия могут проявиться сразу во многих отраслях и в относительно сжатые сроки.

Как новые идеи меняли возможности науки

В середине XIX века Джеймс Клерк Максвелл объединил исследования электричества и магнетизма в общую теорию электромагнитного поля. Его уравнения связали свет с электромагнитными волнами и предсказали явления, которые позднее подтвердились экспериментально. Из прежде разрозненных областей сложилась целостная физическая картина, на которой со временем выросли радиосвязь и многие другие технологии. История уравнений Максвелла.

В начале XX века аппарат бесконечномерных пространств, заложенный Давидом Гильбертом, спустя полтора десятилетия оказался идеальной основой для строгого языка квантовой механики. В 1927 году Джон фон Нейман придал ему современную абстрактную форму и применил к квантовой теории. Так математика, развивавшаяся ради решения одних задач, стала фундаментом для понимания совершенно другой области практической науки. Историческое исследование Клааса Ландсмана.

В 2017 году группа Ашиша Васвани представила архитектуру Transformer в статье Attention Is All You Need. Сам механизм внимания к тому времени уже существовал, но новая организация модели позволила заметно улучшить результаты машинного обучения при существенно меньших затратах времени.

Во всех трёх случаях новая структура знания оставалась понятной человеку и кардинально меняла ландшафт науки. Следующий скачок способен объединить подобные эффекты сразу в нескольких областях.

Метаматематика сингулярности, доступная человеку

Алгебра, геометрия, анализ, комбинаторика, теория информации и теория динамических систем давно обмениваются методами. По мере развития науки между ними обнаруживается всё больше соответствий, а поиск общего языка для таких связей постепенно выходит в практическую плоскость.

Ещё в работе How Intelligible Is Intelligence? (2010) Анна Саламон, Стивен Рейхок и Янош Крамар допускали существование компактной теории интеллекта, открытие которой могло бы привести к резкому концептуальному скачку. В 2026 году авторы Compression Is All You Need: Modeling Mathematics изучают сжатие математических выводов, а работа Artificial Intelligence and the Structure of Mathematics поднимает вопрос о глобальных связях между математическими доказательствами, обнаружить которые может помочь ИИ.

Подобное сжатие математических структур вполне способно привести и к новым алгоритмам, которые заметно сократят вычислительные затраты в уже существующих технологических задачах.

Серая стена: возможности растут быстрее, чем защита

При наличии эффективного математического ядра уже накопленных в мире вычислительных мощностей оказывается с избытком для полноценного общего ИИ на самых разных устройствах. Вся существующая инфраструктура, не дожидаясь многолетнего выпуска новых чипов, в короткие сроки переходит на принципиально иную архитектуру и ускоряется на порядки.

Серая стена — это образ критического разрыва между скоростью появления новых технологических возможностей и скоростью создания защиты от них. В это окно колоссальная интеллектуальная сила, включая её разрушительную сторону, может оказаться в руках множества независимых групп задолго до того, как общество успеет отреагировать. Чистый математический метод расходится по миру за считаные недели, тогда как перестройка цифровой инфраструктуры, международных соглашений, регламентов и институтов безопасности занимает несоизмеримо больше времени.

Здесь и кроется главная особенность Интеллигибельной сингулярности: её невозможно запереть в дата-центре корпорации. Чёрному ящику нужны гигаватты энергии и сложнейшая инфраструктура, которую можно регулировать и охранять. Понятная же человеку математика распространяется со скоростью чтения текста. Интеллигибельная сингулярность делает силу новых знаний общедоступной быстрее, чем общество успевает выстроить защиту от последствий технологий, которые эти знания открыли.

Вполне возможно, что после такой сингулярности даже сравнительно небольшая группа сильных междисциплинарных математиков и инженеров сможет развернуть общий математический интеллект (MGI — Mathematical General Intellect) всего на нескольких серверных стойках. Разумеется, часть исследований по-прежнему будет опираться на гигантские промышленные мощности. Но и такой сценарий способен увеличить число независимых центров передовых исследований на порядки.

Государства и крупнейшие корпорации, конечно, сохранят огромные преимущества в инфраструктуре, масштабе вычислений и ресурсах. Однако доступ к компактному математическому методу позволяет самостоятельно добывать знания и создавать технологии, которые сегодня доступны лишь избранным.

Рассмотрим один конкретный пример. MGI открывает классический алгоритм, который быстро раскладывает большие числа на множители на скромных вычислительных мощностях. Это подрывает безопасность RSA — основополагающего семейства систем шифрования и цифровых подписей. Организациям приходится срочно пересматривать степень доверия к части электронных документов, соединений и ключей. Банки, облачные сервисы и государственные учреждения вводят экстренные меры, международные контакты становятся осторожнее, а обновление инфраструктуры занимает месяцы. Другие криптографические системы опираются на собственные математические основания и потому не затронуты (например, квантовые). Но даже локальный удар по базовому механизму доверия способен вызвать глобальный системный кризис.

Одна и та же интеллектуальная сила будет ускорять создание средств защиты и одновременно открывать новые возможности тем, кто готов причинять вред. Эта двойственность знакома нам ещё по ядерной эпохе. Отличаться будут прежде всего число участников и скорость распространения новых технологий. (С вас отчисления, если кто-то уже задумался о съёмках сериала по этому сценарию 😉

Майкл Нильсен в эссе ASI Existential Risk: Reconsidering Alignment as a Goal (2025) связывает часть рисков сверхинтеллекта с той мощью, которую он способен дать людям. Если носителем этой мощи становится математическое знание, которое люди могут воспроизводить, развивать и понимать самостоятельно, скорость его распространения достигает максимума.

Человечество уже едино — осталось научиться жить как целое

Взгляните на экран, с которого вы читаете этот текст. За возможностью разглядеть несколько строк стоят поколения математиков, физиков, инженеров и рабочих. В конечном счёте миллиарды людей своим трудом создали цивилизацию, благодаря которой вы сейчас читаете эти строки. С технологической точки зрения мы уже живём как единый планетарный организм.

Вместе с тем в культурном и социальном плане мы нередко продолжаем существовать как соперничающие, а порой и враждебные друг другу группы. Мощь технологий растёт благодаря общему труду человечества, а решения о её применении принимают отдельные люди в рамках множества конфликтующих интересов.

Поэтому при таком гипотетическом развитии событий серая стена может оказаться цивилизационным фильтром. Сохранение цивилизации будет зависеть от того, как быстро мы сумеем выработать общие правила безопасности, доверия и ответственности, не уничтожив при этом многообразие человеческой жизни.

Культурное единство и переломные эпохи

Пока наши знания были фрагментарны, а технологии несовершенны, физические ограничения служили естественным барьером для разобщённости. Но когда знание становится открытым, а рычаг воздействия — почти безграничным, единственным реальным фактором выживания оказывается то, как люди относятся друг к другу. Именно это превращается в жёсткое инженерное условие существования цивилизации.

История уже знала эпохи, когда стремительный технологический и социальный кризис требовал полного переосмысления нравственных основ. Карл Ясперс описал «осевое время» (800–200 гг. до н. э.) как перелом, когда разные традиции почти одновременно обратились к человеческому достоинству и самосознанию. Обзор Колумбийского университета об «осевом времени».

Ещё в XX веке Жак Фреско указывал на структурное противоречие нашей цивилизации: у человечества уже есть технологии, способные обеспечить всех необходимым, но само по себе это не привело к всеобщему благополучию. Сингулярность может повторить ту же историю: люди продолжат трудиться, а их зависимость от технологий и тех, кто ими владеет, будет только усиливаться.

Сегодня вопрос единства цивилизации превращается в практическое условие технологической безопасности. Под единством я здесь подразумеваю прежде всего его осознание и переживание — духовное, культурное или научное, это не так важно. Главное — способность видеть в другом человеке участника общей жизни, сохраняя его самостоятельность и достоинство.

И тут Интеллигибельная сингулярность неизбежно сбрасывает техническую оболочку и обнажает первопричину — сингулярность человеческих отношений.

Для цивилизации с резко возросшей технической мощью это вполне может обернуться версией Великого фильтра Робина Хэнсона (The Great Filter). Не исключено и то, что любая развитая цивилизация проходит путь, схожий с нашим (увы, мы снова не уникальны), и все они приходят к одному и тому же философскому граалю знаний. Условием прохождения фильтра при этом становится не само знание, а баланс человеческих отношений в мире, где многим доступен практически абсолютный («божественный») источник силы.

Есть и одно условие: дар этой силы жизнеспособен лишь вместе с бессмертием цивилизации в целом, а не отдельного человека. Любые личные мечты о радикальном продлении жизни или технологическом спасении иллюзорны, если разрушается среда обитания: индивидуальное долголетие нельзя отделить от коллективной безопасности вида.

Мы вплотную подошли к возможности владеть почти божественными технологиями. Вопрос в том, успеем ли мы, пока вспышка этого знания не ослепила нас, стать тем самым единым целым из платоновского «Парменида», где ни одна часть не способна уцелеть в отрыве от целого.

Основные источники и близкие исследования

• Ник Бостром — The Vulnerable World Hypothesis, 2019.

• Робин Хэнсон — The Great Filter – Are We Almost Past It?, 1998.

• Карл Ясперс — Истоки истории и её цель (Vom Ursprung und Ziel der Geschichte), 1949.

• Анна Саламон, Стивен Рейхок, Янош Крамар — How Intelligible Is Intelligence?, 2010.

• Клаас Ландсман — The Axiomatization of Quantum Theory Through Functional Analysis, 2022; MIT OpenCourseWare, Fast Fourier Transform.

• Ашиш Васвани и соавторы — Attention Is All You Need, 2017.

• Марио Кренн и соавторы — On Scientific Understanding with Artificial Intelligence, 2022.

• Виталий Аксёнов и соавторы — Compression Is All You Need: Modeling Mathematics, 2026; Майссам Баркешли, Майкл Дуглас, Майкл Фридман — Artificial Intelligence and the Structure of Mathematics, 2026.

• Майкл Нильсен — ASI Existential Risk: Reconsidering Alignment as a Goal, 2025.

• Жак Фреско — The Best That Money Can’t Buy, 2002.

Первая иллюстрация — оммаж картине Рене Магритта «Недопустимое воспроизведение» (La reproduction interdite, 1937). Вторая иллюстрация — аллюзия на сову с обложки книги Ника Бострома «Искусственный интеллект. Этапы, угрозы, стратегии» (Superintelligence, 2014). Третья иллюстрация — отсылка к классической иллюстрации Ивана Билибина (1908) к «Сказке о рыбаке и рыбке» А. С. Пушкина.

 

Источник