Как искусственный интеллект берет на себя функции, недоступные человеческому контролю
«Кто устережет самих сторожей?» — Ювенал, ок. 100 г. н. э.
Вопрос, остававшийся без ответа два тысячелетия
Существуют проблемы, которые человечество привыкло считать данностью. Мы откладываем их в долгий ящик не потому, что они не важны, а из-за того, что любые попытки их решить неизменно упираются в непреодолимую стену.
Одна из них — природа закрытых государственных институтов: разведок, контрразведки и оборонных ведомств. Секретность здесь — не прихоть, а условие выживания: утечка методов или планов операций стоит реальных человеческих жизней. Здесь дискуссия невозможна.
Однако в любой тени неизбежно зарождается то, что стремится остаться незамеченным. Это не следствие злонамеренности сотрудников, а фундаментальный закон любой системы: там, где отсутствует внешний надзор, со временем неизбежно прорастают коррупция, превышение полномочий и самодеятельные операции. Это системная энтропия.
Возникает классический порочный круг шпионского романа: для аудита нужно видеть скрытое, но сама суть тайны запрещает любой доступ. Обе стороны в этом споре по-своему правы: контроль невозможен без прозрачности, а секретность несовместима с допуском посторонних.
Веками мы были вынуждены выбирать из двух зол: слепо доверять ведомству либо допускать проверяющих, рискуя безопасностью ради призрачной надежды на справедливость. Идеального решения не существовало. До недавнего времени я сам считал, что третьего пути нет, пока не осознал: совокупность существующих технологий позволяет перевести этот философский тупик в плоскость чисто инженерной задачи.
Урок из сферы ядерной безопасности
Задача «верификации объекта без его раскрытия» звучит как логический парадокс, однако она уже успешно решена в самой консервативной области — контроле над ядерными арсеналами.
Дипломатам и инспекторам требовалось подтвердить, что ликвидируемый объект является реальной боеголовкой, не раскрывая при этом её конструктивных секретов. Прорыв произошел в 2014 году, когда в журнале Nature была опубликована работа Глейзера, Барака и Голдстона, описывающая протокол с нулевым разглашением. Инспектор получает математически точное доказательство подлинности устройства, не получая ни байта чувствительной информации о его устройстве.
Концепция развивалась десятилетиями:
-
Глейзер, Барак, Голдстон — Nature 510 (2014): базовый протокол верификации без раскрытия данных.
-
Филипп, Глейзер, Фелтен (arXiv: 1809.04170): использование криптографического депонирования, позволяющее раскрывать информацию поэтапно.
-
Макдональд, Кемп (arXiv: 1811.10375): методология оценки утечек в процессе измерений.
-
Перри, Жуков (arXiv: 2507.20074): использование zkSNARK для создания «цифровых паспортов» изделий с непрерывным мониторингом соответствия нормам.
Эти решения уже работают там, где ценой ошибки является глобальная катастрофа. Вопрос лишь в том, чтобы масштабировать эту логику с одного объекта на целое ведомство.
Изолированный аудитор: почему машина эффективнее человека
Моя гипотеза заключается в создании автономного надзорного механизма на базе ИИ. Стороны согласовывают перечень критериев для аудита: отсутствие несанкционированных действий, финансовая чистоплотность и соответствие оперативной деятельности заданным целям. Это открытый регламент, понятный всем участникам.
Далее в изолированное помещение вносится автономное устройство — специализированная языковая модель на «железе», не имеющем никаких внешних интерфейсов или сетевых подключений. Она анализирует закрытые данные, проводит аудит и выводит результат, подписанный криптографическим ключом, после чего устройство физически очищается. Никакого взаимодействия с внешним миром — только итоговый отчет.
Отчет формируется по принципу «двойного ключа»: сжатое резюме (без секретных подробностей) уходит надзору, а полная детализация остается внутри ведомства для внутренней проверки. Утечка здесь невозможна по определению.
Почему эту роль не может выполнять человек? Человек — это уязвимое звено. Его можно подкупить, запугать или использовать втемную через личные интересы и связи. Арбитр из плоти и крови никогда не бывает нейтрален. Машина же лишена амбиций, страха и прошлого. Она не «честная» в человеческом понимании, она беспристрастна по своей архитектуре.
Технологический фундамент: всё уже готово
Каждый элемент этой системы — не фантастика, а существующая реальность:
-
Аппаратная изоляция (Enclaves): Процессоры с поддержкой доверенных сред исполнения (Intel TDX, AMD SEV-SNP) гарантируют, что выполняется именно тот код, который был проверен, с минимальными потерями производительности.
-
Криптографическая подпись: Использование неизвлекаемых ключей внутри анклава позволяет удостовериться, что отчет сгенерирован конкретной моделью.
-
Целостность данных: Методы типа «Certificate Transparency» (деревья Меркла) позволяют зафиксировать массив данных так, что любая попытка подлога будет мгновенно обнаружена.
-
Минимизация утечек: Жесткие шаблоны вывода данных гарантируют, что модель не сможет «спрятать» лишнюю информацию в вольном тексте.
-
Доказательства вычислений: Технологии вроде zkLLM позволяют математически подтвердить корректность работы нейросети, превращая аудит в проверяемый процесс.
От доверия к невозможности обмана
Эта система не является непогрешимым оракулом. Её ценность в ином: она превращает аргумент «поверьте нам на слово» в «попробуйте опровергнуть математический факт». Мы переходим от системы, основанной на слепом доверии, к системе, основанной на проверяемой сложности обмана.
В такой парадигме даже коррумпированному ведомству становится критически трудно скрывать нарушения. Для успеха махинаций потребовался бы глобальный молчаливый сговор сотен людей, что в условиях регулярного автоматизированного контроля практически невозможно. Ответственность за нарушение становится неотвратимой, а безнаказанность — невозможной.
Новая роль ИИ
Влияние ИИ на общество часто обсуждают через призму продуктивности — ускорения работы и сокращения издержек. Но это лишь малая часть потенциала. Истинный прорыв заключается в возможности делегировать машинам функции «беспристрастных арбитров» в тех сферах, где человеческий фактор всегда был фатальным дефектом.
Мы стоим на пороге эпохи, когда у древних социальных тупиков — от аудита секретных структур до честного голосования и независимого надзора — появляются инженерные решения. Да, риски существуют, и их нужно анализировать трезво. Но игнорировать этот мост лишь из страха перед глубиной — значит упустить шанс, который история предоставляет раз в две тысячи лет. Ведомства, привыкшие работать в темноте, неизбежно будут сопротивляться, так как прозрачность — их естественный противник. Однако техническая возможность уже здесь, и она делает контроль не просто желанным, а неизбежным.
Ювенал оставил нам вопрос, на который у человечества не было ответа два десятка веков. Сегодня этот ответ перестает быть предметом философии и становится инженерным фактом. Нам не хватает лишь воли применить существующие инструменты — воли тех, кто до сих пор предпочитает скрываться в тени.
