ИИ заберет тексты и код. Но это никогда не было главной работой человека. Часть 2

3 часа назад Прокомментировать Просмотры: 8

Приветствую! Я занимаюсь философией науки и техники, а также пишу технические тексты. За последние несколько лет мою специальность успели неоднократно «похоронить». Нейросети пишут документацию всё искуснее, и если ваша деятельность связана с текстами, кодом или цифровыми медиа, вы наверняка заметили трансформацию привычных рабочих процессов. Создаётся впечатление, будто искусственный интеллект осваивает всё больше обязанностей, которые раньше оставались за человеком. Тем не менее, генерация контента или программного кода — лишь вершина айсберга в любой IT-сфере. В первой части мы исследовали эволюцию ролей специалистов и цикличность технологического прогресса, а теперь сосредоточимся на барьерах ИИ и разберем, почему технически безупречный подход порой не решает изначальный бизнес-кейс.

Часть 2. Границы возможностей искусственного интеллекта и роль человека

В чём заключаются ограничения ИИ

Крупные языковые модели функционируют как механизмы расширенной силлогистики. Они оперируют заданными вводными и формируют наиболее вероятные логические продолжения в этом поле.

Силлогизм представляет собой дедуктивную конструкцию следующего типа:

«все люди смертны — Сократ человек — следовательно, Сократ смертен».

Алгоритмы функционируют аналогично. Вывод строго логически вытекает из предпосылок, но почти никогда не выходит за их пределы. Модель мастерски продолжает цепочку, однако не способна решить, какие именно цепочки имеют ценность и для чего они нужны.

Пределы формального логического вывода

Искусственный интеллект не изобретает концепты с нуля: он опирается на колоссальные массивы текстов, обучаясь прогнозировать их наиболее правдоподобное продолжение. Для этого задействуются статистические корреляции:

формируется массив человеческих текстов;
внутри него выявляются устойчивые взаимосвязи между лексикой и контекстом;
на этой базе алгоритм выдает наиболее вероятный ответ на запрос.

Именно поэтому нейросети успешно генерируют контент, графику или код, но оперируют исключительно готовыми паттернами.

Гёделевский аргумент

Ограниченность формализованных систем блестяще отражена в теореме Курта Гёделя.

Математик доказал, что в любой достаточно сложной и непротиворечивой формальной системе существуют истинные суждения, которые принципиально невозможно ни доказать, ни опровергнуть средствами самой системы.

Иными словами, в любой подобной структуре всегда найдутся положения, которые объективно истинны, но недоступны через внутренние правила вывода. Любая формальная система неполна сама по себе.

Данная мысль легла в основу аргумента, сформулированного философами Джоном Лукасом и Роджером Пенроузом. Его суть сводится к следующему:

если рассматривать ИИ как формальную систему, то есть как алгоритмический инструмент генерации выводов по заданным алгоритмам, он неизбежно унаследует все ограничения таких систем. Следовательно, машина не способна выйти за рамки собственной логики, чтобы верифицировать истинность суждений, рождающихся вне её внутренних законов.

Языковые модели действительно предельно близки к формальным конструкциям. Они:

функционируют внутри строго очерченного поля исходных данных (датасетов);
не имеют выхода к внешним источникам смыслов, способным послужить новыми аксиомами;
по этой причине остаются заложниками вероятностного продолжения уже накопленного опыта.

Тем не менее, у LLM есть и более прикладные барьеры. Они не просто сталкиваются с недоказуемостью отдельных истин — у них изначально отсутствует встроенное понятие истины как строгого логического критерия. Их главный ориентир — это лингвистическая когерентность и статистическая правдоподобность, а вовсе не верифицируемость или отражение объективной реальности.

Гёделевский аргумент органично дополняется трудами других философов.

В чём уникальность человеческого мышления

Любопытно, что люди используют ту же информационную базу, что и нейросети. Мы тоже опираемся на увиденное, услышанное и прочитанное — в этом смысле наш сырой материал идентичен.

Однако ключевое различие кроется в методологии работы: человек не обязан следовать по пути наибольшей вероятности. Он способен совершать неожиданные, нелинейные выборы и разрывать привычные логические цепочки. Именно так рождаются принципиально новые смыслы и векторы развития.

Существует даже ироничное предположение: в эпоху триумфа ИИ человечеству придется искать партнеров с максимально нетрибиальными ассоциативными связями в когнитивной сфере, чтобы передавать эти уникальные паттерны потомкам и успешно конкурировать с машинами.

Кроме того, человек оперирует категориями, недоступными для замкнутой архитектуры ИИ:

истиной, не сводимой к механическому выводу,
смыслом, рождающимся в реальном жизненном контексте,
подлинным пониманием, а не просто манипуляцией символами,
проживанием личного опыта во времени.

В совокупности всё это и формирует уникальную природу человеческого интеллекта.

Отсюда проблема ИИ выглядит гораздо шире: дело не ограничивается неспособностью системы доказывать отдельные истины, как утверждал Гёдель. Главное — у алгоритма отсутствует глубинная связь с миром, где зарождаются понятия смысла и подлинности.

Впрочем, в инженерной практике приоритеты расставляются иначе. Нас редко волнует, «осмысляет» ли машина происходящее в философском ключе. Куда важнее другое: насколько стабильно она функционирует в среде, где контекст, требования и цели перманентно трансформируются.

В результате фокус смещается с абстрактного понимания на поведенческие паттерны в реальных условиях. Именно на этом рубеже философия трансформируется из теоретической дисциплины в практический инструмент проектирования систем и развития человеческих компетенций.

Как это отражается на IT-индустрии

Переводя эти разсуждения в прикладную плоскость, сформулируем ключевой вопрос:
имеет ли значение в реальной инженерной и продуктовой практике присутствие истинных, но недоказуемых внутри системы утверждений?

Разумеется, нет. В IT мы крайне редко занимаемся доказательством абстрактных истин в изолированной среде. Мы решаем совершенно иные задачи — балансируем между интересами и требованиями, прямо как Тирион Ланистер в «Игре престолов»!

Теорема Гёделя подчеркивает фундаментальный факт: сложная система практически никогда не бывает полностью замкнутой и завершенной.

В инженерной и продуктовой среде это правило становится не отвлеченной теорией, а суровой реальностью. Мы почти никогда не сталкиваемся с исчерпывающе поставленными задачами: требования размыты, контекст постоянно меняется, границы проекта подвижны, а часть критических знаний вообще отсутствует в документации.

Поэтому реальная деятельность сводится не к механическому исполнению ТЗ, а к постоянной верификации и переосмыслению самой задачи: согласованию её глубинного смысла, урегулированию конфликтов между стейкхолдерами и выбору базовых аксиом. И лишь после этого становится возможным переходить к технической реализации.

От системной философии к экономике компетенций

Современный рынок труда демонстрирует парадоксальную тенденцию. С одной стороны, компании поголовно ищут универсалов формата «3 в 1»:

разработчик обязан разбираться в бизнес-процессах, аналитик — в системной архитектуре, техписатель — в тестировании, а менеджер — в продуктовой аналитике и обработке данных.

С другой стороны, именно в сегменте подобной универсальности новейшие системы искусственного интеллекта демонстрируют наибольшую эффективность.

Большие языковые модели с легкостью пишут тексты, генерируют программный код, агрегируют и структурируют информацию, готовят аналитические выжимки и закрывают массу других задач, ранее требовавших привлечения узких профессионалов. Они незаменимы там, где требуется быстро охватить широкий спектр тем без погружения в их детальную специфику.

Отсюда вытекает закономерный вопрос. Если машины всё успешнее конкурируют в роли универсальных специалистов, зачем человеку развивать в себе мультидисциплинарность, востребованную рынком? Не теряет ли концепция широкого профиля свою актуальность?

Вспомним базовый принцип: ни одна сложная структура не способна исчерпывающе описать себя изнутри. Для этого необходим переход на метауровень — взгляд со стороны через альтернативную систему координат. Именно эту роль мета-системы над искусственным интеллектом и способен занять человек.

Следовательно, главный дефицит смещается от универсальности как таковой к способности лавировать между различными пластами знаний.

Наивысшую ценность приобретает не тот, кто поверхностно знаком со всем подряд, а профессионал, способный интегрировать разрозненные дисциплины, находить между ними противоречия и конструировать новые концептуальные модели проблем.

Именно на этом фундаменте строится концепция T-shaped специалиста.

Её смысл порой трактуют слишком примитивно, но в своем первоначальном значении T-shaped — это вовсе не поверхностная многозадачность.

При этом глубокая экспертиза и способность к метаописанию поддаются автоматизации с большим трудом.

Именно поэтому ключевым конкурентным преимуществом специалиста в ближайшие годы станет умение ставить задачи, очерчивать контекст, выявлять изъяны существующих моделей, осознанно синтезировать знания из разных сфер и принимать решения в условиях глубокой неопределенности.

Иными словами, по мере того как машины всё успешнее справляются с рутиной формата «всего понемногу», ценность подлинно человеческих скиллов работы с метауровнем будет только расти. Востребованы окажутся не те, кто владеет широким набором базовых навыков, а те, кто четко понимает границы применимости различных систем. Это и есть водораздел между слепой автоматизацией и тем уникальным опытом, который пока остается прерогативом человека.

Человек как внешний регулятор для замкнутой среды ИИ незаменим именно благодаря своей способности выходить за флажки формальной логики и компенсировать её изначальную неполноту:

задавать новые исходные постулаты;
систематизировать разнородные дисциплины;
эффективно действовать в условиях неопределенности;
глубоко интерпретировать контекст;
принимать ответственные решения там, где отсутствуют готовые шаблоны и алгоритмы.

И чем активнее искусственный интеллект берет на себя рутинные и формализуемые операции, тем выше котируются эти уникальные некодифицируемые метанавыки.

Где кроется реальный «метауровень» современных систем

В плоскости бизнеса, IT-индустрии и экономики метауровень сосредоточен там, где устанавливаются регламенты взаимодействия: при целеполагании, определении самой сути проблемы, утверждении критериев эффективности, трактовке требований и согласовании интересов всех участников процесса. Именно здесь формируется та среда, внутри которой впоследствии оперируют команды, бизнес-юниты и технологии.

Это принципиальный момент, ведь львиная доля кризисов в технологическом секторе и бизнесе зарождается задолго до этапа имплементации — на стадии формулирования проблемы. Нередко выясняется, что техническая команда блестяще реализовала проект, но сам продукт создавался на базе некорректно понятой задачи, взаимоисключающих требований или ложных вводных. В итоге технически всё безупречно, а коммерческий эффект нулевой.

Вспомните статистику: по оценкам RAND Corporation, около 80% мировых ИИ-проектов заканчиваются провалом, при этом российские компании инвестируют в искусственный интеллект свыше 90 миллиардов рублей ежегодно, хотя реальный уровень проникновения технологии не превышает 6%?

Проблема кроется как раз на этом метауровне. Доля пилотных инициатив без дальнейшего масштабирования в России в начале 2025 года держалась на отметке 90%, к концу периода снизившись до 80%. Как отмечают аналитики «К2Тех» и ГК Softline, нейросети пробуксовывают в следующих сценариях:

Ошибочное целеполагание. Когда задачу формулируют либо предельно размыто (что делает невозможным расчет экономической эффективности), либо избыточно узко (нивелируя влияние на бизнес-метрики), оставляя пространство для разночтений;
Дефицит валидных данных, хаос в управлении информацией (Data Governance). Низкое качество массивов, отсутствие ответственных за дата-сеты лиц регулярно срывают дедлайны и не позволяют адекватно верифицировать результативность систем;
Недостаток продуктовых и технических компетенций исполнителей. Без синергии доменной экспертизы, data science, системной архитектуры и MLOps проект быстро деградирует в банальную «демонстрационную витрину моделей»;
Бюрократические барьеры, включая ограничения со стороны регуляторов и законодательства, в которых модели не всегда способны эффективно адаптироваться;
Неготовность корпоративной культуры к трансформациям, слабая интеграция в операционные процессы и текущий IT-ландшафт. Самая точная модель останется бесполезной игрушкой без перестройки бизнес-процессов, оргструктуры и распределения ролей.

Успешность внедрения ИИ упирается в те же классические преграды, что и любые технологические инновации прошлого — дефицит квалифицированного менеджмента. Именно поэтому управленцы, способные распутывать подобные узлы, ценились во все времена.

Человек выступает здесь в роли системного интерпретатора. Современный искусственный интеллект превосходно агрегирует статистику, выявляет неочевидные закономерности и оптимизирует процессы в заданных границах. Однако он по умолчанию исходит из того, что сами эти границы выставлены верно. На практике же это допущение редко соответствует действительности. Требования часто неполны, цели противоречивы, стейкхолдеры по-разному видят конечный продукт, а изначальный бизнес-запрос формулируется некорректно. Следовательно, самая сложная интеллектуальная работа заключается в том, чтобы правильно поставить вопрос.

Неслучайно сакраментальный вопрос любого сильного аналитика звучит предельно просто:

— Какую именно бизнес-проблему мы на самом деле решаем?

Источник