Почему ИИ справляется с математикой, не обладая разумом?
Наиболее острый скепсис в отношении тезиса «нейросети не мыслят» обычно носит сугубо прагматичный характер. Если языковые модели лишь угадывают следующее слово, то как они справляются с точными вычислениями?
Главный контраргумент: магия чисел
В прошлых материалах я отстаивал мысль, которая многим кажется парадоксальной: большие языковые модели (LLM) лишены сознания. У них нет процесса рассуждения в человеческом понимании — только статистическое предсказание очередного токена.
Однако критики резонно спрашивают: «Если это просто автозамена на стероидах, то почему ИИ безошибочно складывает и умножает?»
Арифметика кажется нам воплощением строгой логики и детерминизма — полной противоположностью «вероятностному» предсказанию слов. Кажется, что внутри нейросети обязан быть скрытый калькулятор. Но реальность куда интереснее: калькулятора там нет, зато есть сложная имитация.
Взгляд под капот: «36 + 59» глазами машины
Когда вы вводите пример, вы оперируете числами. Модель же видит лишь цепочку символов. Для неё это не математическая задача, а очередной текстовый паттерн, подобный тем, что миллиарды раз встречались в обучающей выборке: в финансовых отчетах, коде, учебниках и таблицах.
С точки зрения архитектуры трансформера, запись «36 + 59 = 95» — это статистически обоснованная последовательность, где один набор знаков с высокой вероятностью следует за другим.
Это не банальное заучивание. Модель выстраивает внутренние «обходные пути», которые позволяют ей находить верный ответ даже в новых комбинациях. Постепенно эти механизмы начинают поразительно точно имитировать реальный процесс счета.
Декомпозиция задачи: как дробится вычисление
Исследования в области интерпретируемости нейросетей показывают: модель не решает задачу линейно. Вместо этого она спонтанно распределяет нагрузку между разными внутренними слоями.
- Один поток данных оценивает порядок величины: «результат должен быть близок к сотне».
- Другой поток фокусируется на последней цифре: «6 + 9 всегда дает 5 на конце».
- Третий сопоставляет эти данные, отсеивая маловероятные варианты, пока «95» не станет статистическим фаворитом.
Внутри нет единого «математического модуля». Есть рой микро-механизмов, каждый из которых выполняет свою крошечную роль. Часть системы работает как грубый оценщик, часть — как филигранный обработчик единиц, а часть просто хранит в памяти таблицу сложения.
«Модель, подобно школьнику, просто вызубрила результаты сложения однозначных чисел и научилась комбинировать эти знания».
Ключевое отличие человека от ИИ здесь в том, что у нас есть универсальный алгоритм, применимый к числам любой разрядности. У LLM такого фундамента нет — только набор эвристик.
Хрупкость логики: почему ИИ пасует перед длинными числами
Именно отсутствие универсального алгоритма объясняет, почему нейросети совершают нелепые ошибки. Сложите двузначные числа — и ответ будет мгновенным. Попробуйте скормить ей двадцатизначные значения или нестандартный формат записи — и «магия» исчезнет. Система, построенная на паттернах, а не на правилах, неизбежно ошибается там, где паттерн становится слишком сложным.
Иллюзия обоснования
Любопытный факт: когда мы просим нейросеть объяснить ход решения, она часто «лжет». Она может подробно описать, как «переносила единицу в уме», имитируя человеческую логику. Но инструментальный анализ показывает: внутренние процессы модели не имеют ничего общего с этим описанием.
Это «галлюцинация объяснения». Модель генерирует текст, который выглядит как логичное обоснование, потому что она обучена на миллионах подобных текстов. Это критически важно понимать: связное объяснение от ИИ не является гарантией того, что само решение было получено правильным путем.
Зачем филологу учить математику?
Зачем языковой модели вообще осваивать счет? Всё просто: мир состоит из чисел. Цены, даты, статистика, версии ПО — всё это часть языка. Чтобы эффективно предсказывать следующее слово, модели жизненно необходимо понимать структуру числовых данных.
Арифметика для неё — не самоцель, а побочный продукт стремления к точности текста. Способность считать возникает спонтанно, потому что математические закономерности помогают лучше структурировать информацию.
Понимание этой природы позволяет использовать ИИ более осознанно: доверять там, где он силен, и перепроверять там, где логика подменяется статистикой.
Оптимизируйте свои задачи с помощью современных технологий через BotHub!
Сервис доступен без ограничений и поддерживает оплату российскими картами.
Заберите 100 000 бесплатных токенов по ссылке и протестируйте возможности нейросетей прямо сейчас!
Итог: между калькулятором и разумом
LLM не думают. Изучение их «математических способностей» лишь подтверждает этот факт. Масштабирование предсказания токенов создает сложнейшие механизмы, имитирующие рассуждения, но это лишь блестящая имитация.
Для специалиста, десятилетиями создающего программные системы, эта грань очевидна. Если воспринимать ИИ как разумного собеседника, вы рискуете доверить ему критические узлы, где он подведет. Если считать его «просто Т9», вы упустите его колоссальный потенциал.
Истина в том, что это величайшие машины паттернов. Они находят кратчайшие пути там, где мы видим логику, и выдают результат, не понимая самой сути числа. И в этом кроется их главная сила и их главная уязвимость.
