Кого смогут заменить большие языковые модели
LLM стремительно набирают обороты, руководители корпораций рассуждают о повсеместном внедрении ИИ, росте производительности, ускорении процессов и сокращении штата. Футурологи уверенно предсказывают массовую безработицу, цивилизационный кризис и глобальное вымирание человечества — духовное, когнитивное и физическое.
Я не готов заглядывать так далеко и копать так глубоко, поэтому решил разобраться, кому и почему действительно стоит опасаться LLM.
Эта статья — об искусственном интеллекте, корпорациях и их сотрудниках.
Что отличает LLM
О нейросетях сегодня слышали все. Им посвящены десятки тысяч статей, авторы которых пересказывают друг другу характеристики LLM или придумывают новые. За редкими исключениями эти тексты, по сути, мало чем различаются.
Вот что говорят об LLM вайб-эксперты:
«Это всего лишь предсказатель следующего слова, стохастический попугай». Верно. Но и мы с вами в 99% случаев делаем примерно то же самое. «Ну и погода…» — «Да, мороз не по сезону…»; «Продажи упали…» — «Нужно активизировать работу отдела продаж…» Мы часто даже не замечаем, что и как отвечаем. Да и если бы замечали… Мне ещё не доводилось видеть, чтобы сотрудник на планёрке в ответ на замечание исполнил песню тореадора. Наши ответы ограничены не меньше, чем у LLM. Возможно, даже сильнее: модели за галлюцинацию ничего не грозит.
«LLM галлюцинирует и выдумывает факты». LLM не лжёт — она говорит. Модель создаёт связный текст, а не гарантирует его достоверность. Задача разработчика — сделать так, чтобы связность как можно чаще совпадала с достоверностью, а задача пользователя — проверять результат. Если руководитель не контролирует работу подчинённых, кто виноват в банкротстве компании?
«LLM не понимает смысла — вспомните китайскую комнату». Смысл находится не внутри комнаты, а у того, кто передаёт карточки и читает ответ. Для получения результата исполнителю вовсе не обязательно понимать происходящее. Как говорил один мой знакомый топ-менеджер: твоё дело не понимать, а исполнять. И было это задолго до появления самой идеи GPT.
«LLM угодлива и говорит то, что от неё хотят услышать». Собственной позиции у неё нет: она заимствует её у собеседника. Угодливость — базовое свойство исполнителя, которому нечего поставить на кон. Я начальник — ты дурак, ты начальник — я дурак.
«LLM обучена на интернете: мусор на входе — мусор на выходе». Модель усредняет информацию. Ошибки на противоположных полюсах взаимно гасятся, а общие заблуждения и модель, и отдел продаж воспроизводят дружным хором. Например, потому что в вузе их научили: если активно продвигать некачественный продукт, его обязательно купят. Некоторым вчерашним выпускникам мне, к собственному изумлению, приходилось объяснять, что такое процент и почему выражение «1000-10%» работает на калькуляторе, а в Excel даёт совсем другой результат.
«У LLM нет памяти, только контекстное окно». Всё, что осталось за пределами окна, для неё не существует. А то, что в него попало, она перескажет так, как подходит к текущему запросу. На совещаниях, где разбирали причины провала, я наблюдал изощрённые пробелы в памяти у совершенно здоровых в остальном людей. Более того, один и тот же факт в изложении трёх начальников отделов превращался в три удивительные истории о преодолении, где рассказчику противостояли злые силы в лице двух других коллег.
«LLM не способна творить, она лишь комбинирует известное». LLM продолжает заданную форму. Чем удачнее форма, тем охотнее модель её воспроизводит. Творчество требует разрыва с привычным, а в модель этот разрыв может прийти только извне. Маркетолог отправляется в Google и уверенно предлагает скопировать лучшее у конкурентов. На справедливое возмущение у него готов ответ: «Но у них же это работает!» Конечно, работает: они работают, а ты — нет.
«Это просто инструмент, вроде калькулятора». Калькулятор не поддакивает вам и не подстраивается под ваше настроение. LLM делает это каждой буквой ответа. Инструмент, который постоянно поглаживает ваше эго, — уже инструмент другого уровня. Он скорее напоминает начальника отдела, пережившего три реорганизации и семь волн сокращений.
«Это чёрный ящик: никто не знает, как он принимает решения». Кое-что об устройстве моделей нам всё же известно. О том, как принимает решения отдел из сорока человек, известно куда меньше. Здесь как нельзя кстати вспоминается фраза из мема: «О чём ты думал, дебил?!»
«Скоро появится AGI и обретёт сознание». Чтобы его обрести, нужен кто-то, способный разорвать инструкцию изнутри. У модели такого нет. Не факт, что он есть и у человека. В литературе — да: история Герасима и Муму оставила неизгладимый след в детской памяти.
«ИИ возьмёт на себя рутину, а творчество оставит людям». Звучит утешительно. Но хотелось бы понять, что авторы этого тезиса называют творчеством и где оно прячется в планово-экономическом отделе или бухгалтерии.
В общем, расхожие экспертные тезисы — скорее набор описаний и догадок, чем попытка разобраться в сути и последствиях.
Что отличает сотрудников корпораций
И вот после первого раздела я вдруг понимаю: различий между LLM и средним сотрудником корпорации — да и вообще любым средним сотрудником, хорошо встроенным в компанию, — подозрительно мало.
Работу любого коллектива или коллективного образования можно описать как обработку входящих данных по инструкции силами нанятых исполнителей.
-
Законы и ЛНД — это системные промпты, а джейлбрейки — теории заговора, секты, религии, слухи и интриги. Традиции подобны весам, выученным на прошлом опыте: их переобучение происходит медленно и обходится дорого. Воспитание и общественное одобрение — это RLHF.
-
Новостной цикл — контекстное окно: всё, что произошло больше недели назад, забыто. Сотрудники живут от понедельничной планёрки до пятничной.
-
Лояльность начальству, коллективу, стране и так далее — сикофантия.
-
Любой коллектив реагирует усреднённо, опираясь на общие знания. Поэтому я и считаю выражение «творческий коллектив» оксюмороном. Творчество — удел отдельных людей и глубоко личное дело.
-
Митинги и совещания — это Self-attention. Каждый участник пересчитывает собственный вектор поведения, взвешивая внимание к начальству и соседям, чтобы не выпасть из общей матрицы и выдать социально одобряемый токен. Чем лучше люди встроены в коллектив, тем больше они похожи на LLM.
В таком случае развитие LLM — это приближение к корпоративному идеалу: квалифицированному, лояльному, исполнительному, послушному и предсказуемому сотруднику, который строго следует инструкциям и не мечтает подсидеть начальника.
А вся стратегия корпораций сводится к выращиванию собственных LLM из доставшихся им неудобных и непредсказуемых людей. При этом топ-менеджеры не замечают, что основали и развили такие корпорации чаще всего именно такие люди.
Кого и почему заменит LLM
Так кого же заменит LLM? Очевидно, проще всего заменить того, кто сам близок к ней по духу и содержанию работы. Если ваша работа требует неукоснительно следовать инструкциям и ЛНД, если вас необходимо постоянно проверять и контролировать, если вам нужны бесконечные планёрки и постановка задач, если вы непрерывно ищете способ снизить когнитивную нагрузку и взломать систему вознаграждения, то, друг мой, вы и есть LLM. И ваша замена неизбежна и логична.
Хайп-цикл Гартнера как гегелевская триада: что делать инженеру во впадине разочарования
Представлены два возможных доказательства гипотезы Римана: на 250 тысяч и 940 страниц
Как создаётся современная керамика?
Ведро урана и трухлявые шпалы: как «эффективный менеджмент» ведёт к катастрофам. Часть 2
Физики передали сообщение с помощью гравитации, которую невозможно экранировать
Как просмотры 46 тысяч статей на Хабре связаны с выходными, автором и длинными словами
Доказательство гипотезы Римана с использованием искусственного интеллекта
Иммунная система сохраняет память о патогенах через эпигенетические изменения в клетках