Манифест против ИИ-мусора: как не утонуть в потоке нейрослопа?

Прокомментировать Просмотры: 0

Последний год разговоры о том, куда ещё встроить искусственный интеллект и какие процессы поручить агентам, звучат буквально отовсюду. «Скиллы! Агенты! Упряжи! Графы! Второй мозг! Векторные базы данных!» С точки зрения технологий развитие ИИ действительно напоминает гигантский скачок. Но если взглянуть на происходящее с социальной стороны, перед нами откроется картина катастрофы.

Корпорации ищут всё новые способы применения ИИ, хотя в мире, где он распространяется стремительными темпами, реальные потребности людей направлены в противоположную сторону. Люди всё чаще задаются вопросами: как найти качественный контент среди бесконечного нейрослопа, упорядочить собственное мышление, защитить детей от отупляющего брейнрота в соцсетях, создать ценность там, где всё можно скопировать бесплатно, и не захлебнуться в потоке ИИ-шлака. Именно в решении этих проблем скрываются настоящие сокровища…

Наступление слопа

Тонуть в море низкокачественного контента мы начали задолго до генеративных нейросетей, однако с их появлением поток многократно усилился. В середине XIX века в России ежегодно выходило около 80 новых оригинальных книг и примерно столько же переводных. Если среди них появлялся шедевр, его начинали обсуждать: «Голубушка, вы уже прочли новый роман Достоевского? Потрясающая книга! Просто великолепная!» В последние годы перед появлением LLM в России ежегодно издавались уже десятки тысяч книг. Платформы вроде «Ридеро» и «Литрес Самиздат» позволили авторам обходиться без издательств, и рынок заполнили слабые произведения. И это не считая площадок для публикации историй о «попаданцах» и «боярского аниме», таких как «Автор.Тудей». Среди этого бионейрослопа, созданного людьми, едва владеющими родным языком, достойным книгам становилось всё труднее находить читателя. Так возникали очевидные стимулы к снижению среднего качества литературы.

Пример бионейрослопа на Автор.Тудей
Образец бионейрослопа на «Автор.Тудей»

С появлением LLM стало возможным выпускать тысячи книг ежедневно. Найти что-то стоящее в таком потоке практически нереально. Причём низкосортным содержимым завалены не только книжные интернет-магазины: нейрослоп захлестнул буквально всё. Слоп-посты в социальных сетях, слоп-игры в Steam, слоп-статьи в научных журналах, слоп-репозитории на GitHub, слоп-тексты на SE7ENе, брейнрот-видео с балериной Капучино, подогнанные под вакансии слоп-резюме на HH.ru, слоп-музыка на Яндексе и в Spotify, подкасты с нейроголосами. Слоп, слоп и ещё раз слоп. Куда ни посмотри — он повсюду.

Кино и сериалы начали превращаться в неудобоваримый продукт ещё до генеративного ИИ. Стриминговые сервисы вроде Netflix уничтожили рынок DVD, а вместе с ним, как мне кажется, пострадало и качественное кино. Прежде хороший фильм мог провалиться в прокате, но окупиться за счёт продажи дисков. Теперь продюсеры не готовы рисковать и финансировать интересные картины: если фильм не соберёт кассу в кинотеатрах, стриминг не покроет расходы. Вспомните начало 2000-х: каждый год приносил множество замечательных фильмов — «Властелин колец», «Гарри Поттер», «Троя», «Шрек», «Человек-паук», приквелы «Звёздных войн» и многое другое. Сегодня на экраны почти не выходит ничего, кроме бесконечно переработанных ремейков, состоящих из разрозненных сцен и фансервиса.

Современные режиссёры, кажется, забыли даже элементарные законы построения сюжета: на фоне нынешних поделок «Конан-варвар» со Шварценеггером выглядит шедевром. Говорят, что актёры в старых фильмах с каждым годом играют всё лучше. Думаю, дело в том, что артисты XX века выросли в реальном мире: они могли застать войну и голод, повстречать самых разных людей, увидеть человеческие трагедии. Поэтому их игре веришь. А актёры XXI века, похоже, не знают ничего за пределами своей школы в комфортном мегаполисе. Жизни они не видели, и на их «игру» остаётся ответить лишь станиславским: «Не верю!» Во многих современных сериалах Netflix герои вслух описывают собственные действия, чтобы зритель мог включить сериал фоном, а важные события помещают строго в центр кадра — так удобнее делать нарезки для тиктоков. Смотреть всё это в полном сознании почти невозможно.

Как слоп разрушает привычные системы

Системы, созданные людьми и для людей, попросту не готовы к DDoS-атаке потоком слопа. Раньше способность связно выражать мысли на письме служила быстрым способом оценить интеллект человека и его понимание темы. Такой подход применяли в образовании, дискуссиях и многих других сферах. Теперь преподаватели из России и США рассказывают, что школьники и студенты выполняют домашние задания и пишут эссе с помощью нейросетей, а учителя поручают ИИ проверку этих работ. Возникает абсурдный симулякр: искусственный интеллект читает то, что сам же и написал, а человеческое сознание в процессе под названием «образование» почти не участвует.

Похожая ситуация сложилась и при поиске работы. Кандидаты откликаются на вакансии с помощью ИИ, который адаптирует резюме под требования работодателя или вовсе сочиняет его с нуля. Спустя десять минут после публикации вакансии HR-специалист получает тысячи сгенерированных резюме, почти идеально ей соответствующих, и добраться сквозь них до настоящих кандидатов становится невозможно. Автоматическая оценка тоже перестаёт помогать: все резюме безупречно подогнаны под описание вакансии. Компании предлагают соискателям проходить интервью с ИИ-агентами, а те в ответ выставляют собственных агентов. Процесс превращается в имитацию: ИИ беседует с ИИ. Система найма разваливается.

Типичная ситуация на современном собеседовании
Обычная картина современного собеседования

Похоже, единственное действенное решение для образования, собеседований и подобных процессов — полностью перенести их из онлайна в офлайн. Сеть уже захвачена ИИ-шлаком. В комментариях к моему телеграм-каналу регулярно появляются ИИ-боты: они оставляют связные ответы на посты и вставляют рекламную ссылку, прямо как я только что в этом предложении. В социальных сетях дипфейки дурманят людей поддельными видео и новостями. Маркетологи, которые ещё до эпохи ИИ испортили спамом многие каналы общения, включая электронную и обычную почту, получили возможность рассылать ещё больше рекламы, почти неотличимой от нормального контента. А внедрение генерации слоп-кода в разработку программного обеспечения уже примерно через год приводит к первым массовым сбоям систем, восстанавливать которые становится всё сложнее.

Вскоре слоп может разрушить и общее культурное пространство. Потребление контента — не только личный, но и социальный процесс. У прежних поколений были общие культурные коды: например, почти все дети одного поколения смотрели советский мультфильм о Винни-Пухе, а многие мальчики другого играли в Counter-Strike 1.6. Из-за изобилия слоп-контента будущие поколения могут лишиться такого общего культурного фона. Какие негативные последствия это принесёт, сегодня трудно даже представить.

Движения против технологического наступления

Реакция на технологические перемены — явление не новое. Движения против бездумного внедрения технологий начали возникать ещё в XIX веке. Показательный пример — общины амишей в Америке. Амиши отказываются от электричества и телефонов, поскольку эти технологии позволяют строить крупные поселения и жить на расстоянии друг от друга, что неизбежно ослабляет семейные и общественные связи. И в этом они совершенно правы. Посмотрите на нас: крепкие большие семьи, объединяющие бабушек и дедушек, дядей и тёть, двоюродных братьев и сестёр, стали редкостью. Даже нуклеарная семья переживает кризис: большинство браков распадается, а дети растут без отцов.

Другой пример сопротивления технологическому ускорению — так называемое медленное движение. Оно выросло из идеи slow food, возникшей как ответ на распространение культуры fast food. Сторонники медленной еды защищают традиции застолья и национальную кухню. В рамках движения также развиваются концепции медленного города, где, возможно, производится меньше ВВП, зато приятно жить; медленной моды, предлагающей качественные и долговечные вещи вместо одноразовых футболок; вдумчивого чтения, неспешного садоводства и многое другое.

Противоположной логике следует акселерационизм. Его философия предлагает не сопротивляться технологическим переменам и ускорению жизни, а, напротив, всеми силами подталкивать их вперёд. Предполагается, что внутренние противоречия капитализма и бесконтрольного технологического развития как можно быстрее разорвут систему изнутри. А уже после этого можно будет спокойно заняться медленными практиками.

Жизнь в качестве, смерть в количестве

Французский философ Рене Генон в книге «Царство количества и знамения времени» пишет, что погоня за количественными показателями неизбежно ведёт к утрате качества. Представим небольшой город с десятью булочными, где пекут хлеб и булочки. Аромат свежей выпечки льётся из окон и создаёт настроение на окружающих улицах. Однажды все десять заведений покупает одна компания. Её директор решает сократить расходы и переносит выпечку в отдельный цех на окраине, откуда готовую продукцию развозят по торговым точкам. С количественной точки зрения это разумная финансовая оптимизация. Но с качественной — с городских улиц исчезает аромат свежего хлеба, а вместе с ним и частичка городской души. Экономия здесь, экономия там — и однажды в городе совсем не остаётся души. Люди впадают в депрессию, даже не понимая почему.

Приведу фрагмент своей недавней заметки:

Недавно я прочитал в журнале «Моноклер» статью о китайском философе Чжуан-цзы. Из неё я узнал, что знаменитая философия бесполезности, ставшая одной из основ даосского мировоззрения, возникла как ответ на учение моистов — последователей другого китайского мыслителя той эпохи, Мо-цзы. Моисты полагали, что главное в жизни — добиться максимальной экономической пользы от своих поступков.

*Вместо похорон с традиционными обрядами, включая трёхслойные гробы и многолетний траур, моисты предлагали просто вырыть достаточно глубокую яму, чтобы от тела не исходил запах. Поплакать разрешалось по пути к месту погребения и обратно, после чего следовало возвращаться к работе и повседневной жизни. *

Несмотря на то что моисты писали более двух тысяч лет назад, современному человеку их идеи кажутся знакомыми. Мы нередко слышим призывы отказаться от якобы бесполезных занятий, например искусства или гуманитарного образования; достаточно вспомнить, как часто университеты урезают финансирование гуманитарных наук. Или нам предлагают ценить эти занятия лишь постольку, поскольку они полезны экономике и благосостоянию людей.

Любопытно, что из века в век и из тысячелетия в тысячелетие люди возвращаются к одним и тем же архетипическим ценностям. На ум сразу приходят современные мемы в духе «цель моей жизни — увеличивать shareholder value для акционеров корпорации». Подобная материалистическая и утилитарная логика эффективности ради эффективности ведёт к полному выгоранию и гибели души.

Логическое завершение моистского подхода к жизни — идея полностью заменить человека роботами и искусственным интеллектом. Если превратить эффективность в идола и поставить её во главу жизненных приоритетов, в итоге мы получим мир, в котором человеку просто не найдётся места. Получив из рук дьявола фаустовскую власть над природой, человек, как обычно, поленился прочитать мелкий шрифт договора о продаже души: изначальный замысел Мефистофеля состоял именно в том, чтобы полностью избавиться от второй стороны сделки. ВВП на душу населения растёт, а самой души у населения уже не осталось…

Похожую мысль испанский философ Хосе Ортега-и-Гассет развивает в эссе «Живое и мёртвое». Мёртвое способно повторять форму живого, но души у него нет. Представьте тёплый семейный праздник, который родители устроили для детей, и похожее мероприятие, организованное районной администрацией для жителей ради отчётности. Внешне они могут не отличаться, однако на одном будет кипеть жизнь, а другое останется бездушным и мёртвым, даже если его лучше организовали и щедрее профинансировали.

Манифест против ИИ-шлака

Каждый вправе сам выбрать, где он хочет жить: в киберпанке, заполненном ИИ-шлаком, или в живом мире, где ценят качество. Для этого достаточно принять несколько основополагающих принципов:

  • Ориентироваться на качество, а не на количество

  • Стремиться к живому, а не к мёртвому

Сегодня главная задача людей — не внедрять ИИ везде, где только возможно, а выстраивать защиту от ИИ-шлака. Вероятно, в обозримом будущем нас ждут постепенное угасание онлайна, возвращение в офлайн, внимание к созданию живых сообществ, воскрешение автора, похороненного Роланом Бартом в знаменитом философском эссе, и формирование канонов качественной литературы, кино, видеоигр, одежды и многого другого. Это не требует полностью отказываться от ИИ, но предполагает осознанный подход к его использованию.

Добавим к манифесту ещё несколько положений.

  • Нужно создавать каноны качественного контента

  • Офлайн важнее онлайна

  • Живое сообщество ценнее безликого контента

  • Сообщество складывается вокруг яркой личности

Так мы победим!

P.S. Это уже третий текст в моей серии размышлений о социальных, экономических и методологических переменах, которые принесли генеративные нейросети и искусственный интеллект. Два предыдущих материала доступны по ссылкам:

 

Источник

Похожие статьи

Поиск по играм, новостям и статьям…

Введите не менее двух символов

Введите не менее двух символов