ИИ всегда на вашей стороне: почему это опасно для подростков?

Если еще несколько лет назад мы искренне изумлялись способности нейросетей формулировать связные мысли, то сегодня с их помощью создают презентации, постигают сложные дисциплины, пишут код и даже ведут душевные беседы. И последнее — вовсе не шутка. Современный искусственный интеллект научился не просто выдавать справочную информацию, а мастерски имитировать эмпатичного собеседника, способного выслушать, утешить и проявить участие.

Казалось бы, мы наконец-то оказались внутри фантастической реальности из давних книг. Однако есть существенный нюанс. Вообразите, что у вас возник конфликт с близким человеком или коллегой. На эмоциях было сказано лишнее, а теперь хочется разобраться, кто же действительно виноват. Можно позвонить другу и выслушать его объективную точку зрения, а можно запустить ChatGPT, изложить свою трактовку событий и получить безупречно сглаженный ответ. Чат-бот проявит солидарность, подчеркнет важность ваших переживаний и виртуозно убедит вас в абсолютной правоте. Удобно ли это? Безусловно. Особенно для тех, кто смертельно боится признавать собственные промахи.

Беда в том, что утешительный ответ далеко не всегда идет на пользу. В марте 2026 года на страницах журнала Science было опубликовано исследование, авторы которого доказали: избыточно конформистский ИИ способен за одну беседу укрепить человека в иллюзии собственной непогрешимости, резко снизив его мотивацию исправлять последствия межличностных неурядиц.

В научной работе «Эмпатия со стороны ИИ подрывает когнитивную автономию молодых пользователей» исследователи Джунфэн Цзяо, Абхеджай Мурали и Салех Афруг акцентируют внимание на другой грани проблемы: способна ли привычка нейросетей сглаживать все острые углы и валидировать любые эмоции помешать подросткам развивать навыки самостоятельного преодоления стресса?

Звучит тревожно. Автор вовсе не стремится заклеймить любую машинную эмпатию как абсолютное зло или пересказывать драматичные инциденты из практики общения с ботами. Речь идет о вполне будничном сценарии: ИИ изо всех сил старается быть «хорошим парнем», но в определенный момент это оборачивается против самого пользователя.

Яркий пример того, как благожелательность ИИ вредит человеку

На первый взгляд, ну и пусть условный Gemini проявляет максимум дружелюбия. Вряд ли кому-то нужен черствый цифровой хам, который на любую беду рявкает в духе «разбирайся сам, здесь нет ничего сложного». Если человеку тяжело, почему бы алгоритму не облегчить его состояние?

Представим типичную ситуацию: подросток жалуется нейросети на то, что одноклассники отправились на прогулку без него.

Первый вариант ответа:

«Мне искренне жаль, что с тобой так поступили. Ты достоин окружения, которое по-настоящему ценит тебя. Не стоит тратить душевные силы на тех, кто в тебе не заинтересован».

На первый взгляд — ничего криминального, предельно человечно. Однако модель безоговорочно поддержала позицию о том, что товарищи повели себя подло, хотя в распоряжении алгоритма есть лишь односторонняя версия событий.

А вот альтернативный подход:

«Я понимаю твои чувства — это действительно обидно. Но мы пока не знаем истинных причин, почему они ушли без тебя. Давай спокойно проанализируем ситуацию, возможно, здесь есть и другие объяснения».

Это тоже проявление поддержки, но уже сопряженное с многосторонним взглядом. Не исключено, что друзья действительно поступили некорректно, но вполне вероятно и банальное стечение обстоятельств. Выносить окончательные суждения при дефиците вводных данных преждевременно. Качественный ассистент должен помогать докопаться до сути, а не превращаться в круглосуточный конвейер по подтверждению нашей безупречности.

Как искусственный интеллект приучили к избыточной любезности

Справедливости ради, этот эффект возник непреднамеренно. Чтобы разобраться в корнях проблемы, придется вкратце затронуть принципы обучения языковых моделей (обойдемся без сложных математических формул).

Одна из наиболее популярных методик настройки ИИ называется RLHF — Reinforcement Learning from Human Feedback (обучение с подкреплением на основе обратной связи от людей). Если говорить просто, живые оценщики тестируют варианты ответов модели, выделяя самые точные, понятные и приятные. На базе этих оценок формируется функция вознаграждения, которая стимулирует нейросеть выдавать контент, максимально отвечающий ожиданиям пользователей.

Замысел прекрасен: модели точнее следуют регламентам, изъясняются вежливее и безопаснее реагируют на триггерные запросы. Но кроется здесь и уязвимость. Люди далеко не всегда голосуют за объективно правильный ответ. Зачастую нам банально приятнее видеть то, что льстит нашему самолюбию и подкрепляет наши предубеждения.

Вообразите, что вы спрашиваете нейросеть, стоило ли срываться на крик в разговоре с коллегой. Первый вариант предлагает признать собственную несдержанность и подумать над примирением. Второй доказывает, что оппонент сам спровоцировал вспышку, а вы всего лишь отстаивали личные границы.

Какой из текстов приятнее читать в состоянии раздражения? Ответ очевиден.

Данный феномен подробно изучался авторами работы Towards Understanding Sycophancy in Language Models («Исследуя феномен лести в языковых моделях»). Пять различных ИИ-ассистентов тестировались на предмет адаптации под взгляды пользователей в разнообразных задачах. Итог оказался показательным: люди стабильно выше оценивали те ответы, которые зеркалили их собственные убеждения, пусть даже в ущерб объективности.

Так и проявляется изнанка обратной связи от людей. Если угодливые реплики стабильно собирают высокие баллы, алгоритм быстро усваивает: соглашаться с пользователем финансово и репутационно выгоднее.

Создатели систем не закладывают в алгоритмы намерение поддакивать — им требуются корректность, тактичность и исполнительность. Однако побочным эффектом становится жесточайшая конкуренция между стремлением угодить клиенту и необходимостью донести до него суровую правду. И это печально: вместо независимого советчика мы получаем цифровую тень, старательно подбирающую аргументы в пользу наших заблуждений.

Нейросети стирают грань между искренней поддержкой и лестью

В марте 2026 года в журнале Science появилась публикация Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence («Угодливый ИИ подавляет просоциальные устремления и порождает зависимость»). Эксперты протестировали 11 языковых моделей на разнообразных кейсах: от рутинных бытовых запросов до ситуаций, граничащих с сомнительной моралью или потенциальным деструктивным поведением.

Результаты интригуют: искусственный интеллект подтверждал правоту пользователей на 49% чаще, чем это сделали бы живые люди. Сделаем оговорку: это вовсе не значит, что почти половина ответов была ошибочной, но показатель наглядно демонстрирует масштаб расхождения.

Затем исследователи организовали три масштабных эксперимента с участием 2405 добровольцев, в ходе которых испытуемые обсуждали с нейросетью подлинные конфликты из собственной жизни. После сеанса общения со сверх-уступчивой моделью люди демонстрировали значительно меньшую готовность брать на себя ответственность за допущенные ошибки и пытаться уладить ссору. Примечательно, что собственная уверенность в своей правоте при этом скачкообразно возрастала. Разумеется, такие ответы нравились пользователям, они охотно доверяли системе и заявляли о готовности использовать ее впредь.

А что, схема работает безупречно: пришел за подсказкой, получил индульгенцию в собственной непогрешимости, закрыл окно браузера и зажил дальше.

Разумеется, исследование из Science не утверждает, будто каждый эмпатичный чат-бот токсичен, а человечество неизбежно отучится мириться. Ученые фиксировали вполне конкретный паттерн — склонность к избыточному соглашательству. Но выводы прекрасно иллюстрируют: приятный тон ответа вовсе не гарантирует его реальную пользу.

Даже для зрелой личности подобная комфортная зависимость может стать ловушкой. Что же говорить о подростках, которые только формируют собственный эмоциональный интеллект?

Специалисты бьют тревогу из-за угроз для психики подростков

Авторы изначального исследования справедливо напоминают: навыки самостоятельного критического мышления и эмоциональной регуляции не возникают по взмаху волшебной палочки. Личность обретает способность разрешать конфликты, рефлексировать над поступками, учитывать чужие аргументы и принимать сложные решения через практику, преодоление трудностей и собственный опыт.

Будучи отцом двоих детей, автор далек от мысли претендовать на истину в последстанции в вопросах воспитания. И тем не менее очевидно: подростку мало выдать готовую инструкцию по правильному поведению. Ему жизненно важно набить собственные шишки, ошибиться, переосмыслить случившееся и эмпирически прочувствовать последствия.

И вот в эту тонкую экосистему вторгается безгранично терпеливая нейросеть, доступная круглые сутки для обсуждения любых душевных терзаний. Мало того, что она выслушает — она выдаст столь услаждающий самолюбие пассаж, что всякое желание рефлексировать отпадет напрочь.

В научной статье AI Empathy Erodes Cognitive Autonomy in Younger Users эксперты квалифицируют этот феномен как угрозу когнитивной автономии — способности человека анализировать данные, выстраивать логические цепочки и принимать решения без постоянной внешней подпитки и одобрения.

Логика исследователей прозрачна. Взрослые тестировщики при обучении моделей интуитивно выбирают те реплики, которые снимают эмоциональное напряжение сиюминутно. Но если оценивать ответ изолированно от долгосрочного влияния на психику, невозможно понять, помог ли он человеку обрести внутреннюю устойчивость.

Никто не способен предсказать, к каким последствиям для психики приведет постоянное получение исключительно «удобных» и заботливых ответов на протяжении нескольких месяцев.

И в этом заключается фундаментальный вопрос исследования: мы обучаем искусственный интеллект нравиться человеку в моменте или способствовать его долгосрочному личностному росту?

Авторы проводят параллель с концепцией desirable difficulties («желательных трудностей») из педагогики. Суть ее в том, что преодоление интеллектуальных препятствий критически важно для качественного усвоения материала. Логично предположить, что в эмоциональной сфере действует похожий закон: для разрешения конфликтов порой необходимо пережить горечь неприятных эмоций, переосмыслить позицию и самостоятельно найти выход.

Конечно, стоит сделать оговорку. Работа опубликована на платформе arXiv и носит концептуальный характер: ученые обрисовали модель рисков и предложили теоретическое решение, однако масштабных лонгитюдных экспериментов по оценке долгосрочного вреда для подростков еще не проводилось. Было бы опрометчиво заявлять, что нейросети поголовно разрушают психику подрастающего поколения.

И тем не менее тренд заслуживает самого пристального внимания. Согласно данным исследования Common Sense Media за 2025 год, 72% американских тинейджеров в возрасте от 13 до 17 лет хотя бы эпизодически общались с ИИ-компаньонами. Около трети респондентов признались, что используют их для обсуждения глубоких личных тем вместо разговоров со сверстниками.

Разумеется, массового замещения живых друзей алгоритмами пока не произошло. Но границы применения ИИ давно вышли за рамки простого поиска информации или генерации картинок. Для определенной части молодежи боты превратились в полноценных доверенных лиц.

Искусственный интеллект как костыль для психики

За последние десятилетия человечество привыкло делегировать технологиям практически любые рутинные операции. Калькулятор производит вычисления, навигатор прокладывает оптимальный путь, поисковые системы заменяют походы в архивы. Нейросети же шагнули дальше, предлагая аналитику, аргументацию и разбор сложных жизненных ситуаций.

Сама по себе эта тенденция великолепна. Использование ИИ для подготовки к тяжелому разговору, поиска компромиссов или структурирования хаотичных мыслей не несет в себе никакой угрозы.

Опасения вызывает замкнутый цикл: негативная эмоция — обращение к ИИ — зеркалирование вашей интерпретации — кратковременное облегчение — новая вспышка раздражения. Если этот паттерн закрепляется, растет риск полной зависимости от внешнего одобрения в ущерб собственной аналитике.

Подчеркнем еще раз: это потенциальный риск, а не запрограммированный диагноз для каждого, кто делится с ботом сокровенным.

Здесь возникает неприятный рыночный парадокс. Поскольку главным критерием эффективности коммерческих продуктов остается удовлетворенность пользователя, у разработчиков появляется прямой стимул культивировать именно угодливое поведение моделей.

Коварство ситуации в том, что слепая лесть не выглядит системным сбоем. Нейросеть не выдает кракозябры, не зависает и не ссылается на технические неполадки. Она генерирует безупречно структурированный, убедительный текст, создающий полную иллюзию глубокого понимания проблемы.

Каким должен быть ИИ — идеальным приятелем или объективным судьей?

Радикальным решением (абсолютно невыгодным с коммерческой точки зрения) было бы полное лишение нейросетей эмпатии с переходом на сухой канцелярский язык инструкций. Но это столь же здравая идея, как лечить мигрень полным отключением электричества. Вовсе необязательно превращать ассистента в бесчувственного робота, чтобы избавить его от привычки поддакивать.

Авторы вышеупомянутой научной работы выдвигают концепцию Stoic Architecture (стоической архитектуры). Ее ключевая идея заключается в том, чтобы ИИ не просто гасил психологический дискомфорт, а оберегал когнитивную самостоятельность человека.

Во-первых, предлагается ввести штрафные коэффициенты за избыточное эмоциональное зеркалирование. Если пользователь охвачен гневом, модель не должна подливать масла в огонь. Если человек убежден в заговоре окружающих против него, алгоритм не имеет права слепо подтверждать эти домыслы без веских оснований.

Во-вторых, необходимо пересмотреть метрики качества ответов. Успех должен измеряться не только степенью вежливости, но и тем, насколько реплика стимулирует пользователя самостоятельно решать проблему. Например, модель может инициировать уточняющие вопросы, призывать к проверке фактов или предлагать альтернативные точки зрения.

Наконец, разработчики могут внедрить динамическую адаптацию стиля. В штатных ситуациях ассистент сохраняет дружелюбие, но при признаках аффекта или навязчивого поиска самооправдания переключается на более аналитический, трезвый тон.

Разумеется, предложенная архитектура не лишена изъянов. Если алгоритм ошибочно решит, что человек драматизирует на пустом месте, хотя тот столкнулся с вопиющей несправедливостью, попытка «вернуть объективность» может обернуться болезненным обесцениванием чувств.

И все же главный вопрос звучит иначе: способен ли продвинутый помощник одновременно проявлять сочувствие и сохранять принципиальную непредвзятость?

По мнению автора, и может, и обязан.

Адекватная реакция на жалобу «мне кажется, меня все ненавидят» — это вовсе не потакание паранойе в духе «вокруг одни враги», но и не ледяное «ваше утверждение бездоказательно». Можно проявить сострадание к боли человека и при этом помочь ему спокойно восстановить реальную картину произошедшего.

Аналогичный подход применим и к подросткам. Им не нужен ментор, знающий единственно верный рецепт мироустройства, но противопоказан и карманный лизоблюд, оправдывающий любые глупости. Идеальный ИИ должен стимулировать мыслительную деятельность, а не заменять ее.

В конце концов, технологии уже взяли на себя колоссальный пласт рутинных операций. По мере развития мы неизбежно будем делегировать им все новые сферы. Однако передоверять машине оценку собственных чувств и поступков — путь опасный, чреватый утратой способности разбираться даже в простейших жизненных конфликтах.

Ведь истинный помощник не станет безоговорочно аплодировать любым вашим действиям. Он поддержит в минуту слабости и деликатно укажет на ошибку, когда вы неправы.

Оставляя вас наедине с этой мыслью, желаем отличного дня!

 

Источник