Искусственный интеллект как инструмент контроля: как государства, спецслужбы и мошенники управляют вашим сознанием

28 минут назад Прокомментировать Просмотры: 7

Современные специализированные модели демонстрируют поразительную точность в своих областях. Машинное обучение применяется в маркетинге, банковском деле, онлайн-образовании, правоохранительной деятельности, моделировании, исследованиях и многих других сферах. Модели способны не только предлагать товары, но и подталкивать человека к покупке, заранее выявлять вероятность его ухода к конкурентам, прогнозировать реакции и составлять психологический портрет. Но лишь немногие задумываются о том, что ИИ может найти подход к человеческой психике через привычные сервисы и любимый контент, посеять определенные страхи и желания и даже побудить человека защищать чужие интересы ценой собственной жизни.

Телеметрия

Сегодня практически каждая корпорация так или иначе собирает данные о пользователях. Анализируются клики, движения устройств ввода, реакция глаз, произнесенные слова и манера печати. Все это не просто полезная информация, но и своеобразный индивидуальный почерк, сравнимый с формой ушной раковины или отпечатками пальцев.

Однако немногие представляют, что на самом деле означает такой сбор и какую власть он может давать. Услышав очередное привычное предупреждение о слежке, человек обычно отмахивается и находит оправдание тому, что продолжает пользоваться любимым сервисом. В конце концов, зачем менять привычный образ жизни из-за чьих-то опасений? Повторение притупляет восприятие: чем чаще звучит одна и та же мысль, тем реже мы пытаемся разобраться в ее смысле. Эта глава призвана взглянуть на проблему заново.

Представим, что забыли все известное нам о науке о данных, и попробуем построить представление о ней с самого начала.

История о данных.

На дворе 2010-е годы. Мы управляем крупной технологической компанией, которая производит различные устройства. В какой-то момент мы замечаем, что конкуренты постепенно отвоевывают долю рынка. При этом ни качество их продукции, ни маркетинг не кажутся лучше наших. Даже компании, перед которыми у нас есть очевидные преимущества, укрепляют свои позиции. Что-то здесь не так.

Анализ показывает, что у всех растущих компаний есть общая особенность — доступ к данным. Каждая из них либо владеет собственным источником информации, либо сотрудничает с его обладателем. Мы решаем не отставать: покупаем небольшой интернет-сервис и создаем на его основе платформу. Теперь покупатели могут не только приобрести товар, но и зарегистрировать его, получать обновления, обращаться в поддержку и участвовать в развитии продукта.

Так мы узнаем не только о распространенных поломках и спросе, но и открываем новое измерение пользовательского опыта. Выясняется, что неудобно расположенная кнопка способна заставить клиента реже пользоваться устройством, а необычная разноцветная подсветка — повысить его привлекательность. Людей интересуют не только функции товара, но и способ его подачи, а также то, кто им пользуется. Вокруг некоторых устройств возникают целые субкультуры, а сами они становятся обязательным атрибутом определенных сообществ. Практическая необходимость отступает на второй план, когда культура требует обладать вещью, а окружающие оценивают человека по ее наличию. Товар становится знаком принадлежности, статуса, убеждений и образа жизни. Подобно языку, традициям и ритуалам, он помогает людям ощущать связь друг с другом. Поэтому репутация бренда имеет такое значение.

А что, если составить индивидуальный портрет каждого пользователя и сопоставить его с другими базами? Приобретая страховые, кредитные и медицинские данные, приложения-дневники, картографические и игровые сервисы и другие источники, можно узнать о людях больше, чем они сами о себе замечают. Даже если сведения разрозненны, похожие группы нередко обладают сходными признаками. Следовательно, для персонализации услуг компании не обязательно располагать именно вашей медицинской картой: полезной может оказаться информация о человеке, похожем на вас по другим характеристикам. Поэтому даже небольшой объем сведений способен рассказать больше, чем кажется на первый взгляд.

Теперь можно оценить, успеет ли клиент с избыточным весом, сердечной недостаточностью и без страховки выплатить рассрочку за нашу пиво-кофемашину. Если прогноз благоприятный, предложим ему товар на главной странице.

Чем больше клиентов пользуется сервисом, тем полнее становится общая картина. Частное улучшает общее: разнообразные сведения помогают моделям лучше обобщать. Верно и обратное: обобщенные данные позволяют точнее подходить к каждому человеку. Со временем информация сама превращается в продукт. Удачные рекомендации, адресная реклама, бонусы, комплименты и поздравления привлекают пользователей. За помощью к нам все чаще обращаются небольшие фирмы и конкуренты: сотрудничество становится выгоднее соперничества. На кону уже не только деньги, но и контроль над рынком — над вниманием людей и их желаниями. Если влиять на мышление человека, он может совершить покупку не из необходимости, а из преданности бренду или по привычке, либо по другой эмоциональной причине.

Чтобы лучше представить силу данных, сыграем в слова. Посмотрите на изображение ниже, переводя взгляд по всей его площади. Запишите, например, первые двадцать слов, которые заметите и значение которых вам понятно.

Ответьте себе на несколько вопросов:

Почему первыми вы заметили именно эти слова?
Как вам кажется, что получившийся список говорит о вас?
Удивляет ли вас, что среди множества слов вы выделили именно эти?

Конечно, это не идеальный тест, однако он связан с тем, как мы воспринимаем окружающее. Слово представляет собой графическое обозначение смысла, а люди, подобно детекторам, замечают прежде всего то, на что настроены. Если определенная тема отзывается человеку, он способен выделить ее среди информационного шума. Это можно сравнить со сверточными слоями CNN, реагирующими на определенные паттерны и сочетания, распознавать которые их обучили заранее.

Заинтересовались? Вернитесь к изображению и попробуйте найти как можно больше слов. Затем ответьте еще на два вопроса:

Какие-нибудь слова показались вам смешными? Почему?
Вызвало ли какое-то слово неприятные чувства, будто автор поместил его туда специально, чтобы вас задеть?

То, над чем мы смеемся, тоже может многое о нас рассказать. Мем о зумерах, скорее всего, привлечет внимание самих зумеров. А изображение пьяного человека без штанов на помойке после праздника может рассмешить того, кто бывал в похожих обстоятельствах. Нам проще сопереживать людям, в которых мы узнаем себя, потому что их опыт нам понятнее. Похожим образом действуют и оскорбления: нас задевает то, что, как нам кажется, относится к нам и выставляет нас в невыгодном свете. Человек с определенным психологическим комплексом может чаще замечать связанные с ним вещи. Иногда слова причиняют глубокую душевную боль. В тяжелых случаях люди даже наносят себе физические повреждения, пытаясь заглушить переживания. Подобное может встречаться, например, при ПТСР.

Кроме того, многие слова на изображении многозначны: «тир», «лор», «питон», «рак», «укроп», «чурка», «сигма» и другие. Некоторые относятся к специфическому сленгу. Какой смысл первым придет в голову, зависит от вашего опыта и круга интересов.

Теперь можно представить масштаб проблемы. Если даже небольшой набор слов способен что-то о вас рассказать, сколько информации могут дать гигабайты данных?

Личностный профиль

Теперь мы подошли к построению полноценного профиля человека.

Попытки описать и классифицировать человеческую психику предпринимались с древнейших времен. До нас дошли труды античных философов и ведические тексты, связывающие личностные особенности с чакрами. Среди академических концепций можно вспомнить типологии Фрейда и Юнга. Классификации Личко и Леонгарда используются и сегодня; существует также векторное тестирование. Эти подходы различаются по детализации и сложности. Современные методы классификации личности могут выходить за пределы привычного человеческого понимания: многие модели, порой выдающие необычные, но точные прогнозы, работают как черные ящики. В них поступают тысячи признаков, а внутри происходят сложные вычисления. Объяснить, почему в конкретном случае модель пришла именно к такому выводу, бывает непросто.

Для построения личного профиля нужны персональные данные. Почти каждый хотя бы раз сталкивался с их сбором: проходил СМИЛ, заполнял анкету или тест на IQ. Подобные опросы встречаются все реже, поскольку появились способы получать сведения без прямолинейных вопросов вроде «Мне кажется, что мной кто-то управляет. Да/Нет». Полезные признаки обнаруживаются и в повседневном поведении, когда человек не ожидает, что его изучают. Представьте, что использование любимого сервиса — это своего рода СМИЛ длиной в несколько лет и миллионы вопросов. Каждый клик, выбор публикации, смех, ругательство, изменение размера зрачка, комментарий или лайк становится реакцией, из которой складывается все более подробный цифровой портрет. Человек, не осознающий, какие сведения передает сервису, отвечает естественнее. Полученная информация может заинтересовать работодателя, маркетологов, мошенников или спецслужбы.

Попробуем разобраться в личностном профиле на примерах. Рассмотрите изображение ниже. Что вы можете сказать об этих людях? Как можно использовать представленные сведения?

Установки и стереотипы этих людей — лишь небольшая и не обязательно самая ценная часть информации. Гораздо интереснее содержание отдельных мнений сам способ мышления: насколько глубоко или поверхностно человек рассуждает в разных областях и обстоятельствах. Такие наборы привычных схем и особенностей мышления называются фреймами мышления.

Остановимся на их значении подробнее. Фреймы помогают не только описывать человека, но и предполагать, как он отреагирует на разные события. Их можно группировать и сопоставлять с другими данными, выявляя сложные взаимосвязи. На основе таких сведений, как мы обсудим позже, можно обучать модели. При этом фреймы не обязательно зависят от конкретных убеждений или политических взглядов: люди, которые на первый взгляд совершенно различны, порой мыслят очень похоже.

Этот пример показывает, насколько поверхностными бывают привычные ярлыки и насколько сложно могут сочетаться различные признаки.

И все же не всякий разум легко описать, даже располагая обширными данными. Психологические классификации лучше подходят для традиционных обществ и людей с менее сложными когнитивными структурами. Современные ИИ-модели тоже имеют серьезные ограничения: они строятся на данных большинства, укладывающихся в определенный статистический диапазон. По-настоящему сложный разум вряд ли можно полностью охватить одной концепцией. Эта мысль несколько успокаивает, особенно с учетом всего сказанного выше.

Надеюсь, теперь у вас сложилось общее представление о современном личностном профиле. Далее поговорим о том, как такие данные можно применять и каким образом эти знания способны обратиться против самого человека.

Классические способы влияния

Прежде чем обсуждать новые технологии воздействия, кратко вспомним традиционные методы.

Чтобы повлиять на человека, важно понимать не только его страхи и слабые стороны, но и силу его воли. Интеллект, работоспособность, сознательность и другие качества тоже важны, однако решающую роль нередко играет именно воля. Разумный конформист может уступить тому, кто готов идти до конца, невзирая на последствия. Посредственный практик способен обойти выдающегося аналитика. Человек, который не отступает перед обстоятельствами, рискует жизнью и действует без оглядки, в итоге либо погибнет, либо добьется своего. Именно поэтому успех нередко сопутствует авантюристам.

Общество условно можно разделить на категории, представив их с помощью кругов Эйлера и воронок. Такая схема напоминает принцип Парето, согласно которому значительная часть задач решается относительно небольшими усилиями. Кратко рассмотрим категории по выраженности волевого компонента:

Конформисты.

Многие терпимо относятся к нарушению собственных прав, особенно если подобное поведение стало частью культурной нормы. Столкнувшись с очевидной несправедливостью, человек может реагировать спокойно, цинично или даже с юмором, защищая психику от лишнего напряжения. Зачем бороться с тем, что происходит ежедневно и перед чем ощущаешь бессилие? В таких условиях для изменения поведения порой хватает замечания или словесной угрозы.

Если таким человеком заинтересуются спецслужбы, давление может начаться через его место работы и руководство.

Мошенники в подобных случаях нередко выбирают демонстрацию превосходства: представляются авторитетными лицами, ссылаются на известные организации, говорят приказным тоном и угрожают последствиями.

Субъекты.

Для этой категории характерны воля и определенная общественная позиция. Такие люди не склонны принимать чужие слова на веру, даже когда обстоятельства вынуждают их действовать вопреки убеждениям. Они часто активны, готовы брать ответственность и аргументированно защищать свою точку зрения. Среди них могут быть руководители среднего звена, предприниматели, администраторы и другие люди, которым излишняя уступчивость помешала бы реализовать себя. Одного заявления «у нас здесь такие правила» для них недостаточно. Воздействие приходится подкреплять материальными выгодами, статусом или ощутимыми санкциями.

Тем не менее они способны идти на уступки. Предложение должности или роста дохода может побудить человека найти внутреннее оправдание для изменения позиции. А потеря финансовой опоры — заставить его согласиться на компромисс.

Примитивные мошеннические приемы здесь обычно менее действенны. Кем бы ни представился собеседник, такой человек склонен задавать вопросы и проверять информацию, не полагаясь только на заявленный авторитет.

Лидеры.

У этих людей есть четкие принципы и понимание механизмов управления. Они знают свои возможности и права и готовы их защищать. Как правило, они действуют хладнокровно и рационально, а соблюдение внутреннего кодекса может быть для них важнее материального положения. При этом сам кодекс бывает весьма своеобразным. К этой категории можно отнести лидеров мнений, владельцев крупных активов, политиков, воров в законе, неформальных руководителей и других людей, обладающих реальным влиянием. Их профиль по СМИЛ часто описывается как пилообразный, с повышенными показателями самостоятельности и психопатии.

Прямое давление или попытка подкупа могут вызвать обратную реакцию: оскорбить человека или побудить его к ответным действиям. Вступать с ним в противостояние без продуманной стратегии рискованно. Тем не менее страхи, скрытые желания и угрозы семье, статусу или финансовому положению способны стать рычагами влияния. Такой человек остается серьезным противником, а его временное отступление не исключает последующего реванша. Организованные действия людей этого типа могут оказывать решающее влияние в периоды нестабильности системы.

Фанатики.

Это редкий и практически неуправляемый тип людей, одержимых сверхценными идеями. Ни материальные блага, ни угроза жизни не обязательно станут для них убедительным аргументом. Общепринятые нормы они могут сознательно отвергать, подкрепляя свою позицию философскими доводами. Такой человек скорее попытается изменить мир под себя, чем уступит ему. Он способен пойти на гибель, если считает, что при этом нанесет максимальный урон противникам. В сочетании с высоким интеллектом и специальными навыками это может представлять масштабную угрозу. К данной категории автор относит революционеров, пророков, вождей, народных героев и серийных убийц.

В условиях неопределенности открытая попытка повлиять на такого человека может иметь тяжелые последствия. Он и сам способен воздействовать на окружающих, объединяя их вокруг себя. Попытки уничтожить его репутацию или устранить радикальными способами могут лишь усилить общественный интерес к нему.

Разные методы воздействия требуют разных ресурсов и несут неодинаковые репутационные издержки. Убеждение, подкуп, угрозы, заключение и убийство имеют совершенно разную цену, а последствия радикальных мер трудно предсказать. Даже отдельные случаи давления могут лишь какое-то время оставаться незамеченными, пока общество не увидит общую картину. Крайне жестокие меры обычно применяются к сравнительно узкому кругу людей, прошедших через такую воронку, а разумное управление стремится свести их к минимуму. Когда заключенных и «еретиков» становится слишком много, люди начинают понимать, что дело не только в осужденных. Чем абсурднее оправдания силовых решений, тем быстрее разрушается доверие к системе управления. Каждый убитый или принужденный человек становится раной, сокращающей срок ее существования.

Отсюда следует основной принцип: менее затратные способы воздействия предпочтительнее дорогих, а поощрение зачастую эффективнее наказания. Издержки любого воздействия стремятся уменьшить. В идеале человек вообще не должен замечать, что на него влияют. Подобно тому как поздравительное SMS может удержать клиента от смены тарифа, своевременная встреча способна повлиять на его взгляды. Например, заметив возможное недовольство одного из директоров, агент влияния может встретиться с ним в приятной обстановке, признать его заслуги и предложить помощь, тем самым поддержав существующий порядок. При этом затраты на помощь стремятся снизить, а продолжительность ее эффекта — увеличить, чтобы экономить управленческие ресурсы, прежде всего внимание. Выбор стратегии зависит от множества переменных, для анализа которых могут применяться современные модели.

Важно помнить и о том, что человеческие желания не всегда рациональны. Если цель состоит в изменении установок и поведения, человеку могут предложить не то, что ему действительно полезно, а то, чего он хочет. Вместо советов агент влияния словно джинн исполняет его желание, в том числе не вполне осознанное. Иными словами, если Винни-Пух мечтает о меде, он получит мед, даже если на самом деле ему полезнее было бы заняться на тренажере.

Таков краткий обзор классических способов влияния. Он оставляет за скобками множество деталей, которые невозможно уместить в одной статье, но дает общее представление об управлении поведением отдельных людей. Теперь рассмотрим эти идеи в контексте машинного обучения. Я подготовил несколько заданий, в которых предлагается представить себя ИИ-моделью, подсказывающей злоумышленнику стратегию на основе данных о потенциальных жертвах. Такой подход может показаться неприятным, но понимание уловок и уязвимостей помогает лучше распознавать их и защищать себя и других.

Представьте, как мошенник мог бы обмануть этих людей. Изучите основные сведения о них и определите возможную мошенническую стратегию.

Подумайте, как оперативник мог бы попытаться воздействовать на особенно принципиальных граждан.

Передовые способы влияния

Пожалуй, это самая интересная часть статьи: здесь речь пойдет о конкретных технологиях — от вполне очевидных до почти фантастических.

ИИ-близнец.

Если допустить, что личность можно смоделировать, возможно ли создать хотя бы приблизительную модель разума — функциональный аналог, способный рассуждать и принимать решения?

Личностный профиль можно представить как статичный слепок, тогда как ИИ-агент стал бы его динамической моделью. Такая технология могла бы анализировать человека по доступным сведениям и прогнозировать его реакции на различные события.

Знание слабых мест, предела стрессоустойчивости и уровня осведомленности человека по определенному вопросу может сыграть важную роль в споре или мошеннической атаке. Обучив ИИ-близнеца на ваших данных, манипулятор теоретически получает модель, на которой можно испытывать разные подходы.

Можно представить это так: у противника появляется цифровая копия человека, которая помогает ему изучать предполагаемые страхи и уязвимости. Более того, агент мог бы действовать как самостоятельный бот: участвовать в сетевых спорах, затрагивать болезненные темы и провоцировать определенную реакцию. Например, он мог бы попытаться вывести человека из равновесия и подтолкнуть к высказыванию, которое впоследствии используют против него.

Гештальт-управление.

Рассмотрим идею на примере групповой поддержки: сообществ анонимных алкоголиков, объединений ветеранов, групп для людей, переживших утрату, и других подобных форматов. Многие слышали о встречах, на которых участники делятся личными историями, но не всегда задумываются о механизмах, благодаря которым такая поддержка может помогать.

Условно этот процесс можно разделить на четыре этапа:

Вовлечение. Человек приходит в группу, знакомится с участниками и слушает их истории. Они могут говорить спокойно и открыто даже о болезненных событиях. Затем ведущий предлагает высказаться новичку и так или иначе помогает ему начать разговор.
Доверие. Делясь личным опытом, участник постепенно начинает больше доверять группе. Сам факт откровенного разговора может укреплять ощущение безопасности: если я рассказываю этим людям о себе, значит, могу им доверять. Прежний дискомфорт уменьшается, а человеку становится легче говорить открыто.
Интеграция. Проведя в группе достаточно времени, человек начинает ощущать себя ее частью. Возникает чувство общности, а личные барьеры становятся менее жесткими.
Интроекция. Общаясь с людьми, которые справляются со сходными трудностями, участник может перенимать их привычки и способы смотреть на ситуацию. Удачные примеры и атмосфера поддержки становятся частью его собственного опыта и помогают ему двигаться к улучшению.

Это пример того, как групповая общность может приносить пользу. Она помогает передавать человеку не только знания, но и представление о другом образе жизни. Изменения происходят в том числе благодаря переосмыслению привычных установок.

Но существует и обратная сторона: сходные механизмы могут использовать в собственных интересах различные организации, включая государственные структуры, спецслужбы и мошенников. Оказавшись среди похожих на себя людей, человек со временем может почувствовать общность с ними и стать частью коллектива. В такой обстановке ему легче делиться личной, в том числе чувствительной информацией. Люди и в самом деле часто бывают откровеннее с теми, кого считают своими, например с семьей.

Кроме того, групповая среда способна влиять на усвоение установок и моделей поведения. Так определенные представления передаются в университете, армии и других коллективах. Особенно заметным влияние может быть в период формирования личности, когда усвоенные убеждения впоследствии трудно пересмотреть. Управление массами, однако, выходит за рамки этой статьи и, возможно, станет темой отдельного разговора.

Подобные процессы происходят и в интернет-сообществах, чатах, социальных сетях и на контентных платформах. Люди охотно рассказывают о себе, раскрывая сведения, которые могут оказаться ценными для других. Но влияние действует и в обратную сторону: пользователи перенимают взгляды и манеры тех, кем восхищаются. У многих есть любимый блогер или другой публичный человек, к мнению которого они прислушиваются и которому порой неосознанно подражают. Поэтому различные организации заинтересованы в продвижении собственных лидеров мнений и борьбе за внимание аудитории. Ограничение доступа к привычному автору или исполнителю может подтолкнуть человека к поиску доступной замены.

При этом главный вопрос не в том, какие публичные лица «правильные», а какие якобы служат злу. Если человек выбирает себе кумира, стоит спросить себя, почему ему так хочется быть на него похожим. Отражает ли этот образ его собственный идеал или помогает компенсировать недостатки, которых, возможно, и нет? Стоит ли потраченное время стремления переделать себя по чужому образцу?

Контент-управление.

Следующая идея может показаться фантастической, однако она занимает важное место в статье. Речь не просто о таргетированной пропаганде, а о предполагаемом инструменте влияния на бессознательное через персональный подбор контента.

Если достаточно подробно смоделировать личность, ее взгляды, особенности мышления и жизненный опыт, можно ли воздействовать на нее через культуру? Представьте поток материалов, подобранных с учетом интересов пользователя. Среди них может оказаться небольшая доля контента, призванного подтолкнуть человека к определенным мыслям или действиям.

Речь не обязательно о психологических роликах, обещающих раскрыть правду о вас самих. Системе не нужно создавать гигабайты индивидуального контента: это было бы слишком затратно. Достаточно найти среди уже опубликованных материалов видео, способное вызвать нужные ассоциации.

При этом намерения автора материала могут не иметь значения: важно, как устроена система распространения и кому именно достанется контент.

Такой материал может появляться редко и ненавязчиво — допустим, занимать одну сотую времени просмотра. В этой гипотетической схеме значение имеет не отдельный ролик или пресловутый «25-й кадр», а подбор уже существующих произведений, подобный раздаче карт из общей колоды. Содержание соотносится с особенностями конкретного пользователя и направляется на темы, по которым его позиция неустойчива. Наиболее уязвимым может быть человек, который переживает трудный период и ищет опоры, утешения или ответов. Стресс и изоляция также способны повышать восприимчивость к внешнему давлению.

Распознать намеренное воздействие в такой системе было бы непросто даже специалисту: сложные модели часто работают как черные ящики, а их решения зависят от множества внутренних параметров. Поэтому отличить целенаправленный подбор от случайного совпадения или ошибочных подозрений может быть крайне трудно. Это создает риск злоупотреблений, особенно если работа подобных систем непрозрачна для общества.

Сама возможность такого подхода заслуживает обсуждения. Если модель способна строить профиль пользователя по доступным данным — предпочтениям, комментариям и другим сведениям, — возникает вопрос, можно ли также оценивать результаты воздействия. Для этого необходимо определить критерий успеха и связать его с подбором контента, например с помощью обучения с подкреплением. Изменится ли мнение человека после определенного фильма? Произведет ли впечатление подобранная новость? Прислушается ли он к монологу любимого персонажа?

Сложность в том, что системе неизвестны все остальные факторы, повлиявшие на решение человека, и потому трудно установить ее собственный вклад. Рекламные технологии уже используют косвенные методы оценки того, как разные каналы — социальные сети, мессенджеры, телевидение, баннеры и другие — связаны со спросом. По аналогии можно предположить попытки оценивать и влияние контента на взгляды, хотя такие оценки не будут абсолютно точными.

Рассмотрим условный пример. Допустим, некая тоталитарная организация хочет повлиять на Петю — тревожного молодого человека, который боится войны. Воздействовать на убеждения, в которых он полностью уверен, может быть трудно. Вместо этого организация ищет вопросы, по которым его мнение не определилось, и пытается постепенно его изменить. В качестве примера представим подборку о войне 1812 года, исход и значение которой вызывают у Пети сомнения. Ее предполагаемая цель — усилить патриотические чувства и подготовить почву для дальнейшего влияния.

Обратите внимание, как ненавязчиво подобранный контент может предлагать определенный взгляд. Вместо прямого заявления о том, что французы плохие, используются приятные эмоции: юмор, развлечения и эстетика силы. Нужные идеи связываются с удовольствием и чувством спокойствия. Если отношение удается изменить, следующим шагом могут стать более актуальные вопросы, ради которых и затевалось воздействие. В итоге Петя может добровольно поддержать продвигаемые нарративы или даже стать дегустатором майонеза.

В этой гипотезе технология выступает как искусство вызывать эмоциональный отклик и подводить к определенным мыслям. Модель могла бы «говорить» с человеком голосами любимых персонажей, через истории, мемы и пословицы, выбирая материалы с учетом его профиля. Из огромного массива система отбирала бы сначала подходящие варианты, а затем наиболее вероятно действенные. Это напоминает поиск аргумента, который способен убедить конкретного собеседника.

Человек, подвергающийся подобному воздействию, может почувствовать дискомфорт или стыд, словно ему лично указали на ошибку. Он может начать сомневаться в своих взглядах, особенно когда речь идет о спорных событиях или публичных фигурах. При этом оператор системы не обязательно должен понимать все подробности ее работы или задумываться о последствиях. Поэтому важно помнить: даже убедительный аргумент может использоваться в корыстных целях. Сам по себе верный факт не означает, что правы все намерения того, кто его сообщает.

Эти размышления показывают, насколько далеко теоретически могут зайти технологии влияния: от прямой пропаганды до тонкого персонализированного подбора сообщений. Даже если имеющиеся данные и возможности пока не позволяют воплотить описанный сценарий полностью, нельзя исключать появления более мощных инструментов в будущем.

Как не быть пешкой

На протяжении всей истории люди испытывали на себе влияние и контроль. Однако этот контроль никогда не был абсолютным: человек мог оставаться собой в семье, среди единомышленников или хотя бы в собственных мыслях. Современные технологии открывают новые возможности для масштабирования и персонализации воздействия. Государства, компании, спецслужбы и мошенники могут стремиться использовать такие инструменты, чтобы получить преимущество. Поэтому важно задумываться не только о существующих практиках, но и об их возможном развитии.

Персонализированные системы могут подстраивать сообщения под потребности разных пользователей, а подключенные устройства и сервисы предоставляют для этого множество данных.

Интернет тоже стал пространством информационного противостояния. Боты могут выдавать себя за людей, распространять фальшивые сведения, использовать юмор и критику для давления. Помимо привычной адресной пропаганды, возникает вопрос о более тонком подборе контента с учетом индивидуального опыта и взглядов. В подобной системе критерием эффективности может стать не объективная достоверность сообщения, а его убедительность для конкретного человека. Это делает самостоятельное мышление и внимательное отношение к информации особенно важными.

Старайтесь сохранять объективность и проверять факты. Умение искать сведения в разных источниках и не поддаваться первой эмоциональной реакции — важная защита от манипуляций. Если какое-то событие или человек вызывает у вас сильные чувства, задайте себе несколько вопросов:

Почему я это чувствую? Эмоция связана не только с объектом, но и с тем, как вы его воспринимаете. Какой ваш опыт или какая потребность затронута? Чем сильнее реакция, тем полезнее разобраться в ее причинах.
Кто перед вами? У новости, фильма или блога может быть определенная перспектива, а у редакции, студии или канала — собственные интересы. Даже автор, стремящийся к нейтральности, обладает личными взглядами и привычками мышления. Не стоит ни принимать все на веру, ни отвергать без проверки.
Видите ли вы суть или реагируете на оболочку? Сам объект и ваше отношение к нему — разные вещи. Если вас раздражает персонаж спектакля, помните, что перед вами актер, исполняющий роль по сценарию в чужой постановке.

Ниже перечислены дополнительные советы, которые могут помочь противостоять манипуляциям. Они дополняют привычные рекомендации по цифровой гигиене, проверке фактов и оценке источников.

Не верь, не бойся, не проси.

Многие способы давления опираются на страхи и желания. Не принимайте решение только потому, что вас соблазняют выгодой или торопят угрозами. Если кто-то настойчиво склоняет вас к определенному шагу, спросите себя почему. Возможно, этот шаг выгоднее предлагающей стороне. При этом сам человек, оказывающий давление, тоже может действовать под влиянием собственного начальства и установленных ему требований. Ответственность за происходящее нередко распределяется по всей цепочке управления.

В нашем примере Василий понял, что не стоит безоговорочно верить обвинителю и полагаться на милость системы. Он решил обратиться к адвокату, чтобы рассмотреть доступные варианты. Позже он узнает, сколько важных обстоятельств упустил и насколько полезной оказалась помощь профессионала.

Не спешите смеяться.

Люди, ставшие объектом травли, могут испытывать серьезное психологическое давление. Унижение и лишение человека человеческого облика используются и в информационных конфликтах. Все может начаться с безобидного на вид мема, продолжиться насмешками и перерасти в презрение или угрозы. Если вы замечаете, как в социальных сетях разжигают ненависть, остановитесь и подумайте, кто и зачем это делает. Вместо автоматического участия в общем потоке стоит оценить происхождение и последствия распространяемых сообщений.

Не становитесь участником травли только потому, что это делает толпа. Однажды на месте ее объекта может оказаться любой. Такой способ давления действует прежде всего потому, что окружающие продолжают его поддерживать.

Превратите минусы в плюсы.

Даже из кризиса иногда удается извлечь пользу. Это не обязательно компенсирует все потери, но может помочь справиться хотя бы с частью последствий. Например, если вы стали объектом публичной критики, можно использовать внимание аудитории, чтобы спокойно объяснить свою позицию и показать полезные результаты своей работы. Публичное давление не всегда достигает желаемой цели: порой оно, напротив, привлекает к человеку сторонников и дает ему дополнительную известность.

В нашем примере Маша решила вести блог, чтобы открыто изложить свою позицию. Теперь о ней знают не только участники травли, а появившаяся аудитория помогает ей публично отвечать оппонентам.

Будьте опасным.

Если вы столкнулись с давлением, подумайте о законных и соразмерных способах защиты. Человек, намеренный причинить вред, может отступить, когда поймет, что его действия встретят сопротивление и повлекут для него издержки. Знание своих прав, документирование происходящего и обращение за профессиональной поддержкой помогают не оставаться беззащитным.

Сергей понял, что имеющиеся у него сведения и навыки могут помочь противостоять манипуляторам.

Выбирайте рационально.

Старайтесь не принимать судьбоносные решения в спешке. Люди могут уступать не только из-за давления, но и потому, что события развиваются слишком быстро. Именно поэтому мошенники часто нагнетают обстановку и требуют немедленного ответа. Эмоциональная реакция возникает быстрее вдумчивого анализа, поэтому пауза дает возможность проверить обстоятельства и рассмотреть альтернативы.

Думайте наперед.

При выборе полезно оценивать, какой вариант оставляет больше возможностей в будущем. Если приходится выбирать из сложных решений, обратите внимание на то, какое из них сохраняет пространство для маневра. Даже привлекательное предложение, устраивающее все стороны, может ограничивать дальнейший выбор. Например, крупный эксклюзивный контракт стоит сопоставить с возможностью заключать несколько обычных сделок. Подобный вопрос возникает и в разговоре о свободе и безопасности: отказываясь от одного ради другого, важно учитывать долгосрочные последствия.

На первый взгляд согласие надеть ошейник может показаться компромиссом, но отказ от него сохраняет больше свободы действий.

Не корите себя попусту.

Даже если вы действительно совершили ошибку, исправить положение никогда не поздно. Однако чувство вины не дает другим права использовать вас в своих интересах. Между ответственностью за поступок и эксплуатацией человека существует большая разница. Особенно опасны решения, которые закрепляют вредные привычки и превращают их в инструмент чужого влияния. Работа над собственными ошибками помогает уменьшить уязвимость перед осуждением и давлением. Иногда человек, испытывающий вину, воспринимает любую беду как заслуженную кару. Но стать игрушкой в чужих руках — не значит искупить прошлое. К словам того, кто пытается использовать ваши переживания, стоит относиться критически.

Послесловие

Надеюсь, материал оказался полезным. Секрет устойчивости одновременно прост и сложен: человеку нужны воля и разум, чтобы замечать возможные ловушки и не попадаться в них.

Я публикую статьи нечасто. Мне хочется писать не потоковые материалы ради удержания аудитории, а сложные тексты для внимательного читателя. Даже если таких читателей немного, ради них стоит продолжать работу.