Впервые я обратил внимание на деятельность «Лаборатории нейронаук и поведения человека» на этой неделе, ознакомившись со статьей на SE7ENе, посвященной способности ИИ корректировать человеческое мнение через моральные дилеммы. Учитывая репутацию Сбера как флагмана в разработке российских нейросетей, я подошел к материалу с должным вниманием. Тем удивительнее было обнаружить, что авторы — сотрудники профильной Лаборатории — отнеслись к собственной работе крайне поверхностно.
Обилие ошибок, которые я поначалу принял за досадные опечатки, в сочетании с весьма вольной интерпретацией экспериментальных данных, побудило меня проанализировать деятельность этого подразделения и истинные цели их изысканий.
Научная состоятельность Лаборатории
К сожалению, поисковые системы не выдают значимых научных публикаций от этого коллектива, помимо вышеупомянутого материала. Выходит, что научный департамент, функционирующий с 2019 года, за шесть лет не сформировал сколько-нибудь весомого академического багажа. К качеству их публикации у меня возник ряд претензий.
Во-первых, налицо методологические просчеты: авторы путаются в описании контрольных групп и расчетах отклонений. Во-вторых, наблюдается небрежное обращение с философской терминологией — например, искажение понятия «деонтологии». Такие промахи выглядят не просто как опечатки, а как тревожный признак подгонки данных под заранее утвержденный вывод.
В целом, статья направлена на продвижение концепции руководителя Лаборатории Андрея Курпатова, согласно которой человек — это биологический автомат, лишенный подлинной свободы воли, подверженный конформизму и легко манипулируемый внешними триггерами, а сознание лишь постфактум рационализирует принятые мозгом решения.
Однако некорректная постановка эксперимента скорее опровергает эту теорию: участники в большинстве своем сохраняли исходную позицию. «Высокая конформность» была зафиксирована лишь благодаря спорной математической интерпретации, где близость к ответам контрольной группы была ошибочно приравнена к конформизму, а не к независимости мышления.
Более того, сравнение ситуаций, где человек сталкивается с давлением шести «социальных» участников без аргументации, и случая, где ИИ приводит логические доводы, методологически неверно. По сути, авторы сопоставляют несопоставимые факторы.
Человек — социальное существо. В первом случае проще согласиться публично, сохранив скепсис при себе, что и отражается в анкетах. Во втором случае срабатывает рациональный отклик на аргументацию. Фактически, измерялась убедительность философских доводов, а не эффективность социального давления.
Тот факт, что в «живом» общении разрыв между публичным мнением и реальным убеждением огромен (56% против 2,6% в случае с ИИ), доказывает отсутствие психологического давления со стороны алгоритма и ставит под сомнение выводы представленного препринта.
Итог исследования лишь подтверждает банальную истину: если аргументированно воздействовать на сознание, человек может пересмотреть свою точку зрения. Что ж, возможно, цели Лаборатории лежат вне плоскости академической науки.
Лаборатория в бизнес-контексте
Если принять тезис о человеке как о предсказуемом биоавтомате, то направления работы Лаборатории выглядят вполне логичными:
-
Анализ эмоций: Разработка технологий распознавания голоса для оценки эмоционального состояния в реальном времени. Человек превращается в поставщика биометрических данных для скрытого анализа.
-
Повышение лояльности: Создание методологий клиентского опыта, построенных на глубоком изучении психологии потребностей.
-
Психопрофилирование: Формирование цифровых досье. Алгоритмический подбор операторов колл-центров под психотип клиента и аналогичные системы отсева сотрудников по критериям «математической эффективности».
Руководство Сбера открыто заявляет о намерении выстроить эмоциональную привязанность к пользователям как основу конкурентного преимущества. Сообщения о создании «ИИ-модели психической реальности человека» лишь подтверждают стремление компании овладеть инструментами прямого влияния на поведение.
Человек — манипулируемый объект или сознательный субъект?
Простота тезиса о человеке-автомате привлекательна для бизнеса, но практически несостоятельна. Игнорируя способность индивида к рефлексии и пересмотру собственных убеждений, авторы манипулятивных моделей попадают в ловушку. Данные их же исследования показывают: когда ИИ предлагает аргументированную позицию, человек проявляет критическое мышление, а не слепую конформность.
Попытки выстроить алгоритмы влияния на базе ошибочной механистической парадигмы обречены. Если объект воздействия вступает в диалог с системой, а не механически подчиняется ей, эффективность психопрофилирования стремится к нулю.
В итоге мы видим лабораторию, которая шесть лет трудится над «кнопкой управления человеком», но в своем же научном отчете, полном логических огрехов, невольно доказывает, что люди — это вовсе не кнопки. Остается надеяться, что небрежность, продемонстрированная в публикации, не является системной характеристикой всей деятельности Лаборатории.
