Как ИИ переписывает нашу память: уязвимость человеческого мозга

Сгенерированные нейросетями выжимки о событиях, свидетелем которых вы были лично, способны формировать в голове ложные воспоминания. Точность восстановления картины происходящего падает ровно вдвое. Причем фальшивые образы успешно внедряются в сознание даже тогда человека заранее и напрямую предупреждают о том, что саммари составлено искусственным интеллектом.

Всем привет! Меня зовут Филипп, я практикующий психолог. Этот материал, как и ряд других моих публикаций, посвящен исследованию работы человеческого мозга и особенностей поведения. Все тексты опираются на верифицированные научные работы, прямые ссылки на которые обязательно прилагаются.

Главные тезисы исследования

Для тех, кто предпочитает сразу перейти к сути без долгого чтения.

Масштабные пробелы в данных. Популярные мультимодальные ИИ-системы вроде ChatGPT и Gemini при автоматическом анализе видеоматериалов теряли более 51% ключевых моментов. Более того, в 95% случаев алгоритмы вообще не упоминали центральный инцидент — наезд автомобиля на пешехода.

Двукратное падение точности памяти. Люди, изучавшие текстовый отчет, составленный человеком, безошибочно воспроизводили детали происшествия в 83,6% случаев. Среди тех, кто пользовался сводкой от нейросети, этот показатель рухнул до 44,8%.

Предупреждения не работают. Маркировка «Создано ИИ» никак не защищает ментальный аппарат от искажений. Участники эксперимента впитывали чужие ошибки независимо от уровня своей цифровой грамотности или изначального кредита доверия к технологии.

Источник: AI‑Enabled Human Memory Manipulation: Misleading AI‑Generated Summaries Distort Human Memory

Мы не извлекаем факты из памяти, а переписываем их заново

Сегодня наблюдается устойчивый тренд на интеграцию больших языковых моделей везде — от стенографирования корпоративных планерок до обработки нагрудных видеорегистраторов сотрудников полиции. ИИ поручают сжимать колоссальные массивы аудио и видео в лаконичные дайджесты.

Однако когнитивные психологи неустанно напоминают: наша память — это вовсе не жесткий диск с неизменяемыми архивными записями. Память представляет собой гибкий, динамичный процесс, крайне восприимчивый к дезинформации, поступающей уже после пережитого опыта. К слову, схожие эффекты фиксировались и ранее: например, текстогенерация с помощью нейросетей незаметно заражает авторов чужеродными когнитивными искажениями, которые алгоритмы подспудно вплетают в канву повествования.

Масштабная научная работа, выполненная специалистами из Вашингтонского и Джорджтаунского университетов, наглядно демонстрирует, насколько сильно генеративный искусственный интеллект деформирует наши подлинные воспоминания.

Упущение значимых деталей — главный изъян компрессии

Ученые сфокусировались на двух важнейших аспектах взаимодействия с ИИ: базовой достоверности коммерческих алгоритмов при суммировании видео и последующих психологических последствиях для наблюдателей.

Кому интересны детали дорожного наезда?

На первом этапе исследователи протестировали передовые модели ChatGPT (OpenAI) и Gemini (Google) на анимированных симуляциях ДТП, которые традиционно применяются в судебной практике для проверки показаний свидетелей.

Итог оказался неутешительным: искусственный интеллект систематически игнорировал маркеры событий, генерировал перманентные галлюцинации и пропускал критически важные эпизоды.

В среднем нейросети «теряли» 51,6% ключевых фаз происшествия. А в 95% проанализированных кейсов алгоритмы полностью опускали ключевой момент видеоряда — момент столкновения машины с пешеходом на зебре.

Утерянная автономия памяти: заражение фейками за двое суток

Чтобы измерить ущерб в цифрах, исследователи привлекли 331 добровольца. Испытуемые смотрели короткую анимацию: красный автомобиль подъезжает к перекрестку со знаком «Стоп» или «Уступите дорогу», совершает маневр и сбивает пешехода.

Спустя 24–48 часов участникам выдавали текстовые рапорты об инциденте. Часть респондентов получала абсолютно правдивые описания, тогда как другие читали версии с намеренно внедренными логическими ошибками и искажениями. Примечательно, что все эти тексты были подготовлены нейросетью, но сопровождались разными плашками — «Написано человеком» либо «Сгенерировано ИИ».

Статистика показала впечатляющий контраст: 83,6% зрителей с корректными отчетами безупречно вспомнили сцену из ролика. Но стоило людям ознакомиться с дефектным ИИ-рапортом, как показатель точности памяти падал почти вдвое — до 44,8%.

Человеческий фактор и иллюзия безопасности от маркировки

Осознание того факта, что текст вышел из-под пера машины, не давало абсолютно никакой ментальной защиты. Респонденты беспрепятственно перенимали ложные установки независимо от того, кого они считали автором отчета. Базовое доверие к технологиям или предварительная информированность об их принципах работы также не выступали буфером против искажений.

Это полностью разрушает популярную бюрократическую иллюзию о том, что обязательное присутствие «человека в контуре» способно нивелировать галлюцинации искусственного интеллекта.

В судебно-следственной практике офицер полиции или случайный свидетель, прочитавший перед допросом искаженную нейросетью сводку, может искренне и непреднамеренно принять чужие технологические галлюцинации за собственные подлинные воспоминания.

В планах исследовательской группы — выйти за рамки мультяшных симуляций и протестировать реальные записи с нательных полицейских камер, чтобы детально проследить, как именно алгоритмы суммаризации влияют на официальные протоколы и свидетельские показания в ходе реальных судебных процессов.

Комментарии авторов научной работы

Искусственный интеллект фактически выступает новым вектором распространения деформированной информации, способным формировать ложные воспоминания у людей, слепо доверяющих технологиям. Нам необходимо предельно критически осмыслить целесообразность и методы применения ИИ для агрегации данных, особенно в зонах повышенной ответственности.

Маттеа Сим, ведущий автор проекта, доцент-исследователь Центра анализа массовых данных в Школе государственной политики Маккорта при Джорджтаунском университете.

Меня откровенно шокировало низкое качество этих сводок даже на нынешнем этапе технологического развития. Тревожно видеть, как полицейские департаменты бросаются внедрять системы видеоаналитики без предварительных стресс-тестов и понимания того, насколько ущербными могут быть машинные резюме.
Яэль Эйгер, соавтор исследования, аспирантка Вашингтонского университета.

Данная работа — часть масштабной инициативы Джорджтаунского университета, нацеленной на изучение точек пересечения человека и ИИ на стыке компьютерных наук и психологии.
Йоши Коно, соавтор проекта, зав. кафедрой этики компьютерных систем и общества им. Макдевитта в Джорджтаунском университете.

Интуитивно мы ждем, что человек, контролирующий процесс, будет исправлять компьютерные баги. Однако наше исследование доказывает противоположное: человеческая память прогибается под натиском машинных ошибок. ИИ способен незаметно конструировать фейки, перекраивающие наше прошлое, причем даже при полном отсутствии злонамеренного умысла со стороны разработчиков.
Общий вывод научной группы.

Послесловие

Этот материал подготовлен мной в личное время как творческая адаптация свежего научного исследования, гиперссылка на которое оставлена в блоке ключевых фактов. Работа человеческой психики, модели когнитивных процессов и устройство разума неизменно остаются в сфере моих главных интересов.

Подобные научные изыскания отлично отрезвляют, показывая, насколько податлива наша ментальная матрица и как легко под воздействием свежих информационных вводных деформируется то, что еще вчера казалось незыблемым.

На мой взгляд, искусственный интеллект был и остается лишь инструментом. И попытка переложить на него ответственность за собственные ментальные функции — это главный риск эффективного применения его колоссального потенциала.

Традиционно жду ваши вопросы и мысли в комментариях!

 

Источник