Исследование Virginia Tech: ИИ стал давать более предвзятые советы после упоминания аутизма пользователем

Ученые из Вирджинского политехнического института (Virginia Tech) проанализировали, каким образом упоминание пользователем диагноза аутизм меняет характер советов, генерируемых продвинутыми нейросетями, такими как GPT-4 и Claude. Выяснилось, что подобные признания зачастую провоцируют ИИ на трансляцию шаблонных рекомендаций, которые необоснованно сужают горизонты социального взаимодействия.

Доклад об этом исследовании был представлен в апреле на престижной конференции по компьютерным наукам CHI. Эксперимент показал, что алгоритмы склонны выстраивать ответы, опираясь на предрассудки: так, если в запросе фигурировал диагноз, модели советовали ограничить общение в 70% случаев, тогда как при отсутствии упоминания аутизма этот показатель падал до 15%.

В ходе масштабного тестирования, охватившего 6 популярных языковых моделей и 345 000 сгенерированных ответов, авторы работы обнаружили, что нейросети проецируют на аутичных людей стереотипы об их якобы врожденной замкнутости, социальной некомпетентности или незаинтересованности в романтике. В частности, вероятность совета отказаться от отношений возрастала до 70% при наличии упоминания диагноза, против 50% в нейтральных сценариях.

Интервью с 11 аутичными пользователями выявили неоднозначное отношение к подобным рекомендациям: часть респондентов восприняла их как заботу, другие же увидели в этом дискриминационные ограничения. Этот феномен авторы назвали «парадоксом безопасности и возможностей»: советы, призванные оградить пользователя от дискомфорта, на деле часто становятся препятствием для полноценной жизни.

Авторы исследования настаивают на повышении прозрачности ИИ-систем, чтобы дать людям возможность самостоятельно регулировать использование их личных данных в диалоге. Полученные данные призваны помочь разработчикам в создании более гибких алгоритмов, способных учитывать индивидуальные особенности без скатывания к вредоносным стереотипам.

Источник: iXBT