Все больше людей обращаются к ИИ-чатботам для самодиагностики, но эксперты предостерегают о возможных рисках

Возрастающая нагрузка на системы здравоохранения и увеличение стоимости медицинских услуг вынуждают людей обращаться к ИИ-чатботам для самодиагностики. Согласно последнему опросу, каждый шестой взрослый в США использует подобные решения для получения медицинских рекомендаций по крайней мере один раз в месяц. Однако, исследование Оксфордского университета выявило опасность излишнего доверия к этим системам, так как пользователи не всегда способны правильно формулировать свои запросы.

Исследователи из Оксфорда привлекли для участия в эксперименте около 1300 человек из Великобритании. Им были предложены медицинские сценарии, составленные врачами, для определения возможных диагнозов и выбора действий, таких как визит к врачу или посещение больницы, используя чат-ботов или традиционные методы — интернет-поиск и личные суждения. В ходе эксперимента применялись модели GPT-4o (основная модель ChatGPT), Command R+ от Cohere и Llama 3 от Meta*. Результаты показали, что участники, полагавшиеся на ИИ, реже точно определяли свое состояние здоровья и чаще недооценивали его серьезность по сравнению с теми, кто действовал самостоятельно.

«Был обнаружен двусторонний сбой в коммуникации, — пояснил Адам Махди, соавтор исследования и директор по аспирантуре Оксфордского интернет-института. — Пользователи часто упускали важные детали в запросах, а ответы ботов содержали как полезные, так и ошибочные рекомендации». По его мнению, существующие методы оценки чат-ботов не учитывают сложности взаимодействия с людьми, что увеличивает риск неверных выводов.

Эта тенденция вызывает озабоченность на фоне активного использования ИИ в области здравоохранения. Apple разрабатывает инструмент для рекомендаций по питанию, сну и физической активности, Amazon тестирует систему для анализа медицинских данных с целью выявления социальных факторов здоровья, а Microsoft участвует в создании ИИ для сортировки сообщений пациентов. Однако эксперты и пациенты сомневаются в готовности технологий для выполнения задач с высоким уровнем риска. Американская медицинская ассоциация не рекомендует врачам использовать чат-боты для клинических решений, а компании, такие как OpenAI, предупреждают, что их системы не предназначены для диагностики.

«В вопросах здоровья важно опираться на проверенные источники, — подчеркнул Махди. — Прежде чем внедрять ИИ-решения, необходимо провести реальные испытания, аналогичные клиническим тестам лекарств». Без учета человеческого фактора и совершенствования алгоритмов чат-боты могут не только вводить в заблуждение, но и усиливать проблему перегруженности медучреждений из-за некорректных советов. Пока же вопрос о том, может ли ИИ стать надежным помощником в медицине, остается открытым.

* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена

Источник: iXBT