В Бразилии пациентка скончалась из-за ошибки ИИ-алгоритма при распределении мест в реанимации

32-летняя Ребека Кардозо Тененте Молина скончалась после пятидневного ожидания места в отделении интенсивной терапии. Трагедия произошла в Бразилии в период, когда распределение свободных коек в региональной медицинской сети курировалось автоматизированной системой на базе искусственного интеллекта.

Об этом инциденте сообщило бразильское СМИ MG1, ссылаясь на сведения, предоставленные близкими пациентки и их юристом. Молина была госпитализирована из-за осложнений желчнокаменной болезни, однако вскоре её самочувствие стремительно ухудшилось. Для спасения жизни требовался перевод в специализированное учреждение, расположенное в 300 километрах от места её нахождения.

Как заявляют родственники, они пытались добиться экстренного перевода даже через судебные инстанции, но бюрократические проволочки затянули процесс на несколько дней. Близкие убеждены, что фатальная задержка с доступом в реанимацию стала главной причиной смерти молодой женщины.

Распределением коек в штате Минас-Жерайс заведует государственный регуляционный центр Core-MG. По мнению семьи, алгоритм присвоил Молине неоправданно низкий приоритет, который совершенно не отражал тяжесть её реального состояния.

Адвокат семьи Самела Кардозо Тененте Фуртадо в беседе с журналистами подчеркнула: «Автоматика систематически оценивала клиническую картину как менее опасную, чем она была в действительности, что искусственно занижало позицию пациентки в очереди на перевод». По словам правозащитника, медики оказались в заложниках у алгоритма и не имели реальных рычагов для оперативного пересмотра выставленной программой оценки.

Речь идет о скоринговой системе, где степень критичности состояния пациента конвертируется в числовой показатель, определяющий очерёдность госпитализации. Семья утверждает, что программа была негибкой и не позволяла корректировать приоритет пациента, даже если поступали новые тревожные данные о прогрессировании болезни.

В официальном ответе Департамента здравоохранения штата Минас-Жерайс утверждается, что распределение ресурсов происходит с учетом свободных мест и профильных медицинских показаний. Чиновники настаивают, что система Core-MG лишь регулярно обновляет данные о наличии свободных коек и ни в коем случае не подменяет собой экспертное мнение лечащих врачей.

Представители власти также заверили, что внедрение ИИ не повлекло за собой изменений в регламентах перевода пациентов между клиниками.

Данная история вызвала широкий общественный дискурс об этике использования алгоритмов в медицине. В условиях острого дефицита ресурсов ИИ все чаще становится инструментом сортировки больных, однако вопрос о том, кто несет ответственность за ошибки программы, влияющие на исход лечения, остается открытым.

Источник: iXBT