ChatGPT научился распознавать признаки депрессии и предлагать экстренную помощь

Поскольку общение с искусственным интеллектом стало привычной частью повседневности, пользователи всё чаще доверяют чат-ботам свои глубокие эмоциональные переживания. Отвечая на этот вызов, OpenAI представила механизм, переносящий заботу из виртуальной среды в реальную жизнь. Новая функция Trusted Contact позволяет совершеннолетним пользователям назначить доверенное лицо, которое будет проинформировано, если алгоритмы распознают в переписке признаки экзистенциальной угрозы или намерение нанести себе вред.

Активация функции происходит исключительно на добровольной основе. Пользователь может выбрать доверенного адресата (старше 18 лет), которому будет отправлен официальный запрос. У кандидата есть семь дней на подтверждение своего статуса; в случае отказа или отсутствия ответа пользователь вправе выбрать другого человека. Важно отметить, что система не работает автономно: OpenAI предусмотрела обязательную модерацию специалистами, чтобы минимизировать вероятность ложных срабатываний.

Механизм оповещения многоступенчат. Когда нейросеть ChatGPT выявляет тревожные маркеры в беседе, она прежде всего рекомендует пользователю обратиться за поддержкой к близким, информируя о возможности отправки уведомления. Параллельно к анализу подключается команда профильных модераторов. Если эксперты подтверждают наличие критического риска, доверенное лицо получает соответствующее извещение по SMS, email или через интерфейс приложения.

Компания уделяет приоритетное внимание приватности: доверенный контакт не получает доступа к истории переписки или конфиденциальным деталям диалога. Сообщение носит уведомляющий характер, сообщая лишь о том, что в беседе были затронуты темы самоповреждения, и содержит призыв выйти на связь с человеком. OpenAI стремится к тому, чтобы весь цикл человеческой проверки занимал не более часа.

В разработке Trusted Contact принимали участие ведущие эксперты и профильные организации в сфере ментального здоровья, включая Американскую психологическую ассоциацию. Расширение этого функционала на взрослую аудиторию стало логичным продолжением аналогичной системы, ранее внедренной для защиты подростков.

Разработчики особо подчеркивают: данное решение не является заменой экстренных служб, профильных горячих линий или профессиональной терапевтической помощи. ChatGPT продолжит в приоритетном порядке перенаправлять пользователей к квалифицированным специалистам. Внедрение Trusted Contact — это признание того, что в моменты душевного кризиса технологии должны служить мостом к реальной человеческой поддержке. Пользователь может изменить или полностью отключить настройки данной функции в любой момент.

Источник: iXBT