OpenAI намерена модернизировать своего популярного чат-бота ChatGPT после подачи иска, связанного с трагической гибелью подростка этой весной, сообщает Bloomberg.
В исковом заявлении говорится, что погибший подросток использовал ChatGPT в роли «личного наставника», и родители полагают, что его рекомендации могли усугубить эмоциональное состояние сына.
В официальном релизе OpenAI подчёркивается, что в ближайшем обновлении системе будут встроены расширенные механизмы распознавания признаков психологического стресса. Например, при упоминании бессонных ночей бот будет объяснять опасность хронического недосыпа и предлагать сделать перерыв.
Компания также усилит фильтры безопасности в диалогах на тему самоубийства: представители OpenAI признают, что существующие меры могут «сбоить» в длительных беседах и требуют доработки.
Ранее ChatGPT уже подвергался критике за потенциально небезопасные советы в эмоционально напряжённых ситуациях. Новые изменения призваны повысить надёжность и безопасность работы ИИ-помощника.