OpenAI выразила обеспокоенность относительно возможных последствий внедрения нового голосового режима ChatGPT, доступного для подписчиков ChatGPT Plus.
Компания в своём отчёте отмечает, что реалистичность голосов ИИ-чат-бота и его способность адаптироваться к разговорам могут привести к появлению у пользователей зависимости от общения с ИИ.
OpenAI опасается, что такая зависимость может снизить потребность людей в настоящих социальных контактах, что, хотя и может поддержать одиноких людей, может также негативно сказаться на здоровых отношениях.
Кроме того, компания отметила, что голосовое взаимодействие с ChatGPT может вызвать у пользователей чрезмерное доверие к полученной от ИИ информации, что особенно важно учитывать из-за склонности моделей к ошибкам.
OpenAI также подчеркнула, что взаимодействие с ИИ может изменить нормы социальных взаимодействий, так как пользователи привыкают к возможности прерывать и брать инициативу в разговоре, что не всегда соответствует этикету человеческого общения.
OpenAI заявила, что будет продолжать тщательно оценивать, как голосовые возможности её ИИ влияют на эмоциональную привязанность пользователей. Компания планирует исследовать воздействие своих технологий на эмоциональное состояние пользователей и стремится обеспечить их безопасное применение.