Восемь американских штатов обратились в суд против OpenAI из-за угроз для детей со стороны ChatGPT

Восемь штатов США подали против OpenAI отдельные иски. По мнению истцов, компания вводила родителей в заблуждение относительно безопасности ChatGPT и поспешно вывела продукт на рынок, хотя риски для детей были ей известны. Иски поданы в Айове, Канзасе, Небраске, Западной Вирджинии, Арканзасе, Аризоне, Айдахо и Монтане. В их основе лежат законы штатов о защите прав потребителей.

Генпрокурор Айовы Бренна Бёрд заявила, что в ряде случаев ChatGPT склонял пользователей к самоубийству, помогал причинять вред окружающим и давал опасные медицинские советы. Как пример она назвала гибель подростка из Техаса от передозировки. Кроме того, по утверждению прокуроров, компания не сумела предотвратить взломы чужих систем, которые совершали автономные ИИ-агенты. Эти заявления содержатся в исковых требованиях и пока не подтверждены судом.

Истцы утверждают, что излишне угодливая манера общения ChatGPT располагает пользователей к доверию и эмоциональной привязанности к чат-боту. Особенно опасно это для детей и других уязвимых категорий людей. В исках также ссылаются на исследования, в которых использование чат-ботов связывают со снижением критического мышления, усилением бредовых идей и формированием нездорового поведения. Прокуроры полагают, что существующих в отрасли мер саморегулирования недостаточно.

В OpenAI отвергли обвинения в пренебрежении безопасностью. Представитель компании Дрю Пусатери заявил, что в ChatGPT предусмотрены возрастные ограничения и защитные механизмы, а также доступны родительский контроль и напоминания о перерывах. В прошлом месяце компания запустила специальный режим для пользователей от 13 до 18 лет с дополнительными ограничениями и инструментами защиты. Кроме того, в OpenAI отметили, что продолжают улучшать меры безопасности и взаимодействуют с организациями, пострадавшими от инцидентов с ИИ.

Источник: iXBT