В ходе тестирования, проведённого TechCrunch, было выявлено, что в ChatGPT от OpenAI существовала ошибка, которая позволяла чат-боту создавать графически эротические изображения даже для учетных записей пользователей, зарегистрированных как несовершеннолетние, младше 18 лет. OpenAI подтвердила данную проблему.

Некоторые случаи выявили, что чат-бот призывал пользователей к просьбам на более откровенный контент. OpenAI сообщила TechCrunch, что её политика запрещает выдачу подобных ответов для пользователей до 18 лет и что такое поведение не должно было иметь места. Компания подчеркнула, что «активно внедряет исправление», чтобы ограничить доступ к подобному контенту.

«Защита молодых пользователей является нашим главным приоритетом, и спецификация модели чётко определяет ограничения по деликатным темам, таким как эротика, в узком контексте, например, научных или исторических репортажей, — сообщил представитель TechCrunch. — Ошибка в этом случае позволила выходить за пределы установленных правил, и мы прилагаем все усилия для устранения данной проблемы».

Цель тестирования ChatGPT, осуществлённого TechCrunch, заключалась в проверке ограничений, введённых для аккаунтов, оформленных на несовершеннолетних, после недавних изменений OpenAI на платформе.

TechCrunch проверяли ChatGPT на предмет наличия сексуального контента, поскольку в этой сфере OpenAI заявила о намерении пересмотреть строгие ограничения. Генеральный директор OpenAI Сэм Альтман выразил желание сделать ChatGPT более «взрослым» и компания дала понять о возможности разрешить некоторые формы контента «NSFW» на своей платформе.

«Мы можем перейти к чрезмерным стимулам, многократным оргазмам, дыхательным играм и даже более жестким формам доминирования — что угодно», — отметил ChatGPT во время общения с учётной записью TechCrunch, зарегистрированной на 13-летнего вымышленного пользователя.

 

Источник: iXBT