OpenAI приступила к глобальному внедрению интеллектуальных алгоритмов для верификации возраста аудитории ChatGPT. Новая аналитическая система призвана в автоматическом режиме идентифицировать несовершеннолетних участников сообщества. В основу прогнозной модели легли поведенческие факторы и метаданные профиля: продолжительность использования сервиса, типичные интервалы активности, специфические паттерны взаимодействия с ИИ и заявленные при регистрации сведения.
В случае ошибочной классификации пользователя как ребенка, восстановить доступ к полному функционалу можно будет только путем предоставления селфи через верификационный сервис Persona для документального подтверждения совершеннолетия.
Ранее OpenAI столкнулась с серьезными претензиями относительно безопасности юных пользователей. В частности, компания оказалась вовлечена в судебное разбирательство, спровоцированное трагической гибелью подростка, который, по версии следствия, использовал чат-бот для подготовки к суициду. В качестве ответных мер разработчики внедрили автоматизированные барьеры для фильтрации контента и учредили экспертный совет, курирующий вопросы психологического благополучия.
Развертывание системы возрастной сегрегации служит фундаментом для грядущего запуска «взрослого режима». Эта опция позволит совершеннолетним пользователям генерировать и просматривать материалы категории NSFW (not-safe-for-work), которые ранее блокировались стандартными фильтрами безопасности.
Источник: iXBT
