Новая стратегия предполагает оперативную идентификацию нарушений, актуализацию правовой базы и ужесточение надзора за созданием деструктивного контента.
Компания OpenAI представила комплексную программу по обеспечению безопасности несовершеннолетних в эпоху повсеместного внедрения искусственного интеллекта. Опубликованный документ, получивший название Child Safety Blueprint, призван оптимизировать процессы выявления угроз, усовершенствовать систему подачи жалоб и повысить результативность расследований, касающихся использования нейросетей в преступных целях.
По статистике Internet Watch Foundation (IWF), в первом полугодии 2025 года количество зафиксированных случаев распространения ИИ-контента, связанного с сексуальной эксплуатацией несовершеннолетних, превысило 8000. Этот показатель на 14% превосходит данные аналогичного периода прошлого года. Злоумышленники активно применяют возможности генеративных моделей для создания фальшивых медиаматериалов, которые в дальнейшем используются для психологического давления и вымогательства.
Разработка инициативы велась при тесном взаимодействии с Национальным центром по делам пропавших и эксплуатируемых детей (NCMEC), а также при поддержке Альянса генеральных прокуроров, включая представителей правоохранительных органов Северной Каролины и Юты. Ключевые аспекты стратегии включают модернизацию законодательства с учетом специфики ИИ-материалов, отладку алгоритмов взаимодействия с полицией и внедрение превентивных защитных барьеров непосредственно в архитектуру нейросетей.
Параллельно OpenAI ужесточила внутреннюю политику безопасности, наложив строгий запрет на создание недопустимого контента и генерацию рекомендаций, способных спровоцировать самодеструктивные действия. Данные ограничения стали логическим развитием уже принятых мер, включая специальные гайдлайны, разработанные для аудитории подросткового возраста.
Представленный план стал ответом на нарастающее давление со стороны регуляторов и общественности. Напомним, что в ноябре минувшего года в Калифорнии против OpenAI был инициирован судебный процесс: компанию обвинили в преждевременном запуске GPT-4o без надлежащих проверок, что, по мнению истцов, спровоцировало манипулятивное воздействие на пользователей, повлекшее за собой трагические последствия.
В OpenAI выражают уверенность, что новая инициатива позволит не только значительно ускорить обнаружение потенциально опасных инцидентов, но и наладить канал оперативной передачи данных правоохранительным органам, тем самым существенно повысив эффективность противодействия эксплуатации детей в цифровой среде.
Источник: iXBT
