Индонезия первой в мире запретила чат-бот Grok Илона Маска из-за риска генерации порнографии

11 января глава Министерства связи и цифровых технологий Индонезии объявил о введении временного запрета на использование Grok — интеллектуального чат-бота от компании xAI, принадлежащей Илону Маску. Столь радикальное решение продиктовано опасениями властей, что нейросеть может быть использована для генерации материалов порнографического характера.

Индонезия создала глобальный прецедент, став первым государством, официально заблокировавшим доступ к конкретному ИИ-инструменту на национальном уровне. Напомним, что Grok является разработкой стартапа xAI и глубоко интегрирован в функционал социальной платформы X.

В последнее время участились случаи, когда пользователи соцсети X эксплуатируют возможности Grok для модификации медиафайлов. С помощью инструментов ИИ создаются реалистичные дипфейки откровенного содержания с участием реальных личностей, которые затем беспрепятственно распространяются внутри платформы.

Ранее уже появлялась информация о том, что компания xAI была вынуждена ужесточить правила работы алгоритмов генерации изображений. К этому шагу разработчиков подтолкнул мощный общественный резонанс и критика, вызванные массовым появлением фейковых снимков сексуального подтекста, созданных при помощи данного чат-бота.

Источник: iXBT