Индия потребовала от соцсети X ограничить работу чат-бота Grok из-за генерации непристойных изображений

Власти Индии выдвинули требование к социальной сети X, принадлежащей Илону Маску, пересмотреть принципы функционирования нейросети Grok. Причиной послужила генерация неприемлемого контента. Министерство информационных технологий установило для платформы 72-часовой дедлайн на исправление ситуации.

Основанием для претензий стали жалобы пользователей и парламентариев на создание чат-ботом откровенных изображений, включая дипфейки с участием женщин. Государственное ведомство обязало X внедрить механизмы, блокирующие воспроизведение материалов с элементами наготы, сексуализации и иного контента, нарушающего законодательство.

В течение трех суток администрация X должна отчитаться о мерах, принятых для предотвращения публикации и распространения подобного контента. Официальный Дели предупредил: игнорирование данных требований может лишить компанию правового иммунитета, защищающего платформу от ответственности за действия пользователей.

Депутат Приянка Чатурведи (Priyanka Chaturvedi), подавшая официальную жалобу, обратила внимание на использование Grok для цифровой обработки фотографий женщин с целью придания им сексуализированного вида. Она подчеркнула необходимость внедрения жестких этических фильтров в ИИ-инструменты, чтобы исключить возможность посягательства на человеческое достоинство.

Кроме того, были зафиксированы случаи создания нейросетью порнографических изображений с участием несовершеннолетних. В ответ на это представители X заявили об удалении запрещенных материалов и призвали сообщество передавать информацию о подобных нарушениях в правоохранительные органы, такие как ФБР или Национальный центр защиты детей (NCMEC).

Министерство информационных технологий Индии акцентировало внимание на том, что соблюдение местных законов в сфере контроля деликатного контента является обязательным условием для сохранения статуса защищенного информационного посредника. В противном случае ИТ-гиганту могут грозить серьезные юридические санкции.

Индийский регион на текущий момент остается одним из ключевых и наиболее динамично развивающихся цифровых рынков в мире.

Источник: iXBT