Технологический стартап Илона Маска xAI ввел жесткие ограничения на редактирование фотографий реальных людей в своем чат-боте Grok. Поводом для такого решения послужил масштабный скандал, вызванный созданием порнографических дипфейков с помощью нейросети.
Разработчики были вынуждены пересмотреть правила работы сервиса после того, как пользователи начали массово генерировать интимный контент. Речь идет о создании реалистичных изображений сексуализированного характера без согласия субъектов, а также о случаях обработки снимков с участием несовершеннолетних.
«Мы внедрили комплекс технических мер, направленных на пресечение любых попыток редактирования фотографий реальных людей с целью придания им непристойного вида. Данные правила распространяются на всех без исключения, включая владельцев премиум-аккаунтов. Кроме того, функции генерации и обработки изображений теперь доступны только платным подписчикам. Это обеспечит дополнительный уровень идентификации и позволит привлекать к ответственности лиц, злоупотребляющих инструментами Grok для нарушения закона или наших этических норм», — подчеркнули в пресс-службе xAI.
Несмотря на заявление Илона Маска о том, что демонстрация обнаженного тела разрешена лишь до пояса и исключительно для вымышленных героев, журналисты iXBT.com опытным путем выяснили, что фильтры системы все еще можно обойти, создавая полностью обнаженных персонажей без особых препятствий.
_large.jpg "В Grok ограничили возможности редактирования фото из-за скандала с генерацией наготы")
В государствах, где подобный контент запрещен на законодательном уровне, доступ к нему будет полностью заблокирован. Представители xAI подтвердили приверженность политике нулевой терпимости к сексуальной эксплуатации детей и публикации интимных материалов без согласия, заверив, что любой нежелательный контент оперативно удаляется с платформы.
Ранее власти Малайзии и Индонезии уже заблокировали чат-бот Grok. В свою очередь, премьер-министр Великобритании Кир Стармер отметил, что правительство рассматривает различные сценарии реагирования, включая потенциальный запрет социальной сети X. Британская сторона также инициировала консультации с Канадой и Австралией о возможной совместной блокировке платформы Илона Маска.
Источник: iXBT
