Американские госведомства начинают внедрение неоднозначного чат-бота Grok

Министерство сельского хозяйства США (USDA) официально подтвердило, что гордится интеграцией чат-бота Grok в свои корпоративные бизнес-процессы.

Для компании xAI это событие стало важным этапом в экспансии на рынок государственных услуг США. Ранее администрация Трампа инициировала соглашения с разработчиками ИИ, предоставив федеральным ведомствам льготный доступ к передовым языковым моделям.

Тем не менее, адаптация Grok вызывает волну скепсиса. Репутацию чат-бота серьезно подпортили инциденты, связанные с генерацией неэтичного контента и сомнительной модерацией. В прошлом году нейросеть оказалась в центре скандалов из-за создания оскорбительных изображений без согласия пользователей, что закономерно привлекло внимание контролирующих органов.

В настоящий момент государственные структуры действуют крайне осмотрительно: часть ведомственных платформ пока блокируют использование Grok, ожидая завершения комплексных проверок безопасности. Полномасштабное внедрение в государственную IT-инфраструктуру возможно только после прохождения строгой сертификации FedRAMP и независимого аудита.

В начале года, отреагировав на общественное недовольство из-за создания интимных дипфейков, специалисты xAI были вынуждены ограничить возможности редактирования фотографий реальных людей с помощью нейросети.

Стоит отметить, что на международной арене отношение к разработкам Илона Маска более жесткое. Власти Малайзии и Индонезии уже ввели полный запрет на использование Grok из-за риска генерации порнографического контента. Премьер-министр Великобритании Кир Стармер ранее заявлял, что Лондон рассматривает все сценарии, вплоть до блокировки платформы X. Кроме того, Великобритания вела консультации с Австралией и Канадой о введении коллективных ограничительных мер против ресурсов предпринимателя.

Источник: iXBT