Google отключила генерацию ИИ-изображений в Google Earth через день после запуска

Корпорация Google свернула недавно анонсированный генератор изображений в Google Earth всего спустя сутки после запуска. Опция позволяла формировать фотореалистичные космические снимки на основе текстовых промптов. Представители компании пояснили, что меру приняли из-за лавинообразного распространения контента, противоречащего регламенту платформы, поэтому опцию деактивировали вплоть до интеграции надежных протоколов безопасности.

Новый функционал давал возможность указать любую точку планеты, активировать опцию визуализации и задать параметры желаемой картины. Тем не менее эксперты в области разведки по открытым источникам (OSINT) незамедлительно забили тревогу, подчеркнув опасный потенциал технологии для создания искусных фальсификаций. В ходе экспериментальных тестов исследователи беспрепятственно смоделировали несуществующие масштабные пожары на иранском острове Харк, искусственное затопление Капитолия в Вашингтоне, следы бомбардировок и прочие масштабные происшествия, неотличимые от подлинных репортажей.

Космические фотографии традиционно воспринимались как эталон достоверности и важнейший элемент фактчекинга. Редакторы СМИ и независимые аналитики постоянно применяют их для подтверждения сведений из горячих точек и закрытых регионов. Как отмечают специалисты по визуальным расследованиям из Bellingcat* и профильных организаций, интеграция нейросетевой генерации в картографический сервис не только облегчит производство изощренных подделок, но и подорвет доверие к подлинным архивам спутниковых данных.

В Google подчеркивают, что каждый созданный файл маркируется специальным криптографическим маркером SynthID, а алгоритмы пресекают генерацию очевидно деструктивного материала. Тем не менее, данные аргументы не успокоили борцов с фейками: критическим фактором стало само появление генеративного ИИ внутри платформы, десятилетиями служившей эталонным арбитром при проверке новостей и медиаконтента из соцсетей.

* Компания «Stichting Bellingcat», зарегистрированная в Нидерландах (дата регистрации 11.07.2018) включён в реестр иностранных агентов

Источник: iXBT