Искусственный интеллект в Google Earth отключили через сутки из-за слишком реалистичных катастроф

Спустя менее чем сутки после релиза компания Google приняла решение деактивировать свежий инструмент визуализации в браузерной версии сервиса Google Earth.

Функционал, функционирующий на базе архитектуры Gemini Nano Banana 2, давал возможность формировать произвольные ландшафтные панорамы по текстовым промптам, опираясь на точные географические координаты.

Изначально разработчики преподносили разработку как подспорье для градостроителей, исторической реконструкции и учебных проектов. Тем не менее эксперты по фактчекингу и кибербезопасности быстро выявили уязвимость: фильтры платформы оказались слишком мягкими, позволяя генерировать пугающе достоверные кадры вымышленных техногенных аварий, вооруженных конфликтов и прочих форс-мажоров.

В ходе независимой проверки энтузиасты смоделировали затопление вашингтонского Капитолия, масштабные разрушения критической инфраструктуры, стихийные лагеря беженцев и прочие вымышленные ЧП.

Главным поводом для беспокойства стало то, что фейки накладывались на подлинную картографическую основу Google Earth, пользующуюся непререкаемым авторитетом у медиа, аналитиков и госорганов. В руководстве техногиганта подчеркнули, что каждый синтезированный кадр снабжается скрытым цифровым маркером SynthID и не интегрируется в открытые слои карты. Тем не менее, признав несостоятельность этой меры против утечки скриншотов в соцсети, 31 июля компания приостановила работу опции вплоть до внедрения надежных защитных механизмов.

Информация о точной дате возвращения функции в публичное поле пока отсутствует.

Источник: iXBT