Полицейское управление Ванкувера попало в неприятную ситуацию после того, как пользователи соцсети X уличили правоохранителей в использовании нейросетей при редактировании снимка с места задержания наркодилеров. Фотографию пришлось оперативно удалить и заменить оригиналом, так как внимательная публика заметила на ней аномалии, характерные для работы алгоритмов искусственного интеллекта.
Иллюстрация, призванная продемонстрировать изъятые при задержании денежные средства и запрещенные вещества, на первый взгляд казалась аутентичной. Однако при ближайшем рассмотрении пользователи обнаружили типичные «галлюцинации» ИИ: банкноты номиналом $50 имели подписи «$20», а на одной из купюр в $100 значилось лишь «00». Неестественные детали сразу выдали факт вмешательства генеративных инструментов.
В ответ на запрос телеканала CTV News сержант Адам Доналсон пояснил, что ИИ-инструменты якобы использовались лишь для ретуши имен фигурантов дела. Данное оправдание вызвало волну скепсиса, поскольку оригинал снимка представлял собой обычные вещдоки, разложенные на картоне с рукописными пометками маркером — логика применения нейросетей для такой простой задачи осталась для многих загадкой.
Позднее представители ведомства признали ошибку, уточнив, что отредактированное изображение было заменено на исходный снимок, обрезанный стандартными средствами для защиты персональных данных.
Этот инцидент спровоцировал серьезную дискуссию об этичности и рисках внедрения ИИ в работу силовых структур. В последнее время правоохранители по всему миру всё чаще прибегают к помощи нейросетей для обработки доказательств и составления отчетов, однако подобные промахи лишь усиливают опасения общества относительно достоверности цифровых улик.
Критики в сети отметили, что публикация сгенерированных изображений серьезно бьет по репутации следственных органов и может негативно повлиять на мнение присяжных. Инцидент в Ванкувере наглядно показал: любые манипуляции с доказательствами через генеративные модели ставят под удар легитимность всей работы полиции, подрывая базовое доверие граждан к правовой системе.
Источник: iXBT
