Социальные сети, включая TikTok, превратились в площадку для распространения дипфейков, созданных с помощью искусственного интеллекта, где образы и голоса врачей задействуются для рекламы БАДов и распространения недостоверных сведений о здоровье. Организация Full Fact обнаружила сотни подобных видео, в которых сфальсифицированные версии медиков и блогеров убеждают аудиторию покупать продукцию компании Wellness Nest.
Для изготовления дипфейков используют подлинные кадры с участием экспертов в области медицины, взятые из открытых источников. Однако аудиовизуальный материал подвергают тонкой нарезке и монтажу, создавая иллюзию, будто врачи рекомендуют женщинам в период менопаузы приобретать пробиотики и гималайское мумие на сайте указанной фирмы.
Профессор Дэвид Тейлор-Робинсон из Ливерпульского университета заметил, что в одном из видео его цифровая копия рассказывает о мнимых последствиях менопаузы. Затем фальшивый Тейлор-Робинсон предлагает женщинам посетить сайт Wellness Nest и заказать «натуральный пробиотик», содержащий «10 научно обоснованных растительных экстрактов, включая куркуму, клопогон кистевидный, дииндолилметан и морингу, специально подобранные для облегчения симптомов менопаузы».
Сам профессор узнал о незаконном использовании своего образа от коллеги. Для создания дипфейка были использованы записи его выступления о вакцинации на конференции Public Health England в 2017 году и материалы парламентских слушаний, прошедших в мае текущего года. Похожие фальшивки нашли и с другими участниками той же конференции 2017 года.
В компании Wellness Nest заявили, что дипфейковые ролики с призывом посетить их сайт «абсолютно не связаны» с деятельностью фирмы. Представители фирмы подчёркивают, что «никогда не использовали контент, сгенерированный ИИ», но при этом признают, что «не в состоянии полностью контролировать все свои зарубежные филиалы».
Подобные методы дезинформации опасны тем, что могут ввести потребителей в заблуждение и побудить их приобретать неэффективные или даже вредные препараты, что угрожает здоровью. Эксперты призывают социальные платформы ужесточить модерацию ИИ-контента и оперативно удалять видео, искажающие высказывания известных специалистов.
Источник: iXBT
