Китай регулирует использование ИИ-аватаров умерших людей: новые правила после волны споров

Китайское руководство приступило к активному регулированию сферы «цифровых людей» — гиперреалистичных искусственных двойников, которые всё глубже проникают как в профессиональную, так и в приватную сферы жизни. Ускоренное развитие сектора спровоцировало не только коммерческий бум, но и серьезные дискуссии об этических границах использования таких технологий.

Ярким примером стала история 47-летней жительницы провинции Ляонин Чжан Синьюй. Чтобы пережить тяжелую утрату после смерти отца, она воспользовалась услугами стартапа Super Brain для создания цифровой копии родителя. Воссозданные внешность и голос покойного позволили женщине «продолжить» общение, что, по её словам, помогло обрести душевное спокойствие.

Подобные практики становятся мейнстримом: в КНР виртуальные аватары уже востребованы в маркетинге, стриминге и создании контента. Согласно отчету Xinhua News Agency, рынок «цифровых людей» продемонстрировал впечатляющую динамику: рост за год составил 85%, а объем выручки достиг 4,1 млрд юаней (порядка $600 млн).

Тем не менее, стремительная экспансия технологий вызывает опасения у специалистов. Основные претензии касаются формирования патологических эмоциональных привязанностей и подмены живого человеческого общения суррогатным суррогатом. Даже сама Чжан признает, что такие инструменты, при всей их эмоциональной поддержке, могут создавать иллюзорное утешение.

В ответ на вызовы времени Управление по вопросам киберпространства Китая представило проект нормативных актов. Главные требования включают обязательную маркировку контента, сгенерированного нейросетями, и категорический запрет на создание виртуальных копий граждан без их явного одобрения. Инициатива также направлена на нейтрализацию угроз в виде мошенничества, распространения фейков и деструктивного влияния на общественную безопасность.

За несоблюдение норм предусмотрены значительные финансовые санкции — от 10 тыс. до 200 тыс. юаней (около $1,460–$29,300). Особый акцент сделан на безопасности несовершеннолетних: предлагается наложить вето на разработку систем, способных имитировать близкие личные отношения или провоцировать эмоциональную зависимость у детей.

Триггером для ужесточения законодательства послужил резонансный инцидент: пожилая китаянка долгое время общалась с цифровой репликой своего ушедшего из жизни сына, даже не подозревая о том, что имеет дело с ИИ. Этот случай спровоцировал общественные дебаты о допустимых границах между психологической поддержкой и манипулятивным обманом.

Аналитики отмечают, что Китай верен своей стратегии: агрессивный технологический рывок с последующим оперативным внедрением жестких правил игры. Сами представители индустрии, включая основателя Super Brain, позитивно оценивают новые директивы, рассматривая их как фундамент для поиска баланса между прогрессом и социальной ответственностью.

Общественное обсуждение инициативы продлится до начала мая. Ожидается, что по завершении этого срока отрасль начнет функционировать в условиях более строгих ограничений. Власти намерены стимулировать инновации, удерживая при этом под контролем их влияние на ментальное здоровье нации.

По мере превращения «цифровых людей» из нишевого продукта в повседневный инструмент, китайский опыт регулирования может стать эталонным для многих стран, решающих острые вопросы идентичности, цифрового согласия и глубокого психологического воздействия ИИ.

Источник: iXBT