Нью-Йоркский судья заблокировала выступление AI-аватара в апелляционной инстанции

Джером Девальд, основатель стартапа Pro Se Pro, попытался применить AI-аватар, чтобы представить свои доводы в Апелляционном суде Нью-Йорка, однако судьёй Салли Мансанет-Дэниэлс эта попытка была быстро пресечена. Случай произошёл 26 марта во время обсуждения трудового конфликта со страховой компанией MassMutual Metro New York.

Девальд подал ходатайство с просьбой разрешить демонстрацию видео с «представительным мужчиной в свитере с V-образным вырезом», который озвучивал заранее подготовленный текст. Видео начиналось словами: «Почтенному суду, я смиренно появляюсь перед уважаемой коллегией судей…» Однако спустя несколько секунд судья остановила ролик с вопросом: «Это ваш представитель?» Присутствующий лично Девальд объяснил, что персонаж был создан искусственным интеллектом.

«Вы должны были уведомить об этом заранее, — отметила Мансанет-Дэниэлс. — Ранее вы выступали лично и взаимодействовали с сотрудниками суда. Недопустимо использовать суд для продвижения вашего бизнеса». Девальд, испытывающий трудности с длительным выступлением из-за перенесённого 25 лет назад рака горла, уточнил, что суд одобрил видеоформат, но не ожидал применения цифрового аватара.

Для создания видео предприниматель прибег к помощи сервиса Tavus, который требует записи речи длиной 2–4 минуты и одной минуты статичного видео. Однако из-за лимита тарифа (три видео в месяц) и технических затруднений, Девальд не смог создать свой аватар и вынужден был использовать стандартного «Джима». «Он успел произнести лишь несколько фраз до того, как судья остановила демонстрацию», — рассказал основатель Pro Se Pro.

После личной речи Девальда тон судьи смягчился. Тем не менее, инцидент породил вопросы относительно использования AI в судебной практике. Девальд, не будучи адвокатом, но изучающим право, сослался на рекомендации Американской ассоциации юристов (ABA): при использовании ИИ необходима полная прозрачность перед всеми сторонами и судом.

Стартап Pro Se Pro, созданный для помощи участникам судебных процессов без профессиональной подготовки, сталкивается с проблемами финансирования. Основным инструментом компании является «сценарный анализатор» на базе ChatGPT-3.5, который за год устарел ввиду прогресса в области «агентного ИИ». Девальд также упомянул, что суды в Аризоне проводят эксперименты с цифровыми аватарами для краткого изложения своих решений, подчеркивая возможность технологии помочь гражданам без юридического представительства.

Основатель признал недоработку: «Я извинился перед судом за отсутствие прозрачности». Он согласен с тем, что недоверие системы к AI оправдано рисками «галлюцинаций» и ошибочных цитат, но настаивает, что в его случае сценарий был тщательно проверен. «Технологии способны дать голос тем, кто иначе может остаться незамеченным», — заключил Девальд, отмечая, что сочетание инноваций и традиций по-прежнему остаётся сложной задачей для правовой системы.

Источник: iXBT