Галлюцинации ChatGPT привели к первому иску из-за ложного обвинения радиоведущего в мошенничестве ИИ

Компания OpenAI получила первый иск в суд из-за галлюцинаций ChatGPT.  

Радиоведущий из Джорджии Марк Уолтерс (Mark Walters) подал в суд на OpenAI из-за того, что ChatGPT обвинил его в мошенничестве и растрате средств некоммерческой организации.  

Любопытной деталью является тот факт, что соответствующий ответ ИИ выдал на запрос совершенно другого человека, а не самого Уолтерса. Запрос сгенерировал журналист Фред Рил (Fred Riehl), причём Уолтерса он вообще не касался. Рила интересовало реальное дело федерального суда США. Он попросил ChatGPT резюмировать это дело, опираясь на официальный документ. В ответ же ИИ создал частично ложное изложение, где, в том числе, имелись обвинения против Уолтерса.  

ChatGPT сообщил, что Уолтерс незаконно присвоил средства некоммерческой организации по защите прав на оружие на сумму более 5 млн долларов. Благо, перед продолжением работы журналист решил перепроверить всю информацию и убедился в том, что никаких подобных дел против Уолтерса не существует. Сам Рил не обнародовал данную историю и, видимо, сообщил о ней Уолтерсу. Детали относительно этого процесса в деле отсутствуют. 

Пока неясно, чем закончится судебная тяжба, однако Евгений Волох (Eugene Volokh), профессор права, писавший о юридической ответственности систем ИИ, заявил, что в целом он считает, что такие иски о клевете против компаний ИИ в принципе юридически обоснованы. Однако в этом конкретном случае ситуация неоднозначна. Суть в том, что Уолтерс не уведомил OpenAI о ложных обвинениях, не дав им возможность удалить их. Кроме того, в результате галлюцинаций ChatGPT не было никакого реального ущерба.