OpenAI проигнорировала угрозу: компания заблокировала убийцу 8 детей в ChatGPT, но не сообщила о его планах властям

Родственники ребенка, пострадавшего в одной из самых кровавых массовых расправ в истории Канады, инициировали судебное разбирательство против OpenAI. Истцы утверждают, что технологический гигант имел возможность предотвратить вооруженное нападение на школу, произошедшее в прошлом месяце.

Подача иска состоялась спустя несколько дней после публичного обещания главы OpenAI принести извинения жителям небольшого канадского поселения. Трагедия в горном городке Тамблер-Ридж разыгралась 10 февраля: 18-летний преступник лишил жизни восемь человек, включая пятерых подростков 12–13 лет и 39-летнюю помощницу учителя.

В ходе расследования выяснилось, что нападавший, Джесси Ван Рутселаар, в июне на протяжении нескольких дней обсуждал с ChatGPT сценарии совершения насильственных действий с применением оружия. Как сообщает Wall Street Journal, эти диалоги были зафиксированы автоматизированными алгоритмами мониторинга платформы.

Изображение Grok

Несмотря на это, в OpenAI заявили, что активность пользователя не давала оснований предполагать наличие «достоверного или неминуемого плана нападения». В результате компания ограничилась блокировкой аккаунта Ван Рутселаара, не передав сведения правоохранительным органам Канады. Позже разработчики признали, что после деактивации первой учетной записи у стрелка был обнаружен и второй связанный профиль.

Сиа Эдмондс подала судебную претензию от своего имени и в интересах своих дочерей — Майи и Далии Гебалы, ставших невольными участницами тех трагических событий.

«Цель данного иска — пролить свет на истинные причины и обстоятельства бойни в Тамблер-Ридж, привлечь виновных к ответственности и добиться справедливого возмещения ущерба. Мы надеемся, что этот процесс поможет предотвратить повторение подобных катастроф в Канаде», — заявили в юридической фирме Rice Parsons Leoni & Elliott LLP, представляющей интересы пострадавших.

12-летняя Майя, получившая три пулевых ранения, до сих пор остается в медицинском учреждении. Согласно материалам дела, сама Эдмондс и её вторая дочь Далия, избежавшая физических травм, страдают от тяжелого посттравматического стрессового расстройства, депрессии, панических атак и хронической бессонницы.

В гражданском иске семья Эдмондс настаивает на том, что OpenAI поспешила с коммерческим запуском ChatGPT, проигнорировав критически важные аспекты безопасности. Заявители требуют выплаты компенсации, размер которой определит суд, подчеркивая, что поведение компании является «предосудительным и глубоко аморальным» как по отношению к жертвам, так и к обществу в целом.

На данный момент выдвинутые обвинения официально судом не рассматривались.

Источник: iXBT