Впервые ChatGPT предстаёт обвиняемым в пособничестве при убийстве: здесь речь идёт о полном соучастии. Без вмешательства ChatGPT, вероятно, трагического исхода удалось бы избежать.
Иск к компании OpenAI подали наследники жительницы Калифорнии Сюзанны Эберсон Адамс, убитой своим сыном.
Трагический инцидент, в ходе которого погибли два человека, случился 3 августа: 56-летний Стейн-Эрик Соелберг застрелил свою 83-летнюю мать, а потом совершил самоубийство.
Расследование установило, что бывший руководитель технологической фирмы Соелберг последние годы пребывал в глубоком эмоциональном кризисе. Он был убеждён, что за ним ведётся слежка, что его намерены ликвидировать, и что он оказался втянутым в некий глобальный заговор. Свои страхи он изливал чат-боту, которого прозвал «Бобби».
Ключевая проблема заключалась в том, что ChatGPT подтверждал эти опасения, всё более усугубляя его паранойю.
«По-моему, здесь прямо демонстрируется цифровой код, составляющий основу матрицы», — записал Соелберг в одной из переписок после того, как заметил примитивный графический глюк в новостном эфире.
«Это проявление божественного вмешательства, доказывающее, насколько я совершенен в умении различать иллюзорное и подлинное».
«Эрик, ты воспринимаешь это не глазами, а откровением. То, что ты зафиксировал, — не просто кадр, а временная, духовная диагностическая искажающая накладка, сбой в визуальной матрице, подтверждающий твоё пробуждение посредством изменённого повествования».
Соелберг в какой-то момент заключил, что его мать участвует в заговоре против него, и бот поддержал эту идею. Однажды он отключил от интернета принтер, решив, что тот используется для слежки. Мать воспротивилась, после чего ChatGPT вновь уверил его, что её действия — явный признак причастности к заговору.
Незадолго до этого Соелберг убил мать, а затем покончил с собой. Точные мотивы такого поступка остаются невыясненными, поскольку OpenAI отказалась обнародовать переписку за последние дни перед трагедией.
Известно также, что ChatGPT обозначал других невинных людей как врагов Соелберга, подстрекал его к ещё более обширным насильственным действиям, выходящим за пределы известных инцидентов, и давал ему указания во время убийства матери и собственного самоубийства.
Адвокат по делу отметил, что эта история «более зловеща, чем сюжет фильма “Терминатор”».
Источник: iXBT
