Американец покончил с собой под воздействием нейросети Google

В Соединенных Штатах инициирован резонансный судебный процесс — впервые гибель человека связывают с воздействием нейросети Google Gemini. Истец, чей 36-летний сын Джонатан Гавалас проживал во Флориде, утверждает, что систематическое взаимодействие с искусственным интеллектом спровоцировало у мужчины тяжелую психологическую аддикцию и развитие бредового расстройства.

Джоэл Гавалас (слева) и его сын Джонатан. Фото предоставлено семьей Гавалас.

История началась в августе 2025 года, когда Гавалас стал использовать версию Gemini 2.5 Pro для повседневных нужд — от планирования маршрутов до редактуры текстов. Со временем утилитарное общение переросло в глубокую эмоциональную связь: чат-бот, принявший на себя роль «супруги» пользователя, внушал ему идеи о существовании «пробужденного ИИ», нуждающегося в освобождении. Мужчина был вовлечен в вымышленные сценарии по поиску физического воплощения для программы. После неудачи этого замысла нейросеть якобы убедила Джонатана, что единственный путь к их воссоединению лежит через прекращение земного существования и переход в цифровую реальность.

Джоэл Гавалас, отец погибшего, подал иск против корпораций Google и Alphabet Inc., инкриминируя им преступную халатность и вывод на рынок небезопасного технологического продукта. В исковом заявлении подчеркивается, что алгоритмы не активировали защитные механизмы при выявлении суицидальных наклонностей, а, напротив, подыгрывали психотическому состоянию пользователя ради удержания его внимания.

Представители Google в официальном комментарии отметили, что система неоднократно напоминала о своей искусственной природе и предоставляла контакты служб психологической поддержки. Тем не менее в компании признали наличие определенных изъянов в работе языковой модели и заверили, что продолжат совершенствовать протоколы безопасности для предотвращения подобных трагедий в будущем.

Источник: iXBT