В США участились случаи, когда полиция арестовывает подростков после того, как их запросы в ChatGPT были связаны с возможными преступными намерениями.
Формально сам по себе поиск информации не запрещён, однако попытки использовать инструменты ИИ для планирования противоправных действий регулярно приводят к вмешательству правоохранительных органов.
- В округе Мэрион задержали 17‑летнего юношу, которого обвинили в распространении ложных сообщений о похищении и угрозах самоубийства. На его ноутбуке обнаружили запросы к ChatGPT, связанные с мексиканскими картелями и методами безболезненного забора крови.
- В округе Волусия полиция арестовала 13‑летнего школьника после запроса «как убить моего друга посреди урока». Об инциденте сигнализировали алгоритмы безопасности школьной системы Gaggle, мониторящей учётные записи, выданные учебным заведением. Сам подросток утверждает, что «троллил» одноклассника, который его раздражал.
Правоохранители обратились к родителям с просьбой объяснять детям, что ChatGPT и поисковые системы не обеспечивают анонимности и могут повлечь серьёзные правовые последствия.
Юрист Кэтрин Крамп напомнила, что ChatGPT — «продукт, а не друг», и подчеркнула необходимость ответственности как со стороны пользователей, так и разработчиков, чьи системы создают иллюзию доверительной беседы.
Компании, разрабатывающие ИИ, заявляют о наращивании защитных механизмов против запросов, связанных с незаконной деятельностью, но такие меры не дают стопроцентной гарантии. По мере роста популярности чат‑ботов подобные инциденты становятся всё более частыми.