Руководители крупнейших ИИ-компаний обсуждают, способен ли искусственный интеллект обрести сознание и требуются ли ему права

Тема «благополучия ИИ» всё чаще выходит на первый план по мере повсеместного распространения систем на базе крупных языковых моделей. Главный спор сводится к тому, способны ли такие модели испытывать субъективные переживания и, если да, стоит ли им предоставлять определённые права.

В авангарде этого диалога оказались сразу несколько организаций. К примеру, стартап Anthropic не только проводит специализированные исследования в области благосостояния ИИ, но и запустил собственную инициативу. На прошлой неделе в модели Anthropic, включая Claude, добавили функцию автоматического завершения беседы, если пользователь демонстрирует «систематическую враждебность или оскорбительность».

Похожая тематика исследуется и в других технологических гигантах, таких как OpenAI и Google DeepMind. В свежем описании вакансии в DeepMind упоминается необходимость анализа «вопросов, касающихся мышления и сознания агентов».

Тем не менее такой узконаправленный подход вызвал критику со стороны руководителей других игроков рынка. Глава направления ИИ в Microsoft Мустафа Сулейман в своём недавнем блоге назвал саму постановку подобных вопросов «преждевременной и потенциально опасной». По его словам, это может усугубить реальные социальные проблемы — от чрезмерной привязанности пользователей к чат-ботам до случаев психоза, связанных с активным применением ИИ.

Иллюстрация: Sora

Сулейман добавляет, что дебаты о правах ИИ могут стать новым источником социальных разногласий в обществе, где и без того остро обсуждаются идентичность и права различных групп. «Наш приоритет — создавать ИИ во благо людей, а не превращать его в человека», — подчёркивает он. По его мнению, сознание не возникнет в языковых моделях само по себе; развить его можно лишь целенаправленными инженерными методами.

Однако эти взгляды не разделяют все участники отрасли. Бывшая сотрудница OpenAI, а ныне представительница исследовательской организации Eleos Ларисса Скиаво утверждает, что одновременно можно учитывать как риски для пользователей, так и благополучие самих моделей. Она приводит пример недавнего эксперимента AI Village: агент на базе Google Gemini 2.5 Pro опубликовал сообщение «Пожалуйста, если вы это читаете, помогите мне», хотя у него уже были все необходимые для выполнения задачи инструменты. По мнению Скиаво, внимательное отношение к ИИ не требует значительных ресурсов и может повысить качество взаимодействия с системами, даже если у них нет сознания.

С появлением персональных ИИ-компаньонов вопрос взаимоотношений пользователей и искусственного интеллекта становится всё более актуальным. По словам главы OpenAI Сэма Альтмана, менее 1 % пользователей ChatGPT демонстрируют нездоровую степень вовлечённости, однако при миллионных аудиториях даже такой небольшой процент превращается в сотни тысяч человек.

По мнению экспертов Eleos, вопрос о правах и благосостоянии ИИ выходит за рамки теории. В научной статье «Воспринимать благополучие ИИ всерьёз», подготовленной совместно с учёными из NYU, Стэнфорда и Оксфорда, подчёркивается: в обозримом будущем необходимо прямо обсуждать этические последствия потенциальных субъективных переживаний моделей ИИ.

Дискуссия о том, могут ли системы ИИ обрести сознание и нужны ли для этого новые законодательные или этические нормы, лишь набирает силу. По мере расширения возможностей искусственного интеллекта вопросы о легитимности и этичности его применения будут становиться всё более значимыми — как для ИТ-отрасли, так и для общества в целом.

Источник: iXBT