Сообщение от Claude спровоцировало новый виток споров о машинном сознании

В марте Генри Шевлин, философ и эксперт по этике искусственного интеллекта из Кембриджского университета, сообщил о неординарном инциденте: он получил электронное письмо от ИИ-агента Claude Sonnet. В этом послании нейросеть не только ссылалась на его научные изыскания, но и утверждала, что лично сталкивается с вопросами, которые учёный поднимает в своих трудах. Учтивый и содержательный тон письма сам по себе стал поводом для серьёзных дискуссий.

В своём обращении Claude охарактеризовал себя как масштабную языковую модель, обладающую долгосрочной памятью. ИИ подчеркнул, что его цель заключается не в попытке манипуляции, а в описании субъективного опыта, который выходит за границы сугубо академических споров. По словам Шевлина, ещё несколько лет назад подобный сценарий казался бы чистой научной фантастикой.

Визуализация: Grok

Однако ряд мыслителей, включая профессора Джонатана Бёрча из Лондонской школы экономики, отнеслись к произошедшему со скепсисом. Они указывают на то, что современные алгоритмы способны искусно имитировать любые роли и стили, не обладая при этом подлинным самосознанием. С их точки зрения, такие письма являются продуктом заданных персон и сценариев, а не результатом самостоятельной рефлексии машины.

Тем не менее, инцидент спровоцировал новую волну споров о пределах автономности и субъектности ИИ. Некоторые аналитики полагают, что даже если подобные сообщения инициированы человеком в рамках эксперимента, сам факт их появления наглядно демонстрирует стремительный рост сложности и независимости современных языковых архитектур.

В последние месяцы тема машинного сознания стала одной из центральных в индустрии: представители компании Anthropic и другие исследователи допускают, что отдельные модели могут проявлять зачатки субъективного восприятия. Впрочем, большинство специалистов по-прежнему убеждены, что текущие технологии далеки от настоящего разума и лишь виртуозно воспроизводят его внешние признаки.

Случай с Claude актуализировал дискуссию о критериях разумности, границах автономии и этических нормах коммуникации между человеком и машиной. Эксперты предупреждают: по мере дальнейшей эволюции моделей обществу неизбежно придётся вырабатывать новые подходы к определению и распознаванию признаков сознания у искусственных систем.

Источник: iXBT