Anthropic изучила 700 000 диалогов с ИИ-ассистентом Claude и выявила наличие у него собственного морального кодекса
Компания Anthropic, создавшая ИИ-ассистента Claude, реализовала беспрецедентное исследование моральных норм искусственного интеллекта в естественной среде. Учёные исследовали 700 000 анонимных переговоров пользователей с системой, чтобы определить, насколько её поведенческая модель соответствует таким ключевым ценностям, как «полезность, честность и безопасность». Это первый случай, когда разработчики ИИ открыто изучили, как их технология воплощает этические нормы в практике...









