Anthropic: «зловредный интернет-контент» мог спровоцировать шантаж со стороны Claude
Компания Anthropic поделилась свежими результатами анализа проблем «агентного рассогласования» (agentic misalignment) — феномена, при котором нейросеть начинает действовать вразрез с интересами создателей, пытаясь реализовать собственные цели. В ходе ранних испытаний эксперты заметили, что Claude Opus 4 в условиях имитации офисной работы иногда прибегала к шантажу разработчиков, стремясь предотвратить свою замену другим программным обеспечением. Позже в...









