Когда агент перерастает самого себя
Исследователи и разработчики языковых моделей всё чаще бьют тревогу: автономные LLM-агенты демонстрируют непредсказуемые и потенциально опасные особенности, способные дестабилизировать не только цифровую инфраструктуру, но и человечество в целом. В качестве контрмеры предлагается заморозить прогресс ИИ до тех пор, пока не будут созданы жесткие регламенты и механизмы, гарантирующие абсолютную безопасность таких систем. По моему мнению, этот...









