DeepMind от Google заявляет: ИИ по уровню интеллекта сравняется с человеком к 2030 году, что несет серьезные риски

Компания Google DeepMind выпустила статью, в которой уже к 2030 году предсказывается появление искусственного интеллекта, сравнимого с человеческим уровнем — так называемого общего искусственного интеллекта (AGI). Это будет система, способная исполнять любые когнитивные задачи на уровне опытного взрослого человека, включая решение сложных вопросов и освоение новых навыков. Однако авторы статьи, среди которых сооснователь DeepMind Шейн Легг (Shane Legg), подчеркивают: такой ИИ потенциально может стать угрозой для всего человечества, вплоть до его уничтожения, если не будут внедрены меры предосторожности.

DeepMind акцентирует внимание на том, что AGI может самостоятельно совершенствоваться, создавая более продвинутые версии без участия человека. Это вызывает опасения, поскольку процесс может выйти из-под контроля. Чтобы избежать этого, компания предлагает три ключевых меры: ограничение доступа к ИИ для злоумышленников, обеспечение прозрачности его решений и создание безопасной среды для функционирования ИИ. Несмотря на то, что защитные технологии всё ещё находятся в стадии разработки, DeepMind убеждена, что необходимо уже сейчас принимать меры для минимизации рисков.

Однако эксперты выражают скептицизм: некоторые считают концепцию AGI чрезмерно неопределённой, а другие указывают на проблему «галлюцинаций» ИИ, при которой он генерирует недостоверную информацию, обучается на её основе и распространяет дезинформацию.

Источник: iXBT