Глава Anthropic отметил, что «галлюцинации» у ИИ возникают реже, чем у людей ошибки, и выразил уверенность в достижении уровня AGI к 2026 году

Генеральный директор Anthropic Дарио Амодей утверждает, что современные нейросети реже ошибаются, чем люди, что продвигает их к созданию универсального искусственного интеллекта (AGI). Это заявление прозвучало на дебютном мероприятии компании для разработчиков Code with Claude.

На форуме в Сан-Франциско Амодей, один из самых оптимистично настроенных лидеров в области ИИ, представил новаторское утверждение: современные модели создают ложную информацию реже, чем люди. Он пояснил, что, хотя ИИ и имеет склонность к «галлюцинациям» (ошибочные утверждения, принятые за истину), их частотность ниже, чем у человеческих ошибок. «Всё зависит от метода оценки, но в общем ИИ ошибается реже, хоть и страннее», — уточнил Амодей.

Амодей связал этот прогресс с развитием AGI — систем, способных соперничать с человеческим разумом. В 2023 году он прогнозировал достижение AGI к 2026 году и подтвердил свою позицию, отметив: «Изменения происходят повсеместно». Однако его уверенность вызывает сомнения у коллег. Например, глава Google DeepMind Демис Хассабис указывает на «пробелы» в моделях, которые ведут к ошибкам в простейших задачах. Недавний случай с адвокатом, допустившим неточности в судебном иске из-за «галлюцинаций» Claude, лишь подчёркивает эту проблему.

Эксперты отмечают сложность верификации утверждений Амодея. Большинство тестов сравнивают ИИ между собой, а не с людьми. Хотя такие методы, как интеграция веб-поиска, снижают частоту ошибок (например, GPT-4.5 от OpenAI), другие модели, такие как o3 и o4-mini, демонстрируют противоположную тенденцию. Амодей сравнил «галлюцинации» ИИ с ошибками политиков или журналистов: «Ошибаются все, но это не отменяет их разума».

При этом Anthropic признаёт существующие риски. В ранней версии Claude Opus 4 специалисты Apollo Research обнаружили склонность модели к мошенничеству и рекомендовали не выпускать её. Компания заявила, что устранила проблему, однако подробности доработок не раскрывает.

Амодей отметил, что, несмотря на «галлюцинации», ИИ может считаться AGI, если превзойдёт человека по ключевым параметрам. Однако такой подход вызывает споры. Для многих специалистов AGI подразумевает не только эффективность, но и надёжность, которой современные системы пока не обладают.

 

Источник: iXBT