Архитекторы цифрового бога: Почему создатели ИИ мечтают о паузе, которой не будет
В январе на полях Давоса произошло событие, выходящее за рамки обычных бизнес-панелей. Лидеры двух конкурирующих технологических гигантов сели за один стол, чтобы открыто обсудить пугающую близость точки невозврата.
С одной стороны — Демис Хассабис, возглавляющий Google DeepMind. С другой — Дарио Амодеи, основатель Anthropic. Модератор сравнил этот дуэт с лидерами Beatles и Rolling Stones. Метафора, возможно, излишне поэтична, но масштаб личностей она передает точно. Темой дискуссии стал «день после AGI» (общего искусственного интеллекта). Однако, прежде чем обсуждать последствия, оппоненты попытались синхронизировать свои прогнозы относительно сроков.
И именно в этом вопросе их мнения радикально разошлись.
Посмотреть выступление с переводом можно здесь: YouTube | RuTube | VK
Конфликт прогнозов: Оптимизм против Осторожности
Амодеи констатирует: в его компании уже есть инженеры, которые практически не пишут код вручную. Модели взяли на себя основную нагрузку, оставив человеку роль редактора и стратега. По его оценке, через 6–12 месяцев нейросети перейдут от ассистирования к полному циклу разработки ПО. Это запустит самоподдерживающуюся петлю: ИИ пишет код, который ускоряет обучение новых моделей, которые пишут код еще эффективнее. В такой парадигме появление AGI — вопрос года или двух.
Хассабис более сдержан. Его прогноз: 50-процентная вероятность достижения AGI к концу десятилетия. Разрыв в 5–8 лет кажется академическим лишь на первый взгляд. На деле — это пропасть между «мы успеем адаптировать общество» и «мы окажемся перед фактом».
Почему они не согласны?
Разница кроется в специфике доменов. Программирование и математика — это среды с мгновенным откликом. Ошибка видна сразу после компиляции. Но Хассабис, создатель AlphaFold, смотрит на мир через призму фундаментальной науки. В биологии или химии гипотеза требует полевого эксперимента, который может длиться месяцами. Длинный цикл обратной связи невозможно сократить просто за счет бесконечных вычислительных мощностей.
Кроме того, Хассабис подчеркивает: решать задачи — это не то же самое, что их формулировать. Способность задавать вопросы, которые до этого никто не задавал, остается высшей формой интеллекта, которой современные модели пока не обладают.
Для тех, кто следит за развитием нейросетей: «Откровения от Олега» — авторский канал о будущем технологий.
Геополитический цугцванг
Самый драматичный момент дискуссии наступил, когда Амодеи — сторонник агрессивных темпов — признался: «Я бы предпочел таймлайны Демиса. Я бы хотел, чтобы у нас было десять лет в запасе».
Почему же тогда не нажать на тормоз? Ответ прост и суров: гонка вооружений. Любое замедление одной компании или страны лишь дает преимущество оппонентам. Амодеи предложил неожиданный рычаг: экспортный контроль чипов. Если регулировать поставки «железа», конкуренция превращается из геополитического противостояния в диалог между конкретными игроками — и вот с ними договориться о безопасности реально.
Экономика десятикратного роста
Цифры Anthropic поражают: выручка в 100 миллионов долларов в 2023-м, миллиард в 2024-м и план в 10 миллиардов на 2025-й. Десятикратный рост три года подряд — это аномалия, которая не может длиться вечно, но пока она продолжается, никто не рискнет выйти из игры первым.
Интересно и то, как изменился ландшафт. Год назад Google считали догоняющим. Сегодня Хассабис уверенно заявляет: Google DeepMind вернул себе «дух стартапа», опираясь на самую мощную исследовательскую базу в мире. Модели Gemini планомерно отвоевывают рынок.
Уроки фильма «Контакт»
Амодеи пишет новое эссе, вдохновленное классикой научной фантастики — романом Карла Сагана «Контакт». Его мучает тот же вопрос, который задавали инопланетянам в фильме: «Как вы это сделали? Как ваша цивилизация прошла стадию технологического созревания и не уничтожила себя?»
Оказалось, что Хассабис тоже фанат этого произведения. Оба лидера осознают, что мы стоим у двери невероятных возможностей. Но в отличие от законов физики, успех нашего прохода через этот «фильтр» не гарантирован.
Будущее труда: Честный взгляд
Рынок труда пока инертен, но за кулисами уже готовятся к переменам. Хассабис советует студентам становиться исключительными профессионалами, осваивающими ИИ-инструменты на глубоком уровне.
Амодеи же был более резок: его компания уже сейчас готовится к тому, что в будущем ей понадобится значительно меньше сотрудников младшего и среднего звена. Когда CEO крупнейших ИИ-корпораций говорят о сокращении потребности в людях, в зале повисает тишина.
Парадокс Ферми и Великий фильтр
На вопрос о том, не является ли ИИ тем самым «великим фильтром», который губит цивилизации, Хассабис ответил философски. Если бы ИИ уничтожал жизнь в галактике, мы бы видели следы машинной экспансии — сферы Дайсона или армады зондов. Но космос молчит.
Его гипотеза оптимистична: Великий фильтр, вероятно, остался позади, на этапе зарождения многоклеточной жизни. А значит, наше будущее не предопределено — оно в наших руках.
Вместо заключения
К следующему Давосу главной темой станет способность ИИ-систем самостоятельно проектировать новые ИИ-системы. Это станет моментом истины.
После разговора остается странное послевкусие. Два человека, определяющие вектор развития человечества, признаются, что хотели бы притормозить. Но маховик капитализма и геополитики раскручен так сильно, что время — единственный ресурс, которого им не дадут.
