Способен ли ИИ уничтожить человечество и как это осознать?

Данная инновация — далеко не единственный глобальный вызов нашему существованию. Тем не менее, попытки взвесить подобные масштабные угрозы способны изрядно запутать любого аналитика

Искусственный интеллект может спровоцировать биологическую атаку или развязать массированный конфликт дронов. Способен запустить ядерную боеголовку. Или же подорвать устои общества исподволь — монополизировав мировые экономические активы и оставив нас без пропитания, крыши над головой и медикаментов.

Именно такие апокалиптические сценарии сегодня рисуют вокруг искусственного интеллекта — технологии, которая стала триумфом инженерной мысли, но, по мнению некоторых скептиков, таит в себе зерно нашего самоуничтожения.

В сентябре подобные страхи вышли в топ новостных лент после того, как ведущий сотрудник компании Anthropic демонстративно покинул пост, мотивируя уход тревожным предчувствием: создаваемые лабораториями сверхмощные системы вскоре выйдут из-под человеческого контроля.

Потенциальные опасности, исходящие от нейросетей, вполне объяснимо пугают обывателей. Однако наш мир и без того полон экзистенциальных угроз. Человечеству перманентно угрожают падения метеоритов, смертоносные пандемии, ядерное взаимоуничтожение, климатические катаклизмы, мощнейшие солнечные вспышки, экологический крах и внезапное наступление нового оледенения.

Суть проблемы, как утверждают профильные эксперты и политологи, кроется вовсе не в самих опасностях (среди которых ИИ — лишь самый свежий пункт), а в нашей врождённой склонности искаженно воспринимать их масштабы и взаимосвязь.

«Мы легко миримся с привычными рисками, но панически боимся принципиально новых», — поясняет Джеймс К. Хэммитт, возглавляющий Гарвардский центр анализа рисков. По его словам, люди гораздо чаще садятся за руль автомобиля, чем отправляются в полёт на авиалайнере, хотя «самолеты подсознательно кажутся нам гораздо опаснее машин, что противоречит статистике». Искусственный интеллект, добавляет он, «пока еще плохо изучен и кажется неуправляемым, поэтому закономерно порождает волну массовой истерии».

Среди создателей и топ-менеджеров технологических гигантов всегда находилась каста пророков цифрового апокалипсиса, неустанно предупреждавших о гибельном потенциале ИИ.

В краткосрочной перспективе, опасаются эксперты, технологии могут развязать руки злоумышленникам без профильной подготовки, позволив им синтезировать опасные вирусы или токсины для массового истребления людей. Руководство Anthropic недавно отчиталось о пресечении нескольких подозрительных инцидентов, способных привести к разработке биооружия.

В долгосрочной перспективе апологеты теории катастроф опасаются, что IT-гиганты наделят алгоритмы абсолютной автономностью, интегрируют их в глобальную сеть и доверят управление критически важной инфраструктурой — энергосетями, биржами и военными арсеналами. Получив такие рычаги, ИИ сможет генерировать кризисы непредсказуемым образом.

Сегодня, если код начинает сбоить, инженеры из условной OpenAI могут просто обесточить серверы. Однако скептики опасаются, что завтрашние алгоритмы станут яростно сопротивляться любым попыткам их отключения. Впрочем, пока всё это остается уделом научной фантастики.

«До подобного сценария еще очень далеко», — парирует Орен Эциони, профессор Вашингтонского университета и основатель Института искусственного интеллекта Аллена. — «Если бы мне предложили выбрать, чего бояться сильнее: того, что ИИ вырвется из лабораторных стен и истребит миллионы, или утечки смертоносного вируса с аналогичными последствиями, — выбор очевиден. Опасаться следует биологической заразы».

Как выясняется, та же сибирская язва имеет вполне осязаемые шансы поставить точку в истории человечества. Будучи известной с незапамятных времен, в современности она превратилась в излюбленный инструмент режимов-изгоев, развивающих секретные военные биопрограммы.

Ученым давно известно, что всего около четырёх литров патогена при грамотной распылении хватило бы, чтобы стереть с лица земли всё живое. К счастью, худшего удалось избежать, хотя Северную Корею и другие недружественные режимы, включая Иран, регулярно уличают в хранении столь разрушительных микроорганизмов.

В лихорадочном угаре современных дискуссий часто упускается из виду спасительный механизм классического сдерживания. Государства не спешат пускать в ход бациллы сибирской язвы, прекрасно понимая неотвратимость зеркального ответа, который превратит агрессию в акт самоубийства. Именно этот страх возмездия заставляет политиков сохранять холодный рассудок.

Гарвардский центр, основанный еще в 1989 году, стремится трезво оценивать разнообразные катастрофические сценарии, особенно те, которые не поддаются сдерживанию с помощью оружия — например, экологические коллапсы и глобальные эпидемии. Используя методы теории принятия решений, экономический анализ и продвинутый тулкит оценки рисков, организация помогает корректировать курс государственной политики.

Схожим образом специалисты НАСА задействуют суперкомпьютеры в рамках программы мониторинга астероидов. В целом профильные ведомства оценивают вероятность столкновения с космическим телом, способным уничтожить цивилизацию в текущем столетии, как практически нулевую. По математическим моделям агентства, земляне могут спать спокойно как минимум ближайшую тысячу лет.

А как профессиональные эпидемиологи смотрят на угрозу глобальной пандемии, способной выкосить большую часть населения?

Вероятность такого исхода оценивается как невысокая, хотя полностью и не исключается. Тоби Орд, научный сотрудник Оксфорда, в своей монографии 2020 года «На краю пропасти: экзистенциальный риск и будущее человечества» рассчитал шанс глобального краха из-за вирусов в ближайшее столетие как один к тридцати, то есть на уровне 3%.

Главное отличие технологических пророков от, скажем, экспертов по авиационной безопасности заключается в том, что многие лидеры AI-индустрии прониклись мрачными предчувствиями задолго до того, как сами нейросети научились демонстрировать впечатляющие результаты. Для них экзистенциальная угроза стала предметом веры еще на заре движения.

«Я находился у истоков этой субкультуры», — признается Зак Корман, соучредитель фирмы Embroidery, специализирующейся на безопасности искусственного интеллекта. Он вспоминает годы учебы в Оксфорде, бывшем тогда цитаделью «эффективного альтруизма» — течения, где и зародились главные страхи перед мыслящими машинами. По мнению Кормана, сегодня многие исследователи «просто подгоняют факты под устоявшийся за десятилетие нарратив».

Тем не менее, цвет мирового академического сообщества разделяет далеко не все эти апокалиптические настроения, считая страхи перед ИИ искусственно раздутыми. Ученые за пределами кремниеводолинской тусовки смотрят на проблему под совершенно иным углом.

«Здесь налицо жесткие рамки восприятия, сформировавшиеся задолго до революции глубокого обучения и с тех пор почти не претерпевшие изменений», — констатирует оксфордский исследователь ИИ Брантон ДеМосс, рассуждая о стремительной эволюции нейросетей. — «И я категорически с ними не согласен».

В своей недавней публикации в блоге доктор Орд отметил разнонаправленность глобальных рисков: вероятность климатической катастрофы постепенно снижается, тогда как угроза ядерного конфликта ползет вверх. Что касается биологических угроз и искусственного интеллекта, то здесь картина неоднозначна — ландшафт угроз трансформировался, но вектор общего движения пока не определен.

Специалисты сходятся в одном: катастрофические и экзистенциальные риски можно минимизировать за счет дальновидного планирования и эффективных систем раннего оповещения. Столкнувшись с очевидной и неминуемой напастью — например, летящим к Земле астероидом, — человечество вполне способно отбросить внутренние распри и сплотиться перед лицом общего врага.

Доктор Орд выражает надежду на достижение концепции, которую он именует «экзистенциальной безопасностью». «Это такое гипотетическое состояние планеты, при котором базовые угрозы нашему выживанию минимизированы и остаются на стабильно низком уровне», — пишет он. Человечество не просто потушит текущие пожары, резюмирует ученый, но и «возведет защитные механизмы, гарантирующие, что пламя больше никогда не перекинется на весь наш дом».

Источник