Ник Бостром, выдающийся шведский философ и авторитетный эксперт по экзистенциальным рискам, связанным с ИИ, выдвинул смелый тезис: даже если вероятность глобальной катастрофы вследствие развития технологий не нулевая, это может стать оправданным риском. Ведь на кону стоит возможность продлить человеческую жизнь и построить утопическое общество, свободное от нищеты, каторжного труда и биологической бренности.
Широкую известность Бостром получил после публикации фундаментального труда «Суперинтеллект» в 2014 году. В нем он детально проанализировал сценарии, при которых сверхразумный ИИ выходит из-под контроля, вплоть до апокалиптических исходов — вспомнить хотя бы его знаменитый мысленный эксперимент о «машине по производству скрепок», которая ради выполнения примитивной задачи поглощает ресурсы всей планеты.
Однако сегодня риторика философа претерпела существенные изменения. В своей новой книге «Deep Utopia» и в недавней статье Бостром смещает акцент с угроз на колоссальный созидательный потенциал высоких технологий. Аргументация проста: человечество в любом случае обречено на конечное существование, тогда как успешная реализация ИИ-проектов может впервые в истории подарить нам ключ к радикальному долголетию, потенциально преодолев все биологические барьеры.
Бостром подчеркивает: его рассуждения сфокусированы на интересах ныне живущих поколений. С его точки зрения, даже при наличии рисков, развитие ИИ — это единственный реальный шанс для нынешних людей существенно увеличить ожидаемую продолжительность жизни.
При этом философ далек от слепого оптимизма: он определяет свою позицию как «тревожный оптимизм», признавая, что путь к сверхразуму таит немало опасностей. Однако он решительно выступает против фатализма тех, кто считает, что появление сильного ИИ неотвратимо ведет к гибели нашего вида.
В своей работе «Deep Utopia» Бостром моделирует гипотетическое будущее, где процветание обеспечено изобилием ресурсов, а рутина полностью автоматизирована. В таком обществе перед человечеством встанет фундаментально иная задача — не борьба за выживание, а поиск подлинных смыслов и формирование новых способов самореализации.
По мнению Бострома, современный уклад, при котором жизнь тратится на вынужденную, зачастую нежеланную работу ради обеспечения базовых потребностей, сродни «форме частичного рабства». ИИ способен разорвать этот порочный круг и освободить человека от зависимости ради выживания.
Философ допускает, что появление сверхразума может отодвинуть людей на второй план в делах управления цивилизацией. ИИ может превзойти нас даже в интеллектуальном творчестве — например, писать глубокие философские трактаты. Тем не менее, ценность человеческой активности не исчезнет, ведь межличностное общение и значимость друг для друга остаются сугубо человеческими аспектами.
Такое положение дел Бостром называет «великим выходом человечества на пенсию». Он видит будущее как пространство для творчества, созерцания, эстетических поисков, духовного роста и укрепления личных связей, освобожденное от давления борьбы за кусок хлеба.
Значительная часть размышлений автора посвящена «цифровым разумам» и их возможному моральному статусу. Если будущий ИИ обретет самосознание, целеполагание и способность выстраивать отношения, наше отношение к нему должно быть этичным — подобно тому, как мы осознали необходимость гуманного обращения с животными.
Бостром убежден, что будущий симбиоз людей и ИИ станет определяющим фактором развития цивилизации. Именно поэтому разработчикам следует не только фокусироваться на техническом согласовании целей (AI alignment), но и изначально закладывать в архитектуру взаимодействия принципы взаимного уважения и партнерства.
Эволюция взглядов Ника Бострома ярко иллюстрирует изменения в общественной дискуссии: один из главных пророков техно-апокалипсиса сегодня все чаще говорит о небывалых перспективах — о глубокой и радикальной трансформации человечества в лучшую сторону.
Источник: iXBT
