Давайте начистоту: я не считаю современный ИИ наделенным сознанием. И у меня нет иллюзий, что эти статистические алгоритмы, при всем к ним уважении, — лишь искусные математические манипуляции, способные эволюционировать в нечто, обладающее подлинным разумом.
Поэтому все эти дискуссии о «рисках осознанного ИИ» кажутся мне либо способом отвлечь внимание, либо элементом продуманного маркетинга.
Тем не менее, у меня есть общие точки соприкосновения с так называемыми «ИИ-думерами». Меня также пугает концентрация огромных технологических ресурсов в руках корпораций, чье влияние вышло из-под контроля общества. Меня тревожит, как эти технологии эксплуатируются для тотального контроля, слежки и укрепления авторитаризма через смычку бизнеса и власти. И я обеспокоен тем, как автоматизация используется как инструмент для выжимания всех соков из сотрудников, ухудшая их условия жизни.
Просто, на мой взгляд, для реализации подобных сценариев не требуется создание сверхразума.
Это происходит прямо сейчас.
И это требует нашего пристального внимания уже сегодня.
Недавно я обсуждал это на публичной дискуссии в Монреале с Астрой Тейлор и Йошуа Бенджио. Бенджио — фигура авторитетная: лауреат премии Тьюринга и один из архитекторов современного глубокого обучения.
Наши позиции, мягко говоря, разошлись.
Сейчас Бенджио развивает инициативу Lawzero. Суть ее в создании глобального консорциума для формирования ИИ как общественного цифрового достояния — прозрачного, проверяемого и этичного.
Его аргумент: ИИ станет могущественнее, и без создания общественно ориентированной альтернативы нас ждут хаос, манипуляции и экзистенциальные угрозы.
И вот тут я с ним принципиально не согласен.
Не из-за отсутствия опасений. Напротив — ИИ внушает мне серьезные страхи.
Но причины у меня иные.
Меня пугает, что красноречивый продажник «ИИ-решений» убедит руководство уволить вас, заменив системой, которая не в состоянии выполнять вашу работу. А убедить начальство нетрудно — ведь они обожают сокращать расходы на персонал.
Меня тревожит, что гиганты рынка, на которых приходится треть индекса S&P 500, могут рухнуть, как только рассеется иллюзия обеспеченности их астрономических долгов.
Меня пугает, что при схлопывании этого пузыря боты, подменившие живых людей, просто исчезнут, оставив нас с грудой нерешенных задач без исполнителей.
Меня беспокоит, что крах фондового рынка приведет к жесткой экономии, социальным волнениям и непредсказуемым политическим последствиям.
Меня пугает, что вытеснение профессионалов приведет к потере накопленного десятилетиями практического опыта. Того уникального знания, которое невозможно «выгрузить» или имитировать нейросетями.
И потом, посреди экономической разрухи, нам придется восстанавливать все с нуля.
Если вкратце:
ИИ напоминает мне асбест — материал, который мы опрометчиво встраиваем в фундамент цивилизации, не подозревая, сколько поколений потомков будут расплачиваться за последствия.
Бенджио же убежден, что мы на пороге появления сверхчеловеческого ИИ, который принесет беду, если мы не возьмем его под жесткий контроль.
И я подумал: это же классическое пари Паскаля в новой оболочке.
Логика такова: если есть хотя бы ничтожный шанс, что Бог существует, логичнее верить в Него, чтобы избежать бесконечного ущерба в случае ошибки. Но у меня к этой версии пари есть один вопрос:
Кстати, об инструментах. Если вам нужен доступ ко всем ключевым моделям — Claude, GPT, Gemini — загляните на BotHub.
Для доступа не требуется VPN, принимаются российские карты.
Переходите по ссылке и получайте 300 000 бесплатных токенов для старта работы с топовыми нейросетями!
Как определить точку остановки?
Человечество уже инвестировало более 1,4 триллиона долларов в попытку «вызвать» это цифровое божество. Пока безуспешно. Сколько еще нужно сжечь, чтобы признать, что в генераторе случайных слов божественного провидения нет?
Сэм Альтман просит еще 2–3 триллиона. Это сопоставимо с полугодовым бюджетом США. Допустим, мы их потратим. И если «бог» не объявится — мы наконец остановимся?
Илон Маск грезит о разборе Солнечной системы на части ради постройки сферы Дайсона, чтобы запитать наши модели энергией всей звезды.
Предположим, и это сделали. Если и тогда «бога» нет, мы закончим гонку?
Сильно сомневаюсь.
Если одной звезды мало, потребуются две, двести, две тысячи. Когда в дело вложено всё человечество, остановиться невозможно — ведь «бог» может скрываться в следующем по счету объекте.
Попытка создать ИИ-бога сродни написанию слова banana:
начать легко, но закончить практически невозможно.
Однако в споре с Бенджио я обнаружил точку сближения.
Когда речь заходит о гуманных технологиях, защищающих приватность и интересы людей, а не корпораций, я становлюсь внимательным слушателем. А формулировка «международные цифровые общественные блага» и вовсе находит у меня отклик.
В некотором смысле мы с Бенджио боимся одних и тех же вещей.
Меня также страшит колонизация планеты искусственными сущностями, над которыми мы потеряли контроль. Меня ужасает, как они искажают наше восприятие реальности, стирая грани между истиной и ложью. Я вижу, как они захватывают институты власти — суды, парламенты и регуляторов, заставляя их служить узким интересам.
Но есть фундаментальное различие.
Те «искусственные формы жизни», которых боюсь я, не гипотетические. Они уже здесь.
И имя им — корпорации с ограниченной ответственностью.
Это реальная, осязаемая угроза сегодняшнего дня.
Более того: чтобы противостоять им, нам жизненно необходимы те самые международные цифровые общественные блага. Нам нужен альтернативный интернет: прозрачные, свободные, верифицируемые протоколы и платформы, независимые от воли корпораций.
Даже при создании такой инфраструктуры нас ждет титанический труд: миграция из нынешней цифровой кабалы, где наши системы, сервисы и личные данные находятся под постоянным контролем.
Каждая минута в этом нынешнем «цифровом болоте» — это риск.
Один политический указ — и можно отключить доступ к критически важной инфраструктуре. Не нужны армии, достаточно просто перекрыть доступ к цифровому слою, на котором держится наша жизнь.
Это не сценарий из антиутопии. Это наша текущая реальность.
И это по-настоящему пугает.
Мое встречное предложение
Если мы согласны, что нам нужны международные цифровые общественные блага для защиты от грядущих угроз, давайте сойдемся на простом факте:
прототип этого проекта необходим уже сегодня.
Нам нужны независимые инструменты, чтобы выбраться из хватки тех «искусственных хищников» — нынешних корпораций, — что уже паразитируют на обществе.
Если мы одолеем эту угрозу, возможно, у тех, кто пытается «вызвать злого бога» из нейросетей, просто иссякнут ресурсы и влияние. Тогда ваш сценарий предотвратится автоматически.
Если же нет — если после победы над корпоративным диктатом ваша «угроза» останется, — тогда я встану плечом к плечу с вами. Вместе мы мобилизуем людей, умеющих строить по-настоящему свободные цифровые системы, — людей, уже закаленных в борьбе с нынешней корпоративной машиной.
И тогда мы вместе будем противостоять следующему чудовищу.
По-моему, это честная сделка.