Ключевые идеи книги The Coming Wave Мустафы Сулеймана от команды сервиса MakeRight.ru.
О чем эта книга?
Мустафа Сулейман рассуждает о высоких технологиях не как теоретик, а со знанием дела, на основании профессионального опыта.
Главная мысль книги — в неожиданно возникшем важном парадоксе. С одной стороны, мы наблюдаем за тем, как стремительно развиваются искусственный интеллект, синтетическая биология, робототехника и другие инновации, какие чудеса они способны совершить, как далеко продвинуть развитие человечества. С другой стороны, вместе с неоспоримыми преимуществами высоких технологий существуют и риски, которые постоянно растут. Это настоящий вызов, с которым мы столкнемся уже в XXI веке.
Рассмотрим важные идеи книги.
Волнообразное распространение технологий началось с первобытных времен и продолжается до сих пор
Одной из самых значительных волн в истории была аграрная революция (9000–7500 гг. до н. э.), которая привела к появлению двух технологий общего назначения: одомашниванию растений и животных. Благодаря этим технологиям изменился способ добычи продуктов, их хранения, организация общества.
Каждая волна создает основу для последующих волн. С 1770-х годов в Европе возникла первая волна промышленной революции. В 1840-х годах новая волна включила строительство железных дорог, телеграфов и пароходов, вскоре и станкостроения. Все это вместе привело к Первой промышленной революции. После этого инновации и изменения ускорились, они уже измерялись десятилетиями, а не веками, как прежде.
Самые быстрые изменения в общество внесли компьютерные технологии. В конце 1950-х гг. Роберт Нойс придумал интегральную схему в Fairchild Semiconductor и сделал несколько транзисторов на кремниевых пластинах. Это был прототип кремниевого чипа. А уже с начала 1970-х годов количество транзисторов на кристалле увеличилось в 10 млн раз.
Благодаря росту вычислительной мощности начался расцвет компьютеров, смартфонов и других подключенных устройств.
Компьютеры и связанные с ними технологии стали главной чертой современной цивилизации. Ни одна волна не распространялась так быстро, но нас уже ждет следующая, еще больше и сильнее.
Мощь технологической волны должна предусматривать и способы ее сдерживания
Сдерживание должно предусматривать регулирование, повышение технической безопасности, новые способы управления и собственности, подотчетность и прозрачность. Оно не может охватить все технологические проблемы, но должно стать фундаментом для будущего.
Все новое и необычное вызывает в первую очередь страх и подозрения. Иногда инновация получает отпор, на который есть свои причины. Луддиты, которые не принимали промышленные методы, вовсе не исключение. Новые технологии часто встречали в штыки самые разные люди, от правителей до гильдий мастеров. Однако сопротивление инновациям ни к чему не приводит.
Сдерживать пока что удается только развитие ядерного потенциала, ввиду ужасных последствий его срабатывания или применения.
Сегодня ядерная угроза обострилась из-за желания многих стран иметь собственное ядерное оружие.
На протяжении веков люди старались создать и использовать мощность придуманных ими технологий. Сегодня все изменилось: мы нуждаемся в сдерживании этой мощности, чтобы технологии нас не уничтожили, а продолжали нам служить.
Технология перестала быть просто инструментом, она может сама проектировать жизнь и конкурировать с человеческим интеллектом
Сегодня в развитии технологий наступил переломный момент.
ИИ уже умеет воспроизводить речь, воплощает идеи и описания в картины. Прорывы в синтетической биологии привели к секвенированию, модификации, а позднее — и к возможности печатать ДНК. В грядущей волне ИИ и синтетическая биология станут центральными технологиями общего назначения. Они будут действовать в окружении других передовых технологий, включая квантовые вычисления, робототехнику, нанотехнологии. В грядущей волне одна технология будет пересекаться с другими, усиливать их, так что сложно предсказать их влияние. Но ясно одно: они будут все сильнее связаны друг с другом и со временем станут еще более запутанными.
ИИ массово внедряется во все сферы жизни. Благодаря программному обеспечению происходит сбор и анализ огромного объема данных, которые используются для обучения ИИ созданию более совершенных продуктов практически во всех областях.
Вполне возможно, что вскоре ИИ станет действовать, говорить и рассуждать, находясь непосредственно в мире людей.
У грядущей волны есть четыре особенности, препятствующие ее сдерживанию
Первая особенность — асимметричное воздействие. Новые технологии создают новые точки давления на доминирующие державы и делают их уязвимыми для новых невиданных угроз. Вторая особенность — быстрое развитие новых технологий, стремительно осваивающих новые области. Третья особенность — их универсальность: большинство из них можно использовать в самых разных целях. Четвертая особенность — высокая степень автономии, которая со временем становится еще выше. Все эти особенности выводят сдерживание и контроль на новый уровень потенциальной угрозы.
Технологии грядущей волны находятся в пределах нашей способности создавать и использовать, но не понимать на детальном уровне. Так, в ИИ нейронные сети, стремящиеся к автономии, не поддаются полному объяснению. Невозможно рассказать от начала и до конца, почему алгоритм выдал тот или иной прогноз. Мы не всегда можем предсказать, чем автономные системы займутся дальше. ИИ уже самостоятельно улучшает собственные алгоритмы. В сочетании с автономностью это может привести к непредсказуемым результатам.
Нужно ограничить технологии таким образом, чтобы пользы от них было больше, чем вреда
В 2021 году был создан проект Закона ЕС об ИИ. Согласно проекту, исследования в области использования и внедрения ИИ будут опираться на шкалу риска. Если риск неприемлемо высок, технология запрещается. Если применение ИИ окажет вредное воздействие на права человека, базовую инфраструктуру, общественный транспорт, соцобеспечение или здравоохранение, риск будет считаться высоким, а исследования будут проходить в условиях строгого надзора и подотчетности.
Сулейман считает, что сдерживание невозможно проводить какой-то одной страной или несколькими странами. Нужно партнерство как со стороны государственного и частного секторов, так и между правительствами разных стран.
Первый шаг — техническая безопасность. Создатели новых технологий или новых способов их работы должны принять конкретные технические меры для уменьшения вреда и поддержки контроля.
Второй шаг — аудиты. Корпорации, занимающиеся передовыми технологиями, должны предоставлять доступ для проверки их деятельности специальным комиссиям. Необходимо обеспечить прозрачность и подотчетность новой технологии.
Третий шаг — выявление узких мест в технологии. Как только такое место будет выявлено, нужно иметь рычаги замедления разработки, чтобы выиграть время для регулирующих органов и создания защитных технологий.
Четвертый шаг — обязать производителей и разработчиков внедрять в создаваемую технологию средства ее контроля с самого начала создания. Нужно иметь возможность убедиться в том, что такие средства действительно внедрены.
Пятый шаг — стимулировать организации, заинтересованные в создании технологии, чтобы они принимали участие в ее сдерживании. Если они получат какие-то бонусы, то охотнее пойдут навстречу.
Шестой шаг — создание технологий под государственным контролем. Если правительства будут принимать в этом непосредственное участие, они смогут не только создавать технологии, но и регулировать их, и принимать меры по смягчению последствий.
Седьмой шаг — создание международных альянсов. Страны должны сотрудничать друг с другом, чтобы иметь возможность принимать международные законы и программы регулирования технологий.
Восьмой шаг — создание культуры обмена опытом и сообщениями о неудачах созданных технологий между корпорациями и разными странами. Это поможет быстрее найти способ решения проблемы.
Девятый шаг — участие общественности на каждом уровне создания технологии. Так легче проследить за каждой стороной технологии, сделать ее подотчетной.
Десятый шаг — согласованность действий, превращение сдерживания в круг объединенных мер, которые усиливают друг друга, а не набор разношерстных конкурирующих программ.
