[Перевод] Человек против машины: новая этика кибербезопасности

В блоге одного из писателей-фантастов я подсмотрел интересненькое, хочу поделиться.

Глобальный манифест «этики в технологиях»:

1. Право оставаться натуральным, то есть биологическим существом. Это значит, что мы можем устраиваться на работу, использовать публичные сервисы и функционировать в обществе без требования размещать какие-либо технологии на своём теле или внутри него.
2. Право быть неэффективными там, где это касается наших базовых человеческих качеств. Мы должны иметь возможность быть медленнее, чем технические системы, и не ставить эффективность выше человечности.
3. Право отключаться от сетей. Мы должны иметь право уходить в оффлайн и блокировать коммуникации, а также мониторинг и трэкинг.
4. Право на анонимность. Мы должны иметь возможность запретить идентификацию своей личности, когда это не представляет опасности для себя или окружающих.
5. Право нанимать людей вместо машин. Мы должны поддерживать компании, которые выбирают людей вместо машин, даже если это менее эффективно и более затратно.

Под катом — перевод статьи про новую книгу футуриста Герда Леонгарда «Переход в эпоху цифровых технологий».

Какую роль играет этика в технологиях? Когда вы будучи руководящим работником или членом совета директоров одобряете инвестирование в технологии или просите вашу команду создать бизнес-сервис, основанный на технологиях, задумываетесь ли вы об этических соображениях того, что вы делаете?

Если вы похожи на большинство бизнес-лидеров, эти типы соображений не находятся в верхней части вашего списка. Вы, вероятно, думаете о росте, доходах, риске, результатах и т. д. Даже если бы вы хотели подумать об этике использования конкретной технологии, вы возможно даже не знаете, какие вопросы задавать.

Это должно измениться. По словам футуриста Герда Леонгарда, автора книги «Технологии против человечества», мы движемся в новую эпоху развития технологий. В течение следующих пяти-десяти лет важные вопросы не будут касаться того, можем ли мы что-то сделать; скорее они будут сосредоточены на том, почему мы это делаем и кто это делает.

Это изменение акцента от науки к этике обусловлено ростом экспоненциальных технологий, таких как машинное обучение и искусственный интеллект, а также совмещением традиционно не связанных между собой отраслей. В качестве примера конвергентной технологии Леонгард указывает на Spotify, которая смогла создать свою бизнес-модель только благодаря появлению дешевых и мощных смартфонов, подключенных к быстрым мобильным сетям.

Воздействие этих экспоненциальных и конвергентных технологий окажет глубокое влияние на кибербезопасность — не только с точки зрения технологии, но и с моральной и этической точки зрения.

«Технологическая безопасность может быть настолько же хороша, как моральные, этические и политические рамки, которые ее окружают и определяют», — говорит Леонгард. «Самые передовые технологии безопасности будут бесполезны, если те, кто у руля и те, кто ее используют, действуют неэтично, со злым намерением или с небрежностью. Фактически, та самая технология, которая используется для защиты потребителей и пользователей, может использоваться для того, чтобы шпионить за ними».

Вопросы, связанные с этикой, становятся все более актуальными, говорит Леонгард, поскольку машины становятся более умными и становятся все более распространенными — до такой степени, что технологии уже не просто вокруг нас, а на самом деле внутри нас. Например, он указывает на идею наличия наноботов в нашем мониторинге кровообращения и даже регулировании уровней холестерина или способности напрямую связывать наш мозг с интернетом, чтобы превратить мысли в действия.

Это может показаться ошеломляющим, но Леонард говорит, что эти сценарии не только реальны; они находятся на горизонте. В новой книге «Переход в эпоху цифровых технологий, второе издание», опубликованной Palo Alto Networks, Леонард говорит, что следующие 20 лет принесут больше изменений, чем предыдущие 300.

Этический манифест

О каких типах этических соображений мы должны думать, изучая влияние цифровых технологий и кибербезопасности на наше будущее?

Леонгард предлагает основу для того, что он называет глобальным манифестом «этики в технологиях». Он говорит, что при создании этой модели важно сосредоточиться на правах человека в эпоху, когда машины будут приобретать более человекоподобные характеристики.

Манифест, предлагаемый Леонгардом фокусируется на пяти конкретных правах человека, которые, по его мнению, могут быть поставлены под угрозу, если у нас нет этической основы, которая могла бы руководить нами. Это:

1. Право оставаться натуральным, то есть биологическим существом. Это значит, что мы можем устраиваться на работу, использовать публичные сервисы и функционировать в обществе без требования размещать какие-либо технологии на своём теле или внутри него.
2. Право быть неэффективными там, где это касается наших базовых человеческих качеств. Мы должны иметь возможность быть медленнее, чем технические системы, и не ставить эффективность выше человечности.
3. Право отключаться от сетей. Мы должны иметь право уходить в оффлайн и блокировать коммуникации, а также мониторинг и трэкинг.
4. Право на анонимность. Мы должны иметь возможность запретить идентификацию своей личности, когда это не представляет опасности для себя или окружающих.
5. Право нанимать людей вместо машин. Мы должны поддерживать компании, которые выбирают людей вместо машин, даже если это менее эффективно и более затратно.

Вывод

Когда вы смотрите на то, какую роль играют технологии на сегодняшний день, многие из этих «прав» могут казаться очевидными или ненужными. Это потому, что технологии пока не настолько широко доступны, чтобы принимать их как должное или, что еще более важно, избавляться от них.

Что происходит, однако, когда технологии доступны? В этом и состоит смысл Леонгарда: мы должны смотреть на возможности завтрашнего дня, пока не стало слишком поздно. Так он говорит в одной из глав «Перехода в эпоху цифровых технологий» во втором издании.

«У технологий нет этики, но от них зависит общество. Напомним, что цивилизации руководствуются своими технологиями и определяются их гуманностью. Технология — это не то, что мы ищем, а то, как мы ищем ».