Google изменила свою позицию: теперь ИИ может применяться для оружия и наблюдения

Как сообщает CNBC, Google изменила свою политику, касающуюся исключения использования ИИ в потенциально опасных сферах, таких как военная и наблюдательная деятельность.

Ранее в принципах компании по искусственному интеллекту было отмечено, что она не будет создавать технологические решения, направленные на нанесение вреда людям или способствующие такому вреду, а также не будет разрабатывать технологии, нарушающие международные нормы наблюдения. Эти пункты больше не находится на сайте компании в разделе «Принципы ИИ».

«Существующая глобальная конкурентная борьба за господство в сфере ИИ проходит на фоне все более сложного геополитического контекста», — так говорится в совместной публикации, сделанной во вторник совместно с Демисом Хассабисом, генеральным директором Google DeepMind. — Мы уверены, что в разработке ИИ лидировать должны демократии, в основе которых лежат такие ценности, как свобода, равенство и соблюдение прав человека».

Пересмотренные принципы подчеркивают стремление Google предложить свои ИИ-технологии и сервисы более широкому спектру клиентов, включая государственные структуры. Это также соответствует нарастающей риторике кремниеводолинских лидеров, касающейся ИИ-соперничества между США и Китаем, где победа сулит значительные преимущества. В понедельник технический директор Palantir Шьям Санкар отметил, что «для победы нашего государства эти усилия должны значительно выходить за пределы Министерства обороны».

Бывшие принципы ИИ компании предусматривали учет широкого спектра социальных и экономических факторов. В новой версии указывается, что Google будет выполнять действия, где уверено в том, что общие вероятные преимущества значительно превосходят предполагаемые риски и недостатки.

Google подчеркнула, что будет придерживаться общепризнанных принципов международного права и прав человека, тщательно оценивая, перевешивают ли плюсы возможные риски при каждом конкретном случае.

Компания установила свои принципы ИИ в 2018 году после того, как отказалась продлевать контракт с государством под названием Project Maven. Этот проект был нацелен на использование ИИ для анализа и интерпретации видеоматериалов, снятых дронами, в интересах правительства. Перед тем как расторгнуть этот контракт, несколько тысяч сотрудников подписали петицию против его продления, и некоторые ушли из компании в знак протеста. Google также отозвала заявку на участие в тендере Пентагона на облачный контракт стоимостью 10 миллиардов долларов, отчасти потому что не была уверена в соответствии этого контракта принципам ИИ компании.

Источник: iXBT