Специалисты компаний ANYbotics, Boston Dynamics и Clearpath Robotics отвечают на вопросы о безответственном и неэтичном использовании их роботов.
Иллюстрация: iStockphoto/IEEE Spectrum
За последние лет пять резко увеличилось коммерческое производство автономных роботов, которые могут работать вне структурированной среды. Но этот относительно недавний переход роботизированных технологий из разряда исследовательских проектов в коммерческий продукт сопровождается определенными сложностями, многие из которых связаны с тем, что все больше и больше роботов появляется в жизни общества.
Роботы часто будоражат умы людей, возможно, из-за их кажущейся дееспособности или типичного изображения в массовой культуре. Иногда это приводит к положительным результатам, например к инновационным способам их применения. Но есть и обратные ситуации, когда это приводит к неэтичному или безответственному использованию. Могут ли продавцы роботов что-то предпринять в таких случаях? И даже если могут, следует ли им это делать?
Робототехники считают, что роботы — это в первую очередь инструменты. Мы их конструируем, программируем, и даже автономные роботы всего лишь следуют инструкциям, которые мы в них закодировали. Однако именно кажущаяся дееспособность роботов, которая вызывает такой интерес, означает, что люди, не имеющие какого-то опыта взаимодействия с настоящими роботами, могут не понимать, что робот сам по себе не хороший и не плохой, он является лишь отражением его конструкторов и пользователей.
Это может поставить робототехнические компании в затруднительное положение. Человек, купивший у них робота, гипотетически, может использовать его как угодно. Конечно, это относится к любому инструменту, но уникальность ситуации с роботами заключается в их автономности. Можно сказать, что автономия подразумевает связь между роботом и его производителем или, в данном случае, компанией, которая его разрабатывает и продает. Пусть эта ассоциация не совсем обоснована, но она существует, несмотря на то, что в итоге именно покупатель робота полностью контролирует все его действия.
Все наши покупатели без исключения должны подтвердить, что Spot не будет применяться для нанесения вреда людям и животным а также их запугивания, использоваться в качестве оружия или оснащаться для удержания оружия.
Роберт Плэйтер, Boston Dynamics
Конечно же, робототехнические компании это понимают, потому что многие из них тщательно следят за тем, кому продают свою продукцию, и очень четко определяют желательные способы применения своих роботов. Но насколько далеко должна распространяться эта ответственность, когда робот «вылетает из гнезда» создавшей его компании? И насколько это вообще возможно? Должны ли робототехнические компании нести ответственность за действия своих роботов в мире людей, или нужно признать, что после продажи робота ответственность за него также переходит к новому владельцу? И что можно предпринять, если возникают случаи безответственного или неэтичного использования роботов, которые могут отрицательно сказаться на производителях робототехники?
Чтобы получше разобраться в этом вопросе, мы связались с сотрудниками трех робототехнических компаний, каждая из которых имеет опыт продажи уникальных мобильных роботов коммерческим потребителям. Мы задали им пять вопросов об ответственности, которую робототехнические компании несут за продаваемых роботов, и вот что они ответили.
Есть ли какие-то ограничения на то, как люди могут использовать ваших роботов? Если да, какие именно, а если нет, то почему?
Петер Фанкхаузер, генеральный директор ANYbotics:
Мы тесно работаем с клиентами, чтобы убедиться, что наш продукт обеспечивает правильное решение их проблемы. Таким образом, мы сразу понимаем, для чего приобретается робот, и не сотрудничаем с клиентами, которые хотят использовать нашего робота ANYmal не по назначению. В частности, мы категорически не допускаем любое военное или вооруженное использование наших роботов, и с момента основания ANYbotics стараемся улучшить условия труда для людей, сделать их более комфортными, приятными и безопасными.
Роберт Плэйтер, генеральный директор, Boston Dynamics:
Да, мы ввели ограничения на способы применения наших роботов, которые изложены в условиях договора купли-продажи. Все наши покупатели без исключения должны подтвердить, что Spot не будет применяться для нанесения вреда людям и животным а также их запугивания, использоваться в качестве оружия или оснащаться для удержания оружия. Как и любой другой товар, Spot необходимо использовать в рамках закона.
Райан Гариепи, технический директор, Clearpath Robotics:
У нас есть строгие ограничения и процессы для проверки клиентов, основанные преимущественно на правилах экспортного контроля Канады. Они зависят от типа проданного оборудования, а также от того, где оно будет использоваться. В общем, мы также не будем продавать или поддерживать робота, если знаем, что он создаст неконтролируемую угрозу безопасности, или если у нас будут основания полагать, что покупатель не обладает достаточной квалификацией для использования продукта. И, как правило, мы не поддерживаем использование наших продуктов для разработки полностью автономных систем вооружений.
Почему покупатель робота должен быть ограничен в его использовании?
Петер Фанкхаузер, ANYbotics:
Мы рассматриваем робота не как обычный предмет, а скорее как искусственную рабочую силу. Для нас это означает, что передача робота и его использование тесно связаны, а заказчику и поставщику необходимо договориться о том, какие задачи робот будет выполнять. Такой подход находит отклик у наших клиентов, которых все больше интересует возможность платить за роботов как за услугу или за каждое использование.
Роберт Плэйтер, Boston Dynamics:
Мы продаем товар и сделаем все, что в наших силах, чтобы не дать злоумышленникам использовать наши технологии во вред, но мы не можем контролировать каждый случай использования. Тем не менее, мы считаем, что наилучшее влияние на наш бизнес окажет использование технологий в мирных целях — для работы вместе с людьми в качестве надежных помощников и защиты их от опасностей. Мы не хотим, чтобы наши технологии использовались для причинения вреда или пропаганды насилия. Мы используем такие же ограничения, как и другие производители или технологические компании, которые принимают меры по сокращению или исключению насильственного или незаконного применения их продуктов.
Райан Гариепи, Clearpath Robotics:
Допустим, что организация, устанавливающая ограничения, является частной, а робот и его программное обеспечение продаются, а не сдаются в аренду или под управление, в таком случае нет веских юридических причин для ограничения использования. При этом производитель также не обязан обеспечивать поддержку этого конкретного робота или клиента в будущем. Однако, учитывая, что мы пока находимся только на пороге общественных перемен, которые принесут роботы, в интересах производителя и пользователя честно сообщать друг другу о своих целях. Сейчас вы вкладываетесь не только в первоначальную покупку и отношения с производителем, вы инвестируете в обещание того, как вы можете помочь друг другу преуспеть в будущем.
Если робот используется безответственно с точки зрения безопасности: вмешивайтесь! Если сталкиваетесь с неэтичным применением, не молчите!
Петер Фанкхаузер, ANYbotics
Что реально вы можете сделать, чтобы гарантировать использование приобретенных роботов по назначению?
Петер Фанкхаузер, ANYbotics:
Мы поддерживаем тесное сотрудничество с клиентами, чтобы наше решение позволило им осуществить все поставленные задачи. Поэтому мы отказались от технических возможностей блокировки использования продуктов не по назначению.
Роберт Плэйтер, Boston Dynamics:
Мы тщательно проверяем своих клиентов и следим, чтобы предполагаемое использование соответствовало функционалу робота Spot и не противоречило условиям договора купли-продажи. Мы отказываем в продаже клиентам, которые планируют использовать роботов для задач, которые им не совсем подходят. А в случае злоупотребления нашими технологиями или нарушения правил использования, согласно условиям договора купли-продажи, аннулируется гарантия и возможность получать обновления, обслуживание, ремонт или замену робота. Мы также можем изымать роботов, которые были арендованы, а не куплены. И наконец, мы не будем повторно продавать роботов клиентам, нарушающим условия договора купли-продажи.
Райан Гариепи, Clearpath Robotics:
Обычно мы работаем с клиентами перед продажей, чтобы убедиться, что их ожидания соответствуют реальности, в частности, по таким вопросам, как безопасность, требования по контролю и удобство использования. Уж лучше и вовсе не заключить сделку, чем продать робота, который будет пылиться на полке или, и того хуже, причинять вред, поэтому мы предпочитаем снизить риск возникновения такой ситуации до получения заказа или отправки робота покупателю.
Как вы оцениваете пограничные случаи применения, например, если кто-то захочет использовать вашего робота в области искусства или исследованиях, которые могут расширить границы того, что вы лично считаете ответственным или этичным?
Петер Фанкхаузер, ANYbotics:
Главное — вести диалог, стараться понять друг друга и искать альтернативы, которые устроят все заинтересованные стороны, и чем раньше начать этот диалог, тем лучше.
Роберт Плэйтер, Boston Dynamics:
Существует четкая грань между изучением роботов в науке и искусстве и использованием роботов в насильственных или незаконных целях.
Райан Гариепи, Clearpath Robotics:
Мы продали уже тысячи роботов сотням клиентов, и я не припомню, когда в последний раз нам не нужно было разбираться с экспортным контролем и проводить общую оценку целей и ожиданий клиента. Я уверен, что это изменится, так как цены на роботов продолжают снижаться, а их эксплуатационная гибкость и удобство в использовании растут.
Сейчас вы вкладываетесь не только в первоначальную покупку и отношения с производителем, вы инвестируете в обещание того, как вы можете помочь друг другу преуспеть в будущем.
Райан Гариепи, Clearpath Robotics
Что должны делать робототехники, если видят, как робота используют неэтичным или безответственным образом?
Петер Фанкхаузер, ANYbotics:
Если робот используется безответственно с точки зрения безопасности, вмешивайтесь! Если сталкиваетесь с неэтичным применением, не молчите!
Роберт Плэйтер, Boston Dynamics:
Мы хотим, чтобы роботы приносили человечеству пользу, а значит, в том числе, не наносили людям вреда. Мы думаем, что отрасль роботостроения станет коммерчески жизнеспособной в долгосрочной перспективе, только если люди будут рассматривать роботов как полезные инструменты, не беспокоясь о том, могут ли они причинить вред.
Райан Гариепи, Clearpath Robotics:
Если это единичный случай, им следует обсудить проблему с пользователем, поставщиком или поставщиками, средствами массовой информации и регулирующими или государственными органами, если возникает непосредственная угроза безопасности. Если указанная ситуация рискует неоднократно повториться и не воспринимается всерьез, робототехникам следует вынести это на более широкое обсуждение на соответствующих площадках: на конференциях, в отраслевых группах, в органах по стандартизации и т. п.
Заключение
Поскольку на рынке появляется все больше и больше роботов с различными возможностями, эти проблемы могут возникать все чаще. Три компании, с которыми мы поговорили, конечно же представляют не все имеющиеся точки зрения. Но я полагаю (надеюсь?), каждый, имеющий отношение к производству роботов согласится с тем, что роботы должны использоваться для улучшения жизни людей. Но что означает «лучше» в контексте искусства, исследований и даже использования роботов в вооруженных силах, не всегда легко определить, и неизбежно возникнут разногласия относительно того, что является этичным и ответственным, а что нет.
