[Из песочницы] Автономные системы будущего. Классификация, особенности и требования

Автономные системы известны сегодня во многом благодаря последним веяниям из автомобильной промышленности. На самом деле, автоматизированные системы различной степени автономности являются составной частью будущих разработок и планов развития многих областей деятельности. В представленной статье авторов Werner Damm и Ralf Kalman из журнала «Informatik-Spektrum» издание 5/2017 приведены различные отраслевые нормы и стандарты, а также дается характеристика функциональных возможностей и требований к методам, процессам и инструментам для разработки соответствующего программного обеспечения.

Чем выгодна автономность?

Насколько техническая система должна и насколько может быть автономной?
На сегодняшний день кажется, что не существует границ для реализации все более и более совершенных автономных систем. Мы стоим на пороге внедрения на рынок технологий, которые самостоятельно выстраивают сложные отношения окружающего мира на основании предоставленных данных, автоматической идентификации объектов и информации с сенсоров различного уровня. Все это используется, чтобы получить точное цифровое представление действительности для реализации поставленной задачи. Вводятся системы, способные осуществлять анализ возможного дальнейшего развития событий окружающей действительности, который выходит далеко за пределы человеческих аналитических способностей. Реализуются системы, которые самостоятельно планируют и реализуют задачи, не требуя при этом никакой поддержки со стороны. Эти системы наделяются когнитивными способностями человека, релевантными в контексте поставленной задачи, которые позволяют им действовать полностью автономно.

Недавно опубликованный отчет правительства Германии о стратегии в сфере высоких технологий показывает множество возможностей применения автономных систем. Среди них указываются все виды „Smart Systems“, такие как Smart Mobility, Smart Health, Smart Production, Smart Energy, интеллект которых реализуется на основе вышеперечисленных возможностей. Они способны в реальном времени создавать цифровую картину мира, обрабатывая данные со множества источников информации, и организовывать совместную работу миллионов подсистем таким образом, чтобы обеспечить успешное выполнение поставленных целей, таких, например, как оптимизация использования ресурсов. Выгода от этого может быть применена во многих сферах общественной жизни: здравоохранения и транспорта, энергопотребления, продуктивности и качества продуктов, предупреждение стихийных бедствий и столкновений различных транспортных средств. Philips, например, при использовании специальных носимых датчиков для послеоперационного наблюдения пациентов ожидает сокращение послеоперационных остановок сердца на 86%, а, через „умное“ отслеживание критических параметров здоровья в амбулаторном лечении, сокращение его стоимости на 34%.

Системы автоматизированного управления существуют уже довольно много лет. Автоматизация позволяет эффективно использовать технику без необходимости ручного вмешательства. Типичные задачи автоматизированного управления и настройки оборудования представляются в виде цепей управления, для которых создаются математические модели и которые реализуются в виде электронных приборов и программного обеспечения.

Современное развитие кибер-физических систем выходит далеко за эти пределы. Объединение IT со встроенными системами управления и динамическое взаимодействие друг с другом обеспечивают их совместную работу через гетерогенные интерфейсы данных. Также, как и при автоматизации в 80-х годах, автономное производство обещает повышение эффективности, продуктивности и качества.

Разработки такого рода проводятся во многих областях применения технических систем. Хотя их прикладные сценарии отличаются, в сфере программного обеспечения могут быть выявлены общие проблемы и описаны обобщенные методы их решения. Примеры таких методов будут представлены в последней части данной статьи. Особый интерес при этом вызывает применение самообучающихся систем. С ними потенциальные возможности автономии кажутся безграничными, потому что появляется возможность распознавать изначально неизвестные, влияющие на работу системы, артефакты окружающего мира и изучать относящиеся к ним динамические модели. Таким образом, открываются новые, ранее не предполагаемые возможности применения техники.

Потенциальная рыночная стоимость технологий, возникающих на основе этих разработок, оценивается в сотни миллиардов USD. В частности, исследование проекта Евросоюза Platforms4CPS приводит следующие данные:

• К 2035 году автономные автомобили будут составлять 10% всех продаж. Это соответствует примерно 12 миллионам штук и объему рынка в 39 млрд. USD.
• Рынок управления авиаперелетами вырастет, согласно оценке, с 50,01 миллиарда USD в 2016 до 97,3 млрд. USD в 2022. При этом средний уровень годового роста будет составлять 11,73%.
• Мировой рынок роботизированной авиации ожидает среднегодовой рост на уровне 17,7% в течении следующего десятилетия, так что в 2025 году его стоимость достигнет 7,9 млрд. USD (по данным „Markets and Markets“).
• Объем рынка дронов оценивается в 13,22 млрд. USD и к 2022 должен достичь 28,27 млрд. при ежегодном росте в размере 13,51%.
• Рынок беспилотных автомобилей оценивается от 437,57 млн. USD в 2016 и до 861,37 млрд. в 2021 при годовом росте 14,51%.
• Объем рынка автономных подводных аппаратов возрастет с 2,29 млрд. USD в 2015 до 4,00 млрд. в 2020 при оценочном годовом росте 11,90%.
• Рынок промышленного интернета вещей (IIoT) ожидает рост с 110 млрд. USD в 2020 до 123 млрд. в 2021.
• Рынок технологий для носимых гаджетов имеет объем 28,7 млрд. USD. „Gartner“ прогнозирует, что этот рынок будет ежегодно расти в среднем на 17,9% между 2015 и 2017. При этом наиболее растущим является сегмент наручных мобильных гаджетов с годовым приростом 30%.
• Рынок microgrids был оценен в 16,58 млрд. USD в 2015. В 2022 „Markets and Markets“ ожидает его рост до 38,99 млрд. USD при годовом росте на уровне 12,45%.

Благодаря развитию технологий, на современном рынке появляются новые виды продуктов и услуг с высоким уровнем автоматизации. В связи с этим встает вопрос о том, в каких областях такие разработки действительно имеют смысл, и какое воздействие они оказывают на общество.
В условиях постоянно повышающегося уровня автономности однозначно будет меняться и качество взаимодействия человека и техники. На сегодняшний день человек выступает не только как конечный пользователь, но и, во многих случаях, как часть системы управления (human-in-the-Loop). Автономизация же создает тренд, устанавливающий взаимодействие человека и техники на более высокий уровень абстракции. Автономная система дает человеку возможность ознакомиться с частью „своего“ цифрового видения мира с помощью подходящих абстракций, таких как, например, технологии виртуальной реальности, релевантные для решения конкретной проблемы в данный момент времени. И наоборот, человек может с легкостью воздействовать на сложные процессы внутри системы через интуитивно понятные человеко-машинные интерфейсы. Эта коммуникация, сопровождающаяся повышающимся уровнем абстракции, требует, в свою очередь, определенного уровня квалификации и обучения. Одновременно с этим исчезнут за ненадобностью рабочие места для низкоквалифицированного персонала.

Постоянное использование большого количества источников данных значительно повысит опасность их незащищенности. Архитектура сетевых распределенных систем будет устанавливать экстремально высокие требования к своей защите, чтобы избежать катастрофического воздействия возможных кибератак, направленных на отключение отдельных составных компонентов.

При растущей автономности также возникает вопрос, какими ценностями должен обладать, лежащий в основе, процесс принятия решений, и соответствуют ли они нашим собственным. На основании этого Европейский парламент в своей резолюции от 16 февраля 2017 постановил:

• использовать принцип транспарентности, который подразумевает, что всегда должно быть возможно установить принципы и аргументацию, стоящие за каждым принятым с помощью искусственного интеллекта решением, которое может оказать существенное влияние на человеческую жизнь;
• всегда должно быть возможно представить вычислительные алгоритмы системы, использующей искусственный интеллект, в понятной человеку форме;
• прогрессивные роботы должны быть оснащены так называемым „черным ящиком“, записывающим данные о каждой совершенной машиной транзакцией, включая логику, которая внесла вклад в принятие того или иного решения.

Наконец, из-за предстоящего ввода на рынок автономных беспилотных автомобилей, необходимо заново пересмотреть законы об ответственности за возникающие правонарушения.

Эти темы выходят, таким образом, за рамки своей чисто профессиональной сферы. Каким образом нужно проектировать автономные системы, чтобы они приносили не только экономическую выгоду, но и были бы позитивно восприняты обществом? Эти проблемы должны стать предметом изучения в информатике. Настало время заново переосмыслить существующие процессы и методики проектирования, в которые на постоянной основе должна быть включена оценка социального воздействие разрабатываемых автономных систем.

Классы автономности в различных отраслях

Самым известным примером являются автономные транспортные средства в автомобильной промышленности. Многие производители объявили о выпуске на рынок соответствующих автомобилей в следующие 3-4 года. Однако, имеющиеся уже на сегодняшний день, вспомогательные системы позволяют реализовать удивительные вещи. Несмотря на это, путь от частично автоматизированного вождения (некоторые производители говорят в этом случае также о „пилотируемом“ вождении) до полностью автономного еще очень далек. При частично автоматизированном (соответствует 2-му уровню автоматизации по SAE) главная ответственность лежит на человеке, и он обязан иметь возможность самостоятельно вмешиваться в процесс в кратчайшие сроки. Кроме этого, возможность применения таких систем ограничена строго нормированной окружающей обстановкой (например, езда по автотрассе). На уровне высоко автоматизированного вождения (уровень автоматизации 3 по SAE) водителю разрешается уделять свое внимание другим вещам, то есть программное обеспечение гарантирует полную безопасность вождения либо, в случае возникновения какой-то ошибки, переводит систему в безопасное состояние, например, остановив транспортное средство на обочине. Полностью автоматизированные автомобили (уровень автоматизации 4 по SAE), которые справляются со своей задачей абсолютно без помощи водителя, представляют высшую ступень автономности, при этом им не требуется никаких указаний относительно скорости движения или особенностей окружающей обстановки.

Существенное влияние на развитие этой отрасли оказывает, в первую очередь, не желание обычных людей передать управление своим автомобилем в другие руки, а потребности новых транспортных компаний в соответствующих услугах, открывающих новые сегменты рынка или предлагающих более эффективный и быстрый общественный транспорт внутри населенных пунктов. В грузовых перевозках автоматизация позволяет разгрузить водителя, который сможет посвятить освободившееся время другим задачам и будет, таким образом, продуктивнее работать.

В железнодорожном и, в особенности, в подземном транспорте некоторые процессы уже автоматизированы. Здесь действует упрощенная модель, так как система работает на гомогенном ландшафте, где отсутствует пересечение транспортных маршрутов и многие пути изолированы друг от друга. С другой стороны, к этому добавляется вышестоящая система управления и координации процессов, из-за чего Международный Союз Общественного Транспорта (UITP) включил в свою классификацию вышестоящую систему наблюдения и контроля. Система автоматизированных поездов содержит следующие три компонента: обеспечение безопасности, управление составами и наблюдение за поездами. Безопасность контролируется посредством соблюдения дистанции между поездами, а также управления их скоростью. Управление обеспечивает движение поезда согласно расписанию и регулирует, например, открытие и закрытие дверей вагонов. Наблюдение за поездами контролирует, в свою очередь, все маршруты и всю инфраструктуру и передает соответствующую информацию в центр управления.

Такая система может быть наиболее просто реализована в метро на основании однородности транспортных средств и изолированности инфраструктуры. Однако, соответствующие концепты могут быть перенесены и в другие области железнодорожного транспорта, вплоть до больших сортировочных станций. При этом все же возникают проблемы при наблюдении и контроле за движением международного транспорта или из-за сложности окружающей обстановки, как например, движение пригородных поездов на вокзалах различного типа. Двигателем, шагающей вперед автоматизации железнодорожного транспорта, является высокая экономическая выгода предлагаемых решений, достигаемая, например, экономией энергии при согласованных процессах ускорения и торможения в одной транспортной сети.

В воздушном транспорте автоматизированное управление полетами применяется уже давно. Для беспилотников, применяемых, в основном, в военных целях, был повышен уровень автономности в части самостоятельного планирования задач и управления миссиями. Десять уровней автономности ALFUS (Autonomy Levels for Unmanned Systems) используют при этом три проекции для характеристики способностей системы: независимость от человеческого вмешательства, сложность задач и сложность окружающей обстановки. Вместе они характеризуют способности автономной работы. При поиске технологических решений для высшей степени автономности добавляются также такие темы, как поведение в группе, адаптивная коммуникация между аппаратами и самообучение, которые, пока еще, не коснулись остальных упомянутых выше таксономий.

В производстве автоматизированные процессы являются стандартными с введением в 80-х годах программируемых логических контроллеров (ПЛК). Такие процессы, однако, обладают малой гибкостью и ориентированы на массовое производство. Индивидуализированное производство или, обусловленные рынком, изменения в продуктовом портфолио приводят к дорогостоящей перенастройке производственных линий и переоснащению оборудованием. В процессе развития цифровых технологий и на основе концепции Индустрии 4.0 индивидуализированное производство стремится достичь такого же уровня эффективности и качества, как при массовом производстве. При этом оно должно автоматически приспосабливаться к изменяющимся условиям и новым производственным целям. Исследовательское общество Фрауенхофер предлагает 5 эволюционных ступеней, сопровождающих это развитие. В первую очередь, требуется обеспечить сбор и обработку производственных данных. Это будет являться основой для вспомогательных систем, оказывающих помощь в работе и при принятии решений. На третьей стадии объединение производственных этапов в единую сеть обмена данными и их интеграция друг с другом обеспечивают необходимые условия для оптимизации всей системы в целом. Для повышения эластичности производства на четвертой стадии от системы требуются способности к трансформации и реконфигурации. И на последнем пятом уровне производственная система должна уметь саму себя организовывать. На сегодняшний день производственные системы обосновались на уровнях с первого (сбор производственных данных) по третий (производство, объединенное сетью общих данных, как например, при производстве автомобилей). Чтобы перейти на следующую стадию, требуется, как правило, полная реструктуризация всей производственной архитектуры, что, соответственно, требует больших затрат.

Уровни автономности всех перечисленных областей применения приведены еще раз в таблице, при этом сделана попытка представить похожие степени автономности из различных доменов на одном уровне.

Уровень автономности	Автотранспорт	Ж/д-транспорт	Авиация	Производство
0	Нет автоматизации	„Едет как видит“		Сбор и обработка данных
1	Вспомогательные системы			Вспомогательные системы
2	Частичная автоматизация	Автоматизированные системы безопасности при наличии машиниста	Ограниченное управление	Работа в единой сети и интеграция
3	Условная автоматизация	Автоматизированные системы безопасности и эксплуатации при наличии машиниста	Диагностика состояния в реальном времени	Децентрализация, адаптация и трансформация
4	Высокая автоматизация	Беспилотная эксплуатация	Приспосабливаемость к ошибкам, поломкам и изменениям условий полета
5	Полная автоматизация (автономность)	Беспилотная эксплуатация без контроля со стороны человека	Самостоятельное изменение маршрута	Самоорганизация и автономность
6			Автономное поведение в группе при любых внешних условиях

На основе приведенных примеров уже можно распознать много общего в классификациях по уровням и целям автономности. Обобщенная классификация, которая бы успешно объединила воедино различные аспекты, была разработана и опубликована SafeTRANS в рамках технического планирования реализации высокоавтоматизированных систем. В ней существенные аспекты автоматизации разделены на четыре класса:

1. Функциональные автоматизированные системы могут автономно выполнять ограниченные, четко сформулированные задачи, как например, автоматическая парковка, приземление или полностью автоматизированное производство одного определенного продукта. Эти системы не могут обучаться в процессе эксплуатации; кооперация с другими системами ограничена лишь обменом контекстной информации, т.е. отсутствует какая-либо совместная работа.
2. Системы, ориентированные на выполнение миссий, могут решать незапланированную последовательность знакомых и выполнимых задач независимо от имеющейся ситуации. Это может быть, например, автономная езда на машине по трассе или работа одной линии метро. При реализации этого могут играть роль различные критерии оптимизации, как например, минимизация времени или ресурсных затрат. Расчеты для планирования и оптимизации производятся системой динамически в момент выполнения задачи. Эти системы также не могут обучаться в процессе работы; кооперация с другими системами ограничена обменом информации о контексте задачи и о самой системе.
3. Коллаборативными системами являются такие системы как роботы, группы из транспортных средств или летательных дронов, которые двигаются в определенном порядке или кооперируются друг с другом во избежание столкновений. В целях выполнения своей миссии, такие системы в состоянии взаимодействовать с другими системами и людьми, а также динамически согласовывать друг с другом свое восприятие, интерпретацию, цели, планы и действия. Эти системы обмениваются со своими партнерами релевантной информацией, но, все же, не являются обучаемыми.
4. Самодостаточные (аутопоэзические) системы – это системы, которые в состоянии самостоятельно развивать свои восприятие, интерпретацию, действия и способности совместной работы, а также обмениваться этим с другими системами (включая воспроизведение изученного поведения). Эти системы демонстрируют таким образом человекоподобное поведение и, на сегодняшний день, все еще не реализованы на практике. Способность к бесконтрольному обучению является основной характеристикой этого класса систем.

Существенным элементом представленной классификации является способность к обучаемости у аутопоезических систем. На сегодняшний день кибер-физические системы не могут быть наделены такой способностью, так как не существует соответствующих нормативных требований, обеспечивающих их уверенную и безопасную работу, потому что невозможно доказать предсказуемость и надежность системы после ее самопроизвольного изменения. Недавние технологические прорывы в области Deep Learning и высокие результаты при распознавании изображений и выявлении закономерностей показывают, все-таки, что разработки в этом направлении и возможности машинного обучения развиваются очень быстрым темпом. Однако, на этом пути все еще имеется множество препятствий и требуются дополнительные исследования: нейронные сети могут развивать себя также в непредусмотренном направлении или извлекать закономерности из данных, которые не должны были бы быть распознаны. Актуальные исследования показывают, например, что процесс автоматического обучения изучает также этически нежелательные исторические данные, такие как половые предпочтения или расистское поведение. Таким образом, необходимо осуществлять соответствующий контроль по этическим и правовым нормам. Именно поэтому нейронные сети на сегодняшний день не могут быть изменены после прохождения фазы обучения. Однако, из-за большого количества входных данных и сложности нейронных сетей, проблема неопределенности их поведения все еще остается.

В особенности, в азиатском регионе роль автономных систем все больше рассматривается с позиции их влияния на человека. Они должны помогать людям, упрощая их работу. Человек при этом все же является элементом управления (human-in-the-loop), так что можно говорить в этом случае о кооперативном интеллекте. Примером этому может служить взаимодействие человека и робота при совместном выполнении какой-то задачи. Такие самодостаточные системы будущего осуществляют передачу опыта между машинами и людьми и приспосабливают свое поведение. В это же время появляется возможность для решение этических вопросов. Поведение машин в отношении человека является областью исследований машинной этики. Однако, даже более простые автономные системы требуют интерфейса к человеку. Соответствующие пользовательские интерфейсы обязаны понятно информировать, предоставлять в распоряжение различные службы и информацию и, в идеале, учитывать индивидуальное поведение человека в различных ситуациях.

Требования к автономиям

В этом разделе представлены базовые рекомендации от SafeTRANS, касающиеся безопасности, работоспособности и разработки высоко автономных систем. Главной сложностью для автономной системы при этом является распознавание окружающей действительности.
Сложность процессов окружающего мира делает невыполнимой задачу проведения множественных испытаний, необходимых для допущения автономной системы к эксплуатации. Исходя из этого, рекомендуется реализовать дополнительную систему постоянного наблюдения за системой и обучать ее на основании данных, полученных в результате испытаний в реальных условиях. Схема ниже показывает такой процесс обучения на мета-уровне, при котором система испытывается в реальных условиях, и данные наблюдений после независимой оценки становятся базисом для процесса обучения.

SafeTRANS рекомендует следующие мероприятия для разработки автономных систем:

Область действий	Мероприятия
1. Модели окружающего мира	1.1. Разработка общего открытого индустриального стандарта для моделей окружающей среды в разных областях применения, в соответствии с этапом развития и уровнем сложности системы. 1.2. Построение общедоступного процесса и соответствующей инфраструктуры для налаживания виртуального тестирования систем. Для этого необходимы: аккредитованные учреждения; общедоступное тестовое окружение; спецификации тестирования в реальных условия. 1.3. Создание приемлемой для разрешающих органов и общества аргументации, доказывающей безопасность высоко автоматизированных систем и основанной на результатах виртуальной проверки и тестирования в реальных условиях.
2. Обучающее сообщество	2.1. Построение общедоступного процесса для обучения на основе наблюдений в реальных условиях. Для этого необходимы: независимый аккредитованный Центр Доверия; обязательство со стороны коммерческих организаций добровольно предоставлять уполномоченному Центру Доверия необходимые анонимные данные; передача Центром Доверия результатов анализа обратно в процесс валидации.
3. Архитектура	3.1. Стандартизация протоколов обмена информацией между объектами и ситуациями в индустрии для обеспечения их взаимодействие друг с другом. 3.2. Стандартизированная функциональная архитектура для автоматизированных систем и их компонентов, которая подтверждает безопасность и обеспечивает минимальную функциональность в упрощенных режимах использования. 3.3. Единообразный, согласованный процесс разработки высоко автоматизированных систем, включая обязательную возможность проведения обновления и апгрейда. 3.4. Индустриальный стандарт сертификации/валидации совместимости обновлений системы с существующей электротехнической архитектурой. 3.5. Четкие стандартизированные уровни деградации систем с гарантированным минимумом функциональности
4. Гарантия взаимной совместимости автономных транспортных средств	4.1. Международная классификация архитектур высоко автоматизированных систем и их взаимная совместимость. 4.2. Введение сертификатов соответствия для архитектур из вышеназванной классификации, которые выдаются открытой общественной организацией. 4.3. Международный, согласованный процесс выпуска систем следующего поколения
5. Платформа	5.1. Предоставление платформы с базовыми службами для автономных транспортных средств, находящихся на различных этапах развития. 5.2. Учреждение специальных стандартов для платформ, которые позволяют проводить их независимую сертификацию. 5.3. Предоставление программного модуля, способного показывать актуально воспринимаемое состояние окружающего мира в каждый момент времени, картину возможного развития событий, а также выводить на основе этого рекомендации к действиям