Ученые из Бристольской школы компьютерных наук достигли значительных успехов в решении проблемы «галлюцинаций» моделей искусственного интеллекта и повышении надёжности алгоритмов обнаружения аномалий в критически важных национальных инфраструктурах (CNI).
Недавние достижения продемонстрировали потенциал технологии в обнаружении аномалий, особенно в данных датчиков и механизмов для CNI. Однако эти алгоритмы часто требуют длительного времени обучения и испытывают трудности с определением конкретных компонентов в аномальном состоянии. Кроме того, процессы принятия решений ИИ часто непрозрачны, что приводит к проблемам с доверием и подотчётностью.
Чтобы преодолеть эти проблемы, исследователи приняли ряд мер по повышению эффективности.
Для улучшенного обнаружения аномалий команда использовала два передовых алгоритма со значительно более коротким временем обучения и более быстрыми возможностями обнаружения, сохраняя при этом сопоставимые показатели эффективности. Эти алгоритмы были протестированы с использованием набора данных из испытательного стенда оперативной очистки воды, SWaT, в Сингапурском университете технологий и дизайна.
Для повышения прозрачности и доверия исследователи интегрировали модели eXplainable AI (XAI) с детекторами аномалий. Такой подход позволяет лучше интерпретировать решения, предлагаемые моделью, позволяя людям понимать и проверять рекомендации перед принятием критических решений. Также оценивалась эффективность различных моделей XAI, что дало представление о том, какие модели лучше всего помогают человеческому пониманию.
Исследование подчёркивает важность человеческого контроля в процессах принятия решений, управляемых ИИ. Объясняя рекомендации людям, команда стремится гарантировать, что модель выступает в качестве инструмента поддержки принятия решений, а не «бесспорного оракула». Эта методология вводит подотчётность, поскольку операторы принимают окончательные решения на основе идей, политики, правил и положений ИИ.
Доктор Сарад Венугопалан, соавтор исследования, пояснил: «Люди учатся путём повторения в течение более длительного периода времени и работают в течение более коротких часов, не допуская ошибок. Вот почему в некоторых случаях мы используем модели, которые могут выполнять те же задачи за меньшее время и с меньшим количеством ошибок. Однако эта автоматизация, включающая кибер- и физические компоненты, а также последующее использование ИИ для решения некоторых проблем, вызванных автоматизацией, рассматривается как чёрный ящик. Это пагубно, поскольку ответственность за принятые решения несёт персонал, использующий рекомендации, а не сама модель. В своей работе мы используем объяснимый ИИ для повышения прозрачности и доверия, поэтому сотрудники, использующие рекомендации, информируются о том, почему ИИ дал рекомендацию, прежде чем будет принято решение».
Доктор Адепу добавил: «Эта работа показывает, как WaXAI производит революцию в обнаружении аномалий в промышленных системах с помощью объяснимого ИИ. Благодаря интеграции XAI операторы получают чёткие сведения и большую уверенность при обработке инцидентов безопасности в критически важной инфраструктуре».
Данные достижения не только повышают эффективность и надёжность систем ИИ в CNI, но и гарантируют, что операторы остаются неотъемлемой частью процесса принятия решений, повышая общую ответственность и доверие.
Colorful представила белую материнскую плату iGame B850I MINI W OC V14 с Wi-Fi 7 и двумя слотами M.2 PCIe 5.0 x4
Vivo S60t поступил в продажу: не самый мощный чип, зато аккумулятор на 7200 мА·ч, зарядка 90 Вт, перископная камера и защита IP69
GPD запустит на Indiegogo Win Mini Ultra — гибрид ноутбука и консоли с Intel Arc G3 Extreme за 1700 долларов
Кредиторы SpaceX попытались помешать Илону Маску отправить в космос заложенные чипы Nvidia
GTA VI разошлась тиражом более 32 млн копий за первые сутки и заработала почти 3,8 млрд долларов, установив рекорд индустрии развлечений
Seagate представила гибридный накопитель FireCuda Forge на 8 и 20 ТБ с поддержкой NVMe SSD
Meizu MIFI N1 поступил в продажу за $6: Wi-Fi 6, LTE до 150 Мбит/с, подключение до 16 устройств и аккумулятор на 3000 мАч
Microsoft внедрила новый способ работы RDMA: несколько ПК можно объединять по USB4 для запуска больших ИИ-моделей