- Представлена первая Toyota в истории,... (274)
- Представлена первая Toyota в истории,... (311)
- Спрос на HBM подталкивает японских... (255)
- Представлен новый Geely... (1389)
- «Это совсем не то, что было раньше. Они уже... (3226)
- Электрические грузовики Tesla Semi расходуют... (305)
- Самый популярный в России электромобиль... (328)
- АвтоВАЗ выпускает в среднем по 80 Lada... (375)
- Машины из Японии снова массово завозят в... (342)
- В России создали и успешно испытали... (329)
- Представлена «злая» Audi RS 7: мощность... (313)
- Замена Skoda Superb с «автоматом» и... (332)
- iPhone 15 Pro и iPhone 16 Pro сравнили... (356)
- Плохую новость о Samsung Galaxy S25+ сообщил... (324)
- ChatGPT вдруг стал первым затевать разговоры... (222)
- ChatGPT неожиданно заговорил первым, но... (274)
Бристольские учёные преодолели «галлюцинации» ИИ, повысив надёжность критической инфраструктуры
Дата: 2024-08-01 21:40
Ученые из Бристольской школы компьютерных наук достигли значительных успехов в решении проблемы «галлюцинаций» моделей искусственного интеллекта и повышении надёжности алгоритмов обнаружения аномалий в критически важных национальных инфраструктурах (CNI).
Недавние достижения продемонстрировали потенциал технологии в обнаружении аномалий, особенно в данных датчиков и механизмов для CNI. Однако эти алгоритмы часто требуют длительного времени обучения и испытывают трудности с определением конкретных компонентов в аномальном состоянии. Кроме того, процессы принятия решений ИИ часто непрозрачны, что приводит к проблемам с доверием и подотчётностью.
Чтобы преодолеть эти проблемы, исследователи приняли ряд мер по повышению эффективности. Для улучшенного обнаружения аномалий команда использовала два передовых алгоритма со значительно более коротким временем обучения и более быстрыми возможностями обнаружения, сохраняя при этом сопоставимые показатели эффективности. Эти алгоритмы были протестированы с использованием набора данных из испытательного стенда оперативной очистки воды, SWaT, в Сингапурском университете технологий и дизайна.
Для повышения прозрачности и доверия исследователи интегрировали модели eXplainable AI (XAI) с детекторами аномалий. Такой подход позволяет лучше интерпретировать решения, предлагаемые моделью, позволяя людям понимать и проверять рекомендации перед принятием критических решений. Также оценивалась эффективность различных моделей XAI, что дало представление о том, какие модели лучше всего помогают человеческому пониманию.
Источник: DALL-EИсследование подчёркивает важность человеческого контроля в процессах принятия решений, управляемых ИИ. Объясняя рекомендации людям, команда стремится гарантировать, что модель выступает в качестве инструмента поддержки принятия решений, а не «бесспорного оракула». Эта методология вводит подотчётность, поскольку операторы принимают окончательные решения на основе идей, политики, правил и положений ИИ.
Доктор Сарад Венугопалан, соавтор исследования, пояснил: «Люди учатся путём повторения в течение более длительного периода времени и работают в течение более коротких часов, не допуская ошибок. Вот почему в некоторых случаях мы используем модели, которые могут выполнять те же задачи за меньшее время и с меньшим количеством ошибок. Однако эта автоматизация, включающая кибер- и физические компоненты, а также последующее использование ИИ для решения некоторых проблем, вызванных автоматизацией, рассматривается как чёрный ящик. Это пагубно, поскольку ответственность за принятые решения несёт персонал, использующий рекомендации, а не сама модель. В своей работе мы используем объяснимый ИИ для повышения прозрачности и доверия, поэтому сотрудники, использующие рекомендации, информируются о том, почему ИИ дал рекомендацию, прежде чем будет принято решение».
Доктор Адепу добавил: «Эта работа показывает, как WaXAI производит революцию в обнаружении аномалий в промышленных системах с помощью объяснимого ИИ. Благодаря интеграции XAI операторы получают чёткие сведения и большую уверенность при обработке инцидентов безопасности в критически важной инфраструктуре».
Данные достижения не только повышают эффективность и надёжность систем ИИ в CNI, но и гарантируют, что операторы остаются неотъемлемой частью процесса принятия решений, повышая общую ответственность и доверие.
Подробнее на iXBT
Предыдущие новости
Против Intel готовится коллективный иск из-за нестабильной работы процессоров Raptor Lake
Американская юридическая фирма Abington Cole + Ellery, специализирующаяся на коллективных исках и делах, связанных с интеллектуальной собственностью, начала расследование проблем со сбоями и нестабильностью работы процессоров Intel Core 13-го и 14-го поколений «Raptor Lake». Фирма рассматривает возможность подачи коллективного иска от имени клиентов Intel. Источник...
Airbus зарегистрировала убытки в €989 миллионов в первом полугодии 2024 года
Значительные расходы в космическом бизнесе повлияли на финансовые результаты Airbus за второй квартал. 30 июля генеральный директор Гийом Фори подробно рассказал об изменениях в космическом бизнесе, направленных на решение этих проблем. Компания Airbus опубликовала результаты за первое полугодие 2024 года 30 июля. Консолидированная выручка выросла на 4% по сравнению с...
Телескоп «Джеймс Уэбб» раскрыл присутствие льда в протопланетном диске HH 48 NE
Протопланетные диски, окружающие молодые звёзды, являются ключевыми объектами для изучения процессов формирования планет и их атмосфер. Одним из важнейших компонентов этих дисков являются покрытые льдом частицы пыли, которые служат резервуаром летучих веществ. Однако, до сих пор распределение обилия льда в протопланетных дисках было плохо изучено из-за трудностей с...
Никто кроме Huawei не додумался сделать такой ноутбук. Представлен MateBook GT 14 с очень сильно «раскочегаренными» процессорами Core Ultra
На днях в Сети засветился какой-то неизвестный ноутбук с индексом GT. Сегодня его представили официально. Модель называется MateBook GT 14. Вопреки ожиданиям, это всё-таки не игровой ноутбук, но всё же с играми он должен справляться хотя бы на базовом уровне. Дело в том, что тут установлен процессор Core Ultra 9 185H — самый мощный представитель линейки Meteor Lake. У него...