Программная библиотека для онтолого-ориентированного ретроспективного объяснения нейронных сетей (RevelioNN)
Нейронные сети объяснимый ИИ онтологии глубокое обучение
Программа предназначена для формирования онтолого-ориентированных ретроспективных объяснений нейронных сетей, реализованных с помощью фреймворка PyTorch (преимущественно, сверточных), посредством извлечения концептов.
Программа может использоваться при создании систем поддержки принятия решений для ответственных применений. Тип ЭВМ: PC. ОС: Windows 7 и выше, Linux Ubuntu 20 и выше.
Функциональные возможности программы:
- обучение сетей отображения активаций скрытых слоев заданной нейронной сети, реализованной с помощью PyTorch, в концепты заданной OWL онтологии;
- формирование объяснений предсказаний заданной нейронной сети с помощью концептов онтологии на основе вероятностной семантики (DISPONTE);
- формирование визуальных объяснений предсказаний свёрточных нейронных сетей.
Программа может использоваться при создании систем поддержки принятия решений для ответственных применений.
Андрей
Пономарев
Васильевич
старший научный сотрудник
Кандидат технических наук
Доцент
M-7034-2013
55858984800
РОССИЯ
Андрей
Ронжин
Леонидович
И.о.директора
РОССИЯ
28.23.01
Общие вопросы искусственного интеллекта
01.02.00
Computer and information sciences
Антон
Агафонов
Александрович
РОССИЯ
Андрей
Пономарев
Васильевич
РОССИЯ
РНФ
Российский научный фонд
1137799022261
Организация
Организации, учрежденные юридическими лицами или гражданами, или юридическими лицами и гражданами совместно
Фонды
СПБ ФИЦ РАН; ФГБУН СПБ ФИЦ РАН
ФЕДЕРАЛЬНОЕ ГОСУДАРСТВЕННОЕ БЮДЖЕТНОЕ УЧРЕЖДЕНИЕ НАУКИ "САНКТ-ПЕТЕРБУРГСКИЙ ФЕДЕРАЛЬНЫЙ ИССЛЕДОВАТЕЛЬСКИЙ ЦЕНТР РОССИЙСКОЙ АКАДЕМИИ НАУК"
1027800514411
АНДРЕЙ
РОНЖИН
ЛЕОНИДОВИЧ
Организация
Министерство науки и высшего образования Российской Федерации
Федеральные государственные бюджетные учреждения