Программа обнаружения деструктивных воздействий на вычислительные модели машинного обучения на основе поиска аномалий во входных данных
ОБНАРУЖЕНИЕ ИСКАЖАЮЩИХ ВОЗДЕЙСТВИЙ ДИНАМИЧЕСКОЕ ОБНАРУЖЕНИЕ АНОМАЛИЙ СИСТЕМА МАШИННОГО ОБУЧЕНИЯ
Программа предназначена для обнаружения искажающих воздействий, направленных на отказ или снижение достоверности результатов работы вычислительных моделей машинного обучения. Для выявления негативных эффектов программа реализует поиск аномалий в тестовых данных. Программа выполняет анализ уверенности вычислительной модели для обнаружения выбросов данных, вызванных специально подготовленными злоумышленником состязательными примерами (adversarial samples). Непрерывная оценка входных данных обеспечивает динамическое обнаружение аномалии и позволяет предотвратить успешную реализацию угрозы в защищаемой системе машинного обучения
Программа может быть использована для обнаружения искажающих воздействий, направленных на отказ или снижение достоверности результатов работы вычислительных моделей машинного обучения
Дмитрий
Зегжда
Петрович
Директор института кибербезопасности и защиты информации федерального государственного автономного образовательного учреждения высшего образования «Санкт-Петербургский политехнический университет Петра Великого», участника Консорциума по реализации Программы создания и развития Центра Национальной технологической инициативы, осуществляющего комплексное развитие сквозной технологии «Технологии доверенного взаимодействия» Национальной технологической инициативы
Доктор технических наук
Профессор
-
13103571000
326338
https://ic.spbstu.ru/person/zegzghda_dmitriy_petrovich/
-
РОССИЯ
Ольга
Аркатова
Евгеньевна
Начальник ОМКиИС
РОССИЯ
81.93.29
Информационная безопасность. Защита информации
01.02.EP
COMPUTER SCIENCE, ARTIFICIAL INTELLIGENCE
01.02.EX
COMPUTER SCIENCE, THEORY & METHODS
Максим
Калинин
Олегович
Разработка всей программы в целом
РОССИЯ
Бальжит
Лодонова
Соктоевна
Разработка всей программы в целом
РОССИЯ
Антон
Конев
Александрович
Разработка всей программы в целом
РОССИЯ
Василий
Крундышев
Михайлович
Разработка всей программы в целом
РОССИЯ
ФОНД НТИ
ФОНД ПОДДЕРЖКИ ПРОЕКТОВ НАЦИОНАЛЬНОЙ ТЕХНОЛОГИЧЕСКОЙ ИНИЦИАТИВЫ
1167700062529
Организация
Организации, учрежденные юридическими лицами или гражданами, или юридическими лицами и гражданами совместно
Фонды
ТУСУР, ФГБОУ ВО "ТУСУР", ФГБОУ ВО "ТОМСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ СИСТЕМ УПРАВЛЕНИЯ И РАДИОЭЛЕКТРОНИКИ", ТОМСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ СИСТЕМ УПРАВЛЕНИЯ И РАДИОЭЛЕКТРОНИКИ
ФЕДЕРАЛЬНОЕ ГОСУДАРСТВЕННОЕ БЮДЖЕТНОЕ ОБРАЗОВАТЕЛЬНОЕ УЧРЕЖДЕНИЕ ВЫСШЕГО ОБРАЗОВАНИЯ "ТОМСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ СИСТЕМ УПРАВЛЕНИЯ И РАДИОЭЛЕКТРОНИКИ"
1027000867068
ВИКТОР
РУЛЕВСКИЙ
МИХАЙЛОВИЧ
Организация
Министерство науки и высшего образования Российской Федерации
Федеральные государственные бюджетные учреждения