Модуль защиты нейронных сетей от компьютерных backdoor-атак (PROTECA)
искусственный интеллект информационная безопасность
Программный модуль позволяет выявлять зловредные закладки (триггеры) в данных, проводить тестирование нейронных сетей (TensorFlow, PyTorch) на наличие угрозы проведения backdoor-атак, а также нейтрализовать эту угрозу в разрабатываемых и эксплуатированных система искусственного интеллекта в области компьютерного зрения. Программный модуль защиты нейронных сетей позволяет обнаружить и нейтрализовать закладки в нейронных сетях без информации о ее обучении, а также определить подверженный атаке класс изображений и включает в себя этапы выявления закладки, идентификация триггера и нейтрализация закладки.
Разработанный программный комплекс является интеграционным ядром для разработки автоматизированных систем оценивания безопасности прикладных систем искусственного интеллекта, а также для специалистов информационной безопасности в области выявления угроз безопасности информации и определении негативных последствий от реализации (возникновения) угроз безопасности информации объектов критической информационной инфраструктуры.
Артем
Менисов
Бакытжанович
Руководитель гранта
Кандидат технических наук
Отсутствует
-
-
РОССИЯ
Артем
Менисов
Бакытжанович
Руководитель гранта
РОССИЯ
81.93.29
Информационная безопасность. Защита информации
02.02.AC
AUTOMATION & CONTROL SYSTEMS
02.02.EU
COMMUNICATION
02.02.IQ
ENGINEERING, ELECTRICAL & ELECTRONIC
02.02.RB
ROBOTICS
02.02.YE
TELECOMMUNICATIONS
Артем
Менисов
Бакытжанович
Проектирование и разработка
РОССИЯ
Артем
Менисов
Бакытжанович
Физическое лицо
РОССИЯ
Артем
Менисов
Бакытжанович
Физическое лицо
РОССИЯ