«Программа защиты от атаки уклонения в системе обнаружения вторжений»
защита от атак машинное обучение состязательные примеры атака уклонения
Программа предназначена для защиты от атак уклонения в отношении модели машинного обучения в системе обнаружения компьютерных атак. Состязательные примеры генерируются перебором значений одного из признаков классификации для каждой сессии тестовой выборки с меткой "атака". При изменении ответа модели, пример считается состязательным. Для защиты в обучающую выборку добавляются найденные примеры с корректной разметкой. После обучения на них модель верно классифицирует состязательные примеры, то есть обеспечивается устойчивость классификатора к состязательным атакам. Программа разработана ИСП РАН в рамках мероприятия «Методы обнаружения и противодействия атакам с внедрением закладок и зловредного кода в модели машинного обучения» Программы центра ИИ «Разработка методов и технологий создания систем доверенного искусственного интеллекта» по направлению доверенный искусственный интеллект.
Защита от атак, специфичных для систем с использованием технологий искусственного интеллекта
Денис
Турдаков
Юрьевич
заведующий отделом
Кандидат физико-математических наук
Отсутствует
L-6273-2016
35077216300
РОССИЯ
Арутюн
Аветисян
Ишханович
Директор
РОССИЯ
28.23.25
Модели и системы обучения
01.02.EP
COMPUTER SCIENCE, ARTIFICIAL INTELLIGENCE
Андрей
Перминов
Игоревич
РОССИЯ
Александр
Гетьман
Игоревич
РОССИЯ
Максим
Горюнов
Николаевич
РОССИЯ
Андрей
Мацкевич
Георгиевич
РОССИЯ
Дмитрий
Рыболовлев
Александрович
РОССИЯ
АНАЛИТИЧЕСКИЙ ЦЕНТР ПРИ ПРАВИТЕЛЬСТВЕ РОССИЙСКОЙ ФЕДЕРАЦИИ
АВТОНОМНАЯ НЕКОММЕРЧЕСКАЯ ОРГАНИЗАЦИЯ "АНАЛИТИЧЕСКИЙ ЦЕНТР ПРИ ПРАВИТЕЛЬСТВЕ РОССИЙСКОЙ ФЕДЕРАЦИИ"
1157700000655
КОНСТАНТИН
КАЛИНИН
МИХАЙЛОВИЧ
Организация
Организации, учрежденные юридическими лицами или гражданами, или юридическими лицами и гражданами совместно
Автономные некоммерческие организации
ИСП РАН
Федеральное государственное бюджетное учреждение науки Институт системного программирования им. В.П. Иванникова Российской академии наук
1037700067327
Организация
Министерство науки и высшего образования Российской Федерации
Федеральные государственные бюджетные учреждения