Программа обеспечения устойчивости вычислительных моделей искусственного интеллекта к угрозам исследования
ЗАЩИТА ЭНТРОПИЯ ВВОДА НЕЙРОННЫЕ СЕТИ ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ ВЫЧИСЛИТЕЛЬНАЯ МОДЕЛЬ
Программа предназначена для защиты вычислительных моделей искусственного интеллекта, построенных на базе искусственных нейронных сетей, от угроз исследования. Позволяет повысить энтропию вывода защищаемой модели для предупреждения его использования в качестве обучающих примеров для злоумышленных классификаторов и при этом сохраняется высокая точность результатов работы целевой модели. Для этого программа генерирует шум, добавляет его к слою логитов предпоследнего слоя защищаемой нейросети и выполняет адаптацию добавляемого шума при помощи градиентного шага, эмулируя условия атаки и проводя динамическую оценку уровня защищенности модели. За счет использования комбинированной функции ошибки при оптимизации уровня зашумления учитывается снижение точности результатов защищаемой модели.
Программа предназначена для защиты вычислительных моделей искусственного интеллекта, построенных на базе искусственных нейронных сетей, от угроз исследования
81.93.29
Информационная безопасность. Защита информации
Никита
Москалев
Олегович
"Отсутствует"
"Отсутствует"
"-"
"-"
РОССИЯ
Анастасия
Истомина
Сергеевна
"Отсутствует"
"Отсутствует"
"-"
"-"
РОССИЯ
Максим
Калинин
Олегович
"Доктор технических наук"
"Профессор"
"13104535100"
"0000-0002-9732-0099 Elibrary SPIN"
РОССИЯ
Евгений
Костюченко
Юрьевич
"Кандидат технических наук"
"Доцент"
"М-6310-2014"
"55900475200"
"545701"
""
"0000-0001-8000-2716"
РОССИЯ
ФОНД НТИ
ФОНД ПОДДЕРЖКИ ПРОЕКТОВ НАЦИОНАЛЬНОЙ ТЕХНОЛОГИЧЕСКОЙ ИНИЦИАТИВЫ
1167700062529
Организация
Организации, учрежденные юридическими лицами или гражданами, или юридическими лицами и гражданами совместно
Фонды
ТУСУР, ФГБОУ ВО "ТУСУР", ФГБОУ ВО "ТОМСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ СИСТЕМ УПРАВЛЕНИЯ И РАДИОЭЛЕКТРОНИКИ", ТОМСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ СИСТЕМ УПРАВЛЕНИЯ И РАДИОЭЛЕКТРОНИКИ
ФЕДЕРАЛЬНОЕ ГОСУДАРСТВЕННОЕ БЮДЖЕТНОЕ ОБРАЗОВАТЕЛЬНОЕ УЧРЕЖДЕНИЕ ВЫСШЕГО ОБРАЗОВАНИЯ "ТОМСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ СИСТЕМ УПРАВЛЕНИЯ И РАДИОЭЛЕКТРОНИКИ"
1027000867068
ВИКТОР
РУЛЕВСКИЙ
МИХАЙЛОВИЧ
Организация
Министерство науки и высшего образования Российской Федерации
Федеральные государственные бюджетные учреждения