Программа обеспечения устойчивости вычислительных моделей искусственного интеллекта к угрозе искажения
ЗАЩИТА СИСТЕМ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА СОСТЯЗАТЕЛЬНЫЕ АТАКИ МЕТОД ДИСТИЛЛЯЦИИ МОДЕЛИ ПРЕПЯТСТВИЕ УГРОЗЕ ИСКАЖЕНИЯ
Программа предназначена для защиты систем искусственного интеллекта от угрозы искажения работы вычислительных моделей, реализуемой в результате применения состязательных образцов данных. Программа реализует метод дистилляции модели, проводя обучение вычислительной модели меньшего размера (дистиллированной) на логитах основной (дистиллируемой) модели. Полученная в ходе дистилляции вычислительная модель имеет более сглаженную выходную поверхность, что снижает чувствительность модели к добавляемым шумам в тестовых данных и сохраняя точность выхода защищаемой модели, препятствуя реализации угрозы искажения в системах искусственного интеллекта.
Программа может быть использована для защиты систем искусственного интеллекта от угрозы искажения работы вычислительных моделей, реализуемой в результате применения состязательных образцов данных
Дмитрий
Зегжда
Петрович
Директор института кибербезопасности и защиты информации федерального государственного автономного образовательного учреждения высшего образования «Санкт-Петербургский политехнический университет Петра Великого», участника Консорциума по реализации Программы создания и развития Центра Национальной технологической инициативы, осуществляющего комплексное развитие сквозной технологии «Технологии доверенного взаимодействия» Национальной технологической инициативы
Доктор технических наук
Профессор
-
13103571000
326338
https://ic.spbstu.ru/person/zegzghda_dmitriy_petrovich/
-
РОССИЯ
Ольга
Аркатова
Евгеньевна
Начальник ОМКиИС
РОССИЯ
81.93.29
Информационная безопасность. Защита информации
01.02.EP
COMPUTER SCIENCE, ARTIFICIAL INTELLIGENCE
01.02.EX
COMPUTER SCIENCE, THEORY & METHODS
Дмитрий
Зегжда
Петрович
Разработка всей программы в целом
РОССИЯ
Максим
Калинин
Олегович
Разработка всей программы в целом
РОССИЯ
Александр
Шелупанов
Александрович
Разработка всей программы в целом
РОССИЯ
Василий
Крундышев
Михайлович
Разработка всей программы в целом
РОССИЯ
ФОНД НТИ
ФОНД ПОДДЕРЖКИ ПРОЕКТОВ НАЦИОНАЛЬНОЙ ТЕХНОЛОГИЧЕСКОЙ ИНИЦИАТИВЫ
1167700062529
Организация
Организации, учрежденные юридическими лицами или гражданами, или юридическими лицами и гражданами совместно
Фонды
ТУСУР, ФГБОУ ВО "ТУСУР", ФГБОУ ВО "ТОМСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ СИСТЕМ УПРАВЛЕНИЯ И РАДИОЭЛЕКТРОНИКИ", ТОМСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ СИСТЕМ УПРАВЛЕНИЯ И РАДИОЭЛЕКТРОНИКИ
ФЕДЕРАЛЬНОЕ ГОСУДАРСТВЕННОЕ БЮДЖЕТНОЕ ОБРАЗОВАТЕЛЬНОЕ УЧРЕЖДЕНИЕ ВЫСШЕГО ОБРАЗОВАНИЯ "ТОМСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ СИСТЕМ УПРАВЛЕНИЯ И РАДИОЭЛЕКТРОНИКИ"
1027000867068
ВИКТОР
РУЛЕВСКИЙ
МИХАЙЛОВИЧ
Организация
Министерство науки и высшего образования Российской Федерации
Федеральные государственные бюджетные учреждения