Программа моделирования деструктивных воздействий на математические модели обработки знаний в системах искусственного интеллекта и машинного обучения
МОДЕЛИРОВАНИЕ ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ МАШИННОЕ ОБУЧЕНИЕ ГЕНЕРАЦИЯ СОСТЯЗАТЕЛЬНЫХ ПРИМЕРОВ МЕТОД БЫСТРОГО ГРАДИЕНТА
Программа предназначена для проигрывания типовых сценариев деструктивных воздействий, оказываемых на математические модели обработки знаний в системах искусственного интеллекта и машинного обучения и реализуемых с помощью наложения шума на тестовые наборы данных, на которых обучаются модели. Программа генерирует состязательные примеры (adversarial samples), которые вносят искажения в выходные результаты работы целевой модели обработки знаний. Генерация осуществляется с помощью метода быстрого градиента. На выходе программа позволяет оценить влияние установленного коэффициента пертурбации изображения на результирующую точность выходных результатов работы математической модели
Программа может быть использована для проигрывания типовых сценариев деструктивных воздействий, оказываемых на математические модели обработки знаний в системах искусственного интеллекта и машинного обучения
Дмитрий
Зегжда
Петрович
Директор института кибербезопасности и защиты информации федерального государственного автономного образовательного учреждения высшего образования «Санкт-Петербургский политехнический университет Петра Великого», участника Консорциума по реализации Программы создания и развития Центра Национальной технологической инициативы, осуществляющего комплексное развитие сквозной технологии «Технологии доверенного взаимодействия» Национальной технологической инициативы
Доктор технических наук
Профессор
-
13103571000
326338
https://ic.spbstu.ru/person/zegzghda_dmitriy_petrovich/
-
РОССИЯ
Ольга
Аркатова
Евгеньевна
Начальник ОМКиИС
РОССИЯ
81.93.29
Информационная безопасность. Защита информации
01.02.EP
COMPUTER SCIENCE, ARTIFICIAL INTELLIGENCE
01.02.EX
COMPUTER SCIENCE, THEORY & METHODS
Максим
Калинин
Олегович
Разработка всей программы в целом
РОССИЯ
Мария
Полтавцева
Анатольевна
Разработка всей программы в целом
РОССИЯ
Дмитрий
Брагин
Сергеевич
Разработка всей программы в целом
РОССИЯ
Василий
Крундышев
Михайлович
Разработка всей программы в целом
РОССИЯ
ФОНД НТИ
ФОНД ПОДДЕРЖКИ ПРОЕКТОВ НАЦИОНАЛЬНОЙ ТЕХНОЛОГИЧЕСКОЙ ИНИЦИАТИВЫ
1167700062529
Организация
Организации, учрежденные юридическими лицами или гражданами, или юридическими лицами и гражданами совместно
Фонды
ТУСУР, ФГБОУ ВО "ТУСУР", ФГБОУ ВО "ТОМСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ СИСТЕМ УПРАВЛЕНИЯ И РАДИОЭЛЕКТРОНИКИ", ТОМСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ СИСТЕМ УПРАВЛЕНИЯ И РАДИОЭЛЕКТРОНИКИ
ФЕДЕРАЛЬНОЕ ГОСУДАРСТВЕННОЕ БЮДЖЕТНОЕ ОБРАЗОВАТЕЛЬНОЕ УЧРЕЖДЕНИЕ ВЫСШЕГО ОБРАЗОВАНИЯ "ТОМСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ СИСТЕМ УПРАВЛЕНИЯ И РАДИОЭЛЕКТРОНИКИ"
1027000867068
ВИКТОР
РУЛЕВСКИЙ
МИХАЙЛОВИЧ
Организация
Министерство науки и высшего образования Российской Федерации
Федеральные государственные бюджетные учреждения