Программа для анализа угроз искажения вычислительных моделей искусственного интеллекта
ДЕСТРУКТИВНЫЕ ВОЗДЕЙСТВИЯ ТИПА "ИСКАЖЕНИЕ" ВЫЧИСЛИТЕЛЬНАЯ МОДЕЛЬ АВТОЭНКОДЕР СОСТЯЗАТЕЛЬНЫЕ ОБРАЗЦЫ ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ
Программа предназначена для автоматизации анализа деструктивных воздействий типа «искажение», направленных на снижение достоверности результатов работы систем искусственного интеллекта. Программа загружает вычислительную модель и набор данных, включает в обучающую выборку состязательные образцы, очищает входной набор данных с помощью автоэнкодера, формирует на входе анализируемой вычислительной модели случайный поток тестовых образцов и сохраняет результаты работы модели. Автоматическое сопоставление результатов работы вычислительной модели, обученной на чистых данных и на состязательных образцах, позволяет определять отклонения в результатах работы модели и таким образом выявлять искажения, случайно или намеренно вносимые в работу систем искусственного интеллекта путем воздействия на наборы данных
Программа может быть использована для автоматизации анализа деструктивных воздействий типа «искажение», направленных на снижение достоверности результатов работы систем искусственного интеллекта
Дмитрий
Зегжда
Петрович
Директор института кибербезопасности и защиты информации федерального государственного автономного образовательного учреждения высшего образования «Санкт-Петербургский политехнический университет Петра Великого», участника Консорциума по реализации Программы создания и развития Центра Национальной технологической инициативы, осуществляющего комплексное развитие сквозной технологии «Технологии доверенного взаимодействия» Национальной технологической инициативы
Доктор технических наук
Профессор
-
13103571000
326338
https://ic.spbstu.ru/person/zegzghda_dmitriy_petrovich/
-
РОССИЯ
Ольга
Аркатова
Евгеньевна
Начальник ОМКиИС
РОССИЯ
81.93.29
Информационная безопасность. Защита информации
01.02.EP
COMPUTER SCIENCE, ARTIFICIAL INTELLIGENCE
01.02.EX
COMPUTER SCIENCE, THEORY & METHODS
Дмитрий
Брагин
Сергеевич
РОССИЯ
Мария
Полтавцева
Анатольевна
РОССИЯ
Максим
Калинин
Олегович
РОССИЯ
Екатерина
Рудницкая
Андреевна
РОССИЯ
ФОНД НТИ
ФОНД ПОДДЕРЖКИ ПРОЕКТОВ НАЦИОНАЛЬНОЙ ТЕХНОЛОГИЧЕСКОЙ ИНИЦИАТИВЫ
1167700062529
Организация
Организации, учрежденные юридическими лицами или гражданами, или юридическими лицами и гражданами совместно
Фонды
ТУСУР, ФГБОУ ВО "ТУСУР", ФГБОУ ВО "ТОМСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ СИСТЕМ УПРАВЛЕНИЯ И РАДИОЭЛЕКТРОНИКИ", ТОМСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ СИСТЕМ УПРАВЛЕНИЯ И РАДИОЭЛЕКТРОНИКИ
ФЕДЕРАЛЬНОЕ ГОСУДАРСТВЕННОЕ БЮДЖЕТНОЕ ОБРАЗОВАТЕЛЬНОЕ УЧРЕЖДЕНИЕ ВЫСШЕГО ОБРАЗОВАНИЯ "ТОМСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ СИСТЕМ УПРАВЛЕНИЯ И РАДИОЭЛЕКТРОНИКИ"
1027000867068
ВИКТОР
РУЛЕВСКИЙ
МИХАЙЛОВИЧ
Организация
Министерство науки и высшего образования Российской Федерации
Федеральные государственные бюджетные учреждения