Speaker
Alexei Shevchenko
(Dubna state university)
Description
В работе представлен анализ современных подходов к обеспечению безопасности и интерпретируемости глубоких нейронных сетей через объяснительные визуализации в контексте противодействия состязательным атакам. Рассмотрены методы объяснимого ИИ, типы состязательных атак и современные стратегии защиты. Практически показано применение визуализаций Grad-CAM для выявления критических областей данных при атаках. В результате работы подтверждена эффективность интеграции объяснительных методов для создания более прозрачных, устойчивых и безопасных моделей искусственного интеллекта, пригодных к внедрению в ответственных сферах, в том числе для повышения надёжности и защищённости распределённых систем.
Authors
Alexei Shevchenko
(Dubna state university)
Dmitry Chekolaev
(The Dubna University)
Co-authors
Yuri Trofimov
(Государственный университет «Дубна»)
Алексей Аверкин
(фиц иу ран)
