Полный текст статьи (PDF) XML (JATS 1.2)
Авторы / Authors
  • Сацута Анатолий Игоревич (Satsuta A. I.) старший оператор научной роты военной академии связи им. Маршала Советского Союза С. М. Буденного, г. Санкт-Петербург, Россия
    Senior Operator of the Scientific Company of the Military Academy of Communications named after Marshal of the Soviet Union S. M. Budyonny, St. Petersburg, Russia     toha.satzuta@yandex.ru
  • Липатников Валерий Алексеевич (Lipatnikov V. A.) доктор технических наук, профессор, старший научный сотрудник научно-исследовательского центра Военной академии связи им. Маршала Советского Союза С. М. Буденного, Санкт-Петербург
    Dr.Sc. of Technical Sciences, Professor, Senior Researcher of the Research Center of the Military Academy of Communications named after Marshal of the Soviet Union S. M. Budyonny, St. Petersburg     lipatnikovanl@mail.ru
Ключевые слова
безопасность искусственного интеллектазащита моделей машинного обучениясостязательное обучениекомпьютерное зрениераспознавание объектовсистемы управления роботизированными комплексами
Keywords
artificial intelligence securityprotection of machine learning modelsadversarial learningcomputer visionobject recognitioncontrol systems for robotic complexes
Аннотация / Abstract
Русский

Цель работы: состоит в анализе уязвимостей нейросетевых моделей систем управления робототехническими комплексами к состязательным воздействиям и разработке способа повышения их защиты на основе методов обучения с подкреплением.

Метод исследования: подход, основанный на формализации процесса генерации состязательных примеров как задачи Марковского процесса принятия решений.

Результаты исследования: разработан агент, адаптивно генерирующий состязательные примеры путем учета состояния среды и характеристик модели. Предложен способ обучения агента генерации состязательных примеров с последующим их использованием в состязательном обучении. Состояние агента формируется на основе карт признаков модели, градиентной информации и величины искажения входных данных, оцениваемой по норме l2. Действия агента соответствуют выбору параметров атаки типа PGD. Функция награды учитывает как снижение качества детекции, так и ограничение на уровень вносимых искажений.

Научная новизна: предложена новая функция награды, учитывающая одновременно качество детекции и величину искажения, что обеспечивает баланс между эффективностью атаки и её незаметностью.

English

The purpose of the work: to analyze the vulnerabilities of neural network models of robotic control systems to adversarial influences and to develop a way to increase their protection based on reinforcement learning methods.

Research method: an approach based on the formalization of the process of generating adversarial examples as a task of the Markov decision-making process.

Results of the study: an agent has been developed that adaptively generates adversarial examples by taking into account the state of the environment and the characteristics of the model. It is proposed to train the agent to generate adversarial examples with subsequent use in adversarial training. The agent's state is formed on the basis of model feature maps, gradient information, and the value of input data distortion, estimated according to the l2 norm. The agent's actions correspond to the choice of PGD attack parameters.

Scientific novelty: a new reward function is proposed, which takes into account both the quality of detection and the amount of distortion, which provides a balance between the effectiveness of the attack and its stealth.

Финансирование / Funding

Источники финансирования не указаны.

No funding sources reported.

Идентификаторы / Identifiers
DOI10.21681/3034-4050-2026-4-13-24ЖурналТелекоммуникации и связьГод2026Номер№4 (13)Страницы13–24ISSNПИ №ФС77-88069
Список литературы / References
  1. Akhtar N., Mian A. Threat of adversarial attacks on deep learning in computer vision: A survey // IEEE Access. – 2021. – Vol. 9. – P. 12315–12336. – DOI: 10.1109/ACCESS.2021.3052020.
  2. Wang Z., Wang X., Liu J., et al. Adversarial attacks on deep learning-based object detection systems: A survey // Neurocomputing. – 2022. – Vol. 493. – P. 1–19. – DOI: 10.1016/j.neucom.2022.03.045.
  3. Qiu S., Liu Q., Zhou S., Wu C. Review of adversarial attacks and defense strategies in deep learning-based computer vision systems // Applied Sciences. – 2022. – Vol. 12 (15). – Art. 7583. – DOI: 10.3390/app12157583.
  4. Xu H., Ma Y., Liu H., Deb D., Liu H., Tang J., Jain A. D. Adversarial attacks and defenses in images, graphs and text: A review // International Journal of Automation and Computing. – 2021. – Vol. 18 (2). – P. 151–178. – DOI: 10.1007/ s11633-021-1274-3.
  5. Li Y., Li X., Wang X., et al. Survey of adversarial machine learning in deep neural networks: attacks, defenses and robustness evaluation // ACM Computing Surveys. – 2023. – Vol. 55 (10). – P. 1–38. – DOI: 10.1145/3562695.
  6. Pavlitskaya S. et al. Adversarial Vulnerability of Temporal Feature Networks for Object Detection // Sensors. – 2023. – Vol. 23 (23). – DOI: 10.3390/s23239579.
  7. Zhou Z., Chen X., Li E., et al. Robustness of deep learning models under real-world corruption: A survey // Pattern Recognition. – 2023. – Vol. 138. – Art. 109386. – DOI: 10.1016/j.patcog.2023.109386.
  8. Nguyen K. N. T., Zhang W., Lu K., Wu Y.-H., Zheng X., Tan H. L., Zhen L. A Survey and Evaluation of Adversarial Attacks in Object Detection // IEEE Transactions on Neural Networks and Learning Systems. – 2025. – DOI: 10.1109/ TNNLS.2025.3561225. УДК 004.85 СИСТЕМНЫЙ АНАЛИЗ СИСТЕМ ВОЕННОГО НАЗНАЧЕНИЯ
  9. Thunuguntla A., Tadepalli P., Raffa G. Defenses Against Adversarial Attacks on Object Detection: Methods and Future Directions // Information. – 2025. – Vol. 16 (11). – DOI: 10.3390/info16111003.
  10. Huang Y., Zhang Y., Wu X., et al. Reinforcement learning for adversarial example generation and defense: A comprehensive survey // IEEE Transactions on Neural Networks and Learning Systems. – 2024. – DOI: 10.1109/ TNNLS.2024.3351123.
  11. Chen J., Wu Y., Liang J., et al. Robust adversarial reinforcement learning: A survey and taxonomy // Information Sciences. – 2022. – Vol. 608. – P. 1–24. – DOI: 10.1016/j.ins.2022.06.033.
  12. Domico K., Sheatsley R., Pauley E., Hanna J., McDaniel P. Adversarial Agents: Black-Box Evasion Attacks with Reinforcement Learning // ResearchGate: nauchnaya social'naya set'. – 2025. – DOI: 10.48550/arXiv.2503.01734.
  13. Schulman J., Wolski F., Dhariwal P., Radford A., Klimov O. Proximal Policy Optimization Algorithms // arXiv.org: ehlektronnyj arhiv. – 2021. – arXiv:1707.06347. – Rezhim dostupa: https://arxiv.org/abs/1707.06347 (data obrashcheniya: 20.04.2026).
  14. Lipatnikov V. A., Tihonov V. A. Raspoznavanie vtorzhenij narushitelya pri upravlenii kiberbezopasnost'yu infrastruktury integrirovannoj organizacii na osnove nejro-nechetkih setej i kognitivnogo modelirovaniya. V sbornike: Aktual'nye problemy infotelekommunikacij v nauke i obrazovanii (APINO, 2019). sbornik nauchnyh statej VIII Mezhdunarodnoj nauchno-tehnicheskoj i nauchno-metodicheskoj konferencii: v 4 t. – 2019. – S. 659–664.
  15. Lipatnikov V. A., Parfirov V. A. Metod podderzhki prinyatiya resheniya pri upravlenii set'yu svyazi na osnove tehnologii nejronnyh setej. V sbornike: Aktual'nye problemy infotelekommunikacij v nauke i obrazovanii (APINO, 2024). Materialy XIII Mezhdunarodnoj nauchno-tehnicheskoj i nauchno-metodicheskoj konferencii. Sankt-Peterburg, 2024. – S. 467-472.
  16. Sindeev M. A., Vasil'ev N. A., Smirnov V. A., Shevchenko A. A., Kosolapov V. S., Lipatnikov V. A., Parfirov V. A. Programmnyj kompleks dlya prognozirovaniya i podderzhki prinyatiya reshenij administratorom seti po parirovaniyu mnogoehtapnoj ataki. Svidetel'stvo o registracii programmy dlya EHVM RU 2022616751, 15.04.2022. Zayavka № 2022615448 ot 29.03.2022.