Тренды и вызовы: методы искусственного интеллекта в кибербезопасности

Abstract

В статье проводится анализ современного состояния методов искусственного интеллекта в области кибербезопасности. Обсуждается принцип интеграции искусственного интеллекта в контур безопасности на основе концепции «человек в контуре» (Human-in-the-loop). Отмечено, что развитие программных мультиагентных систем позволяет создавать распределенные экосистемы информационной защиты. Анализируются методы глубокого обучения (Deep Learning), которые являются технологическим фундаментом современного искусственного интеллекта в кибербезопасности благодаря способности автоматически извлекать иерархические признаки из сырых данных. Показано, что для повышения эффективности, надежности и интерпретируемости активно применяются гибридные архитектуры, сочетающие сильные стороны различных нейросетевых парадигм. Также искусственный интеллект выступает активным компонентом управления операционной устойчивостью, то есть способностью организации выполнять свои ключевые функции в условиях воздействия кибератак или сбоя некоторых подсистем инфраструктуры. Выявлены ключевые тренды и вызовы развития искусственного интеллекта в сфере кибербезопасности. Среди перспективных направлений развития выделены объяснимый искусственный интеллект, федеративное обучение, большие языковые модели, защита от состязательного искусственного интеллекта. К основным трудностям внедрения относятся масштабируемость в реальном времени, эволюция атак и операционная сложность. This article analyzes the current state of artificial intelligence in cybersecurity. It discusses the principle of integrating artificial intelligence into the security environment based on the "human-in-the-loop" concept. It is noted that the development of software multi-agent systems enables the creation of distributed information security ecosystems. Deep learning methods are analyzed, which form the technological foundation of modern artificial intelligence in cybersecurity due to their ability to automatically extract hierarchical features from raw data. It is shown that hybrid architectures combining the strengths of various neural network paradigms are actively used to improve efficiency, reliability, and interpretability. Artificial intelligence also serves as an active component in operational resilience management, that is, the ability of an organization to perform its key functions in the face of cyberattacks or the failure of certain infrastructure subsystems. Key trends and challenges in the development of artificial intelligence in cybersecurity are identified. Promising areas of development include explainable artificial intelligence, federated learning, large-scale language models, and protection against adversarial artificial intelligence. Key implementation challenges include real-time scalability, attack evolution, and operational complexity.