Обнаружение и исследование угроз агентам ИИ с помощью Microsoft Defender (предварительная версия)

Развернутые агенты ИИ работают автономно, вызывают средства, обращаются к данным и выполняют действия в подключенных системах в ответ на входные данные естественного языка. Это делает непрерывное обнаружение и исследование критически важным. Microsoft Defender обнаруживает подозрительное и вредоносное поведение агента, предоставляет оповещения практически в режиме реального времени и позволяет командам безопасности исследовать инциденты и отслеживать полную первопричину и радиус взрыва.

Microsoft Defender обнаруживает и позволяет командам безопасности исследовать угрозы агентам ИИ, управляемым с помощью агента Microsoft Agent 365, включая расширенные возможности обнаружения, доступные для поддерживаемых платформ агентов. Чтобы заблокировать небезопасные действия агента во время выполнения, см. статью "Защита агентов ИИ в режиме реального времени с помощью Microsoft Defender".

Предварительные условия

• Включите функции безопасности для агентов ИИ, включая соединитель приложения Microsoft 365 для сбора данных наблюдаемости Agent 365 о действиях агентов ИИ. См. раздел "Включение безопасности для агентов ИИ" с помощью Microsoft Defender.
• Убедитесь, что агент ИИ выдает данные о наблюдаемости для Microsoft 365:
  • Агенты, созданные с помощью Microsoft Copilot Studio, Microsoft Foundry и декларативные агенты, созданные с помощью построителя агентов Microsoft 365 Copilot, отправляют данные о наблюдаемости по умолчанию в Microsoft 365.
  • Для агентов ИИ, созданных на других платформах, включите наблюдаемость с помощью пакета SDK для Microsoft Agent 365, как описано в документации по жизненному циклу разработки Agent 365.
• Чтобы обнаружить угрозы для локальных агентов ИИ, работающих на конечных точках, настройте защиту среды выполнения агента ИИ в Microsoft Defender для конечной точки. Microsoft Defender для конечной точки должен работать в активном режиме. Локальные агенты подключены отдельно от облачных агентов.
• (Необязательно) Чтобы включать в оповещения фрагменты запроса, которые привели к обнаружению, в качестве подтверждения, включите сбор подтверждений для запросов. Этот флажок устанавливается по умолчанию.

Обнаружение угроз агента ИИ почти в режиме реального времени

Microsoft Defender постоянно отслеживает активность агентов ИИ и обнаруживает подозрительное и вредоносное поведение всех агентов, управляемых Agent 365. Defender анализирует телеметрию агентов, использование инструментов и шаблоны выполнения для выявления угроз, таких как попытки джейлбрейка, попытки косвенной инъекции подсказок (XPIA), распространение вредоносного контента, утечка секретов и учетных данных, техники обхода от эксплуатации, разведка больших языковых моделей (LLM) и подозрительный доступ к пользователям или IP.

Microsoft Defender отображают обнаружения в виде оповещений практически в реальном времени на портале Defender и позволяют группам безопасности исследовать их с помощью знакомых рабочих процессов операций безопасности, включая рассмотрение оповещений, корреляцию инцидентов и расширенную охоту.

Дополнительные сведения см. в разделе Инциденты и оповещения на портале Microsoft Defender.

Обнаружения практически в реальном времени основаны на данных наблюдаемости Agent 365, которые также обеспечивают ценный контекст для расследования инцидентов и поиска угроз. Microsoft Defender анализирует эти данные для выявления подозрительного поведения агента и создания оповещений.

Чтобы обогатить исследование оповещений с помощью фрагментов запроса, которые активировали обнаружение, включите сбор доказательств запроса. Дополнительные сведения см. в разделе Свидетельства запроса на подтверждение в оповещениях.

Анализируйте угрозы, связанные с ИИ-агентами, и выявляйте риски с помощью Advanced Hunting

Microsoft Defender сопоставляет оповещения агента ИИ с инцидентами и предоставляет соответствующий контекст, чтобы группы безопасности могли быстро оценить влияние и определить приоритеты реагирования. Затем функция Advanced Hunting позволяет аналитикам запрашивать данные наблюдаемости Agent 365 с помощью языка запросов Kusto (KQL), чтобы расследовать инциденты и выявлять риски во всей среде.

Исследование инцидентов и оповещений

Microsoft Defender объединяет оповещения ИИ-агента, созданные на основе обнаружений, выполняемых практически в реальном времени, в инциденты. События аудита защиты в режиме реального времени и блокировки записываются как события поведения в таблице BehaviorInfo, которые можно сопоставить с оповещениями в ходе расследования.

Аналитики безопасности могут использовать граф инцидентов и опыт исследования, чтобы понять полный контекст потенциальной атаки, включая связи между задействованными сущностями и радиусом действия угроз агента ИИ. Дополнительные сведения см. в разделе Инциденты и оповещения на портале Microsoft Defender.

Сопоставляйте оповещения и данные наблюдаемости Agent 365 и выявляйте риски с помощью Advanced Hunting

Расширенный поиск в Microsoft Defender позволяет командам безопасности выполнять запросы к данным наблюдаемости Agent 365 наряду с другими данными безопасности с помощью языка запросов Kusto (KQL). Это обеспечивает проактивный поиск угроз, расследование инцидентов и анализ первопричин для агентов, приложений, учетных записей и устройств.

Например, используйте расширенную охоту, чтобы:

• Отслеживайте вызовы конкретных инструментов агента и сопоставляйте их со связанными оповещениями или событиями блокировки

• Изучение первопричины и область обнаруженной угрозы агента ИИ

• Определение аномальных шаблонов выполнения или рискованного поведения агента во всех средах

• Создание настраиваемых правил обнаружения на основе сигналов активности агента

Расширенные таблицы охоты для исследования агента ИИ

Следующие таблицы Расширенной охоты предоставляют представление о конфигурации агента ИИ, оповещениях и действиях. Вы можете запрашивать эти таблицы по отдельности или сопоставлять их для изучения инцидентов и поиска рисков, связанных с агентом.

Дальнейшие действия

• Защита агентов ИИ в режиме реального времени с помощью Microsoft Defender

• Обнаружение агентов ИИ и оценка состояния безопасности с помощью Microsoft Defender

• Защита ресурсов ИИ от новых угроз и уязвимостей с помощью Microsoft Defender