Получите контекст приложения и конечного пользователя для оповещений ИИ.

защита от угроз Microsoft Defender для облака для служб ИИ позволяет повысить эффективность и безопасность созданных оповещений ИИ, предоставляя контекст конечных пользователей и приложений.

Большинство сценариев службы искусственного интеллекта создаются как часть приложения, поэтому вызовы API к службе ИИ происходят из веб-приложения, вычислительного экземпляра или шлюза ИИ. Эта архитектура, опосредованная приложениями, вносит сложность, поскольку исследователям не хватает контекста при рассмотрении запросов ИИ, чтобы определить бизнес-приложение или конечного пользователя.

Вместе Microsoft Defender для облака и Azure ИИ позволяют добавлять параметры в вызовы API ИИ Azure, чтобы Defender для облака могли записывать критически важный контекст конечного пользователя или приложения в оповещениях искусственного интеллекта. Фиксация контекста конечных пользователей и приложений в AI-оповещениях приводит к более эффективной сортировке и результатам. Например, при добавлении IP-адреса или удостоверения конечного пользователя можно заблокировать этот пользователь или сопоставить инциденты и оповещения этого пользователя. При добавлении контекста приложения можно определить, является ли подозрительное поведение стандартным для этого приложения в организации.

Prerequisites

• Ознакомьтесь с защитой от угроз ИИ.

• Включите защиту от угроз для служб ИИ в приложении ИИ с помощью базовой модели Azure OpenAI непосредственно через службу Azure OpenAI. Обратите внимание, что эта функция в настоящее время не поддерживается при применении моделей, используемых через API вывода модели ИИ Azure.

Добавление параметров безопасности в вызов Azure OpenAI

Чтобы получать оповещения безопасности ИИ с более полным контекстом, можно добавить любые или все из следующих примеров параметров UserSecurityContext в вызовы Azure OpenAI API.

Все поля в этом UserSecurityContext поле являются необязательными.

Для контекста конечного пользователя мы рекомендуем передавать как минимум поля EndUserId и SourceIP. Поля EndUserId и SourceIP позволяют аналитикам центра операций безопасности (SOC) расследовать инциденты безопасности, связанные с ресурсами ИИ и приложениями генеративного ИИ.

Для контекста приложения передайте applicationName поле в виде простой строки.

Если имя любого UserSecurityContext поля написано с ошибкой, вызов API Azure OpenAI всё равно выполняется успешно.

Схема UserSecurityContext

Точную схему можно найти в справочной документации по REST API Azure OpenAI.

Объект контекста безопасности пользователя является частью текста запроса API завершения чата.

Добавление UserSecurityContext параметров для обогащения оповещений Defender для облака в настоящее время не поддерживается при применении моделей, развернутых через API AI моделей вывода Azure.

Поддерживаемые API и версии SDK

В следующей таблице перечислены поддерживаемые API и версии SDK для UserSecurityContext.

Следующий шаг