Поделиться через

Ответственный ИИ для Microsoft Foundry

В этой статье представлен обзор ресурсов для создания и развертывания надежных агентов ИИ. Это включает в себя сквозную безопасность, наблюдаемость и управление с помощью элементов управления и контрольных точек на всех этапах жизненного цикла агента. Наши рекомендуемые основные шаги разработки создаются в стандарте Microsoft Responsible AI Standard, который устанавливает требования к политике, которые следуют нашим собственным инженерным командам. Большая часть содержимого стандарта следует шаблону, согласно которому команды должны обнаруживать, защищать и управлять потенциальными рисками содержимого.

В Корпорации Майкрософт наш подход руководствуется платформой управления, корневой в принципах ИИ, которые устанавливают требования к продукту и служат нашей "северной звездой". Когда мы определяем вариант использования бизнеса для создания искусственного интеллекта, сначала мы обнаруживаем и оцениваем потенциальные риски системы ИИ для определения критически важных областей фокусировки.

Когда мы определим эти риски, мы оцениваем их распространенность в системе искусственного интеллекта с помощью систематического измерения, помогая нам определять приоритеты областей, которым требуется внимание. Затем мы применяем соответствующую защиту на уровне модели и агента от этих рисков.

Наконец, мы рассмотрим стратегии управления рисками на этапе продакшена, включая развертывание и готовность к работе, а также настройку мониторинга для поддержки текущего управления, чтобы обеспечить соответствие требованиям и выявить новые риски после того, как приложение начнет функционировать.

В соответствии с методиками RAI Майкрософт эти рекомендации организованы на три этапа:

  • Выявление рисков качества агента, безопасности и защиты до и после развертывания.
  • Защита — как на уровне выходных данных модели, так и среды выполнения агента — от рисков безопасности, нежелательных выходных данных и небезопасных действий.
  • Управление агентами с помощью средств трассировки и мониторинга и интеграции соответствия требованиям.

Оповещения системы безопасности и рекомендации

Вы можете просмотреть оповещения и рекомендации Defender для облачной безопасности, чтобы повысить уровень безопасности в разделе "Риски и оповещения ". Оповещения системы безопасности — это уведомления, созданные планом Defender для служб ИИ, когда угрозы определяются в рабочих нагрузках ИИ. Вы можете принять меры на портале Azure или на портале Defender для решения этих оповещений.

Подробнее об ответственном использовании ИИ

  • Last updated on