Наблюдаемость в генеративном ИИ

В современном мире, ориентированном на искусственный интеллект, создание операций искусственного интеллекта (GenAIOps) является революцией в том, как организации создают и развертывают интеллектуальные системы. Поскольку компании все чаще используют агенты и приложения ИИ для преобразования принятия решений, улучшения взаимодействия с клиентами и повышения качества инноваций, один элемент имеет первостепенное значение: надежные платформы оценки. Оценка — это не только контрольная точка. Это основа качества и доверия к приложениям ИИ. Без строгой оценки и мониторинга системы ИИ могут создавать контент, который:

• Сфабриковано или не имеет отношения к реальности
• Неуместный или несогласованный
• Вредно в увековечении рисков и стереотипов содержания
• Опасно распространять дезинформацию
• Уязвимые для эксплойтов безопасности

Это место, где наблюдаемость становится важной. Эти возможности измеряют частоту и серьезность рисков в выходных данных искусственного интеллекта, позволяя командам систематически решать проблемы качества, безопасности и безопасности на протяжении всего процесса разработки ИИ— от выбора подходящей модели для мониторинга производительности, качества и безопасности.

Что такое наблюдаемость?

Наблюдаемость искусственного интеллекта относится к способности отслеживать, понимать и устранять неполадки систем ИИ на протяжении всего жизненного цикла. Он включает сбор и анализ таких сигналов, как метрики оценки, журналы, трассировки и выходные данные модели и агента, чтобы получить представление о производительности, качестве, безопасности и работоспособности эксплуатации.

Что такое оценщики?

Оценщики — это специализированные инструменты, которые измеряют качество, безопасность и надежность ответов ИИ. Реализуя систематические оценки в течение жизненного цикла разработки ИИ, команды могут выявлять и устранять потенциальные проблемы, прежде чем они влияют на пользователей. Следующие поддерживаемые вычислители предоставляют комплексные возможности оценки для различных типов приложений ИИ и проблем.

Общее назначение

Дополнительные сведения см. в разделе "Оценка общего назначения".

Подобие текста

Подробности см. в разделе оценка текстового сходства

RAG (генерация с дополненным поиском)

Дополнительные сведения см. в статье о вычислителях расширенного поколения (RAG).

Безопасность и защита (предварительная версия)

Дополнительные сведения см. в статье о оценках рисков и безопасности.

Агенты (предварительная версия)

Дополнительные сведения смотрите в разделе Оценка агентов.

Оценки Azure OpenAI (предварительная версия)

Дополнительные сведения см. в статье Azure OpenAI Graders.

Оценщики в жизненном цикле разработки

Используя эти вычислители стратегически на протяжении всего жизненного цикла разработки, команды могут создавать более надежные, безопасные и эффективные приложения ИИ, которые соответствуют потребностям пользователей, минимизируя потенциальные риски.

Три этапа оценки GenAIOps

GenAIOps использует следующие три этапа.

Выбор базовой модели

Прежде чем создавать приложение, необходимо выбрать правильный фундамент. Эта начальная оценка помогает сравнить различные модели на основе:

• Качество и точность: насколько релевантны и последовательны ответы модели?
• Производительность задачи: эффективно ли модель обрабатывает конкретные варианты использования?
• Этические соображения: модель свободна от вредных предвзятости?
• Профиль безопасности: что такое риск создания небезопасного содержимого?

Доступные средства: Microsoft Foundry benchmark для сравнения моделей с общедоступными наборами данных или собственными данными, а также пакет SDK для оценки ИИ Azure для тестирования определенных конечных точек модели.

Оценка на этапе подготовки к производству

После выбора базовой модели следующим шагом является разработка агента или приложения ИИ. Перед развертыванием в рабочей среде необходимо тщательное тестирование, чтобы убедиться, что агент ИИ или приложение готовы к реальному использованию.

Предварительная оценка включает в себя:

• Тестирование с помощью наборов данных оценки. Эти наборы данных имитируют реалистичные взаимодействия пользователей, чтобы агент ИИ выполнял ожидаемые действия.
• Определение пограничных вариантов: поиск сценариев, в которых качество ответа агента ИИ может снизить или вызвать нежелательные выходные данные.
• Оценка надежности: обеспечение того, чтобы агент ИИ может обрабатывать диапазон входных вариантов без значительного снижения качества или безопасности.
• Измерение ключевых метрик: метрики, такие как соблюдение задач, соответствие ответа, релевантность и безопасность, оцениваются для подтверждения готовности к рабочей среде.

Этап предварительного производства выступает в качестве окончательной проверки качества, уменьшая риск развертывания агента ИИ или приложения, который не соответствует требуемым стандартам производительности или безопасности.

Средства оценки и подходы:

Получив удовлетворительные результаты, вы можете развернуть приложение ИИ в рабочей среде.

Мониторинг после производства

• Операционные метрики: регулярное измерение ключевых метрик агента ИИ.
• Непрерывная оценка: позволяет оценивать качество и безопасность рабочего трафика с использованием выборочной частоты.
• Запланированная оценка: Включает запланированную оценку качества и безопасности с помощью тестового набора данных для обнаружения дрейфа в базовых системах.
• Запланированное тестирование красной команды: предоставляет запланированные возможности атакующего тестирования для поиска уязвимостей безопасности и защиты.
• Оповещения Azure Monitor: действие Swift при возникновении вредных или неуместных выходных данных. Настройте оповещения для непрерывной оценки, чтобы получать уведомления, когда результаты оценки падают ниже порогового значения пропускного балла в производственной среде.

Эффективный мониторинг помогает поддерживать доверие пользователей и позволяет быстро устранить проблемы.

Наблюдаемость обеспечивает широкие возможности мониторинга, необходимые для современных сложных и быстро развивающихся ландшафтов ИИ. Это решение обеспечивает непрерывный мониторинг развернутых приложений ИИ для обеспечения оптимальной производительности, безопасности и качества в рабочих средах.

Панель мониторинга Foundry предоставляет критически важные метрики и данные в режиме реального времени. Это позволяет командам быстро выявлять и устранять проблемы с производительностью, проблемы безопасности или снижение качества.

Для приложений на основе агента Foundry предлагает расширенные возможности непрерывной оценки. Эти возможности могут обеспечить более глубокую видимость метрик качества и безопасности. Они могут создать надежную экосистему мониторинга, которая адаптируется к динамической природе приложений ИИ, сохраняя высокие стандарты производительности и надежности.

Постоянно отслеживая поведение приложения ИИ в рабочей среде, вы можете поддерживать высококачественные пользовательские возможности и быстро устранять все проблемы, которые возникают.

Создание доверия с помощью систематической оценки

GenAIOps устанавливает надежный процесс управления приложениями ИИ на протяжении всего жизненного цикла. Реализуя тщательную оценку на каждом этапе от выбора модели до развертывания и за ее пределами, команды могут создавать решения искусственного интеллекта, которые не только мощные, но надежные и безопасные.

Памятка по оценке

Использование собственной виртуальной сети для оценки

В целях изоляции сети можно использовать собственную виртуальную сеть для оценки. Дополнительные сведения см. в статье "Настройка приватного канала".

Поддержка региона виртуальной сети

Поддержка регионов

В настоящее время некоторые оценочные системы с поддержкой ИИ доступны только в следующих регионах:

Поддержка региона оценки игровой площадки агента

Ценообразование

Функции наблюдения, такие как оценки рисков и безопасности и непрерывные оценки, выставляются на основе потребления, как указано на странице цен Azure.

Связанный контент