Поделиться через

Служба и функции Azure OpenAI в Azure для государственных организаций

  • Статья

В этой статье рассматриваются различия при использовании Azure OpenAI в Azure для государственных организаций по сравнению с предложением коммерческого облака. Дополнительные сведения о самой службе Azure OpenAI см. в документации по Службе OpenAI Azure.

Модели Azure OpenAI

Узнайте больше о различных возможностях каждой модели в моделях Службы OpenAI Azure. Для клиентов с рекомендациями по непрерывности бизнес-процессов и аварийному восстановлению (BCDR) обратите внимание на типы развертывания, регионы и доступность модели ниже, так как не все сочетания моделей и типов доступны в обоих регионах.

В следующих разделах показаны доступность модели по регионам и типу развертывания.

Доступность модели развертывания уровня "Стандартный"

Регион gpt-35-turbo, 1106 gpt-35-turbo, 0125 gpt-4, 1106-Preview gpt-4o, 2024-05-13 text-embedding-ada-002
usgovarizona - ✅ ✅ ✅ ✅
usgovvirginia ✅ ✅ ✅ - ✅

Чтобы запросить увеличение квоты для модели потребления с оплатой по мере использования, примените по адресу https://aka.ms/AOAIGovQuota

Доступность подготовленной модели развертывания

Регион gpt-35-turbo, 1106 gpt-35-turbo, 0125 gpt-4, 1106-Preview gpt-4o, 2024-05-13
usgovarizona - ✅ - ✅
usgovvirginia - ✅ ✅ ✅

Примечание.

Подготовленные единицы пропускной способности (PTUS) отличаются от стандартной квоты в Azure OpenAI и по умолчанию недоступны в Azure для государственных организаций. Чтобы узнать больше об этом предложении, обратитесь к группе учетных записей Майкрософт.


Функции Azure OpenAI

Возможность Description
Подключите свои данные Доступно в USGovVirginia и USGovArizona. Поддерживаются виртуальные сети и частные каналы. Развертывание в веб-приложении или copilot в Copilot Studio не поддерживается.
Управляемое удостоверение Да, с помощью идентификатора Microsoft Entra
Поддержка виртуальной сети и поддержка приватного канала Да.
Взаимодействие с пользовательским интерфейсом портал Azure для управления учетными записями и ресурсами
Azure OpenAI Studio для изучения моделей
Мониторинг злоупотреблений Не все функции мониторинга злоупотреблений включены для Azure OpenAI в Azure для государственных организаций. Вы несете ответственность за реализацию разумных технических и операционных мер для обнаружения и устранения любого использования службы в нарушение условий продукта. Автоматическая классификация контента и фильтрация по умолчанию включены для Azure для государственных организаций. Если требуются измененные фильтры содержимого, примените его по адресу https://aka.ms/AOAIGovModifyContentFilter
Хранилище данных В Azure для государственных организаций функции Azure OpenAI в настоящее время не включены, которые хранят неактивные данные клиента. Однако управляемые клиентом ключи (CMK) по-прежнему можно включить в Azure для государственных организаций для поддержки использования таких же политик в Azure для государственных организаций, что и в общедоступном облаке. Обратите внимание, что если функции Azure OpenAI, в которых хранятся данные клиентов, включены в Azure для государственных организаций в будущем, все существующие развертывания CMK будут применены к этим данным в то время. Дополнительные сведения см. в azure OpenAI Data Privacy.
Соответствие нормативным требованиям Просмотр текущего состояния соответствия Azure OpenAI в Azure для государственных организаций в области аудита служб Azure для государственных организаций
Конечные точки службы openai.azure.us
Ключевые порталы
  • Azure OpenAI Studio — aoai.azure.us
  • портал Azure - portal.azure.us

Подготовленные развертывания в Azure для государственных организаций

В следующем руководстве описано, как настроить подготовленное развертывание с помощью ресурса Службы Azure OpenAI в Azure для государственных организаций.

Необходимые компоненты

  • Подписка Azure для государственных организаций
  • Ресурс Azure OpenAI
  • Утвержденная квота для подготовленного развертывания и приобрела обязательство

Управление подготовленными обязательствами по пропускной способности

Для Azure OpenAI в Azure для государственных организаций подготовленные развертывания пропускной способности требуют предварительно подготовленных обязательств, созданных и управляемых из представления "Управление обязательствами" в Azure OpenAI Studio. Вы можете перейти к этому представлению, выбрав "Управление обязательствами " на панели "Квота".

В представлении "Управление обязательствами" можно выполнить несколько действий.

  • Приобретите новые обязательства или измените существующие обязательства.
  • Отслеживайте все обязательства в подписке.
  • Определите и примите меры по обязательствам, которые могут вызвать непредвиденные выставления счетов.
Параметр Примечания.
Выбор ресурса Выберите ресурс, в котором создается подготовленное развертывание. После приобретения обязательства вы не сможете использовать квоту на другой ресурс до истечения срока действия текущего обязательства.
Выбор типа обязательства Выберите Подготовлено. (Подготовлено эквивалентно подготовленному управляемому)
Текущая незафиксированная подготовленная квота Количество ПТП, доступных в настоящее время для фиксации этого ресурса.
Сумма фиксации (PTU) Выберите количество ПТП, к которые вы фиксируете. Это число может быть увеличено в течение срока обязательств, но не может быть уменьшено. Введите значения приращения 50 для типа обязательства Provisioned.
Уровень обязательств за текущий период Срок обязательств равен одному месяцу.
Параметры продления Автоматическое обновление в текущих PTUs
Авторенеть на более низких ПТУ
Не перенастройте автоматическое обновление

Внимание

За весь срок выставляется счет за новое обязательство. Если для параметров продления задано автоматическое продление, вы будете выставлены счета снова по каждой дате продления на основе параметров продления.

Внимание

При добавлении PTUS в обязательство они будут выставляться немедленно по тарифу с текущей даты до конца существующего срока обязательства. Добавление PTUs не сбрасывает срок обязательства.

Изменение параметров продления

Параметры продления обязательств можно изменить в любое время до истечения срока действия вашего обязательства.

Внимание

Если вы разрешаете истечение срока действия или уменьшение размера, чтобы развертывания в ресурсе требовали больше PTUS, чем у вас есть в обязательстве по ресурсам, вы получите почасовую плату за превышение ПТУ. Например, ресурс с развертываниями, в общей сложности 500 ПТП и обязательство по 300 ПТУ будет создавать почасовые расходы за 200 ПТП.

Распространенные сценарии управления обязательствами

Прекращение использования подготовленной пропускной способности

Чтобы завершить использование подготовленной пропускной способности и предотвратить почасовую оплату по истечении срока действия обязательства, необходимо выполнить два шага.

  1. Задайте политику продления для всех обязательств, чтобы не выполнять автоматическое восстановление.
  2. Удалите подготовленные развертывания с помощью квоты.

Перемещение обязательства или развертывания в новый ресурс в той же подписке или регионе

В Azure OpenAI Studio невозможно переместить развертывание или обязательство в новый ресурс напрямую. Вместо этого необходимо создать новое развертывание на целевом ресурсе и трафике, перемещенном в него. Для этого процесса требуется новая покупка обязательств на новом ресурсе. Поскольку обязательства взимается заранее за 30-дневный период, необходимо время этого шага с истечением срока действия первоначальной обязательства, чтобы свести к минимуму перекрытие с новым обязательством и "двойным выставлением счетов" во время перекрытия.

Существует два подхода, которые можно использовать для реализации этого перехода.

Вариант 1. Переключение без перекрытия

Этот параметр требует некоторого простоя, но не требует дополнительной квоты и не создает дополнительных затрат.

Шаги Примечания.
Задайте политику продления для существующего обязательства, срок действия которого истекает Это действие предотвращает продление и создание дополнительных расходов обязательства
Перед истечением срока действия существующего обязательства удалите его развертывание Время простоя начинается с этого момента и будет длиться до создания нового развертывания и перемещения трафика. Вы можете свести к минимуму длительность, указав время, когда удаление произойдет как можно ближе к дате и времени окончания срока действия.
После истечения срока действия существующего обязательства создайте обязательство по новому ресурсу. Свести к минимуму время простоя, выполнив этот шаг и следующий шаг как можно скорее после истечения срока действия.
Создайте развертывание на новом ресурсе и переместите трафик на него

Вариант 2. Перекрытие переключения

Этот параметр не имеет времени простоя, имея как существующие, так и новые развертывания одновременно. Этот метод также требует наличия квоты для создания нового развертывания и создания дополнительных затрат во время перекрывающихся развертываний.

Шаги Примечания.
Задайте политику продления для существующего обязательства, срок действия которого истекает Это позволяет предотвратить продление и создание дополнительных расходов.
До истечения срока действия существующего обязательства:
1. Создайте обязательство по новому ресурсу.
2. Создайте новое развертывание.
3. Переключение трафика
4. Удаление существующего развертывания		 Убедитесь, что вы оставьте достаточно времени для всех шагов до истечения срока действия существующего обязательства, в противном случае плата за превышение расходов будет создана (см. следующий раздел) для параметров.