Версии моделей в Microsoft Foundry Models в Azure для государственных организаций

Microsoft Модели Foundry регулярно выпускают новые версии моделей, которые включают последние функции и улучшения от поставщиков моделей. В этой статье объясняется, как работает версионирование моделей, какие политики обновления доступны для ваших развертываний, и как управляются версии моделей Azure OpenAI и партнерских моделей.

После чтения этой статьи вы узнаете, какую политику обновления следует выбрать при развертывании модели, как Azure автоматически управлять обновлениями версий и как управление версиями модели партнера отличается от управления версиями Azure OpenAI.

Как работают версии модели

Вы можете начать с конкретной версии модели и оставаться на ней или автоматически обновляться по мере выпуска новых версий.

Существует две разные версии, которые следует учитывать при работе с моделями:

• Версия модели как таковой
• Версия API, используемая для развертывания модели.

Версия модели

Политики обновления настраиваются при развертывании модели на портале Foundry. Вы также можете изменить политику позже в параметрах развертывания. Политики обновления настраиваются для каждого развертывания и зависят от модели и поставщика.

Политики обновления версий включают следующие параметры:

• Для развертываний, установленных для отказа от автоматического обновления версий модели, требуется обновление вручную, если выпущена новая версия. Когда модель выведена из эксплуатации, эти развертывания перестают работать.
• Развертывания, настроенные на обновление, как только новая версия по умолчанию становится доступной, автоматически обновляются для использования новой версии по умолчанию.
• Развертывания, установленные на когда текущая версия истекает, автоматически обновляются при её снятии с использования.

Например, развертывание gpt-4o может быть нацелено на версию 2024-08-06. Когда версия 2024-11-20 станет доступной, развертывания, установленные для автоматического обновления, автоматически переходят на новую версию.

Чтобы проверить текущую версию развертывания, используйте любой из следующих методов:

• Портал Foundry: перейдите к развертыванию на портале Foundry, а затем откройте вкладку "Сведения", чтобы просмотреть текущую версию модели.
• REST API. Запрос конечной точки развертываний для ресурса. Ответ включает версию модели для каждого развертывания.

Версия API, используемая для обращения к развернутой модели

Версия API указывает контракт, используемый для взаимодействия с моделью в коде. При использовании REST API указывается версия API с помощью параметра api-versionзапроса. Azure SDK версии обычно связаны с определенными версиями API, но можно указать версию API, которую вы хотите использовать.

Развертывание данной модели может поддерживать несколько версий API. Выпуск новой версии модели не всегда требует обновления до новой версии API, например, когда обновляются веса модели. Azure поддерживает предыдущую основную версию модели до даты выхода на пенсию, чтобы при необходимости вернуться к ней.

обновления модели OpenAI Azure

Azure тесно работает с OpenAI для выпуска новых версий модели. При выпуске новой версии модели можно немедленно протестировать ее в новых развертываниях. Azure публикует информацию о выпуске новых версий моделей и уведомляет клиентов по крайней мере за две недели до того, как новая версия станет версией по умолчанию. Azure также поддерживает предыдущую основную версию модели до даты выхода на пенсию, чтобы клиенты могли вернуться к ней при желании.

Подготовка к обновлению версий модели OpenAI Azure

Как пользователи моделей OpenAI в Azure, вы можете заметить некоторые изменения в поведении моделей и их работоспособности после обновления версии. Эти изменения могут повлиять на приложения и рабочие процессы, основанные на моделях. Ниже приведены некоторые советы, которые помогут вам подготовиться к обновлению версий и свести к минимуму влияние.

• Ознакомьтесь с новыми и моделями , чтобы понять изменения и новые возможности.
• Ознакомьтесь с документацией по развертыванию моделей Foundry и обновлениям версий , чтобы понять, как работать с версиями моделей.
• Протестируйте приложения и рабочие процессы с новой версией модели после выпуска.
• Обновите код и конфигурацию, чтобы использовать новые функции и возможности новой версии модели.

Произойдет ли обновление модели, если новая версия модели еще не доступна в этом регионе?

Она зависит от доступности модели. В Azure для государственных организаций, если обновленная версия недоступна в том же типе развертывания (DataZone или Standard) и регионе (USGovArizona или USGovVirginia), модель не обновляется автоматически.

Что происходит при выходе моделей на пенсию

Когда версия модели достигнет даты выхода на пенсию, то, что происходит дальше, зависит от политики обновления, настроенной для этого развертывания:

• Отказ от автоматического обновления версий модели: развертывание перестает принимать запросы и возвращает ошибки после вывода модели из эксплуатации. Обновите развертывание до поддерживаемой версии модели до даты выхода на пенсию, чтобы избежать прерывания работы службы.
• Обновление после того, как новая версия по умолчанию станет доступной: развертывание автоматически обновляется до текущей версии по умолчанию. Никаких действий не требуется.
• После истечения срока действия текущей версии развертывание автоматически обновляется до следующей доступной версии после истечения срока действия текущей версии.

Azure уведомляет вас о предстоящих выводах из эксплуатации по электронной почте владельцам подписок и их участникам, оповещениям Работоспособность служб Azure и предстоящим таблицам выводов из эксплуатации в Жизненном цикле моделей Foundry и политике поддержки в Azure для государственных организаций.

Связанное содержимое

• Модели Foundry, продаваемые непосредственно Azure в Azure для государственных организаций
• жизненный цикл Foundry Models и политика поддержки в Azure для государственных организаций
• Развертывание моделей Foundry
• Типы развертывания в моделях Foundry в Azure для государственных организаций