Примечание
Для доступа к этой странице требуется авторизация. Вы можете попробовать войти или изменить каталоги.
Для доступа к этой странице требуется авторизация. Вы можете попробовать изменить каталоги.
Важно!
Элементы, обозначенные в этой статье как (предварительная версия), сейчас предлагаются в общедоступной предварительной версии. Эта предварительная версия предоставляется без соглашения об уровне обслуживания, и мы не рекомендуем ее для рабочих нагрузок. Некоторые функции могут не поддерживаться или их возможности могут быть ограничены. Дополнительные сведения см. в статье Дополнительные условия использования Предварительных версий Microsoft Azure.
Из этой статьи вы узнаете, как создать развертывания модели Azure OpenAI на портале Azure AI Foundry.
Служба Azure OpenAI предлагает разнообразный набор моделей с разными возможностями и ценовыми точками. При развертывании моделей Azure OpenAI на портале Azure AI Foundry можно использовать развертывания, используя поток запроса или другое средство. Доступность модели зависит от региона. Дополнительные сведения о каждой модели см. в разделе Модели Службы Azure OpenAI.
Чтобы изменить и взаимодействовать с моделью Azure OpenAI на игровой площадке Azure AI Foundry, сначала необходимо развернуть базовую модель Azure OpenAI в вашем проекте. После развертывания и доступности модели в проекте можно использовать конечную точку REST API как есть или настроить дальше с собственными данными и другими компонентами (внедрение, индексы и многое другое).
Подписка Azure с допустимым методом оплаты. Бесплатные или пробные подписки Azure не будут работать. Если у вас нет подписки Azure, создайте платную учетную запись Azure, чтобы начать работу.
Выполните приведенные ниже действия, чтобы развернуть модель Azure OpenAI, например gpt-4o-mini в конечной точке в режиме реального времени из каталога моделей портала Azure AI Foundry:
- Войдите в Azure AI Foundry.
- Если вы еще не находитесь в проекте, выберите его.
- Выберите каталог моделей в левой области навигации.
В фильтре коллекций выберите Azure OpenAI.
Выберите модель,
gpt-4o-miniнапример из коллекции Azure OpenAI.Выберите "Развернуть" , чтобы открыть окно развертывания.
Выберите ресурс, в который нужно развернуть модель. Если у вас нет ресурса, его можно создать.
Укажите имя развертывания и измените другие параметры по умолчанию в зависимости от ваших требований.
Выберите Развернуть.
Вы попали на страницу деталей о развертывании. Выберите "Открыть на площадке".
Выберите представление кода , чтобы получить примеры кода, которые можно использовать для использования развернутой модели в приложении.
Кроме того, можно инициировать развертывание, начиная с проекта на портале Azure AI Foundry.
- Перейдите к проекту на портале Azure AI Foundry.
- На левой боковой панели вашего проекта перейдите в раздел Мои активы>Модели и конечные точки.
- Выберите + Разверните модель>Развернуть базовую модель.
- В фильтре коллекций выберите Azure OpenAI.
- Выберите модель,
gpt-4o-miniнапример из коллекции Azure OpenAI. - Выберите "Подтвердить" , чтобы открыть окно развертывания.
- Укажите имя развертывания и измените другие параметры по умолчанию в зависимости от ваших требований.
- Выберите Развернуть.
- Вы перешли на страницу сведений о развертывании. Выберите "Открыть на площадке".
- Выберите представление кода , чтобы получить примеры кода, которые можно использовать для использования развернутой модели в приложении.
Для выполнения вывода в развернутой модели можно использовать игровые площадки или примеры кода. Детская площадка — это веб-интерфейс, позволяющий взаимодействовать с моделью в режиме реального времени. С помощью игровой площадки можно протестировать модель с различными запросами и просмотреть ответы модели.
Для получения дополнительных примеров использования развернутой модели в вашем приложении см. следующие краткие руководства по Azure OpenAI:
Стандартная квота для моделей Azure OpenAI зависит от модели и региона. Отдельные модели доступны только в некоторых регионах. Дополнительные сведения об ограничениях доступности и квотах см. в разделе квоты и ограничения службы OpenAI Azure.
Для моделей Azure OpenAI развертывание и проведение вывода используют квоту, назначенную для вашей подписки в каждом регионе, на основе токенов в минуту (Токены-в-Минуту, TPM). При регистрации в Azure AI Foundry вы получаете квоту по умолчанию для большинства доступных моделей. Затем вы назначаете доверенный платформенный модуль (TPM) каждому развертыванию по мере его создания, что позволяет сократить доступную квоту для этой модели на назначенное количество TPM. Вы можете продолжать создавать развертывания и назначать их TPM, пока не достигнете предела квоты.
Когда вы достигнете предела квоты, единственным способом создания новых развертываний этой модели является:
- Запросите дополнительную квоту, отправив форму увеличения квоты.
- Настройте лимит, выделенный для других развертываний моделей, чтобы освободить токены для новых развертываний на портале Azure OpenAI.
Дополнительные сведения о квоте см. в статье "Квота Azure AI Foundry " и "Управление квотой службы Azure OpenAI".
- Дополнительные сведения о том, что можно сделать в Azure AI Foundry
- Получите ответы на часто задаваемые вопросы в статье Azure AI FAQ