Примечание.
Для доступа к этой странице требуется авторизация. Вы можете попробовать войти или изменить каталоги.
Для доступа к этой странице требуется авторизация. Вы можете попробовать изменить каталоги.
В этой статье вы узнаете, как разработать генеративное приложение ИИ, начиная с моделей GitHub, а затем повысить свой опыт, развернув ресурс Foundry Tools, используя модели Microsoft Foundry.
GitHub Модели полезны, если вы хотите бесплатно находить и экспериментировать с моделями искусственного интеллекта при разработке генеративного приложения ИИ. Когда вы будете готовы перенести приложение в рабочую среду, обновите интерфейс, развернув ресурс Foundry Tools в подписке Azure и начните использовать модели Foundry. В коде ничего другого не нужно изменять.
Песочница и бесплатное использование API для моделей GitHub лимитированы по запросам в минуту, запросам в день, токенам на запрос и одновременным запросам. Если вы столкнулись с ограничением частоты запросов, необходимо дождаться, пока ограничение не будет сброшено, прежде чем вы сможете сделать больше запросов.
Необходимые условия
Тебе нужно:
- Учетная запись GitHub с доступом к GitHub Models.
- Подписка Azure с допустимым методом оплаты. Если у вас нет подписки Azure, создайте платную учетную запись Azure, чтобы начать. Кроме того, вы можете подождать, пока вы не будете готовы развернуть модель в рабочей среде, в какой момент вам будет предложено создать или обновить учетную запись Azure до стандартной учетной записи.
- Foundry Models от партнеров и сообщества требуют доступ к Azure Marketplace. Убедитесь, что у вас есть разрешения, необходимые для подписки на предложения моделей. Foundry Models, которые продаются непосредственно Azure не имеют этого требования.
Обновление до моделей Foundry
Ограничения скорости для игровой площадки и бесплатного использования API помогают экспериментировать с моделями и разрабатывать приложение ИИ. Когда вы будете готовы перенести приложение в рабочую среду, используйте ключ и конечную точку из платной Azure учетной записи. В коде ничего другого не нужно изменять.
Примечание
GitHub модели бесплатны с ограничениями скорости. После обновления до Foundry Models плата за использование взимается с подписки Azure на основе выбранного типа развертывания.
Чтобы получить ключ и конечную точку, выполните следующие действия.
Перейдите к GitHub модели и выберите модель, чтобы перейти на её площадку. В этой статье используется Mistral Medium 3 (25.05).
Введите некоторые запросы или используйте некоторые предлагаемые запросы на взаимодействие с моделью на детской площадке.
Выберите "Использовать эту модель " на детской площадке. Это действие открывает окно "Начало работы с моделями в кодовой базе".
На шаге "Настройка проверки подлинности" выберите Получить ключ Microsoft Foundry в разделе "Azure AI".
Снимок экрана, показывающий, как получить производственный ключ Azure AI в песочнице модели GitHub.
Если вы уже вошли в учетную запись Azure, пропустите этот шаг. Однако если у вас нет учетной записи Azure или вы не вошли в учетную запись, выполните следующие действия.
Если у вас нет учетной записи Azure, выберите Создать учетную запись и выполните действия, чтобы создать ее.
Кроме того, если у вас есть учетная запись Azure, выберите Войти снова. Если существующая учетная запись является бесплатной, сначала необходимо выполнить обновление до стандартного плана.
Вернитесь на площадку модели и снова выберите Get Microsoft Foundry key.
Войдите в учетную запись Azure.
Вы перейдете на Foundry > GitHub и окажетесь на домашней странице проекта Foundry.
Совет
Если вы перешли к классическому опыту Foundry, используйте переключатель New Foundry в правом верхнем углу страницы, чтобы переключиться на новый опыт Foundry.
Выполните действия, описанные в статье "Развертывание модели" для развертывания выбранной модели , тестирования ее на детской площадке и вывода развернутой модели с помощью кода.
Проверьте, работает ли развертывание, отправив тестовый запрос на игровой площадке. Если вы получите ответ, модель готова к использованию с помощью кода.
Важно
В отличие от моделей GitHub, где все модели уже настроены, ресурс Foundry Tools позволяет управлять моделями, доступными в вашем конечном пункте, и их конфигурацией. Добавьте столько моделей, сколько планируется использовать, прежде чем указывать их в параметре model . Узнайте, как добавить в ресурс дополнительные модели .
Ознакомьтесь с дополнительными функциями
Модели Foundry поддерживают функции, недоступные в GitHub моделях:
- Model catalog — обзор, сравнение и оценка моделей из Azure, партнеров и сообщества с открытым кодом.
- Keyless authentication — используйте Microsoft Entra ID для проверки подлинности на основе токенов без управления ключами API.
- Фильтрация содержимого — настройка фильтров безопасности содержимого для развертываний.
- Ограничение скорости — задайте настраиваемые ограничения скорости для определенных моделей в ресурсе.
- Типы развертывания — Выберите один из нескольких вариантов развертывания, таких как оплата за токен, предусмотренные или пакетные.
Устранение распространенных проблем
| Проблема | Разрешение |
|---|---|
| Модель недоступна в вашем регионе | Проверьте доступность региона модели на странице каталога моделей и выберите поддерживаемый регион. |
| Ошибка проверки подлинности после переключения ключей | Убедитесь, что вы скопировали правильный ключ на портале Foundry. Выберите настройки проекта>ключи и конечные точки, чтобы просмотреть ваши ключи. |
| Ошибки ограничения скорости после обновления | Ограничения скорости моделей Foundry зависят от типа развертывания. Увеличение масштаба или выбор развертывания с более высокой пропускной способностью. |