Модели литейных производств от партнеров и сообщества

Модели Microsoft Foundry в каталоге моделей включают две основные категории, а именно модели Foundry, продаваемые через Azure и модели Foundry от партнеров и сообщества. В этой статье перечислена подборка моделей Foundry от партнеров и сообщества, а также их возможности, типы развертывания и регионы доступности, за исключением устаревших и выведенных из эксплуатации моделей. Большинство поставщиков моделей Foundry являются доверенными сторонними организациями, партнерами, исследовательскими лабораториями и участниками сообщества.

Список моделей Foundry, проданных Azure, см. в разделе Foundry Models, проданных Azure и список моделей Foundry, поддерживаемых службой агентов Foundry, см. в разделе Models, поддерживаемые службой агента.

Модели Foundry поддерживают несколько типов развертывания в ресурсе Foundry. Для развертывания некоторых моделей в каталоге моделей требуется проект на базе хаба, размещенный хабом Foundry. При выборе этих моделей в каталоге они открываются в портале Foundry (классический интерфейс).

Необходимые условия

• Подписка Azure. Если у вас нет учетной записи, создайте бесплатную учетную запись.

  Важно

  Следующие подписки Azure нельзя использовать для приобретения предложений программного обеспечения как услуги (SaaS) в Marketplace: Student, Visual Studio Enterprise или Бесплатный кредит. Дополнительные сведения о приобретении предложений SaaS см. в статье о покупке SaaS.

• Проект Microsoft Foundry.

Разрешения, необходимые для подписки на модели от партнеров и сообщества

Модели Foundry от партнеров и сообщества, доступные для развертывания (например, модели Cohere), требуют Azure Marketplace. Поставщики моделей определяют условия лицензии и задают цену на использование своих моделей с помощью Azure Marketplace.

При развертывании сторонних моделей убедитесь, что у вас есть следующие разрешения в вашей учетной записи:

Встроенные роли Owner и Contributor в подписке Azure включают эти разрешения. Если у вас нет необходимых разрешений, попросите администратора подписки назначить вам роль участника или создать пользовательскую роль , содержащую перечисленные действия.

Чтобы проверить свои разрешения, перейдите на портал Azure откройте подписку, выберите элемент управления Access (IAM)>Check access и просмотрите назначенные роли.

Доступность страны или региона

Вы можете получить доступ к моделям от партнеров и сообщества с оплатой по мере использования только в том случае, если ваша подписка Azure привязана к платежной учетной записи в стране или регионе, где поставщик модели сделал это предложение доступным (см. столбец "Регион доступности предложения" в таблицах в разделе каждого поставщика моделей). Доступность зависит от поставщика модели и номера SKU модели. Если предложение доступно в соответствующей стране или регионе, необходимо иметь проект или центр в регионе Azure, где модель доступна для развертывания или тонкой настройки, как применимо.

Anthropic

Флагманским продуктом Anthropic является Claude, продвинутая модель ИИ, которой доверяют ведущие предприятия и миллионы пользователей по всему миру для сложных задач, включая программирование, вспомогательные программы, финансовый анализ, исследования и офисные задачи. Claude обеспечивает исключительную производительность при сохранении высоких стандартов безопасности.

Поддержка типа подписки и региона

Чтобы использовать модели Claude в Microsoft Foundry, необходимо иметь оплачиваемую подписку Azure с учетной записью для выставления счетов в стране или регионе, где Anthropic предлагает модели для покупки. Список распространенных ошибок, связанных с подпиской, см. в разделе "Распространенные сообщения об ошибках и решениях". В настоящее время следующие типы подписок не поддерживаются:

• Корпоративные учетные записи, расположенные в Южной Корее
• подписки поставщика облачных решений
• Azure подписки, которые не имеют активного метода оплаты по принципу 'оплата по факту использования' (например, студенческих, бесплатных пробных версий или учетных записей, основанных на кредитах)
• Спонсируемые подписки, использующие только кредиты Azure. Примечание: если у вас есть учетная запись с привязанной кредитной картой, кредитная карта будет использована вместо Azure Credits.

Список поддерживаемых регионов см. в поддерживаемых географических расположениях. Обратите внимание, что политика Anthropic в отношении «поддерживаемых регионов» может быть действительна для доступности в вашем регионе. Проверьте поддерживаемые регионы для получения деталей.

¹Клод Мифос 5 и Клод Мифос Предварительная версия доступны только в качестве закрытого предварительного просмотра исследований. Доступ к моделям предоставляется исключительно по усмотрению Anthropic, при этом приоритет отдаётся защитным сценариям использования в области кибербезопасности. См. системную карточку Claude Mythos Preview и системную карточку Claude Mythos 5 для ответственного использования.

Cohere

Семейство моделей Cohere включает различные модели, оптимизированные для различных вариантов использования, включая завершение чата и внедрение. Модели Cohere оптимизированы для различных вариантов использования, включающих причины, сводку и ответы на вопросы.

См. раздел Развертывание моделей Microsoft Foundry на портале Foundry для получения сведений о развертывании моделей Cohere в Foundry.

Мета

Модели и инструменты Meta Llama — это коллекция предварительно обученных и точно настроенных генеративных моделей ИИ для обработки текста и изображений. Диапазон масштабов мета-моделей включает:

• Небольшие языковые модели (SLM), такие как 1B и 3B Base и модели Instruct для вывода на устройствах и встраиваемого вывода
• Модели языка среднего размера (LLMs), такие как 7B, 8B и 70B Base и Instruct models
• Высокопроизводительные модели, такие как Meta Llama 3.1-405B Instruct, используются для генерации синтетических данных и кейсов дистилляции.

Сведения о развертывании моделей Meta Llama в Foundry см. в разделе Deploy Microsoft Foundry Models на портале Foundry.

Microsoft

Microsoft модели включают различные группы моделей, такие как модели MAI, модели Phi, модели ИИ здравоохранения и многое другое.

Сведения о развертывании моделей Microsoft в Foundry см. в разделе Deploy Microsoft Foundry Models на портале Foundry.

Мистраль ИИ

Mistral AI предлагает модели для создания кода, чата общего назначения и многомодальных задач, включая Codetral, Ministral, Mistral Small и Mistral Medium.

Чтобы развернуть модели Mistral AI на платформе Foundry, см. статью Deploy Microsoft Foundry Models в портале Foundry.

¹ Для развертывания этих моделей требуется центральный проект. При выборе их в каталоге моделей они открываются в портале Foundry (классическая версия).

NTT Data

tsuzumi — это авторегрессионный оптимизированный для языка преобразователь. Настроенные версии используют управляемую тонкую настройку (SFT). tsuzumi обрабатывает как японский, так и английский язык с высокой эффективностью.

Сведения о развертывании tsuzumi-7b в Foundry см. в разделе Deploy Microsoft Foundry Models на портале Foundry.

¹ Для развертывания этой модели требуется центральный проект. Выбор модели в каталоге моделей открывает ее в портале Foundry (классическая версия).

См. модели данных NTT на портале Foundry.

Доступность региона по типу развертывания

Microsoft Foundry предоставляет клиентам выбор в структуре размещения, которая соответствует их бизнесу и шаблонам использования. В этом разделе перечислены региональные возможности для моделей Foundry от партнеров и сообщества во всех регионах для типов развертывания "Глобальный стандарт" и "Зона данных". Чтобы развернуть модель в любом из Azure регионов, перечисленных в следующих таблицах, необходимо иметь проект или концентратор в этом регионе.

Сведения о доступности стран и регионов для платежной учетной записи см. в разделе Доступность стран и регионов. Дополнительные сведения о всех доступных типах развертывания моделей см. в разделе Типы развертывания моделей Microsoft Foundry.

Глобальный стандарт

Для глобальных развертываний Microsoft обрабатывает запросы и ответы в любом Azure регионе, где развертывается модель.

Стандарт зоны данных

Для развертываний зоны данных Microsoft обрабатывает запросы и ответы в любом месте указанной зоны данных: США (данные, обработанные в любом месте США), Европейский союз (данные, обработанные в любой стране-члене ЕС), или Азиатско-Тихоокеанский регион (данные, обработанные в любом азиатско-тихоокеанском регионе).

Альтернативные варианты доступности региона

Если большая часть инфраструктуры находится в определенном регионе, и вы хотите воспользоваться преимуществами моделей, доступных только в качестве бессерверных API, можно создать концентратор или проект в поддерживаемом регионе, а затем использовать конечную точку из другого региона.

Сведения о настройке существующего бессерверного развертывания API в другом концентраторе или проекте, отличном от того, где он был развернут, см. в разделе "Использование бессерверных API" из другого концентратора или проекта.

Устранение неполадок

Используйте следующее руководство по устранению неполадок, чтобы найти и устранить ошибки при развертывании сторонних моделей в Foundry Models:

Связанное содержимое

• Общие сведения о развертывании для моделей Foundry
• Разверните модели Microsoft Foundry на портале Foundry
• Типы развертывания моделей Microsoft Foundry
• Доступность регионов для моделей Foundry
• Изучите модели Foundry