Примечание.
Для доступа к этой странице требуется авторизация. Вы можете попробовать войти или изменить каталоги.
Для доступа к этой странице требуется авторизация. Вы можете попробовать изменить каталоги.
Microsoft предлагает несколько платформ для искусственного интеллекта и машинного обучения. Каждая платформа предназначена для различных сочетаний аудитории, рабочей нагрузки, основы данных и модели развертывания. Эта статья поможет архитекторам решений, инженерам машинного обучения, специалистам по обработке и анализу данных и разработчикам приложений выбрать начальную платформу, понять, как отличаются платформы и как объединить их в реальных архитектурах. Покрытие включает классическое машинное обучение, встроенное в аналитику и создание рабочих нагрузок искусственного интеллекта в Azure, Microsoft Fabric и Microsoft Foundry. В этой статье рассматриваются Microsoft предоставляемые решения.
Используйте эту статью для сравнения параметров и разработки комплексного решения.
Note
В этой статье рассматриваются пользовательские платформы искусственного интеллекта и машинного обучения, а не упакованные программные помощники как услуга (SaaS), средства разработки SaaS с низким кодом или интерфейсы конечного пользователя.
Сценарии основной рабочей нагрузки
Начните с функции искусственного интеллекта или машинного обучения, которую необходимо добавить в рабочую нагрузку. В следующей таблице приведены распространенные сценарии функций с рекомендуемой начальной платформой для пользовательских возможностей искусственного интеллекта и машинного обучения. Используйте его в качестве начальной ориентации перед просмотром возможностей платформы и просмотром дерева принятия решений.
| Основной сценарий | Рекомендуемая начальная точка | Логическое обоснование |
|---|---|---|
| Создание созданных приложений ИИ или агентов ИИ | Microsoft Foundry | Предоставляет средства обнаружения моделей, точной настройки, получения дополненного поколения (RAG), оркестрации агентов, оценки и безопасности на одной платформе. |
| Добавление функций искусственного интеллекта с помощью предварительно созданного API для распознавания, речи, языка, поиска или безопасности содержимого | Инструменты литейного производства | Предлагает предварительно обученные API, которые не требуют пользовательского обучения. Используйте их перед созданием пользовательской модели. |
| Обучение, развертывание и управление пользовательской моделью машинного обучения или глубокого обучения | Машинное обучение Azure | Охватывает полный жизненный цикл машинного обучения, включая MLOps, сетевые и пакетные конечные точки и ответственные средства искусственного интеллекта. |
| Запуск машинного обучения, интегрированного с аналитикой, на единой платформе бизнес-аналитики (BI) | Microsoft Fabric | Предоставляет платформу аналитики SaaS, которая поддерживает интеграцию Apache Spark notebook, AutoML и Microsoft интеграции OneLake с Power BI. |
| Запуск машинного обучения в Spark, lakehouse data или больших распределенных заданий обучения | Azure Databricks или Apache Spark в Azure HDInsight | Azure Databricks: поддерживает масштабирование Lakehouse Spark с интеграцией собственного MLflow и каталога Unity. Azure HDInsight. Поддерживает кластеры Spark под управлением Azure с собственным хранилищем и интеграцией безопасности. |
| Сохранение машинного обучения в базе данных SQL, на пограничных устройствах или в классических приложениях | Интеллектуальные приложения SQL и ИИ, службы Управляемый экземпляр SQL Azure Машинное обучение, службыSQL Server Машинное обучение или локальные средства machine learning | Предоставляет способ хранения данных на месте и добавления прогноза в базе данных, векторного извлечения или интеграции конечной точки ИИ. |
Сравнение возможностей платформы
В следующей матрице приведены сведения о том, где каждая платформа является основной, где она предлагает дополнительную поддержку и где возможность не является фокусом. В матрице используются следующие значки:
- ✅ Основная возможность
- ⚠️ Поддерживаемые или дополнительные возможности
- ❌ Не фокус
| Функциональность | Microsoft Foundry | Машинное обучение Azure | Microsoft Fabric | Azure Databricks | Инструменты литейного производства | Машинное обучение SQL | Пограничное или локальное машинное обучение |
|---|---|---|---|---|---|---|---|
| Генеривные ИИ и агенты | ✅ | ⚠️ (не основная платформа) | ❌ | ⚠️ (Lakehouse-scoped) | ⚠️ (только стандартные блоки) | ❌ | ⚠️ (только на устройстве) |
| Обнаружение и оценка моделей foundation | ✅ | ⚠️ (не основная платформа) | ❌ | ⚠️ (Lakehouse-scoped) | ❌ | ❌ | ❌ |
| Обучение пользовательской модели (классическое или глубокое обучение) | ⚠️ (только для тонкой настройки) | ✅ | ⚠️ (область аналитики) | ✅ | ❌ | ⚠️ (область базы данных) | ⚠️ (только для локальных) |
| Крупномасштабные или распределенные вычислительные ресурсы для обучения | ❌ | ✅ | ⚠️ (меньший масштаб) | ✅ | ❌ | ❌ | ❌ |
| автоматизированное машинное обучение (AutoML) | ❌ | ✅ | ✅ | ✅ | ❌ | ❌ | ⚠️ (только .NET) |
| Жизненный цикл MLOps (реестр, конвейеры, непрерывная интеграция и непрерывная доставка (CI/CD)) | ⚠️ (Через Машинное обучение Azure) | ✅ | ⚠️ (Через Машинное обучение Azure) | ✅ | ❌ | ❌ | ❌ |
| Вывод в режиме реального времени (в интернете) | ✅ | ✅ | ⚠️ (конечные точки модели в предварительной версии) | ✅ | ✅ | ⚠️ (только в базе данных) | ✅ |
| Вывод пакетной службы (в автономном режиме) | ⚠️ (Online-first) | ✅ | ✅ | ✅ | ❌ | ✅ | ⚠️ (только для локальных) |
| Локальное или автономное развертывание | ⚠️ (только подмножество Edge) | ⚠️ (Через Azure Arc) | ❌ | ❌ | ⚠️ (только контейнеры) | ✅ | ✅ |
| Средства управления и безопасности | ✅ | ✅ | ⚠️ (управление ограниченной моделью) | ✅ | ⚠️ (область обслуживания) | ⚠️ (область базы данных) | ❌ |
Следующие заметки уточняют конкретные оценки в матрице:
Средства Foundry оцениваются как дополнительные для создания ИИ и агентов, так как такие службы, как Поиск с использованием ИИ Azure, безопасность содержимого в плоскости управления Foundry и Azure Аналитика документов в средствах Foundry являются общими стандартными блоками для решений RAG и агентов. Основной платформой для разработки генерированных ИИ является Microsoft Foundry.
Microsoft система управления Foundry поставляется в основном из плоскости управления Foundry, которая обеспечивает наблюдаемость, элементы управления средой выполнения, интеграцию безопасности и управление парком для агентов и приложений.
Машинное обучение Azure поддерживает создание искусственного интеллекта с помощью доступа к модели Foundry, управляемым конечным точкам, возможностям оценки и тонкой настройке поддерживаемых базовых моделей. Это не основная платформа для разработки генерированных ИИ.
Azure Databricks получает первичный рейтинг для управления, так как каталог Unity предоставляет унифицированные данные и управление моделями с помощью управления доступом на основе ролей (RBAC) и OpenSharing.
Microsoft Fabric оценивается как дополнительное для управления, так как OneLake, Microsoft Purview интеграции, метки конфиденциальности и элементы управления на основе домена хорошо охватывают ресурсы данных. Microsoft Fabric включает встроенный реестр моделей на основе MLflow для хранения и отслеживания моделей. Microsoft Fabric также имеет встроенное представление происхождения для моделей машинного обучения и экспериментов, включая связи с lakehouses и элементами кода. Но Microsoft Fabric не содержит ответственной панели мониторинга ИИ. Для более широкого управления жизненным циклом модели Microsoft Fabric с Машинное обучение Azure.
Microsoft Fabric оценивается как взаимодополняющее для вывода в режиме реального времени, так как аналитика Microsoft Fabric Real-Time охватывает потоковую аналитику и Microsoft Fabric конечные точки модели машинного обучения предоставляют управляемые конечные точки REST для прогнозирования в режиме реального времени. Конечные точки модели находятся в предварительной версии и поддерживают ограниченный набор вариантов модели. Для широкой рабочей службы можно также связать Microsoft Fabric с Машинное обучение Azure управляемыми сетевыми конечными точками или Microsoft Foundry.
Foundry Local расширяет Microsoft Foundry на вывод на устройстве для пограничных и автономных сценариев.
Azure Arc расширяет Машинное обучение Azure в локальные кластеры Kubernetes для гибридного обучения или оценки.
Microsoft Fabric обработке и анализу данных включает в себя низкокодовый интерфейс AutoML. В Microsoft Fabric записных книжках доступен api AutoML (FLAML). Сведения о текущем состоянии см. в документации по Microsoft Fabric.
Узкий выбор платформы
Используйте следующее дерево принятия решений, чтобы сузить выбор начальной платформы. Дерево помогает выбрать основную платформу для рабочей нагрузки. Большинство производственных решений объединяют несколько платформ, поэтому используйте разделы, относящиеся к продукту, чтобы уточнить ваш выбор. Кроме того, рекомендуется использовать шаблон составной архитектуры. Дополнительные сведения см. в разделе "Объединение платформ".
Скачайте файл Visio этого дерева принятия решений.
Пошаговое руководство
Выполните следующие действия, чтобы пройти по дереву принятия решений. Когда вы достигнете выбранной платформы, пропустите оставшиеся шаги.
Определите сценарий функции.
Выбор платформы на уровне компонентов в рабочей нагрузке. Каждая функция может иметь уникальные функциональные и нефункциональные требования, которые могут служить одной или нескольких технологий. При использовании этой блок-схемы учитывайте требования конкретного варианта использования, который требуется решить.
- Если предварительно созданные функции ИИ, такие как визуальное распознавание, речь, язык, поиск, понимание документов или безопасность содержимого, соответствуют потребностям рабочей нагрузки, используйте средства Foundry. Многие службы в средстве Foundry поддерживают настройку, например настраиваемую классификацию текста в языке Azure или пользовательских моделях в Azure аналитике документов. Рассмотрите эти службы перед фиксацией полного пользовательского обучения или более широкого подхода, например использование языковой модели для имитации специализированной службы. Документацию по конкретным службам см. в следующих статьях:
- Azure Vision в инструментах литейного производства
- Речевые технологии Azure в инструментах Foundry
- Язык Azure в инструментах Foundry
- Поиск с использованием ИИ Azure
- Интеллектуальный анализ документов Azure в средствах Foundry
- Azure понимание содержимого в средствах Foundry
- Безопасность содержимого в управляющей плоскости Foundry
- Если для рабочей нагрузки требуется создать искусственный интеллект или пользовательские агенты ИИ для добавления недетерминированного поведения, перейдите к шагу 2.
- Если эта функция требует пользовательских возможностей машинного обучения или глубокого обучения, таких как классическое машинное обучение, компьютерное зрение, прогнозирование или настройка собственных моделей, перейдите к шагу 3.
- Если необходимо интегрировать машинное обучение в более широкий рабочий процесс данных и бизнес-аналитики, перейдите к шагу 4.
- Если предварительно созданные функции ИИ, такие как визуальное распознавание, речь, язык, поиск, понимание документов или безопасность содержимого, соответствуют потребностям рабочей нагрузки, используйте средства Foundry. Многие службы в средстве Foundry поддерживают настройку, например настраиваемую классификацию текста в языке Azure или пользовательских моделях в Azure аналитике документов. Рассмотрите эти службы перед фиксацией полного пользовательского обучения или более широкого подхода, например использование языковой модели для имитации специализированной службы. Документацию по конкретным службам см. в следующих статьях:
Для создания ИИ и агентов выберите платформу Microsoft, соответствующую профилю разработчика.
Доступ только к API прямой большой языковой модели (LLM): используйте Azure OpenAI в Microsoft Foundry.
Разработка агента для кода или нескольких агентов. Используйте пакет SDK для платформы агента Microsoft, связанный со службой агента Foundry для размещения и оркестрации.
Полная созданная платформа ИИ (Модели Foundry, тонкой настройки, оценки, безопасности, наблюдаемости и управления): используйте Microsoft Foundry.
Для пользовательского машинного обучения и глубокого обучения на основе вашего решения о том, где должно выполняться обучение и вывод.
В приложении или устройстве Windows: используйте Microsoft Foundry в Windows и Windows машинном обучении для вывода локальной модели с аппаратным ускорением. Используйте ML.NET, если приложению .NET требуется локальное классическое машинное обучение, AutoML или интеграция модели Open Neural Network Exchange (ONNX).
На шлюзе Интернета вещей или пограничном устройстве: используйте Azure IoT Edge, Foundry Local, Azure Local или Azure Stack Edge для определения локального или аппаратного ускорения.
В базе данных SQL: используйте интеллектуальные приложения SQL и ИИ для прогнозирования в базе данных, извлечения векторов и интеграции конечных точек ИИ. Используйте службы SQL Server Машинное обучение или службы Управляемый экземпляр SQL Azure Машинное обучение, если требуется выполнение Python или R в базе данных.
В локальном или многооблачном кластере Kubernetes: подключите кластер к Машинное обучение Azure через Azure Arc, чтобы данные оставались на месте при обучении и выводе, оркестрируются через Azure.
На основе Spark или распределенном вычислении: перейдите к шагу 5.
В облачных вычислениях с полным mlOps: используйте Машинное обучение Azure.
Для машинного обучения, встроенного в аналитику, выберите решение, соответствующее шаблону данных и бизнес-аналитики.
Unified SaaS with Power BI on OneLake: используйте рабочую нагрузку Microsoft Fabric для обработки и анализа данных.
Существующие инвестиции Azure Synapse Analytics: использование машинного обучения в Azure Synapse Analytics. Для новых инвестиций предпочитайте Microsoft Fabric.
Lakehouse масштабирования Spark и машинного обучения: используйте Azure Databricks.
Для вычислений на основе Spark или распределенных вычислений следует принять решение о том, используете ли вы lakehouse или управляемые кластеры Spark.
Lakehouse с управлением каталогом MLflow и Unity: используйте Azure Databricks. Вы по-прежнему можете публиковать модели с помощью Машинное обучение Azure управляемых конечных точек для обслуживания и управления.
Управляемые кластеры Spark в Azure с собственной интеграцией хранилища и безопасности: используйте Apache Spark в Azure HDInsight.
Note
Для архитектур, охватывающих облачные и локальные среды, подключите локальные или многооблачные кластеры Kubernetes к рабочей области Машинное обучение Azure через Azure Arc. Эта настройка сохраняет данные в локальной среде при оркестрации обучения и вывода через Azure. Подробные сведения см. в разделе "Настройка кластера Kubernetes для Машинное обучение Azure".
Машинное обучение Azure
Машинное обучение Azure — это полностью управляемая облачная служба для обучения, развертывания и управления моделями машинного обучения в большом масштабе. Он поддерживает десятки тысяч пакетов с открытым кодом Python, включая TensorFlow, PyTorch и scikit-learn. Он предоставляет средства для полного жизненного цикла машинного обучения, от подготовки данных до развертывания, MLOps и ответственного ИИ.
Используйте Машинное обучение Azure, если вам нужны следующие возможности:
Настраиваемое обучение. Вы используете обучение пользовательских моделей для классических машинного обучения, глубокого обучения или точной настройки LLM с открытым кодом.
Рабочий MLOps. Вы используете рабочий жизненный цикл MLOps, включающий отслеживание экспериментов, управление версиями моделей, управляемые реестры, конвейеры CI/CD и мониторинг рабочей среды.
Управляемые конечные точки. Вы используете управляемые сетевые или пакетные конечные точки вывода, размещенные в среде, которая обеспечивает автомасштабирование, управляемое удостоверение и мониторинг.
Гибридные вычисления. Вы используете гибридное обучение или вывод в кластерах Kubernetes с поддержкой Azure Arc.
В следующей таблице перечислены возможности платформы, которые Машинное обучение Azure предоставляются в течение жизненного цикла машинного обучения.
| Функциональность | Описание |
|---|---|
| Рабочие области и хранилища данных | Центральный ресурс для организации экспериментов, вычислений, наборов данных, моделей и подключений к внешним хранилищам данных. Ресурсы и журнал выполнения имеют версию для воспроизведения. |
| Вычислительные кластеры и экземпляры | Подготовленные вычислительные ресурсы ЦП и GPU для распределенного обучения (вычислительных кластеров) и интерактивной разработки записных книжек (вычислительных экземпляров). |
| Бессерверные вычисления | Управляемые вычислительные ресурсы по запросу, которые Машинное обучение Azure создают и масштабируется автоматически для заданий обучения. |
| Автоматизированное машинное обучение | Создание моделей, конвейеров, настройки гиперпараметров и проектирования функций для классификации, регрессии, прогнозирования, компьютерного зрения и обработки естественного языка. |
| Конвейеры и конструктор | Оркестрация на основе кода и перетаскивания для подготовки данных, обучения, оценки и развертывания. Интегрируется с инструментами CI/CD. |
| Доступ к модели foundry | Платформа для обнаружения, оценки, тонкой настройки и развертывания поддерживаемых базовых моделей из Microsoft, OpenAI, Meta, Hugging Face и других поставщиков с помощью моделей Foundry в Машинное обучение Azure. |
| Отслеживание экспериментов MLflow и управление моделями | Отслеживание экспериментов, запусков, метрик, параметров, артефактов и моделей с помощью API, совместимых с MLflow, с рабочей областью Машинное обучение Azure. |
| Сетевые и пакетные конечные точки | Управляемые конечные точки REST для вывода в режиме реального времени и вызываемых конечных точек для пакетной оценки с поддержкой автомасштабирования и управляемого удостоверения. |
| Средства ответственного искусственного интеллекта | Панели мониторинга справедливости, объяснимости и анализа ошибок. |
| Поддержка безопасности и гибридной среды | Интеграция с Azure Virtual Network, Azure Key Vault, Реестр контейнеров Azure, RBAC, управляемыми удостоверениями и Azure Arc. |
В следующей таблице приведены основные сведения о внедрении для Машинное обучение Azure.
| Аспект | Details |
|---|---|
| Тип | Облачная платформа машинного обучения. |
| Поддерживаемые языки | Python и R. Интерфейс командной строки (CLI) и ИНТЕРФЕЙСы REST API также поддерживаются. |
| Этапы машинного обучения | Подготовка данных, обучение, развертывание, MLOps и ответственный ИИ. |
| Ключевые преимущества | Рабочие процессы пакета SDK для кода и интерфейса командной строки. Разработка на основе Студии. Централизованное управление скриптами, экспериментами и журналом выполнения. Масштабируемое обучение и развертывание. Гибридные параметры с помощью Azure Arc. |
| Рекомендации | Некоторые знания о рабочей области и модели активов полезны перед внедрением полного MLOps. |
Машинное обучение Azure не лучше всего подходит в следующих ситуациях:
Необходимо использовать только предварительно обученные API для визуального распознавания, речи или языка. В этом случае используйте средства Foundry.
Машинное обучение — это небольшое расширение рабочей нагрузки аналитики. В этом случае Microsoft Fabric или Azure Databricks может быть лучшей отправной точкой.
Рабочая нагрузка — это комплексный иии (выбор модели, оркестрация агентов, оценка, развертывание и мониторинг). Кроме того, вам не требуется классическое обучение машинного обучения или Машинное обучение Azure актив, запуск и модель MLflow. В этом случае может быть достаточно Microsoft Foundry. Рабочая область Машинное обучение Azure требуется только в том случае, если требуется Машинное обучение Azure вычислений, жизненный цикл MLOps или управляемые сетевые или пакетные конечные точки для пользовательских моделей.
Microsoft Foundry
Microsoft Foundry — это единая платформа Azure для создания, оптимизации и управления созданными приложениями ИИ и агентами ИИ. Microsoft Foundry объединяет каталог моделей Foundry, службы агента и оркестрации, средства оценки и безопасности, а также уровень управления для управления средой выполнения. Для разработки агента на основе кода Microsoft Foundry объединяется с платформой агента Microsoft, унифицированным пакетом SDK Microsoft, заменяющим предыдущий раздел между Semantic Kernel и AutoGen.
Используйте Microsoft Foundry, если вам нужны следующие возможности:
Генерируемый ИИ или агенты. Вы создаете созданные решения на основе искусственного интеллекта или агентов, такие как многомоделные чат-боты или управляемые рабочие процессы LLM.
Обнаружение и оценка модели. Необходимо иметь возможность обнаруживать, сравнивать и оценивать базовые модели от нескольких поставщиков.
Настройка модели и управление. Вы хотите точно настроить, оценить и развернуть базовые модели в управляемой среде, которая обеспечивает встроенную наблюдаемость, безопасность содержимого и элементы управления средой выполнения.
В следующей таблице приведены Microsoft возможности Foundry, поддерживающие создание приложений ИИ и разработку агентов.
| Функциональность | Описание |
|---|---|
| Литейные модели | Каталог предварительно обученных моделей от поставщиков, таких как Azure OpenAI, Hugging Face и Meta, а также семейство небольших языковых моделей Phi Microsoft с параметрами тестирования и развертывания. |
| Настройка модели | Возможность точной настройки или настройки поддерживаемых базовых моделей на собственных данных. Параметры развертывания зависят от модели и включают стандартные и подготовленные типы, где они доступны. |
| Служба агента Foundry | Платформа для размещения и оркестрации агентов ИИ, автоматизирующие многоэтапные бизнес-процессы. Пары с пакетом SDK для Microsoft Agent Framework для разработки агента в коде. Реализует API ответов, совместимых с OpenAI, для широкой поддержки клиентского пакета SDK. |
| Литейный IQ | Управляемый уровень знаний, который указывает агенты на корпоративные данные. Создает базы знаний с несколькими источниками и использует агентическое извлечение для возврата ответов с учетом разрешений с ссылкой. Построен на Поиск с использованием ИИ Azure. Источники знаний включают индексированные источники (например, существующий индекс Поиск с использованием ИИ Azure, Хранилище BLOB-объектов Azure, непосредственно отправленные файлы, OneLake, Azure SQL и индексированные SharePoint) и удаленные источники, запрашиваемые во время выполнения (например, удаленные SharePoint, Microsoft Fabric ontology, Work IQ, Microsoft Bing веб-данные, серверы протокола MCP и агенты данных Microsoft Fabric). Некоторые из этих соединителей в настоящее время находятся в предварительной версии. Сведения о текущем состоянии предварительной версии и поддерживаемых соединителях см. в Поиск с использованием ИИ Azure. Параметры хранилища данных см. в разделе "Выбор службы Azure" для поиска векторов. |
| Плоскость управления Foundry | Интерфейс, обеспечивающий наблюдаемость, элементы управления средой выполнения, интеграцию безопасности и управление парком в Microsoft агентов и приложений Foundry. |
| Безопасность содержимого | Служба искусственного интеллекта, которая обнаруживает вредное содержимое, созданное пользователем и ИИ. См. статью "Безопасность содержимого". |
| Местный литейный завод | Решение для вывода искусственного интеллекта на устройстве для пограничных и автономных сценариев, где важна производительность, конфиденциальность или стоимость. |
Набор средств Foundry для Visual Studio Code
Набор средств Foundry для Visual Studio Code является основным интерфейсом разработчика для Microsoft Foundry. Используйте его, если требуется локальный рабочий процесс для создания приложений и агентов искусственного интеллекта. Набор средств поддерживает обнаружение моделей, выполнение локальной модели, разработку запросов и агентов, интеграцию инструментов, отладку, трассировку, оценку, настройку и развертывание для Microsoft Foundry из Visual Studio Code.
Начните с Набора средств Foundry, когда решение нуждается в коде, системе управления версиями, локальной итерации, проверке агента, интеграции средств MCP или тестировании моделей перед развертыванием. Используйте портал Foundry для проверки концепции, настройки проекта, проверки ресурсов, оценки и оперативной видимости после выполнения приложений и агентов.
Портал Foundry и Студия машинного обучения Azure
Портал Foundry и Студия машинного обучения Azure являются дополнительными веб-интерфейсами. Используйте их для создания прототипов, управления проектами и ресурсами, проверки оценки и оперативной видимости.
| Категория | Портал Foundry | Студия машинного обучения Azure |
|---|---|---|
| Оптимальная рабочая нагрузка | Доказательства концепции, исследования моделей, проверки агентов, проверки оценки и оперативной видимости для создаваемых приложений и агентов ИИ. | Пользовательское машинное обучение, классическое машинное обучение, глубокое обучение и более широкие рабочие процессы платформы машинного обучения. |
| Обработка данных | Функции для подключения ресурсов проекта и поддерживаемых источников данных, включая Хранилище BLOB-объектов, OneLake и Azure Data Lake Storage. | Хранилище рабочей области, ресурсы данных и подключенные Azure учетные записи хранения. |
| Возможности разработки | Прототипы на портале, игровые площадки, исследование моделей, проверка оценки и управление ресурсами проекта. | Записные книжки, конструктор, AutoML, управление моделями и рабочие процессы SDK и CLI. |
| Поддерживаемые языки и пакеты SDK | пакеты SDK Python, C#, JavaScript и Java. REST API. | Python, R и Azure CLI. REST API. |
| Основная сила обучения | Оценка модели и поддержка тонкой настройки. | Автоматическое обучение и настраиваемое обучение в классическом машинном обучении, глубоком обучении и настройке LLM. |
| Вычисления и развертывание | Управляемые вычислительные и бессерверные API для поддерживаемых базовых моделей. | Управляемые вычислительные ресурсы, бессерверные вычисления, сетевые конечные точки, пакетные конечные точки и параметры Azure Arc. |
| Область создания искусственного интеллекта | Веб-поверхность для исследования, оценки моделей, оценки, наблюдения и средств безопасности. | Доступ к моделям foundry, управляемые конечные точки, оценка и настройка для поддерживаемых базовых моделей на платформе Машинное обучение Azure. |
| Governance | Плоскость управления Foundry для управления агентами и приложениями. | Ответственные элементы управления ИИ, происхождения, управления моделями и MLOps. |
В следующей таблице приведены основные сведения о внедрении для Microsoft Foundry.
| Аспект | Details |
|---|---|
| Тип | Единая платформа для базовых моделей, агентов и созданных приложений искусственного интеллекта. |
| Поддерживаемые языки | пакеты SDK Python, C#, JavaScript и Java. REST API. |
| Этапы машинного обучения | Обнаружение и оценка моделей, разработка приложений и агентов, настройка поддерживаемых моделей, развертывания, мониторинга и безопасности. |
| Ключевые преимущества | Консолидированный каталог моделей Foundry. Интегрированная оценка, безопасность и наблюдаемость. Поддержка агента и RAG. совместная работа на основе Project. |
Microsoft Foundry не лучше всего подходит в следующих ситуациях:
Вы используете предварительно созданные возможности искусственного интеллекта, такие как оптическое распознавание символов (OCR), транскрибирование речи к тексту, перевод или модерация содержимого через API, и вам не требуется выбор модели, оркестрация или агенты. В этом случае используйте средства Foundry.
Для решения требуется обучение пользовательских моделей, классическое машинное обучение или глубокое обучение, а также полные возможности MLOps. В этом случае используйте Машинное обучение Azure. Microsoft Foundry не предлагает широкие подготовленные вычислительные ресурсы или AutoML для табличных данных.
Для решения требуется проектирование данных в масштабе Spark. В этом случае используйте Azure Databricks или Microsoft Fabric.
Инструменты литейного производства
Средства Foundry, ранее Azure AI services и Cognitive Services, — это семейство предварительно обученных возможностей искусственного интеллекта, которые используются через ИНТЕРФЕЙСы REST API и пакеты SDK. Каждое средство предназначено для конкретной возможности, поэтому вы можете добавлять интеллектуальные функции в приложения без создания или обучения пользовательской модели. Сведения о выборе используемой службы см. в разделе "Выбор технологии служб искусственного интеллекта".
Tip
Средства Foundry предоставляют предварительно обученные API для распространенных вероятностных задач. Для создания моделей ИИ, агентов и оркестрации работайте в Microsoft Foundry, а не напрямую с помощью средств Foundry. Многие службы в Foundry Tools используют один и тот же базовый тип ресурсов Azure (Microsoft.CognitiveServices/accounts) как Microsoft Foundry, но они разные продукты.
Используйте средства Foundry в следующих ситуациях:
Предварительно обученный API охватывает сценарий, поэтому вам не нужно обучать настраиваемую модель.
Требуется стандартная, управляемая api и интеграция на основе API с существующими приложениями.
В следующей таблице часто используются службы по области возможностей. Модели создания ИИ, агенты и оркестрация являются частью Microsoft Foundry и перечислены отдельно для справки.
| Область возможностей | Представительные службы |
|---|---|
| Видение | Azure визуального зрения и Azure Face в средствах Foundry. |
| Общие сведения о документе и содержимом | Azure Аналитика документов и понимание содержимого Azure. |
| Speech | Azure распознавание речи для транскрибирования речи в текст, создания голосового ввода текста в речь и распознавания говорящего. |
| Language | Azure язык для распознавания именованных сущностей, обнаружения персональных данных и обнаружения языка. Azure Translator в средстве Foundry для перевода. |
| Поиск и знания | Поиск с использованием ИИ Azure для поиска на основе ИИ и извлечения RAG. |
| Безопасность содержимого | Безопасность содержимого для обнаружения вредного содержимого в пользовательском и искусственном интеллекте. |
| Video | Индексатор видео ИИ Azure для анализа видео и индексирования. |
| Создание моделей ИИ и агентов | Microsoft Foundry. Включает в себя службу агента Foundry и модели Foundry. |
Чтобы сравнить службы в области возможностей и выбрать один из них, ознакомьтесь со следующими подробными руководствами по выбору:
- Обработка изображений и видео
- Обработка целевого языка
- Распознавание речи и создание
- Векторный поиск
- Технология служб ИИ
В следующей таблице приведены основные сведения об внедрении средств Foundry.
| Аспект | Details |
|---|---|
| Тип | Предварительно обученные API для создания интеллектуальных приложений. |
| Поддерживаемые языки | Пакеты SDK для C#, Java, JavaScript и Python в зависимости от службы. REST API. |
| Этапы машинного обучения | Использование через API. Некоторые службы поддерживают настройку. |
| Ключевые преимущества | Возможность добавления предварительно созданных возможностей искусственного интеллекта с помощью API. Требуется минимальный опыт обработки и анализа данных. Управляемое масштабирование. |
Средства foundry не лучше всего подходят в следующей ситуации: для сценария требуются пользовательские архитектуры моделей или обучающие данные за пределами поддерживаемых параметров настройки. В этих случаях используйте Машинное обучение Azure для классических или глубокого обучения моделей или используйте Microsoft Foundry для точной настройки искусственного интеллекта.
Microsoft Fabric
Microsoft Fabric — это единая платформа аналитики на основе SaaS. Она интегрирует проектирование данных, обработку и анализ данных, хранение данных, аналитику в режиме реального времени и Power BI в общем фонде данных OneLake. Инженеры данных, специалисты по обработке и анализу данных и бизнес-аналитики, использующие Microsoft Fabric сотрудничать в одной управляемой среде.
Рабочая нагрузка по обработке и анализу данных Microsoft Fabric является частью, которая наиболее актуальна для машинного обучения. Он предоставляет записные книжки Spark, AutoML, встроенный интерфейс MLflow для отслеживания экспериментов и реестра моделей. Подробные сведения см. в разделе "Что такое обработка и анализ данных" в Microsoft Fabric?.
Используйте Microsoft Fabric, если вам нужны следующие возможности:
Машинное обучение, интегрированное с аналитикой. Машинное обучение является частью более широкого рабочего процесса аналитики в решении, например создание модели на основе данных в lakehouse и обслуживание прогнозов для Power BI.
Полностью управляемый SaaS. Требуется полностью управляемый интерфейс SaaS с минимальной инфраструктурой для управления.
Общая основа данных. Ваша команда работает в области проектирования данных, обработки и анализа данных и бизнес-аналитики в одном фундаменте OneLake.
В следующей таблице приведены Microsoft Fabric возможности, наиболее важные для машинного обучения, интегрированного с аналитикой.
| Функциональность | Описание |
|---|---|
| Фонд OneLake | Единое логическое озеро данных, совместно используемое Microsoft Fabric рабочими нагрузками, включая инженерию данных, обработку и анализ данных, Data Warehouse и Power BI. |
| Рабочая нагрузка обработки и анализа данных | Управляемая среда выполнения Spark с записными книжками для обучения Python, R, SQL и Scala для анализа и обучения модели. Включает встроенный интерфейс MLflow для отслеживания экспериментов и реестра моделей. Вы также можете регистрировать эксперименты MLflow и модели между рабочими областями и платформами, включая Microsoft Fabric из рабочей области Машинное обучение Azure. |
| автоматизированное машинное обучение (AutoML) | AutoML с низким кодом для классификации, регрессии и прогнозирования. Код-первый autoML доступен через API FLAML в Microsoft Fabric записных книжек. |
| Аналитика Real-Time и активатор Fabric | Потоковая аналитика и обнаружение событий без кода, которые могут активировать Microsoft Fabric конвейеры, записные книжки или подчиненные действия. |
| Конечные точки модели машинного обучения | Управляемые сетевые конечные точки REST, которые служат прогнозированию в режиме реального времени из зарегистрированных Microsoft Fabric моделей. Эта функция доступна в предварительной версии и ограничена набором вариантов моделей, но поддерживаются обученные автоматическими моделями. Подробные сведения см. в разделе "Обслуживание прогнозов в режиме реального времени" с конечными точками модели машинного обучения. |
| Интеграция с Power BI | Средство предоставления выходных данных машинного обучения Power BI с помощью семантических моделей и отчетов, включая Direct Lake, когда Microsoft Fabric данные остаются в OneLake, а также импорт или шаблоны DirectQuery при необходимости. Используйте эту интеграцию для включения прогнозов, показателей аномалий и метрик прогнозирования в бизнес-панелях мониторинга и рабочих процессах принятия решений. |
| Интеграция Microsoft Foundry | Способ передать Microsoft Fabric данные или выходные данные модели в приложение или агент на основе Microsoft Foundry, например приземленный copilot, рабочий процесс суммирования или интерфейс RAG. На практике Microsoft Foundry может подключаться к Microsoft Fabric данным через агент данных Microsoft Fabric или другое поддерживаемое подключение к данным. Затем Microsoft Foundry может использовать этот контекст при создании ответов агента. Если для рабочей нагрузки требуется только классическое машинное обучение в Microsoft Fabric и не требуется LLM или агентов, эта интеграция обычно не требуется. |
В следующей таблице приведены основные сведения о внедрении для Microsoft Fabric.
| Аспект | Details |
|---|---|
| Тип | Единая платформа аналитики SaaS. |
| Поддерживаемые языки | Python, R, SQL и Scala. |
| Этапы машинного обучения | Подготовка данных, обучение, регистрация, пакетная оценка, обслуживание в режиме реального времени (предварительная версия), аналитика в режиме реального времени и потребление бизнес-аналитики. |
| Ключевые преимущества | Общий фонд OneLake. Низкая операционная нагрузка. Интеграция с Power BI и более широким Microsoft активом данных. |
Microsoft Fabric не лучше всего подходит в следующей ситуации: вам требуется глубокое обучение в масштабе, комплексное MLOps с управляемыми реестрами или точное управление вычислительными ресурсами. В этих случаях дополняйте Microsoft Fabric Машинное обучение Azure или Azure Databricks. Microsoft Fabric хорошо охватывает встроенную аналитику машинного обучения, но это не замена выделенной платформы машинного обучения.
Note
Microsoft Fabric является рекомендуемой платформой для новых инвестиций машинного обучения, интегрированных с аналитикой. Сведения о существующих инвестициях в Azure Synapse Analytics см. в статье "Машинное обучение" в Azure Synapse Analytics. Сведения о миграции выделенного пула SQL на Microsoft Fabric Data Warehouse см. в Fabric Помощник по миграции Data Warehouse.
Azure Databricks
Azure Databricks — это единая, открытая платформа аналитики для создания, развертывания, совместного использования и обслуживания данных, аналитики и решений ИИ. Он объединяет возможности хранения данных и озера данных в архитектуре lakehouse и интегрируется с Azure хранилища и безопасности.
Используйте Azure Databricks, если вам нужны следующие возможности:
Машинное обучение с помощью Spark. Необходимо запустить машинное обучение в очень больших наборах данных или распределенных кластерах Spark.
Единый рабочий процесс Lakehouse. Вы объединяете проектирование данных, проектирование признаков, экспериментирование и разработку моделей в одном рабочем процессе Lakehouse.
Рабочие операции машинного обучения. Вы хотите развертывать, управлять и отслеживать решения машинного обучения в рабочей среде с помощью управляемых конечных точек обслуживания, автоматизированных рабочих процессов и конвейеров MLOps.
Управление каталогом Unity. Вы хотите управлять данными, функциями, моделями и функциями в каталоге Unity, которая обеспечивает централизованное управление доступом и происхождение.
Генерируемый ИИ и агенты. Вы создаете рабочие нагрузки агента ИИ и искусственного интеллекта в Azure Databricks, включая сценарии пользовательской и базовой модели.
В следующей таблице перечислены важные Azure Databricks возможности:
| Функциональность | Описание |
|---|---|
| Управляемая интеграция с проектами с открытым кодом | Включает Delta Lake, OpenSharing, MLflow, Spark, Apache Spark Структурированную потоковую передачу и каталог Unity. |
| Azure Databricks Runtime для машинного обучения | Предлагает предварительно установленные библиотеки для классического машинного обучения и глубокого обучения, включая обнимающиеся преобразователи лиц. |
| Отслеживание MLflow и модели в каталоге Unity | Поддерживает отслеживание экспериментов, управление жизненным циклом модели и обнаружение управляемых моделей. |
| Проектирование компонентов и шаблоны обслуживания компонентов | Поддерживает многократно используемые функции обучения и вывода. |
| обслуживание моделей Azure Databricks | Предлагает управляемые конечные точки вывода в режиме реального времени с автомасштабированием, версиями развертывания, элементами управления трафиком и рабочим мониторингом. |
| Шлюз искусственного интеллекта | Обеспечивает управление доступом к модели, отслеживание использования и ведение журнала полезных данных в обслуживаемых и внешних моделях. Поддерживает разработку, оценку и обслуживание пользовательских или открытых моделей в среде lakehouse. |
| Функции ИИ в SQL | Предоставляет возможность для аналитиков вызывать LLM из конвейеров данных. |
| API-интерфейсы модели foundation | Интегрирует внешние модели и предоставляет унифицированные шаблоны доступа между поставщиками моделей. |
| Управление каталогом Unity | Обеспечивает унифицированное управление данными, функциями, моделями и функциями с помощью таких возможностей, как RBAC и OpenSharing. |
| Аналитика потоковой передачи | Предоставляет аналитику потоковой передачи в режиме реального времени с помощью структурированной потоковой передачи и Delta Lake. |
| Задания Lakeflow и MLOps | Предоставляет задания и рабочие процессы для автоматизированного обучения, оценки, развертывания и переобучения конвейеров. |
В следующей таблице приведены основные сведения о внедрении для Azure Databricks.
| Аспект | Details |
|---|---|
| Тип | Платформа Lakehouse, построенная на Spark. |
| Поддерживаемые языки | Python, R, Scala и SQL. |
| Этапы машинного обучения | Подготовка данных, обучение, настройка, оценка, обслуживание моделей и управление. |
| Ключевые преимущества | Комплексный жизненный цикл машинного обучения в лейкхаусе. Встроенная интеграция MLflow. Управляемые службы и операции. Управление каталогом Unity. Поддержка машинного обучения и создания искусственного интеллекта spark. |
| Рекомендации | Обслуживание бессерверных моделей может снизить затраты на инфраструктуру вывода, но стоимость подготовки данных на основе Spark, проектирования признаков и обучения модели остается важным фактором. Для рабочих нагрузок, отличных от Spark, Машинное обучение Azure или Foundry Tools могут быть более простыми. |
Azure Databricks не лучше всего подходит в следующих ситуациях:
Для вашей команды не требуется масштабируемая обработка Spark. В этом случае затраты на кластер могут быть не оправданы.
В сценарии используется исключительно управляемый API ИИ. В этом случае средства Foundry или Microsoft Foundry предлагают более прямой путь.
Вам потребуется Машинное обучение Azure элементы управления, возможности конечных точек или стандартизированный уровень конечной точки в командах. В этих случаях используйте Машинное обучение Azure управляемых конечных точек в гибридной структуре.
Интеллектуальные приложения SQL и машинное обучение
SQL в базе данных ИИ сохраняет реляционные данные, в которых он уже живет и добавляет прогноз, векторный извлечение и интеграцию конечных точек ИИ непосредственно в Transact-SQL (T-SQL).
Используйте SQL в базе данных ИИ в следующих ситуациях:
Данные должны оставаться внутри реляционной базы данных для безопасности, конфиденциальности, задержки или нормативных причин.
Вам требуется низкая задержка оценки близко к транзакциям, например проверки мошенничества или решения о следующем лучшем действии.
Требуется векторный поиск и извлечение непосредственно в базе данных для шаблонов RAG и семантического сопоставления.
Для оркестрации или вызываемых агентом рабочих процессов требуется вызов внешних конечных точек ИИ из T-SQL.
В следующей таблице перечислены текущие платформы и средства.
| Функциональность | Роль в архитектуре |
|---|---|
PREDICT в T-SQL |
Выполняет собственную оценку в базе данных для поддерживаемых моделей, включая шаблоны среды выполнения на основе ONNX, где они доступны. |
| Тип векторных данных и векторные функции | Сохраняет внедрение и выполняет операции сходства векторов внутри реляционного механизма. |
sp_invoke_external_rest_endpoint |
Вызывает внешние конечные точки ИИ из T-SQL с учетными данными, заголовками, параметрами повторных попыток и управляемыми исходящими элементами управления. |
Функции ИИ (Transact-SQL), в том числе AI_GENERATE_EMBEDDINGS |
Добавляет операции искусственного интеллекта на основе базы данных для блокирования, внедрения и связанных рабочих процессов ИИ SQL. |
| службы Управляемый экземпляр SQL Azure Машинное обучение | Поддерживает выполнение кода Python и R в базе данных для существующих рабочих нагрузок Машинное обучение Services. |
В следующей таблице приведены основные сведения о внедрении Azure SQL машинного обучения.
| Аспект | Details |
|---|---|
| Тип | Реляционные возможности ИИ в базе данных для прогнозирования, извлечения векторов и интеграции конечных точек ИИ. |
| Поддерживаемые языки | Сначала T-SQL. Python и R доступны через службы Управляемый экземпляр SQL Azure Машинное обучение. |
| Этапы машинного обучения | Подготовка данных в базе данных, обучение, вывод, извлечение векторов и оркестрация конечных точек. |
| Ключевые преимущества | Сохраняет управляемые данные транзакций. Уменьшает перемещение данных. Обеспечивает обогащение ИИ с низкой задержкой в существующих рабочих процессах SQL. |
| Рекомендации | Доступность возможностей зависит от платформы и версии SQL. Обучение крупномасштабных моделей и распределенное глубокое обучение обычно лучше обрабатываются в Машинное обучение Azure, Azure Databricks или Microsoft Fabric. |
Объедините Azure SQL машинное обучение с другой платформой, если вы хотите использовать следующий подход:
Обучение внешних данных, оценка в SQL. Для крупномасштабных или глубокого обучения используйте Машинное обучение Azure, Azure Databricks или Microsoft Fabric для обучения. Затем доведите артефакты вывода обратно в SQL для оценки в базе данных.
Cloud-train, database-deploy, SQL-predict. Обучите внешний объект, экспортируйте артефакт оценки, поддерживаемый целевой платформой SQL, а затем используйте
PREDICTдля выполнения прогнозов в SQL, близком к транзакционных данных.Создайте внедрения в SQL, вызовите конечные точки для создания. Для сценариев RAG и агента создайте внедрение и извлечение векторов в SQL. Затем, если требуется создание ответов, используйте
sp_invoke_external_rest_endpointдля вызова конечных точек внешней модели из SQL.
Пограничный, локальный и локальный машинное обучение
Для машинного обучения, работающего за пределами облака, на локальных устройствах, в автономных средах, внедренных в приложения или в локальной инфраструктуре, Microsoft предоставляет несколько вариантов.
Используйте пограничный, локальный и локальный машинное обучение, если вам потребуются следующие возможности:
Локальное вывод. Чтобы соответствовать требованиям к задержке, автономной операции или конфиденциальности данных, вашему сценарию требуется вывод локально. Например, решения прогнозного обслуживания в средах с периодическим подключением требуют локального вывода.
Возможность внедрения машинного обучения в приложения. Вы создаете классические или мобильные приложения, которые нуждаются в встроенных возможностях машинного обучения.
Локальное выполнение. В сценарии требуется выполнение машинного обучения для пребывания в локальной среде, например локального SQL Server развертывания.
Microsoft предоставляет следующие параметры:
Microsoft Foundry на Windows включает Windows МАШИНное обучение для локального вывода на устройствах Windows с аппаратным ускорением в ЦП, GPU и NP. Используйте Windows ML для новых рабочих нагрузок вывода приложений и устройств Windows.
ML.NET — это кроссплатформенная платформа машинного обучения с открытым кодом для разработчиков .NET. Она поддерживает загрузку данных, обучение (включая AutoML для .NET) и локальное вывод. Используйте ML.NET, если приложению требуется обучение или вывод модели .NET, включая интеграцию модели ONNX.
службы SQL Server Машинное обучение поддерживают обучение и оценку в локальной среде SQL Server, когда данные должны оставаться на локальном уровне данных.
Foundry Local — это решение вывода искусственного интеллекта на устройстве, которое расширяет Microsoft Foundry до пограничных и автономных сценариев.
Azure Local предоставляет Azure управляемой инфраструктурой для локальных виртуальных машин и контейнеров. Используйте его для размещения пограничных компонентов ИИ, близких к данным, таких как локальные рабочие нагрузки Foundry, компоненты извлечения RAG или модели ONNX, экспортированные из Машинное обучение Azure.
Вычислительные ресурсы Kubernetes для Машинное обучение Azure присоединяют кластеры Kubernetes с поддержкой Azure Arc в рабочую область Машинное обучение Azure, чтобы локальные или многооблачные кластеры выполняли обучение и вывод, а оркестрация остается в Azure.
Azure IoT Edge развертывает контейнерные модели машинного обучения на пограничных устройствах, чтобы вывод выполнялось локально.
Azure Stack Edge предоставляет Microsoft управляемые пограничные устройства, которые можно использовать для аппаратного ускорения машинного обучения и виртуальных машин или контейнерных рабочих нагрузок. Устройства доступны только для проверенных рабочих нагрузок партнеров или развертываний по крайней мере 100 узлов.
Типичный шаблон обучает экспортируемую модель в облаке с помощью Машинное обучение Azure или Azure Databricks. Затем модель преобразуется в ONNX, когда модель и целевая среда выполнения поддерживают этот формат. Наконец, модель развертывается для вывода пограничных вычислений с помощью Windows машинного обучения, ML.NET, модуля Azure IoT Edge, Foundry Local или инфраструктуры Azure Local.
Объединение платформ
Производственные решения могут объединять несколько платформ. Блок-схема ранее в этой статье помогает выбрать основную начальную платформу. Используйте следующую таблицу для планирования составных архитектур и определения вспомогательных компонентов Microsoft, которые обычно требуются каждому сценарию.
| Объединенный сценарий | Основная платформа | Поддержка компонентов Microsoft | Pattern |
|---|---|---|---|
| Корпоративная RAG или чат с вашими данными | Microsoft Foundry | Поиск с использованием ИИ Azure (и Foundry IQ для заземления), Azure Аналитика документов (прием), Microsoft Fabric или Azure Cosmos DB (хранилище данных), безопасность содержимого | Принимать корпоративное содержимое, индексировать его для вектора и гибридного извлечения, а также заземлять Microsoft размещенного агента Foundry или приложения LLM. Параметры хранилища данных см. в разделе "Выбор службы Azure" для поиска векторов. |
| Создание искусственного интеллекта на основе управляемой аналитики | Microsoft Fabric | Microsoft Foundry (агенты, модели), Power BI (потребление), Поиск с использованием ИИ Azure | Используйте Microsoft Fabric для приема и хранения управляемых данных в OneLake. Затем создайте агенты или приложения RAG в Microsoft Foundry по этим данным. Отображение результатов Power BI. |
| Пользовательское машинное обучение, обогащенное предварительно созданными функциями ИИ | Машинное обучение Azure | Azure Распознавание, Azure аналитика документов, Azure речь, язык Azure, Поиск с использованием ИИ Azure | Используйте средства Foundry для предварительной обработки, извлечения компонентов или извлечения компонентов и использования Машинное обучение Azure для обучения, развертывания и управления пользовательской моделью, созданной на основе этих функций. |
| Обучение по масштабированию Spark с управляемым обслуживанием | Azure Databricks | Azure Databricks обслуживание моделей, MLflow, каталог Unity, необязательный Машинное обучение Azure (стандартизация управления или конечной точки) | Запустите проектирование функций и распределенное обучение в Azure Databricks. Затем используйте службу Azure Databricks модели для развертывания и обслуживания обученных моделей. Добавьте Машинное обучение Azure управляемые конечные точки, если требуется Машинное обучение Azure для управления или стандартизации конечных точек между командами. |
| Cloud-train, edge-deploy | Машинное обучение Azure или Azure Databricks | ONNX (обмен моделями), ml Windows, ML.NET, Foundry Local, Azure IoT Edge, Azure Local, Azure Stack Edge | Обучить экспортируемую модель в облаке, преобразовать ее в ONNX при поддержке и развернуть ее на устройствах, локальных шлюзах или аппаратных пограничных устройствах для вывода автономной или низкой задержки. |
| Гибридное локальное и облачное машинное обучение | Машинное обучение Azure Azure Arc | кластеры Kubernetes с поддержкой Azure Arc, рабочая область Машинное обучение Azure, реестр контейнеров, Key Vault | Сохраняйте данные в локальной среде при использовании рабочей области Машинное обучение Azure, подключенной к Azure Arc- с поддержкой Kubernetes для оркестрации обучения и вывода. |
| Оценка в базе данных с помощью обученных облаком моделей | Машинное обучение SQL | Машинное обучение Azure или Azure Databricks (обучение), ONNX, Управляемый экземпляр SQL или SQL Server | Обучайте в облаке, экспортируйте в ONNX и используйте функцию SQL PREDICT для низкой задержки, оценки в базе данных рядом с операционными данными. |
| Автоматизация нескольких агентов | Microsoft агент платформы и службы агента Foundry | Модели Foundry, Foundry IQ, Поиск с использованием ИИ Azure, Функции Azure или Azure Logic Apps (инструменты), Azure API Management | Создавайте рабочие процессы с несколькими агентами в коде с помощью платформы агента Microsoft, используйте службу агента Foundry для размещения и оркестрации их, а также интеграции корпоративных инструментов и API. |
Платформы и средства разработки
Большинство команд используют кросс-передовые средства разработки и вспомогательные службы вместе с платформой, выбранной в качестве основной. Эти средства влияют на то, где работа искусственного интеллекта и машинного обучения разрабатывается, тестируется и упаковается перед запуском. Вспомогательные службы влияют на размещение вывода или подключение вычислений к данным, которые не могут перемещаться на управляемую облачную платформу.
Этот раздел отделяет основные средства разработчика, которые являются повседневными платформами разработки и эксплуатации, от смежных вспомогательных служб, которые размещают самоуправляемое вывод, ускоряют машинное обучение на основе Spark или расширяют обучение и оценку в локальной инфраструктуре.
Следующие средства поддерживают разработку на облачных и локальных платформах.
| инструмент | Описание |
|---|---|
| Набор инструментов Foundry для Visual Studio Code | Опыт разработчика в VS Code для создания, тестирования, отладки, оценки и развертывания создаваемых приложений и агентов ИИ. Поддерживает локальные модели, каталоги моделей, разработку агентов, интеграцию инструментов, трассировку и оценку. |
| Портал Foundry | Веб-среда для проверки концепции, изучения моделей, управления ресурсами проектов, оценки и оперативной видимости в Microsoft приложениях и агентах Foundry. |
| Студии машинного обучения Azure | Веб-интерфейс для платформы Машинное обучение Azure. Включает записные книжки, конструктор конвейеров, AutoML, управление моделями и метки данных. |
| Виртуальная машина для обработки и анализа данных Azure | Предварительно настроенный образ виртуальной машины с средствами обработки и анализа данных, такими как Jupyter, R и Python предварительно установлен. |
| ML.NET | Кроссплатформенная платформа машинного обучения с открытым кодом для приложений .NET. |
| Microsoft Foundry в Windows | Windows МАШИНное обучение для вывода локальной модели с аппаратным ускорением на Windows устройствах. |
| SynapseML | Платформа распределенного машинного обучения с открытым кодом и микрослужб для Spark. |
Смежные вспомогательные службы помогают с экспериментированием, самостоятельным размещением вывода, машинным обучением Spark или гибридной операцией, но они не являются основными вариантами платформы в потоке принятия решений.
| Service | Роль в экосистеме машинного обучения и искусственного интеллекта |
|---|---|
| Azure Kubernetes Service (AKS) и Контейнеры приложений Azure | Решения для размещения самоуправляемых контейнеров вывода в Azure. Используйте контейнерные приложения для более простого размещения управляемых контейнеров или AKS, если требуется больше контроля над средой выполнения обслуживания и средой кластера. Распространенные примеры включают стеки обслуживания с открытым кодом, такие как vLLM, Triton Inference Server или BentoML. |
| SynapseML | Платформа распределенного машинного обучения и микрослужб с открытым кодом для Spark. Работает над Azure Databricks, Microsoft Fabric и другими кластерами Spark. |
| машинное обучение с поддержкой Azure Arc | Решение для подключения локальных или многооблачных кластеров Kubernetes к рабочей области Машинное обучение Azure для гибридного обучения и вывода. |
Соавторы
Корпорация Майкрософт поддерживает эту статью. Следующие авторы написали эту статью.
Основной автор:
- Махди Сетайеш | Главный инженер программного обеспечения
Чтобы увидеть непубличные профили в LinkedIn, войдите в LinkedIn.
Следующие шаги
- Что такое Машинное обучение Azure?
- Документация по Microsoft Foundry
- Что такое Microsoft Fabric?
- Что такое средства Foundry?
- Принцип работы машинного обучения Azure
- ИИ Microsoft
- Microsoft обучение инженеров ИИ и специалистов по обработке и анализу данных