Начало работы с проектированием архитектуры ИИ

ИИ позволяет компьютерам анализировать данные, создавать содержимое, синтезировать речь, делать прогнозы и поддерживать принятие решений в различных отраслях. Поскольку возможности искусственного интеллекта расширяются с помощью формируемых моделей, языковых моделей и архитектур на основе агентов, организации нуждаются в руководстве по архитектуре для разработки надежных, безопасных, экономичных и операционных рабочих нагрузок ИИ.

Эта статья поможет вам приступить к работе с ИИ на Azure. В ней представлены службы ИИ, эталонные архитектуры, рекомендации и учебные ресурсы, позволяющие разрабатывать и создавать решения ИИ, соответствующие вашим требованиям к рабочей нагрузке.

службы Azure для искусственного интеллекта

Azure предоставляет ряд служб для создания, развертывания и управления рабочими нагрузками ИИ. Эти службы охватывают платформы разработки, предварительно созданные возможности ИИ, платформы данных и средства для создания пользовательских моделей. Используйте следующие службы для интеграции ИИ в структуру рабочей нагрузки.

Платформы разработки ИИ

• Microsoft Foundry: унифицированная платформа как услуга (PaaS) для разработки и развертывания создаваемых приложений и агентов ИИ. Microsoft Foundry предоставляет доступ к каталогу моделей, размещению агентов через Foundry Agent Service, тонкой настройке, средствам оценки и средствам обеспечения ответственного использования ИИ. Используйте портал Foundry для экспериментов , сборки и развертывания моделей и агентов ИИ.

• Машинное обучение Azure: облачная служба для создания, обучения и развертывания моделей машинного обучения в большом масштабе. Машинное обучение Azure поддерживает платформы с открытым кодом, такие как PyTorch, TensorFlow и scikit-learn. Она также предоставляет возможности для автоМЛ, настройки гиперпараметров, распределенного обучения, операций машинного обучения и ответственного ИИ.

• Microsoft Copilot Studio: низкокодовая платформа для создания, настройки и развертывания агентов, управляемых ИИ. Используйте Microsoft Copilot Studio для создания агентов общения для внутренних и внешних сценариев и расширения Microsoft 365 Copilot с корпоративными данными и пользовательскими рабочими процессами.

Готовые сервисы ИИ

• Средства Foundry: набор предварительно созданных и настраиваемых API и моделей для добавления интеллектуальных функций в приложения. Инструменты Foundry включают возможности для обработки речи, перевода, понимания естественного языка, анализа документов, понимания содержимого, компьютерного зрения, безопасности контента и поиска.

• Azure OpenAI: предоставляет доступ к моделям OpenAI, включая GPT и DALL-E, через Azure управляемую инфраструктуру с корпоративной безопасностью, сетью и ответственными элементами управления ИИ.

Платформы данных для искусственного интеллекта

• Microsoft Fabric: сквозная аналитика и платформа данных, которая охватывает прием данных, преобразование, маршрутизацию событий в режиме реального времени и отчеты. Microsoft Fabric предоставляет OneLake как единое озеро данных и включает встроенные возможности ИИ, функции Microsoft Copilot и интеграцию с инструментами Foundry.

• Azure Databricks: платформа аналитики на основе Spark для проектирования данных, обработки и анализа данных и машинного обучения. Azure Databricks предоставляет Databricks Runtime для Машинное обучение Azure, интеграцию с MLflow, AutoML, тонкую настройку базовых моделей и Mosaic AI Vector Search для поиска на основе эмбеддингов.

• Azure HDInsight: управляемая служба Apache Spark для обработки больших данных и аналитики. Azure HDInsight кластеры Spark поддерживают рабочие нагрузки машинного обучения с помощью MLlib, совместимы с служба хранилища Azure и Azure Data Lake Storage, а также поддерживают SynapseML для глубокого обучения.

• Azure Data Lake Storage: масштабируемый централизованный репозиторий для хранения структурированных и неструктурированных данных. Azure Data Lake Storage предоставляет семантику файловой системы, безопасность на уровне файлов и многоуровневую хранилище, построенную на Хранилище BLOB-объектов Azure.

Уровни корпоративной аналитики

Архитектура искусственного интеллекта в Microsoft представляет три дополнительных уровня аналитики или IQ, представляющих ключевые источники контекста для систем ИИ:

• Work IQ собирает аналитические данные о том, как выполняется работа внутри организации. Он использует сигналы от Microsoft 365, таких как электронная почта, чаты, собрания, документы и шаблоны совместной работы.

  Этот уровень необходим, чтобы связать ИИ с человеческой деятельностью и организационным поведением, а не рассматривать взаимодействия как изолированные запросы.

• Fabric IQ предоставляет аналитические данные, производные от структурированных корпоративных данных, управляемых в Microsoft Fabric, включая модели аналитики, ключевые показатели эффективности (ключевые показатели эффективности) и бизнес-сущности.

  Fabric IQ позволяет ИИ отвечать на сложные аналитические вопросы и интерпретировать результаты в контексте бизнес-операций.

• Foundry IQ предоставляет единый, многоуровневый уровень знаний, позволяющий агентам ИИ извлекать и создавать ответы на основе корпоративных данных.

  Этот слой имеет решающее значение для реализации таких подходов, как генерация с дополнением извлечёнными данными (RAG), помогая обеспечивать точность, актуальность и соответствие требованиям ответов ИИ.

Architecture

На следующей схеме показана базовая сквозная архитектура чата, использующая Microsoft Foundry. В этой эталонной архитектуре показано, как службы ИИ составляют готовое к работе решение на Azure. Он включает в себя уровни идентификации, сети, мониторинга и управления.

Скачайте файл Visio для этой архитектуры.

На предыдущей схеме показана стандартная базовая реализация искусственного интеллекта. Реальные решения, которые можно создавать в Azure, см. в архитектурах ИИ.

Изучение архитектур ИИ и руководств

В статьях этого раздела содержатся руководства и полностью разработанные архитектуры, которые можно развернуть в Azure и расширить в решениях производственного класса. Варианты решений демонстрируют шаблоны реализации и возможные подходы, которые стоит учитывать при планировании разработки POC-проекта в области ИИ. Эти статьи помогут вам решить, как использовать технологии искусственного интеллекта в Azure.

• Общие сведения о технологиях ИИ. Общие сведения о концепциях ИИ, платформах разработки и шаблонах архитектуры помогут вам разработать рабочие нагрузки ИИ на Azure.

Выбор службы искусственного интеллекта

Следующие статьи помогут вам оценить и выбрать лучшие технологии ИИ для ваших требований к рабочей нагрузке:

• Выберите технологию служб ИИ: сравнивает службы ИИ и решения машинного обучения, чтобы помочь вам выбрать подходящую службу или модель для вашего варианта использования.

• Выберите технологию обработки языка с Azure ИИ: сравнивает службы Azure для целевых задач обработки языка, таких как перевод, распознавание сущностей и анализ текста.

• Выбор технологии Azure для распознавания и синтеза речи: Сравниваются службы Azure для сценариев преобразования речи в текст, текста в речь и перевода речи.

• Выберите технологию Azure AI для генерации и обработки изображений и видео: сравнивает службы Azure для анализа, генерации и обработки изображений и видео.

• Выберите технологию обработки естественного языка: сравнивает Azure технологии обработки естественного языка, чтобы помочь вам выбрать подходящую платформу для задач распознавания текста и создания.

• Microsoft продукты искусственного интеллекта и машинного обучения: сравнивает Microsoft продукты машинного обучения, чтобы помочь вам выбрать платформу для создания, развертывания и управления приложениями, агентами и моделями машинного обучения.

• Выберите подходящую модель ИИ для рабочей нагрузки: описывает стратегии выбора подходящей модели ИИ из множества доступных вариантов развертывания.

Идеи решения искусственного интеллекта

Следующие идеи решения ИИ демонстрируют шаблоны реализации и возможности для изучения.

Идеи решения для обработки звука

• Получайте ценную информацию из данных разговоров: извлекает полезную информацию из аудиоданных разговоров.

Обработка изображений

• Классификация изображений: классифицирует изображения с помощью интеллектуальных шаблонов приложений.

Прогнозная аналитика

• Прогнозирование заказов клиентов: прогнозирование будущих заказов клиентов с помощью машинного обучения.

Идеи для MLOps-решений

• Используйте Azure Databricks для оркестрации операций машинного обучения: оркеструет операции машинного обучения с помощью Azure Databricks.

• Многие модели с Машинное обучение: обучение и управление многими моделями в масштабе с помощью Машинное обучение Azure.

Обработка и обогащение документов

• Извлечение и сопоставление сведений из неструктурированного содержимого: извлекает и сопоставляет сведения из многомодального неструктурированного содержимого.

• Создайте документы из данных: создает структурированные документы из источников данных.

• Использование обогащения ИИ с помощью Поиск с использованием ИИ Azure: обогащение содержимого с помощью наборов навыков ИИ в конвейерах индексирования Поиск с использованием ИИ Azure.

Автоматизация рабочих процессов

• Создайте решение автоматизации рабочих процессов с несколькими агентами с помощью платформы агента Microsoft: автоматизирует рабочие процессы с помощью нескольких агентов ИИ, управляемых с помощью платформы агента Microsoft.

Архитектуры ИИ

В следующих готовых к работе архитектурах демонстрируются комплексные решения ИИ, которые можно развертывать и настраивать.

Чат с данными

• Базовая эталонная архитектура чата Microsoft Foundry: базовая RAG-архитектура чата, использующая Microsoft Foundry и Azure OpenAI.

• Базовая эталонная архитектура чата Microsoft Foundry: готовая к промышленной эксплуатации сквозная архитектура чата, использующая Microsoft Foundry с корпоративными средствами безопасности, сетевого взаимодействия и мониторинга.

• Базовая архитектура чата Microsoft Foundry в посадочной зоне Azure: развертывает базовую архитектуру чата Microsoft Foundry в посадочной зоне Azure для управления в корпоративном масштабе.

Обработка документов

• Автоматизация классификации документов: использует Устойчивые функции для автоматизации рабочих процессов классификации документов.

• Автоматизация обработки форм PDF: автоматизирует извлечение и обработку данных из форм PDF.

• Создание пользовательских моделей обработки документов: создание и развертывание пользовательских моделей для сценариев обработки документов.

• Извлечение текста из объектов с помощью Power Automate и AI Builder: извлекает текст из объектов с помощью возможностей Power Automate и ИИ.

• Несколько индексаторов с Поиск с использованием ИИ Azure: использует несколько индексаторов для обработки и индексирования метаданных BLOB-объектов с помощью Поиск с использованием ИИ Azure.

Классификация видео и изображений

• Автоматизация анализа видео: анализирует видеоконтент с помощью компьютерного зрения и машинного обучения.

Архитектуры обработки звука

• Извлечение и анализ данных call-центра: извлекает и анализирует разговоры call-центра с помощью Azure OpenAI.

Regulatory

• Безопасные исследования для регулируемых данных: обеспечивает безопасную среду вычислений для рабочих нагрузок исследования, обрабатывающих регулируемые данные.

Руководства по ИИ

• Динамические агенты ИИ в шаблоне масштабирования. Описывает динамическое выделение и оркестрацию агентов ИИ из пула с помощью Microsoft Foundry, Поиск с использованием ИИ Azure и Azure OpenAI для создания многофакторных систем.

• Microsoft продукты искусственного интеллекта и машинного обучения: сравнивает Microsoft продукты машинного обучения, чтобы помочь вам выбрать платформу для создания, развертывания и управления приложениями, агентами и моделями машинного обучения.

• Шаблоны оркестрации агентов ИИ. Описание шаблонов проектирования для оркестрации агентов ИИ в сложных сценариях.

• Проектирование безопасного мультитенантного решения вывода RAG: предоставляет рекомендации по защите решений RAG в мультитенантных средах.

• Проектирование для поддержки жизненного цикла базовых моделей: Предоставляет рекомендации по управлению обновлениями базовых моделей, выводом из эксплуатации и переходами.

Разработка и оценка решений RAG

• Проектирование и разработка решения RAG. Общие сведения о проектировании и оценке решений RAG.

• Этап подготовки. Охватывает подготовку данных для реализации RAG.

• Этап разбиения на фрагменты: Описывает стратегии разбиения контента на фрагменты в конвейерах RAG.

• Этап обогащения блоков: охватывает методы обогащения, применяемые к блокам содержимого.

• Этап внедрения: описывает, как создавать внедрения для извлечения RAG.

• Этап получения информации: охватывает стратегии извлечения информации в архитектурах RAG.

• Проектирование запросов. Описывает, как создавать эффективные запросы для решений RAG, включая структуру запросов, методы приземления и управление контекстом.

• Этап сквозной оценки модели: Описывает, как выполнять сквозную оценку моделей RAG.

• Агентный RAG: Описывает, как перейти от стандартного конвейера RAG к агентной архитектуре RAG для динамического планирования запросов и многошагового рассуждения.

Руководства MLOps

• Операции машинного обучения. Описывает подход операций машинного обучения версии 2 для эксплуатации рабочих процессов машинного обучения.

• Создание операций искусственного интеллекта для организаций с инвестициями MLOps: расширяет методики операций машинного обучения для создания рабочих нагрузок ИИ.

• Модель зрелости MLOps: определяет уровни зрелости для внедрения операций машинного обучения.

Модели создания прокси-сервера ИИ

• Используйте шлюз перед генерируемыми моделями: описывает преимущества и архитектуру размещения шлюза перед конечными точками модели создания искусственного интеллекта.

• Используйте шлюз перед несколькими развертываниями или экземплярами модели: расширение шаблона шлюза для маршрутизации запросов между несколькими серверными частями модели.

• Предоставление пользовательской проверки подлинности для моделей Foundry через шлюз: реализует пользовательские потоки проверки подлинности для доступа к модели через шлюз.

• Внедрите расширенный мониторинг для моделей Foundry через шлюз: добавляет мониторинг и наблюдаемость для трафика моделей генеративного ИИ через шлюз.

Готовность организации

Организации в начале процесса внедрения облака могут использовать Cloud Adoption Framework для Azure для доступа к проверенным рекомендациям, которые ускоряют внедрение облака.

Рекомендации по внедрению ИИ см. в следующих ресурсах Cloud Adoption Framework:

• Внедрение ИИ: предоставляет структурированный процесс внедрения решений ИИ в Azure, включая стратегию, планирование, готовность, управление, безопасность и управление.

• Готовый к использованию ИИ: описывает организационный процесс создания рабочих нагрузок ИИ в Azure, включая организацию ресурсов, сеть, надежность и управление.

Чтобы обеспечить качество решения ИИ на Azure, следуйте инструкциям в Azure Well-Architected Framework. Платформа Well-Architected дает рекомендации для организаций, стремящихся к достижению архитектурного совершенства, и описывает, как проектировать, предоставлять и отслеживать оптимизированные по затратам решения Azure.

Инструкции по использованию ИИ см. в следующем ресурсе Well-Architected Framework:

• Рабочие нагрузки искусственного интеллекта на Azure: устраняет архитектурные проблемы проектирования рабочих нагрузок ИИ, включая недетерминированные функциональные возможности, проектирование данных и приложений и операции в пяти основных компонентах платформы Well-Architected Framework.

Руководства по сервисам Well-Architected Framework, связанным с ИИ, см.:

• Машинное обучение Azure
• Azure Databricks

Лучшие практики

Следуйте этим рекомендациям, чтобы повысить надежность, безопасность, эффективность затрат, качество работы и производительность рабочих нагрузок ИИ на Azure:

• Проектирование и разработка решения RAG: следуйте структурированным, поэтапному подходу к проектированию решений RAG, включая блоки, внедрение, извлечение информации и сквозную оценку.

• Выберите службу Azure для поиска векторов: оцените Azure службы, поддерживающие векторный поиск, чтобы найти оптимальное соответствие требованиям поиска и сходства.

• Шаблоны оркестрации агентов ИИ: узнайте о проверенных шаблонах оркестрации для архитектур, использующих несколько агентов, включая последовательные, одновременные, групповые чаты, ручное выполнение и шаблоны magentic. Ознакомьтесь с рекомендациями по реализации для обеспечения надежности, безопасности, стоимости и наблюдаемости.

• Используйте шлюз перед созданными моделями ИИ: реализуйте шаблоны шлюза для прокси-сервера, балансировки нагрузки и мониторинга конечных точек генерируемой модели.

• Операции машинного обучения версии 2. Применение комплексных рекомендаций по жизненному циклу операций машинного обучения для обучения, развертывания и управления моделями машинного обучения в большом масштабе.

• Операции создания ИИ с операциями машинного обучения: расширьте методики операций машинного обучения для создания рабочих нагрузок ИИ, включая управление запросами, оценку и развертывание.

• Спроектируйте безопасное мультитенантное решение для инференса RAG: Применяйте шаблоны мультитенантной архитектуры для решений RAG, обеспечивающие изоляцию данных и безопасный инференс для разных арендаторов.

• Проектирование для поддержки жизненного цикла базовой модели: управление управлением версиями моделей, отменой и сменой, чтобы обеспечить актуальность и устойчивость рабочих нагрузок ИИ.

• Варианты машинного обучения: сравнение параметров обучения и развертывания машинного обучения в Azure, чтобы выбрать нужные службы для рабочей нагрузки.

• Рекомендации по Apache Spark. Ознакомьтесь с рекомендациями по запуску, мониторингу, отладке и оптимизации заданий Apache Spark в Azure HDInsight.

Оставайтесь актуальными с помощью ИИ

Сервисы Azure AI развиваются, чтобы решать современные проблемы, связанные с данными. Следите за последними обновлениями и функциями.

Чтобы оставаться в курсе ключевых служб ИИ, ознакомьтесь со следующими статьями:

• Новые возможности Azure OpenAI в модели Foundry: содержит сводку последних выпусков и обновлений документации для Azure OpenAI, включая доступность новых моделей, версии API и объявления о функциях.

• Новые возможности в Microsoft Foundry: выделены ключевые статьи и обновления продуктов в Microsoft Foundry, включая управление агентами, функции наблюдения и новые возможности.

• Новые возможности Поиск с использованием ИИ Azure. Охватывает последние обновления функций Поиск с использованием ИИ Azure, включая новые версии API, функции извлечения агентов и возможности индексирования.

• Новые возможности Azure Language в Foundry Tools: Охватывает обновления возможностей Azure Language в Foundry Tools, включая новые версии SDK, рабочие процессы оркестрации и интеграцию с Microsoft Foundry.

• Новые возможности Microsoft Fabric: рассматриваются обновления в Microsoft Fabric возможностях, включая обработку и анализ данных, интеграцию MLflow, агенты данных и функции аналитики.

• Примечания к выпуску Машинное обучение Azure CLI и SDK: содержит примечания к выпуску Машинное обучение Azure CLI (v2) и Python SDK, включая новые функции, исправления ошибок и критические изменения.

• Заметки о выпуске платформы Azure Databricks: Охватывает обновления платформы Azure Databricks, включая версии среды исполнения, функции рабочей области и возможности интеграции.

• Новые возможности Microsoft Copilot Studio: выделяет новые функции и обновления для Microsoft Copilot Studio, включая возможности создания агентов и обновления соединителя.

• Что нового в Azure Document Intelligence в Foundry Tools: Описываются обновления Azure Document Intelligence в Foundry Tools, включая новые готовые модели, версии API и возможности извлечения данных.

• Что нового в Azure Content Understanding в Foundry Tools: Описаны обновления Azure Content Understanding в Foundry Tools, включая новые функции анализа содержимого и интеграцию с Microsoft Foundry.

Amazon Web Services (AWS) или Google Cloud эксперты

Чтобы помочь вам быстро освоиться, в следующих статьях сравниваются возможности Azure AI с другими облачными службами:

• Данные и ИИ: сравнивает данные AWS и службы ИИ, включая машинное обучение, созданные службы ИИ и платформы ИИ, с их Azure коллегами.

• ИИ и машинное обучение: сравнение сервисов ИИ и машинного обучения Google Cloud, включая Vertex AI, Dialogflow и Gemini, с их аналогами в Azure.