В этом разделе документации представлены шаблоны приложений ИИ и связанные статьи, которые используют эти шаблоны для демонстрации выполнения ключевых задач разработчика. Шаблоны приложений ИИ предоставляют вам хорошо поддерживаемые и простые в развертывании эталонные реализации, которые помогают обеспечить высококачественную отправную точку для приложений ИИ.
Существует две категории шаблонов приложений ИИ, стандартных блоков и комплексных решений. В следующих разделах приведены некоторые ключевые шаблоны в каждой категории для языка программирования, выбранного в верхней части этой статьи. Чтобы просмотреть более полный список, включая эти и другие шаблоны, см. шаблоны приложений ИИ в коллекции шаблонов приложений ИИ.
Стандартные блоки
Стандартные блоки — это более мелкие примеры, ориентированные на конкретные сценарии и задачи. Большинство стандартных блоков демонстрируют функциональные возможности, которые используют комплексное решение для приложения чата, использующего собственные данные.
Узнайте, как добавить балансировку нагрузки в приложение, чтобы расширить приложение чата за пределы маркера Azure OpenAI и квоты модели. Этот подход использует приложения контейнеров Azure для создания трех конечных точек Azure OpenAI, а также основного контейнера для направления входящего трафика в одну из трех конечных точек.
При создании приложения чата с помощью шаблона RAG с собственными данными убедитесь, что каждый пользователь получает ответ на основе своих разрешений. Авторизованный пользователь должен иметь доступ к ответам, содержащимся в документах приложения чата. Неавторизованный пользователь не должен иметь доступа к ответам из защищенных документов, у которых нет авторизации для просмотра.
Узнайте, как оценить ответы приложения чата по набору правильных или идеальных ответов (известных как земная истина). Всякий раз, когда вы изменяете приложение чата таким образом, чтобы повлиять на ответы, выполните оценку для сравнения изменений. Это демонстрационное приложение предлагает инструменты, которые можно использовать сегодня, чтобы упростить выполнение вычислений.
Узнайте, как добавить балансировку нагрузки в приложение, чтобы расширить приложение чата за пределы маркера Azure OpenAI и квоты модели. Этот подход использует приложения контейнеров Azure для создания трех конечных точек Azure OpenAI, а также основного контейнера для направления входящего трафика в одну из трех конечных точек.
Узнайте, как добавить балансировку нагрузки в приложение, чтобы расширить приложение чата за пределы маркера Azure OpenAI и квоты модели. Этот подход использует Azure Управление API для создания трех конечных точек Azure OpenAI, а также основного контейнера для направления входящего трафика в одну из трех конечных точек.
Узнайте, как выполнить нагрузочное тестирование в приложении чата Python с помощью шаблона RAG с Locust, популярного средства нагрузочного тестирования с открытым исходным кодом. Основная цель нагрузочного тестирования — убедиться, что ожидаемая нагрузка в приложении чата не превышает текущую квоту Azure OpenAI Transactions per Minute (TPM). Имитируя поведение пользователя в условиях тяжелой нагрузки, вы можете определить потенциальные узкие места и проблемы масштабируемости в приложении.
Узнайте, как защитить приложение чата Python Azure OpenAI с помощью проверки подлинности без ключа. Запросы приложений к большинству служб Azure должны проходить проверку подлинности с помощью бессерверных или без пароля подключений. Проверка подлинности без ключей обеспечивает улучшенные преимущества управления и безопасности по сравнению с ключом учетной записи, так как для хранения ключа (или строка подключения) нет.
Узнайте, как добавить балансировку нагрузки в приложение, чтобы расширить приложение чата за пределы маркера Azure OpenAI и квоты модели. Этот подход использует приложения контейнеров Azure для создания трех конечных точек Azure OpenAI, а также основного контейнера для направления входящего трафика в одну из трех конечных точек.
Узнайте, как оценить ответы приложения чата по набору правильных или идеальных ответов (известных как земная истина). Всякий раз, когда вы изменяете приложение чата таким образом, чтобы повлиять на ответы, выполните оценку для сравнения изменений. Это демонстрационное приложение предлагает инструменты, которые можно использовать сегодня, чтобы упростить выполнение вычислений.
Узнайте, как добавить балансировку нагрузки в приложение, чтобы расширить приложение чата за пределы маркера Azure OpenAI и квоты модели. Этот подход использует приложения контейнеров Azure для создания трех конечных точек Azure OpenAI, а также основного контейнера для направления входящего трафика в одну из трех конечных точек.
Узнайте, как добавить балансировку нагрузки в приложение, чтобы расширить приложение чата за пределы маркера Azure OpenAI и квоты модели. Этот подход использует Azure Управление API для создания трех конечных точек Azure OpenAI, а также основного контейнера для направления входящего трафика в одну из трех конечных точек.
Комплексные решения
Комплексные решения — это комплексные эталонные примеры, включая документацию, исходный код и развертывание, чтобы позволить вам принимать и расширять их для собственных целей.
Чат с данными с помощью Azure OpenAI и службы "Поиск ИИ Azure" с помощью .NET
Этот шаблон является полным комплексным решением, демонстрирующим шаблон создания добавок (RAG), выполняющийся в Azure. Он использует поиск ИИ Azure для получения и больших языковых моделей Azure OpenAI для работы с интерфейсом ChatGPT и Q&A.
Этот шаблон демонстрирует использование этих функций.
Решение для размещения Azure
Технологии
Модели ИИ
Приложения-контейнеры Azure Функции Azure
Azure OpenAI Компьютерное зрение Azure Распознаватель документов Azure Поиск с использованием ИИ Azure Хранилище Azure
GPT 3.5 Turbo GPT 4.0
Компания Contoso chat retail Copilot с .NET и семантическим ядром
Этот шаблон реализует Contoso Outdoors, концептуальный магазин, специализирующийся на открытом воздухе для походов и любителей кемпинга. Это виртуальное хранилище улучшает взаимодействие клиентов и поддержку продаж с помощью интеллектуального агента чата. Этот агент используется шаблоном получения дополненного поколения (RAG) в Microsoft Azure AI Stack, обогащенным семантической поддержкой ядра и запроса.
Этот шаблон демонстрирует использование этих функций.
Решение для размещения Azure
Технологии
Модели ИИ
Приложения-контейнеры Azure
Azure OpenAI Microsoft Entra ID Управляемое удостоверение Azure Azure Monitor Поиск с использованием ИИ Azure Azure AI Foundry Azure SQL Хранилище Azure
GPT 3.5 Turbo GPT 4.0
Автоматизация процессов с речью к тексту и суммированием с помощью .NET и GPT 3.5 Turbo
Этот шаблон — это решение для автоматизации процессов, которое получает проблемы, сообщаемые работниками в полевых условиях и на производственном участке в компании Contoso Manufacturing, которая производит автомобильные батареи. Проблемы разделяются сотрудниками либо в режиме реального времени с помощью входных данных микрофона, либо предварительно записанных в виде звуковых файлов. Решение преобразует входные данные звука из речи в текст, а затем использует LLM и Prompty или Promptflow, чтобы суммировать проблему и возвращать результаты в формате, указанном решением.
Этот шаблон демонстрирует использование этих функций.
Решение для размещения Azure
Технологии
Модели ИИ
Приложения-контейнеры Azure
Преобразование речи в текст Сводка Azure OpenAI
GPT 3.5 Turbo
Чат с данными с помощью Azure OpenAI и службы "Поиск ИИ Azure" с помощью Python
Этот шаблон является полным комплексным решением, демонстрирующим шаблон создания добавок (RAG), выполняющийся в Azure. Он использует поиск ИИ Azure для получения и больших языковых моделей Azure OpenAI для работы с интерфейсом ChatGPT и вопросом и ответами (Q&A).
Этот шаблон демонстрирует использование этих функций.
Решение для размещения Azure
Технологии
Модели ИИ
Приложения-контейнеры Azure
Azure OpenAI Поиск с использованием ИИ Azure Хранилище BLOB-объектов Azure Azure Monitor Аналитика документов Azure
GPT 3.5 Turbo GPT 4 GPT 4o GPT 4o-mini
Мульти-модальное творческое написание Copilot с DALL-E
Этот шаблон — это творческое решение для создания нескольких агентов, помогающего пользователям писать статьи. В нем показано, как создавать и работать с агентами ИИ, управляемыми Azure OpenAI.
Сюда входят:
Приложение Flask, которое принимает статью и инструкции от пользователя.
Агент исследования, использующий API поиска Bing для исследования статьи.
Агент продукта, использующий поиск ИИ Azure для поиска семантической сходства связанных продуктов из векторного хранилища.
Агент писателя для объединения сведений об исследованиях и продуктах в полезную статью.
Агент редактора для уточнения статьи, представленной пользователю.
Этот шаблон демонстрирует использование этих функций.
Решение для размещения Azure
Технологии
Модели ИИ
Реестр контейнеров Azure Azure Kubernetes
Azure OpenAI Поиск Bing Управляемое удостоверение Azure Azure Monitor Поиск с использованием ИИ Azure Azure AI Foundry
GPT 3.5 Turbo GPT 4.0 DALL-E
Contoso Chat Retail Copilot с Azure AI Foundry
Этот шаблон реализует Contoso Chat — розничное решение copilot для Contoso Outdoor, использующее шаблон проектирования дополненного поколения для реагирования чат-бота в ответы розничной торговли и данных клиентов. Клиенты могут задавать вопросы с веб-сайта на естественном языке и получать соответствующие ответы с потенциальными рекомендациями на основе истории покупки - с ответственной практикой ИИ для обеспечения качества и безопасности ответов.
Этот шаблон иллюстрирует комплексный рабочий процесс (GenAIOps) для создания кода на основе RAG с помощью ИИ Azure и запроса. Изучите и развернете этот пример, изучите следующее:
Идея и итерацию быстро на прототипах приложений с помощью запроса
Этот шаблон демонстрирует использование этих функций.
Решение для размещения Azure
Технологии
Модели ИИ
Приложения-контейнеры Azure
Azure OpenAI Поиск с использованием ИИ Azure Azure AI Foundry Запрос Azure Cosmos DB
GPT 3.5 Turbo GPT 4.0 Управляемое время выполнения интеграции (MIR)
Автоматизация процессов с преобразованием речи в текст и суммированием, используя Azure AI Foundry
Этот шаблон создает веб-приложение, позволяющее сотрудникам компании Contoso Manufacturing сообщать о проблемах с помощью текста или речи. Входные данные аудио преобразуются в текст, а затем суммируются для выделения важных сведений, а отчет отправляется в соответствующий отдел.
Этот шаблон демонстрирует использование этих функций.
Решение для размещения Azure
Технологии
Модели ИИ
Служба машинного обучения
Поиск с использованием ИИ Azure Azure AI Foundry Управляемое время выполнения интеграции (MIR) Azure OpenAI
GPT 3.5 Turbo GPT 4
Беседуйте с данными с помощью Azure OpenAI и службы "Поиск ИИ Azure" с помощью Java
Этот шаблон — это комплексное решение, демонстрирующее шаблон получения дополненного поколения (RAG), выполняющийся в Azure. Он использует поиск ИИ Azure для получения и больших языковых моделей Azure OpenAI для работы с интерфейсом ChatGPT и Q&A.
Этот шаблон демонстрирует использование этих функций.
Решение для размещения Azure
Технологии
Модели ИИ
Служба приложений Azure Приложения-контейнеры Azure Служба Azure Kubernetes
Azure OpenAI Поиск с использованием ИИ Azure Аналитика документов Azure Хранилище Azure Azure App Insights Служебная шина Azure Сетка событий Azure
gpt-35-turbo
Помощник по банковской работе с несколькими агентами с помощью Java и семантического ядра
Этот проект разработан в качестве подтверждения концепции (PoC) для изучения инновационной области создания искусственного интеллекта в контексте архитектур с несколькими агентами. Используя платформу оркестрации ИИ java и семантического ядра Майкрософт, мы стремимся создать веб-приложение чата, чтобы продемонстрировать эффективность и надежность использования агентов сгенерированных ИИ для преобразования взаимодействия пользователей с веб-щелчков на беседы на естественном языке при максимальном использовании существующих данных рабочей нагрузки и API.
Основной вариант использования вращается вокруг банковского личного помощника, предназначенного для изменения способа взаимодействия пользователей с информацией о банковском счете, историей транзакций и функциями оплаты. Используя возможности создания искусственного интеллекта в архитектуре с несколькими агентами, этот помощник стремится обеспечить простой, диалоговый интерфейс, с помощью которого пользователи могут легко получить доступ к финансовым данным и управлять ими.
Примеры счетов включены в папку данных, чтобы упростить изучение функции оплаты. Агент оплаты, оснащенный средствами оптического распознавания символов (OCR) (Azure Document Intelligence), ведет беседу с пользователем, чтобы извлечь данные счета и инициировать процесс оплаты. Другие поддельные данные учетной записи, такие как транзакции, методы оплаты и баланс учетной записи, также доступны для запроса пользователем. Все данные и сервисы предоставляются как внешние REST API и используются агентами для предоставления пользователю запрошенной информации.
Чтобы получить доступ к исходному коду и ознакомиться с подробными сведениями о шаблоне, ознакомьтесь с репозиторием agent-openai-java-banking-assistant репозитория GitHub.
Этот шаблон демонстрирует использование этих функций.
Решение для размещения Azure
Технологии
Модели ИИ
Приложения-контейнеры Azure
Azure OpenAI Аналитика документов Azure Хранилище Azure Azure Monitor
gpt-4o gpt-4o-mini
Чат с данными с помощью Azure OpenAI и службы "Поиск ИИ Azure" с помощью JavaScript
Этот шаблон является полным комплексным решением, демонстрирующим шаблон создания добавок (RAG), выполняющийся в Azure. Он использует поиск ИИ Azure для получения и больших языковых моделей Azure OpenAI для работы с интерфейсом ChatGPT и Q&A.
Этот шаблон демонстрирует использование этих функций.
Решение для размещения Azure
Технологии
Модели ИИ
Служба статических веб-приложений Azure
Поиск с использованием ИИ Azure Azure OpenAI
GPT 3.5 Turbo GPT4
Бессерверный чат ИИ с RAG с помощью LangChain.js
Шаблон — это бессерверный чат-бот искусственного интеллекта с использованием расширенного создания LangChain.js и Azure, использующего набор корпоративных документов для создания ответов на запросы пользователей. Он использует фиктивную компанию contoso Real Estate, и опыт позволяет своим клиентам задавать вопросы о поддержке использования своих продуктов. Пример данных содержит набор документов, описывающих условия обслуживания, политику конфиденциальности и руководство по поддержке.