Руководство. Развертывание корпоративного веб-приложения чата (классическая модель)

Применяется только к:Портал Foundry (классический). Эта статья недоступна для нового портала Foundry. Дополнительные сведения о новом портале.

В этой статье вы развернете корпоративное веб-приложение для чата, которое использует ваши данные с большой языковой моделью на портале Microsoft Foundry.

Источник данных задает модель на основе конкретных данных. Основная идея заключается в том, что модель использует ваши данные для понимания контекста вашего вопроса. Вы не изменяете саму развернутую модель. Данные остаются отдельными и безопасными в исходном источнике данных.

Ниже приведены действия, описанные в этом руководстве.

Необходимые условия

• Учетная запись Azure с активной подпиской. Если у вас нет, создайте учетную запись free Azure, которая включает бесплатную пробную подписку.
• Если у вас нет одного, создайте проект на основе концентратора.

• Развернутая модель чата Azure OpenAI. Завершите краткое руководство по Foundry playground, чтобы создать этот ресурс, если у вас его нет.

• Подключение службы поиска для индексирования примеров данных продукта. Если у вас нет одного, выполните действия по созданию и подключению службы поиска.

• Локальная копия данных продукта. Репозиторий Azure-Samples/rag-data-openai-python-promptflow в GitHub содержит примеры информации о розничных продуктах для этого сценария руководства. Файл product_info_11.md содержит информацию о походных ботинках TrailWalker для этого примера руководства. Скачайте данные о розничных продуктах Contoso Trek в ZIP-файле пример на локальный компьютер.

• Microsoft.Web поставщик ресурсов, зарегистрированный в выбранной подписке, чтобы развернуть веб-приложение. Дополнительные сведения о регистрации поставщика ресурсов см. в разделе "Регистрация поставщика ресурсов".

• Необходимые разрешения для добавления назначений ролей в подписку Azure. Только владелец определенных Azure ресурсов может предоставлять разрешения по назначению ролей.

Портал Foundry и портал Azure

В этом руководстве вы выполняете некоторые задачи на портале Foundry и некоторые задачи на портале Azure.

Портал Foundry — это веб-среда для создания, обучения и развертывания моделей ИИ. В качестве разработчика вы создаете и развертываете веб-приложение чата.

Портал Azure позволяет администратору управлять ресурсами Azure и отслеживать их. Администратор использует портал для настройки параметров для различных служб Azure, необходимых для доступа из веб-приложения.

Настройка ресурсов

Чтобы ресурсы работали правильно в веб-приложении, настройте правильные разрешения на портале Azure.

Сначала определите ресурсы, необходимые для настройки на портале Foundry.

1. Откройте портал Foundry, а затем выберите центральный проект, используемый для развертывания модели чата OpenAI Azure.

2. Выберите центр управления в левой области.

3. Выберите подключенные ресурсы в проекте.

4. Определите три ресурса, которые необходимо настроить: Azure OpenAI, Поиск с использованием ИИ Azure и Azure Blob storage, соответствующее вашему workspaceblobstore.

   

   Совет

   Если в таблице не отображается Тип, выберите Столбцы в правом верхнем углу и добавьте или измените порядок выбранных столбцов. Если у вас несколько ресурсов Azure OpenAI, используйте тот, который содержит развернутую модель чата.

5. Найдите каждое из этих имен на портале Azure. Откройте каждую из них на новой вкладке браузера, чтобы можно было переключаться между ними.

6. Когда вы закончите, откройте три новых вкладки браузера: служба поиска, Foundry и контейнер BLOBSTORE. Держите открытыми все три вкладки, потому что вы переключаетесь между ними для настройки ресурсов.

Включение управляемого удостоверения

На вкладке браузера для ресурса Search service на портале Azure включите управляемое удостоверение:

1. В левой панели в разделе Параметры выберите Идентификация.
2. Переключение состояния на Вкл.
3. Нажмите кнопку "Сохранить".

Во вкладке браузера для ресурса Foundry на портале Azure включите функцию управляемого удостоверения:

1. В области слева в разделе "Управление ресурсами" выберите "Удостоверение".
2. Переключение состояния на Вкл.
3. Нажмите кнопку "Сохранить".

Настройка управления доступом для поиска

На вкладке браузера для ресурса Search service на портале Azure задайте политику доступа к API:

1. В области слева в разделе "Параметры" выберите "Ключи".
2. В разделе "Управление доступом к API" выберите "Оба".
3. При появлении запроса нажмите кнопку "Да ", чтобы подтвердить.

Назначьте роли

Повторите этот шаблон для каждого ресурса, выполнив указанные ниже действия.

Общий шаблон назначения управления доступом на основе ролей (RBAC) для любого ресурса:

1. Перейдите на портал Azure для данного ресурса.
2. На портале Azure в меню слева выберите Управление доступом (IAM).
3. Выберите + Добавить>Добавить назначение роли.
4. Найдите нужную роль и выберите ее. Затем нажмите кнопку "Далее".
5. При назначении роли себе:
   1. Выберите "Пользователь", "Группа" или "Субъект-служба".
   2. Выберите «Выбрать участников».
   3. Найдите имя и выберите его.
6. При назначении роли другому ресурсу:
   1. Выберите управляемое удостоверение.
   2. Выберите Выбрать участников.
   3. Используйте раскрывающийся список, чтобы найти тип ресурса, который вы хотите назначить. Например, инструменты Foundry или служба поиска.
   4. Выберите ресурс из отображаемого списка. Может быть только один, но вам все равно нужно выбрать его.
7. Продолжайте через мастер и выберите Проверить и назначить, чтобы добавить назначение роли.

Чтобы назначить роли для ресурсов, которые вы настроили в этом руководстве, выполните следующие шаги.

• Назначьте эти роли на вкладке браузера для службы Search на портале Azure:

  • Средство чтения данных индекса поиска в управляемом удостоверении Foundry
  • Вкладчик службы поиска в управляемой идентификации Foundry
  • Участник самостоятельно (чтобы найти Участник, перейдите на вкладку "Роли привилегированного администратора", которая находится в верхней части страницы. Все остальные роли находятся на вкладке "Роли должностных функций".)

• Назначьте эти роли на вкладке браузера для Foundry на портале Azure:

  • Участник OpenAI Cognitive Services в управляемом удостоверении службы поиска
  • Вклад в себя.

• Назначьте эти роли в браузерной вкладке для Azure Blob-хранилище в портале Azure:

  • Вкладчик данных блоба хранилища для управляемой идентичности Foundry
  • Читатель данных хранилища BLOB для управляемого удостоверения сервиса поиска
  • Участник в собственное развитие

Вы завершили настройку ресурсов. Если вы хотите, вы можете закрыть вкладки браузера Azure портала.

Добавьте данные и повторите попытку модели чата

В кратком руководстве по игровой площадке Foundry (это требуемое условие для этого руководства), вы увидите, как модель реагирует без ваших данных. Добавьте данные в модель, чтобы ответить на вопросы о продуктах.

Для выполнения этого раздела потребуется локальная копия данных продукта. Репозиторий Azure-Samples/rag-data-openai-python-promptflow в GitHub содержит примеры сведений о продуктах розничной торговли, которые относятся к этому сценарию руководства. В частности, product_info_11.md файл содержит сведения о походной обуви TrailWalker, относящиеся к этому примеру руководства. Скачайте данные о розничных продуктах Contoso Trek в ZIP-файле пример на локальный компьютер.

Выполните следующие действия, чтобы добавить данные на площадку чата, чтобы помочь помощнику ответить на вопросы о продуктах. Вы не изменяете уже развернутую модель. Данные хранятся отдельно и безопасно в подписке Azure.

1. Перейдите к проекту в Microsoft Foundry.

2. Выберите площадки на левой панели.

3. Выберите "Попробовать игровую площадку чата".

4. Выберите развернутую модель чата в раскрывающемся списке Deployment.

   

5. В левой части игровой площадки чата нажмите кнопку "Добавить данные>+ Добавить новый источник данных".

   

6. В раскрывающемся списке источника данных выберите " Отправить файлы".

   

7. Выберите "Отправить>файлы" , чтобы просмотреть локальные файлы.

8. Выберите файлы, которые нужно отправить. Выберите файлы сведений о продукте, которые вы загрузили или создали ранее. Добавьте все файлы. Вы не сможете добавлять дополнительные файлы позже в том же сеансе игровой площадки.

9. Выберите Upload, чтобы отправить файл в учетную запись хранения blob-объектов Azure. Затем нажмите кнопку "Далее".

   

10. Выберите службу Поиск с использованием ИИ Azure.

11. В поле "Векторный индекс" введите сведения о продукте и нажмите кнопку "Далее".

12. На странице параметров поиска в разделе Векторные параметры снимите флажок Добавить векторный поиск к этому ресурсу поиска. Этот параметр помогает определить, как модель реагирует на запросы. Затем нажмите кнопку "Далее".

    Примечание

    Если добавить векторный поиск, здесь будут доступны дополнительные параметры за дополнительную плату.

13. Просмотрите параметры и выберите "Создать векторный индекс".

14. В тестовой среде вы можете видеть процесс загрузки данных. Этот процесс может занять несколько минут. Прежде чем продолжить, подождите, пока не увидите имя источника данных и индекса вместо статуса.

    

15. Теперь вы можете общаться с моделью, задавая тот же вопрос, как и в прошлый раз ("Сколько стоит походная обувь TrailWalker"), и на этот раз она использует ваши данные для формирования ответа. Чтобы просмотреть используемые данные, можно развернуть кнопку ссылок .

Развертывание веб-приложения

Когда вы удовлетворены интерфейсом на портале Foundry, разверните модель как автономное веб-приложение.

Поиск группы ресурсов на портале Azure

В этом руководстве разверните веб-приложение в той же группе ресурсов, что и ваш центр Foundry. Вы настроите проверку подлинности для веб-приложения на портале Azure.

Выполните следующие действия, чтобы перейти к группе ресурсов на портале Azure:

1. Перейдите к вашему проекту в Foundry. Выберите центр управления в левой области.

2. В разделе заголовка Project выберите Overview.

3. Выберите имя группы ресурсов, чтобы открыть группу ресурсов на портале Azure. В этом примере группа ресурсов называется rg-sdg-ai.

   

4. Теперь вы находитесь на портале Azure, просматривая содержимое группы ресурсов, в которой вы развернули концентратор. Обратите внимание на имя и расположение группы ресурсов. Эти сведения будут использоваться в следующем разделе.

5. Откройте эту страницу на вкладке браузера. Позже вы вернетесь к нему.

Развертывание веб-приложения

Публикация создает службу приложений Azure в вашей подписке. Вы можете нести расходы в зависимости от выбранного плана ценообразования . После завершения работы с приложением удалите его на портале Azure.

Чтобы развернуть веб-приложение, выполните следующие действия.

1. Выполните действия, описанные в предыдущем разделе, чтобы добавить данные на игровую площадку. Вы можете развернуть веб-приложение с собственными данными или без нее, но вам нужна развернутая модель, как описано в кратком руководстве по игровой площадке Foundry.

2. Выберите Развернуть > ... в качестве веб-приложения.

   

3. На странице развертывания в веб-приложении введите следующие сведения:

   • Имя: уникальное имя веб-приложения.
   • Subscription: подписка Azure. Если вы не видите доступных подписок, сначала регистрируете Microsoft. Web как поставщик ресурсов.
   • Группа ресурсов: выберите группу ресурсов, в которой необходимо развернуть веб-приложение. Используйте ту же группу ресурсов, что и концентратор.
   • Расположение. Выберите расположение, в котором будет развернуто веб-приложение. Используйте то же расположение, что и узел.
   • Тарифный план: выберите план ценообразования для веб-приложения.
   • Включить журнал чата в веб-приложении: в этом руководстве не выбрано поле журнала чата. Если вы включите эту функцию, у пользователей есть доступ к отдельным предыдущим запросам и ответам. Дополнительные сведения см. в примечаниях журнала чатов.

4. Выберите Развернуть.

5. Дождитесь развертывания приложения. Этот процесс может занять несколько минут.

6. Когда он будет готов, кнопка "Запустить " включена на панели инструментов. Еще не запускайте приложение и не закрывайте страницу игровой площадки чата. Позже вы вернетесь к нему.

Настройка проверки подлинности веб-приложения

По умолчанию только вы можете получить доступ к веб-приложению. В этом руководстве добавьте проверку подлинности, чтобы ограничить доступ к членам клиента Azure. Пользователи входят, используя учетную запись Microsoft Entra, для доступа к вашему приложению. Вы можете следовать аналогичному процессу, чтобы добавить еще одного поставщика удостоверений, если вы предпочитаете. Приложение использует только сведения о входе пользователя, чтобы убедиться, что он является членом вашего клиента.

1. Вернитесь на вкладку браузера с помощью портала Azure или откройте портал Azure на новой вкладке браузера. Просмотрите содержимое группы ресурсов, в которой вы развернули веб-приложение. Возможно, потребуется обновить представление, чтобы увидеть веб-приложение.

2. Выберите ресурс службы приложений из списка ресурсов в группе ресурсов.

3. В раскрывающемся меню слева в разделе "Параметры" выберите "Проверка подлинности".

   Снимок экрана пункта меню аутентификации веб-приложения в разделе настроек на портале Azure.

4. Если на этой странице Microsoft указан в качестве поставщика удостоверений, ничего больше не потребуется. Вы можете пропустить следующий шаг.

5. Добавьте поставщика удостоверений со следующими параметрами:

   • Поставщик удостоверений: Выберите Microsoft в качестве поставщика удостоверений. Параметры по умолчанию на этой странице ограничивают приложение только вашим клиентом, поэтому вам не нужно ничего другого здесь изменить.
   • Тип клиента: Рабочая сила
   • Регистрация приложений: создание регистрации приложения
   • Имя: имя службы веб-приложения
   • Поддерживаемые типы учетных записей: текущий клиент — один клиент
   • Ограничение доступа: требуется проверка подлинности
   • Запросы, не прошедшие проверку подлинности: HTTP 302 Найден перенаправление — рекомендуется для веб-сайтов

Использование веб-приложения

Ты почти там. Теперь вы можете протестировать веб-приложение.

1. Если вы изменили параметры, подождите около 10 минут, пока параметры проверки подлинности вступают в силу.

2. Вернитесь на вкладку браузера со страницей площадки чата на портале Foundry.

3. Нажмите кнопку "Запустить", чтобы открыть развернутое веб-приложение. При появлении запроса на разрешения, примите его.

4. Если вы не видите запуск на детской площадке, выберите веб-приложения на левой панели, а затем выберите приложение из списка, чтобы открыть его.

   Если параметры проверки подлинности еще не активны, закройте вкладку браузера для веб-приложения и вернитесь на площадку чата на портале Foundry. Подождите немного дольше, а затем повторите попытку.

5. В вашем веб-приложении задайте тот же вопрос, что и раньше ("Сколько стоят треккинговые ботинки TrailWalker"). В этот раз приложение использует информацию из ваших данных для формирования ответа. Разверните кнопку ссылки , чтобы просмотреть используемые данные.

   

Понимание истории чата

С помощью функции журнала чата пользователи могут видеть предыдущие запросы и ответы.

Включите журнал чатов при развертывании веб-приложения. Установите флажок "Включить журнал чата" в веб-приложении .

После включения журнала чата пользователи могут отображать или скрывать его в правом верхнем углу приложения. При отображении истории они могут переименовать или удалить беседы. Пока они вошли в приложение, беседы упорядочиваются от самых новых к старым и именуются на основе первого запроса в беседе.

Если удалить ресурс Cosmos DB, но сохранить опцию сохранения журнала чата в Studio, пользователи видят сообщение об ошибке подключения, но могут продолжать использовать веб-приложение без журнала чата.

Обновление веб-приложения

Используйте игровую площадку для добавления дополнительных данных или тестирования модели с различными сценариями. Когда вы будете готовы обновить веб-приложение с помощью новой модели, повторно выберите Развернуть > ... как веб-приложение. Выберите "Обновить существующее веб-приложение" и выберите существующее веб-приложение из списка. Новая модель развертывается в существующем веб-приложении.

Очистка ресурсов

Чтобы избежать лишних затрат на Azure, удалите ресурсы, которые вы создали в этом кратком руководстве, если они вам больше не нужны. Управление ресурсами на портале Azure.

Связанное содержимое

• Начало создания приложения чата
• Создайте настраиваемое приложение чата с помощью SDK от Azure для ИИ