Начало работы. Чат с помощью собственных данных (пример Python)

В этой статье показано, как развернуть и запустить чат с собственным примером данныхс помощью примера кода для Python. Этот пример приложения чата создается с помощью Python, Службы OpenAI Azure и получения дополненного поколения (RAG) с помощью поиска ИИ Azure.

Приложение предоставляет ответы на вопросы пользователей о преимуществах сотрудников в вымышленной компании. Он использует генерацию Retrieval-Augmented (RAG) для извлечения ссылок на содержимое из предоставленных PDF-файлов, в которые могут входить:

• Руководство сотрудника
• Обзорный документ о преимуществах
• Список ролей и ожиданий компании

Анализируя эти документы, приложение может реагировать на запросы естественного языка с точными, контекстно релевантными ответами. В этом подходе показано, как использовать собственные данные для работы с интеллектуальными и доменными чатами с помощью Azure OpenAI и поиска ИИ Azure.

Вы также узнаете, как настроить параметры приложения для изменения его поведения ответа.

Выполнив действия, описанные в этой статье, можно начать настройку проекта с собственным кодом. Эта статья является частью серии, которая поможет вам создать приложение чата с помощью Службы Azure OpenAI и поиска ИИ Azure. В число других статей серии входят:

• .NET
• Ява
• JavaScript
• Интерфейс JavaScript с серверной частью Python

Пример архитектуры приложения

На следующей схеме показана простая архитектура приложения чата.

Ключевые компоненты архитектуры:

• Веб-приложение, которое размещает интерактивный интерфейс чата (обычно построено с помощью Python Flask или JavaScript/React) и отправляет пользователям вопросы на серверную часть для обработки.
• Ресурс поиска ИИ Azure, который выполняет интеллектуальный поиск по индексированных документам (PDF-файлам, файлам Word и т. д.) и возвращает соответствующие фрагменты документов (блоки) для использования в ответах.
• Экземпляр службы Azure OpenAI, который:
  • Преобразует документы и вопросы пользователя в векторные представления для поиска семантической сходства.
  • Извлекает важные ключевые слова для уточнения запросов поиска ИИ Azure.
  • Синтезирует окончательные ответы с помощью полученных данных и запроса пользователя.

Типичный поток приложения чата выглядит следующим образом:

• Пользователь отправляет вопрос: пользователь вводит вопрос естественного языка через интерфейс веб-приложения.
• Azure OpenAI обрабатывает вопрос: серверная часть использует Azure OpenAI для:
  • Создайте векторное представление вопроса с помощью модели "text-embedding-ada-002."
  • При необходимости извлекает ключевые слова для уточнения релевантности поиска
• Поиск ИИ Azure извлекает соответствующие данные: внедрение или ключевые слова используются для выполнения семантического поиска по индексированному содержимому (например, PDF-файлам) в службе "Поиск ИИ Azure".
• Объедините результаты с вопросом: наиболее релевантные фрагменты документов (блоки) объединяются с исходным вопросом пользователя.
• Azure OpenAI создает ответ: объединенные входные данные передаются в модель GPT (например, gpt-35-turbo или gpt-4), которая создает ответ с учетом контекста.
• Ответ возвращается пользователю: созданный ответ отображается в интерфейсе чата.

Предварительные условия

Среда контейнера для разработки доступна со всеми зависимостями, необходимыми для завершения работы над этой статьей. Контейнер разработки можно запустить в GitHub Codespaces (в браузере) или локально с помощью Visual Studio Code.

Чтобы использовать эту статью, вам потребуются следующие предварительные требования:

Затраты на использование образцов ресурсов

Большинство ресурсов, используемых в этой архитектуре, попадают под базовые или ценовые категории на основе потребления. Это означает, что вы оплачиваете только то, что вы используете, и плата обычно минимальна во время разработки или тестирования.

Для выполнения этого примера может потребоваться небольшая стоимость использования таких служб, как Azure OpenAI, поиск ИИ и хранилище. После завершения оценки или развертывания приложения можно удалить все подготовленные ресурсы, чтобы избежать текущих расходов.

Подробные сведения о ожидаемых затратах см. в описании оценки затрат в репозитории GitHub для примера.

Открытие среды разработки

Начните с настройки среды разработки со всеми зависимостями, установленными для выполнения этой статьи.

Открытие среды разработки

Используйте следующие инструкции для развертывания предварительно настроенной среды разработки, содержащей все необходимые зависимости для выполнения этой статьи.

Развертывание приложения чата в Azure

Пример репозитория включает все, что необходимо для развертывания чата с собственным приложением данных в Azure, в том числе:

• Исходный код приложения (Python)
• Файлы инфраструктуры как кода (Bicep)
• Настройка интеграции GitHub и CI/CD (необязательно)

Используйте следующие шаги для развертывания приложения с помощью Azure Developer CLI (azd).

1. На панели терминала Visual Studio Code создайте ресурсы Azure и разверните исходный код, выполнив следующую azd команду:

   azd up
   

2. Процесс запрашивает один или несколько следующих параметров на основе конфигурации:

   • Имя среды: это значение используется в качестве части имени группы ресурсов. Введите короткое имя с строчными буквами и дефисами (-), например myenv. Прописные буквы, цифры и специальные символы не поддерживаются.

   • Подписка: выберите подписку для создания ресурсов. Если вы не видите нужную подписку, используйте клавиши со стрелками для прокрутки полного списка доступных подписок.

   • Расположение: это расположение региона используется для большинства ресурсов, включая размещение. Выберите расположение региона рядом с вами.

   • Расположение для модели OpenAI или ресурса Аналитики документов: выберите ближайшее к вам географическое расположение. Если регион, выбранный для вашего расположения , доступен для этого параметра, выберите тот же регион.

   Развертывание приложения может занять некоторое время. Дождитесь завершения развертывания, прежде чем продолжить.

3. После успешного развертывания приложения на панели терминала отображается URL-адрес конечной точки:

   

4. Выберите URL-адрес конечной точки, чтобы открыть приложение чата в браузере:

   

Использование приложения чата для получения ответов из PDF-файлов

Приложение чата предварительно загружено с информацией о преимуществах сотрудников из PDF-файлов. Вы можете использовать приложение чата, чтобы задать вопросы о преимуществах. В следующих шагах описан процесс использования приложения чата. Ответы могут отличаться по мере обновления базовых моделей.

1. В приложении чата выберите параметр "Что происходит в проверке производительности" или введите тот же текст в текстовом поле чата. Приложение возвращает начальный ответ:

   

2. В поле ответа выберите ссылку:

   

3. GitHub Codespaces открывает правую панель "Ссылка" с тремя вкладками, и фокус находится на вкладке "Ссылка".

   

   GitHub Codespaces предоставляет три вкладки сведений, которые помогут вам понять, как приложение чата создало ответ:

   Вкладка	Описание
   Процесс мысли	Отображает сценарий вопрос-ответ в чате. Вы можете просмотреть содержимое, предоставленное приложением systemчата, вопросы, введенные userсистемой, и уточнения, сделанные системой assistant.
   Вспомогательное содержимое	Выводит сведения, используемые для ответа на ваш вопрос и исходный материал. Количество ссылок на исходные материалы указывается параметрами разработчика. Число ссылок по умолчанию равно 3.
   Цитата	Показывает исходный источник для выбранной ссылки.

4. По завершении выберите выбранную в данный момент вкладку в правой области. Правая панель закрывается.

Изменение поведения ответа с помощью параметров

Конкретная модель OpenAI определяет аналитику чата и параметры, используемые для взаимодействия с моделью. В разделе "Параметры разработчика" откроется панель создания ответов, в которой можно изменить параметры для приложения чата:

Ниже описан процесс изменения параметров.

1. В браузере выберите параметр "Параметры разработчика ".

2. Установите флажок "Предложить дальнейшие вопросы ", чтобы включить этот параметр, и нажмите кнопку "Закрыть ", чтобы применить изменение параметра.

3. В приложении чата повторно введите этот вопрос, введя текст в поле вопроса:

   What happens in a performance review?
   

   Ответ приложения чата теперь включает предлагаемые ответы на следующие вопросы:

   

4. Снова выберите опцию Настройки разработчика и отмените выбор Использовать семантический ранжировщик для поиска. Закройте параметры.

5. Задайте тот же вопрос еще раз и обратите внимание на разницу в ответе от приложения чата.

   С помощью семантического рангера: "Во время проверки производительности в Contoso Electronics ваш руководитель обсудит производительность за прошлый год и предоставит отзыв о областях для улучшения. Вы также сможете обсудить свои цели и цели в предстоящем году. Обзор является двусторонним диалогом между руководителями и сотрудниками, и сотрудников призывают быть честными и открытыми во время процесса (1). Отзывы, предоставляемые во время проверки, должны быть положительными и конструктивными, направленными на то, чтобы помочь сотрудникам развиваться и расти в своих ролях. Сотрудники получат письменное сводку по их оценке производительности, которая будет включать оценку их производительности, отзывов и целей в предстоящий год (1)."

   Без семантического рангера: "Во время проверки производительности в Contoso Electronics ваш руководитель обсудит производительность за прошлый год и предоставит отзыв о областях для улучшения. Это двусторонний диалог, где вы поощряете быть честным и открытым (1). Отзывы, предоставляемые во время обзора, должны быть положительными и конструктивными, направленными на то, чтобы помочь вам развивать и расти в вашей роли. Вы получите письменное резюме обзора, включая рейтинг вашей производительности, отзывов и целей в предстоящий год (1)."

Очистка ресурсов

После завершения упражнения рекомендуется удалить все ресурсы, которые больше не требуются.

Очистка ресурсов Azure

Эти ресурсы Azure, созданные в этой статье, оплачиваются из вашей подписки Azure. Если вы не ожидаете, что эти ресурсы потребуются в будущем, удалите их, чтобы избежать дополнительных расходов.

Удалите ресурсы Azure и удалите исходный код, выполнив следующую azd команду:

azd down --purge --force

Ниже перечислены переключатели команд:

• purge: Удаленные ресурсы удаляются немедленно. Этот параметр позволяет повторно использовать метрику токенов Azure OpenAI в минуту (TPM).
• force: удаление происходит без уведомления, не требуя согласия пользователя.

Работы по очистке GitHub Codespaces

Получить помощь

Этот пример репозитория содержит сведения об устранении неполадок.

Если проблема не устранена, добавьте проблему на веб-страницу "Проблемы репозитория".

Связанный контент

• Получите исходный код для примера, используемого в этой статье.
• Лучшие практики проектирования архитектуры решения для создания приложения чата с Azure OpenAI
• Управление доступом в генеративных приложениях ИИ с помощью Azure AI Search
• Создайте готовое для предприятия решение OpenAI с помощью Azure API Management.
• Превосходящий векторный поиск с гибридными возможностями извлечения и ранжирования