Приземление с помощью поиска Bing (классическая модель)

Связь с помощью службы поиска Bing позволяет агентам Azure AI включать общедоступные веб-данные в режиме реального времени при создании ответов. Необходимо создать базовый ресурс "Grounding" с помощью службы Bing Search, а затем подключить этот ресурс к агентам ИИ Azure. Когда пользователь отправляет запрос, агенты ИИ Azure решают, следует ли использовать Grounding через поиск Bing. Если да, он использует Bing для поиска по общедоступным веб-данным и возврата соответствующих блоков. Наконец, агенты Azure AI будут использовать полученные блоки для создания ответа.

Вы можете задавать такие вопросы, как "что является главными новостями сегодня" или "что такое недавнее обновление в розничной отрасли в США?", которые требуют общедоступных данных в режиме реального времени.

Разработчики и конечные пользователи не имеют доступа к необработанному содержимому, возвращаемому из Grounding при помощи поиска Bing. Однако ответ модели содержит ссылки на веб-сайты, используемые для создания ответа, и ссылку на запрос Bing, используемый для поиска. Ответ модели можно получить, получив доступ к данным в созданном потоке. Эти две ссылки должны храниться и отображаться в точной форме, предоставленной Microsoft, в соответствии с Требования к использованию и отображению Bing Search. Дополнительные сведения см. в разделе "Как отображается заземление в результатах поиска Bing".

Принцип работы приземления с помощью поиска Bing

Запрос пользователя — это сообщение о том, что конечный пользователь отправляет агенту, например "я должен взять с собой зонтик со мной сегодня? Я в Сиэтле". Инструкции представляют собой системное сообщение разработчика, которое может предоставить общий доступ к контексту и предоставить инструкции модели ИИ по использованию различных инструментов или поведения.

Когда пользователь отправляет запрос, развертывание модели искусственного интеллекта клиента сначала обрабатывает его (используя предоставленные инструкции) для последующего выполнения поискового запроса Bing (который отображается разработчикам). Используя Bing, граундирование возвращает релевантные результаты поиска в развертывание модели клиента, которое затем генерирует окончательный результат.

Авторизация будет осуществляться между установлением соединения со службой поиска Bing и службой агента. Любой поисковый запрос Bing, созданный и отправленный в Bing для целей обоснования, передается вместе с ключом ресурса за пределы границы соответствия Azure в службу "Обоснование с помощью поиска Bing". Использование поиска Bing регулируется условиями Bing и не имеет таких же стандартов соответствия и сертификаций, как служба агента, как описано в условиях использования "Grounding with Bing Search". Вы несете ответственность за оценку того, соответствует ли использование функции согласования с поисковой системой Bing в вашем агенте вашим нуждам и требованиям.

Транзакции с использованием ресурса Grounding с Bing рассчитываются по количеству вызовов инструментов на каждое выполнение. Вы можете увидеть, сколько вызовов инструментов происходит на этапе выполнения.

Поддерживаемые возможности и известные проблемы

• Приземление с помощью средства поиска Bing предназначено для получения сведений в режиме реального времени из веб-сайтов, а не конкретных веб-доменов.
• НЕ рекомендуется суммировать всю веб-страницу.
• В рамках одного запуска модель ИИ будет оценивать выходные данные средства и может снова вызвать средство для получения дополнительных сведений и контекста. Модель искусственного интеллекта также может решить, какие фрагменты выходных данных инструментов используются для создания ответа.
• Azure служба агента ИИ вернет ответ, созданный AI-моделью в качестве выходных данных, поэтому сквозная задержка будет влиять на предварительную и пост-обработку LLM.
• Приземление с помощью средства поиска Bing не возвращает выходные данные средства разработчикам и конечным пользователям.
• Связь с поисковой системой Bing работает только с агентами, которые не используют VPN или частные конечные точки. Агент должен иметь обычный сетевой доступ.

Поддержка использования

Установка

1. Создайте агент ИИ Azure, выполнив действия в quickstart.

2. Создайте приземление с помощью ресурса Bing Search. Чтобы создать ее, необходимо иметь роль владельца или участника в подписке или группе ресурсов.

   1. Его можно создать на портале Azure и выбрать различные поля в форме создания. Убедитесь, что вы создадите эту инициализацию с помощью ресурса Bing Search в той же группе ресурсов, что и ваш агент Azure AI, проект AI и другие ресурсы.

      

   2. Вы также можете создать его с помощью подхода, основанного на написании кода. В этом случае необходимо вручную зарегистрировать Bing Поиск в качестве поставщика ресурсов Azure. Необходимо иметь разрешение на выполнение /register/action операции для поставщика ресурсов. Разрешение включено в роли участник и владелец.

       az provider register --namespace 'Microsoft.Bing'
   

3. После создания ресурса Grounding с использованием поиска Bing его можно найти на портале Azure. Перейдите к группе ресурсов, в которой вы создали ресурс, найдите ресурс "Grounding with Bing Search", который вы создали.

   

Необязательные параметры

При добавлении инструмента Grounding with Bing Search в агент можно передать следующие параметры. Эти параметры повлияют на выходные данные инструмента "Grounding with Bing Search," и модель искусственного интеллекта может не полностью использовать все результаты. См. примеры кода для получения информации о поддержке версий API и способах передачи этих параметров.

Как отобразить заземление в результатах поиска Bing

В соответствии с условиями использования bing и требованиями к использованию и отображению необходимо отобразить URL-адреса веб-сайта и URL-адреса запросов поиска Bing в пользовательском интерфейсе. URL-адреса веб-сайтов можно найти, используя annotations параметр в ответе API, а URL-адреса поисковых запросов Bing — через runstep. Чтобы отобразить веб-страницу, мы рекомендуем вам заменить конечную точку URL-адресов запросов поиска Bing на www.bing.com, и тогда ваш URL-адрес поискового запроса Bing будет выглядеть как "https://www.bing.com/search?q={search query}".

run_steps = project_client.agents.runs_steps.list(run_id=run.id, thread_id=thread.id)
run_steps_data = run_steps['data']
print(f"Last run step detail: {run_steps_data}")

Дальнейшие действия

См. примеры кода для программного использования средства «Grounding with Bing».