Повышение качества ответов ИИ с помощью Retrieval Augmented Generation

Retrieval Augmented Generation (RAG) в Microsoft Copilot Studio объединяет возможности рассуждения языковых моделей с надежными знаниями, специфичными для организации. Он позволяет агентам создавать точные, контекстуальные и обоснованные ответы на основе содержания предприятия, а не полагаться исключительно на память модели.

Из этой статье вы узнаете:

• Как RAG повышает надежность и обоснованность искусственного интеллекта.
• Как Copilot Studio извлекает и синтезирует знания.
• Определять поддерживаемые источники знаний и их ограничения.
• Учитывать вопросы управления, соответствия требованиям и безопасности ИИ.
• Применять концепции RAG при проектировании агентов в корпоративных средах.

Введение в RAG

RAG — это шаблон проектирования, который повышает точность ИИ за счет объединения двух возможностей:

• Извлечение информации: поиск в корпоративных источниках данных.
• Генерация текста: синтез полученной информации с помощью языковой модели.

Этот метод уменьшает недостоверную информацию, повышает доверие и обеспечивает ответы, основанные на данных организации.

Архитектура RAG в Copilot Studio

RAG-платформа Copilot Studio реализована на базе служб ИИ Azure и тесно интегрирована с принципами доверия, соответствия требованиям и безопасности Microsoft.

Основные компоненты:

• Среда выполнения Copilot Studio: управляет разговорным конвейером
• Механизм оптимизации запросов: переписывает и интерпретирует запросы
• Поставщики поиска: Bing, SharePoint, Graph, Dataverse, ИИ-поиск Azure
• Механизм резюмирования: создает обоснованные ответы с цитатами
• Слои модерации: проверяют сообщения и сводки
• Хранилище состояния: кратковременная память (менее 30 дней; не используется для обучения)
• Хранилища телеметрии и обратной связи: обеспечивают аналитическую оценку и надзор

Как работает RAG в Copilot Studio

RAG в Copilot Studio следует четырехшаговому процессу:

1. Переписывание запроса
2. Извлечение контента
3. Резюмирование и генерация ответа
4. Проверка безопасности и управления

1. Переписывание запроса

Copilot Studio оптимизирует вопрос пользователя перед поиском:

• Проясняет смысл
• Добавляет контекстные сигналы (последние 10 реплик)
• Улучшает сопоставление ключевых слов
• Генерирует поисковые запросы, оптимизированные для поиска

Этот процесс повышает качество поиска и уменьшает количество нерелевантных результатов.

2. Извлечение контента

После переписывания запроса система выполняет его для всех настроенных вами источников знаний. Copilot Studio получает три лучших результата из каждого источника, балансируя релевантность и производительность. Поведение каждого источника знаний варьируется в зависимости от таких факторов, как аутентификация, индексация, форматы файлов и ограничения хранения.

В следующей таблице приведены все поддерживаемые источники знаний и их возможности, ограничения и требования к аутентификации:

3. Резюмирование и генерация ответов

• ИИ синтезирует извлеченный контент
• Применяет пользовательские инструкции по тону, форматированию, безопасности или краткости
• Генерирует ссылки на исходные данные
• Персонализирует ответы с учетом пользовательского контекста (например, язык, отдел или регион)

4. Проверка безопасности и управления

Каждый ответ проходит через автоматизированные этапы проверки:

• Модерация вредных, злонамеренных, не соответствующих политике или защищенных авторским правом ответов
• Валидация привязки к данным и удаление неверной информации

Данные клиентов не используются для обучения языковых моделей.

Ключевые замечания при использовании RAG

RAG лучше всего работает для фактических вопросов и ответов, но не предназначен для глубокого анализа документов.

RAG идеально подходит для выполнения следующих задач:

• Ответы на вопросы по базам знаний
• Резюмирование политик, часто задаваемых вопросов и процедурного контента
• Извлечение конкретных данных из файлов или внутренних систем

RAG не подходит для выполнения следующих задач:

• Сравнение документов целиком
• Оценка соответствия требованиям политики
• Сложные рассуждения над длинными неструктурированными документами

Аспекты безопасности и соответствия генеративного ИИ

Функции генеративного ИИ в Microsoft Copilot Studio разработаны для обеспечения мощных возможностей ведения разговоров и рассуждений при сохранении надежных механизмов безопасности, конфиденциальности и соответствия.

Базовые модели и хостинг

• Copilot Studio опирается на базовые модели, которые обучает OpenAI.
• Copilot Studio использует одну из новейших моделей OpenAI для генеративных ответов.
• Модели полностью работают на внутренних службах ИИ Azure Foundry, соответствующих границе доверия Microsoft Services Trust.
• Вся работа с моделями осуществляется в соответствии с принципами и политиками ответственного применения ИИ Майкрософт.

Пользовательские инструкции

Создатели могут предоставлять пользовательские инструкции для формирования поведения моделей, изменения тона или добавления правил форматирования. Эти инструкции помогают адаптировать генерируемые ответы к потребностям организации, при этом соблюдая требования фильтров безопасности и контроль соответствия.

Хранение и обработка данных

• Хранение и обработка данных в Copilot Studio может предполагать перемещение данных через региональные границы, когда локальный хостинг моделей недоступен.
• Если такое перемещение данных запрещено, администраторы могут использовать настройки среды для отключения определенных функций, таких как языковые модели Azure или Поиск Bing.
• Copilot Studio не собирает и не использует данные клиентов для обучения языковых моделей.

Операционная обработка данных

• Во время работы система временно сохраняет разговоры в защищенном, управляемом Microsoft хранилище.
• Доступ уполномоченных сотрудников Microsoft ограничен с помощью Secure Access Workstations (SAWs) с контролем Just-In-Time (JIT).
• Организации могут дополнительно контролировать доступ с помощью Защищенного хранилища, требуя явного разрешения, прежде чем инженеры поддержки Microsoft смогут просматривать данные.

Диагностическая телеметрия

• Функции генеративного ИИ создают дополнительные данные для устранения неполадок, но только для действий, инициированных создателем в панели тестирования, а именно когда создатель оценивает ответ положительно или отрицательно.
• Никакие дополнительные данные клиентов не фиксируются вне этого явного цикла обратной связи.

Мониторинг злоупотреблений и безопасность

Поскольку несколько уровней безопасности уже защищают функции генеративного ИИ, генеративный ИИ в Copilot Studio отключает мониторинг злоупотреблений ИИ Azure во избежание дополнительного журналирования данных клиентов.