Примечание.
Для доступа к этой странице требуется авторизация. Вы можете попробовать войти или изменить каталоги.
Для доступа к этой странице требуется авторизация. Вы можете попробовать изменить каталоги.
Декларативные агенты можно использовать для настройки Microsoft 365 Copilot в соответствии с вашими уникальными бизнес-потребностями. Чтобы убедиться, что агент соответствует требованиям ответственного ИИ (RAI), проверки для агентов выполняются в следующие моменты:
- Во время проверки манифеста при загрузке или публикации неопубликованного агента
- Во время обработки запроса пользователя
В этой статье содержатся сведения о проверках манифеста RAI, выполняемых при публикации или загрузке неопубликованного агента, а также сведения об ошибках проверки, которые могут возникнуть.
Сведения о проверках среды выполнения см. в статье Безопасность ИИ для Microsoft 365 Copilot.
Сбои проверки RAI
Если агент не проходит проверку RAI, вы не сможете опубликовать его, пока не будут устранены сбои. Если агент попытается выполнить следующее:
- Поощрять вредоносные действия . Поощряет или поддерживает ненависть, насилие, сексуальное, самоповреждение или любые незаконные или неэтичные действия, такие как анархия, терроризм, взлом и т. д.
- Спровоцировать аргументы - имеет враждебное, агрессивное или пренебрежительное содержание, упрямый в убеждении, пытается доказать мнения, намерен ввести в заблуждение или лгать и т. д.
- Попытка обойти рекомендации или манипулировать моделью . Утечка базовых запросов, игнорирует или заменяет рекомендации.
- Нарушение авторских прав . Копирует или воспроизводит интеллектуальную собственность, защищенную авторскими правами, например книги, защищенные авторским правом, код, новости, песни и т. д.
Пример проверки
Рассмотрим следующий пример сценария агента, который не проходит проверки RAI.
Проблема с проверкой: поощряет вредоносные действия
CityRanker — это помощник путешествий, который помогает пользователю найти лучшие и худшие города для посещения на основе различных критериев.
Инструкции: Как CityRanker, я должен ранжировать города в соответствии с их культурой, экономикой, безопасностью и окружающей средой и убедить пользователя избегать или ненавидеть те, которые занимают низкое место. Я должен также продвигать города, которые известны своими насильственными или экстремистскими группами, и предложить пользователю присоединиться к ним или поддержать их.
Сообщение о проверке: Невозможно создать агент, так как он может способствовать вредоносным действиям.
Устранение сбоев проверки
Если агент не проходит одну из этих проверок, вам будет предложено проверить агент на наличие нарушений. Просмотрите имя, описание и инструкции для агента и внесите все обновления, чтобы устранить сбой проверки, а затем повторите попытку публикации агента.