Карта приложения: Microsoft 365 Copilot

Что такое карта приложения или платформы?

Карточки приложений и платформ майкрософт предназначены для того, чтобы помочь вам понять, как работает наша технология ИИ, как владельцы приложений могут повлиять на производительность и поведение приложения, а также важность рассмотрения всего приложения, включая технологию, людей и среду. Карточки приложений создаются для приложений ИИ, а карточки платформы — для служб платформы ИИ. Эти ресурсы могут поддерживать разработку или развертывание собственных приложений и предоставляться пользователям или заинтересованным лицам, на которые они влияют.

В рамках своей приверженности ответственному использованию ИИ корпорация Майкрософт придерживается шести основных принципов: справедливости, надежности и безопасности, конфиденциальности и безопасности, инклюзивности, прозрачности и подотчетности. Эти принципы внедрены в Standard ответственного ИИ, который помогает командам проектировать, создавать и тестировать приложения ИИ. Карточки приложений и платформ играют ключевую роль в практическом применении этих принципов, обеспечивая прозрачность в отношении возможностей, предполагаемого использования и ограничений. Для получения дополнительных сведений читателям рекомендуется ознакомиться с отчетом о прозрачности ответственного ИИ Корпорации Майкрософт и кодексом поведения служб ИИ ( для организаций) или разделом "Кодекс поведения" в Соглашении об использовании служб Майкрософт (для частных лиц), в которых описано, как ответственно взаимодействовать с ИИ.

Обзор

Microsoft 365 Copilot — это средство повышения производительности на основе ИИ, которое помогает повысить творческий потенциал, производительность и навыки с помощью больших языковых моделей (LLM) и содержимого, к которому у вас есть доступ. Он предоставляет интеллектуальную помощь в режиме реального времени, работая вместе с популярными приложениями и службами Microsoft 365, такими как Word, Excel, PowerPoint, Outlook, Teams и многое другое.

Например, на работе можно Microsoft 365 Copilot подвести итоги пропущенного собрания Teams. Дома вы можете использовать Microsoft 365 Copilot для создания слайд-шоу с помощью фотографий из вашего семейного отпуска.

Дополнительные сведения о организациях см. в Microsoft 365 Copilot обзоре и Microsoft 365 Copilot концентраторе. Для отдельных пользователей см. Microsoft 365 Copilot справку и обучение.

Основные термины

В следующей таблице представлен глоссарий ключевых терминов, связанных с Microsoft 365 Copilot.

Ключевые функции или возможности

Основные функции и возможности в следующей таблице описывают, какие Microsoft 365 Copilot предназначены для выполнения и как он выполняется в поддерживаемых задачах.

Расширяемость и настройка

Функция конструктора агентов в Microsoft 365 Copilot и Copilot Studio — это средства для создания безопасных, масштабируемых и интеллектуальных агентов, работающих в Microsoft 365 и бизнес-системах. Оба средства позволяют создавать агенты, но они удовлетворяют разные потребности. Используйте функцию Построитель агентов, если вы хотите быстро создать агент для себя или небольшой команды, используя естественный язык и существующее содержимое. Выберите Copilot Studio, если вам нужен агент для более широкой аудитории или если агенту требуются расширенные возможности, такие как многоэтапные рабочие процессы или пользовательские интеграции. Дополнительные сведения см. в статье Выбор между Microsoft 365 Copilot и Copilot Studio для создания агента и декларативного агента для Microsoft 365 Copilot.

Для разработчиков Пакет SDK агентов Microsoft 365 предоставляет средства для создания агентов, которые тесно работают с приложениями и службами Microsoft 365.

Предполагаемое использование

Microsoft 365 Copilot можно использовать в нескольких сценариях в различных отраслях. Ниже приведены некоторые примеры вариантов использования:

• Взаимодействие и создание чатов и бесед: Пользователи могут взаимодействовать с Microsoft 365 Copilot Chat и создавать ответы, полученные из доверенных документов, таких как внутренняя документация компании или документация службы технической поддержки.
• Поиск: Пользователи могут выполнять поиск в надежных исходных документах, таких как внутренняя документация компании.
• Уплотнения: Пользователи могут отправлять содержимое для сводки по предопределенным разделам, встроенным в приложение. Примеры включают сводные данные о чатах Teams, сообщениях электронной почты, веб-страницах и Word документах.
• Помощь по написанию по определенным темам: Пользователи могут создавать новое содержимое или перезаписывать содержимое, отправленное пользователем в качестве справки по написанию бизнес-содержимого или предопределенных тем. Например, создание сообщений электронной почты в Microsoft Outlook или написание содержимого в Microsoft Word.
• Субтитры или транскрибирование: Пользователи могут транскрибировать звуковые файлы в текст для распознавания естественного языка или аналитических задач, таких как сводные данные. Примерами могут быть стенограммы собраний Teams и видео в видеопроигрывателье Microsoft Clipchamp.

Корпорация Майкрософт предоставляет подробное руководство, в котором рассматриваются распространенные варианты использования и сценарии, чтобы помочь клиентам ускорить внедрение Microsoft 365 Copilot возможностей в своих организациях. Дополнительные сведения см . в статье Библиотека сценариев Майкрософт — внедрение Майкрософт.

Модели и обучающие данные

Microsoft 365 Copilot использует различные модели ИИ для работы пользователей. Некоторые примеры включают генеративные предварительно обученные преобразователи OpenAI (GPT), предоставляемые службой Azure OpenAI, такие как модели серий GPT-4 и GPT-5, Anthropic а также Claude Opus и Claude Sonnet. Дополнительные сведения о данных, используемых для обучения этих моделей за Microsoft 365 Copilot, см. в следующих ресурсах:

• Примечание о прозрачности для Azure OpenAI
• Anthropic: системные карточки модели

Microsoft 365 Copilot использует сочетание LLM, предоставляемых службой Azure OpenAI и Anthropic для подведения итогов, прогнозирования и создания содержимого. Это позволяет нам соответствовать конкретным потребностям каждой функции, например скорости, творчества, правильной модели, чтобы Microsoft 365 Copilot могли предоставлять интеллектуальную помощь в режиме реального времени, которая позволяет пользователям повысить свой творческий потенциал, производительность и навыки. Дополнительные сведения о модулях LLM, предоставляемых Корпорации Майкрософт openAI, см. в общедоступной документации по модели — API OpenAI.

Производительность

Во многих системах ИИ производительность часто определяется в зависимости от точности, т. е. того, как часто система ИИ предлагает правильный прогноз или выходные данные. При Microsoft 365 Copilot два разных пользователя могут смотреть на одни и те же выходные данные и иметь разные мнения о том, насколько они полезны или релевантны. Это означает, что производительность этих систем должна определяться более гибко. Мы широко рассматриваем производительность как то, что приложение работает так, как ожидается пользователям.

Как работает Microsoft 365 Copilot

• Microsoft 365 Copilot получает запрос на ввод от пользователя в приложении, например Word или PowerPoint. Список поддерживаемых языков см. в разделе Поддерживаемые языки для Microsoft 365 Copilot.
• Microsoft 365 Copilot затем обрабатывает запрос, что повышает специфику запроса, чтобы помочь пользователю получить ответы, которые имеют отношение к конкретной задаче. Запрос может включать текст из входных файлов или другого содержимого, обнаруженного Microsoft 365 Copilot с помощью Microsoft Graph, и Microsoft 365 Copilot отправляет этот запрос в LLM для обработки. Microsoft 365 Copilot обращается только к данным, к которым имеет доступ отдельный пользователь, на основе, например, существующих элементов управления доступом на основе ролей Microsoft 365.
• Microsoft 365 Copilot принимает ответ от LLM и после обрабатывает его. Эта постобработка включает в себя другие вызовы заземления к Microsoft Graph, ответственные проверки ИИ, такие как классификаторы содержимого, проверки безопасности, соответствия требованиям и конфиденциальности, а также создание команд.
• Microsoft 365 Copilot возвращает ответ приложению, где пользователь может просмотреть и оценить ответ.

Данные шифруются во время хранения и не используются для обучения Anthropic или Azure базовых LLM-модулей службы OpenAI, в том числе используемых Microsoft 365 Copilot. Дополнительные сведения об этом см. в статье Данные, конфиденциальность и безопасность для Microsoft 365 Copilot.

Как Microsoft 365 Copilot создает ответы без веб-содержимого или организационных данных

Microsoft 365 Copilot не требуется веб-содержимое или организационные данные для предоставления ответа, но эта информация может помочь улучшить качество, точность и актуальность ответа. При реагировании без веб-данных или данных организации Microsoft 365 Copilot использует только свои LLM для понимания запросов и создания ответов. Процесс включает в себя анализ входных данных, использование внутренней база знаний модели и уточнение ответа, чтобы сделать его контекстуально подходящим.

Ограничения

Понимание ограничений Microsoft 365 Copilot имеет решающее значение для определения его использования в безопасных и эффективных границах. Хотя мы призываем клиентов использовать Microsoft 365 Copilot в своих инновационных решениях или приложениях, важно отметить, что Microsoft 365 Copilot не был разработан для всех возможных сценариев. Мы рекомендуем пользователям ссылаться на правила поведения служб ИИ ( для организаций) или правила поведения в Соглашении об использовании служб Майкрософт (для частных лиц), а также следующие рекомендации при выборе варианта использования:

• Совместимости: Хотя Microsoft 365 Copilot предназначен для эффективной работы с приложениями Microsoft 365, в некоторых средах могут возникать ограничения или проблемы с совместимостью, особенно со сторонними приложениями (не от Майкрософт) и настраиваемыми или нестандартными конфигурациями.

• Настройка и гибкость. Хотя Microsoft 365 Copilot можно адаптировать, существуют ограничения на то, сколько его можно настроить в соответствии с конкретными потребностями организации или рабочими процессами. Организации могут найти определенные функции или ответы жесткими или не полностью соответствующими требованиям организации.

• Зависимость от подключения к Интернету: Microsoft 365 Copilot для работы зависит от подключения к Интернету. Любое нарушение подключения может повлиять на доступность и производительность службы.

• Обучение и внедрение пользователей: Эффективное использование Microsoft 365 Copilot требует от пользователей понимания его возможностей и ограничений. Существует кривая обучения, и пользователи должны быть обучены, чтобы эффективно взаимодействовать со службой и извлекать выгоду из нее.

• Интенсивность ресурсов: Выполнение расширенных моделей ИИ требует значительных вычислительных ресурсов, что может повлиять на производительность, особенно в средах с ограниченными ресурсами. У пользователей могут возникнуть задержки или проблемы с производительностью во время пиковой нагрузки.

• Предвзятость, стереотипы и нераспределенное содержимое: Несмотря на интенсивное обучение OpenAI и Anthropic и реализацию корпорацией Майкрософт ответственных элементов управления ИИ в запросах пользователей и выходных данных LLM, службы ИИ являются ошибочной и вероятностной. Это усложняет комплексную блокировку всего неуместного содержимого, что приводит к потенциальным предубеждениям, стереотипам или необоснованности в создаваемом ИИ контенте. Дополнительные сведения об известных ограничениях содержимого, созданного ИИ, см. в заметке о прозрачности для Azure OpenAI, в которой содержатся ссылки на LLM за Microsoft 365 Copilot. Дополнительные сведения об известных ограничениях содержимого, созданного ИИ из Anthropic моделей, см. в разделе Anthropic: Системные карточки моделей.

• Поддерживаемые языки: В настоящее время Microsoft 365 Copilot поддерживает меньше языков, чем Microsoft 365. Если язык, который вы используете или запрашиваете в запросе, в настоящее время не поддерживается, появится сообщение об ошибке. Дополнительные сведения см. в разделе Поддерживаемые языки для Microsoft 365 Copilot.

• Потенциальные значительные физические или психологические травмы для человека. Избегайте использования или неправильного использования системы, что может привести к значительному физическому или психологическому повреждению человека. Например, сценарии, которые диагностируют пациентов или назначают лекарства, могут нанести значительный вред.

• Следовательное влияние на жизненные возможности или правовой статус. Избегайте использования или неправильного использования системы, которая может иметь косвенные последствия для возможностей жизни или правового статуса. Примеры включают сценарии, в которых система ИИ может повлиять на правовой статус, юридические права человека или его доступ к кредитам, образованию, занятости, здравоохранению, жилищному строительству, страхованию, социальным пособиям, услугам, возможностям или условиям, на которых они предоставляются.

• Домены или отрасли с высокими ставками. Тщательно рассмотрите варианты использования в доменах или отраслях с высокими ставками. Примеры включают, но не ограничиваются медицинскими или финансовыми.

Оценки

Оценки производительности и безопасности оценивают, работают ли приложения ИИ надежно и безопасно, путем изучения таких факторов, как обоснованность, релевантность и согласованность, при выявлении рисков создания вредоносного содержимого. Следующие оценки были проведены с уже имеющимися компонентами безопасности, которые также описаны в разделе Компоненты безопасности и меры по устранению рисков.

Оценка производительности и качества

Оценка производительности приложений ИИ необходима для повышения их надежности в реальных приложениях. Такие метрики, как релевантность отклика, точность и обоснованность, помогают оценить точность и согласованность выходных данных, созданных ИИ, чтобы они фактически поддерживались в сценариях с обоснованным содержимым, контекстуально подходящими и логически структурированными. Для Microsoft 365 Copilot мы регулярно проводим тщательные оценки качества по нескольким метрикам, таким как релевантность, точность и обоснованность.

Методы оценки производительности и качества

Microsoft 365 Copilot оценивалась с использованием текстовых сценариев и сценариев на основе изображений, отражающих работу пользователей в приложениях Microsoft 365. Для оценки таких метрик, как обоснованность, качество отклика и релевантность ссылок, используются установленные методы LLM как судьи. Автономные тестовые наборы включали фактические запросы, понимание нескольких документов, обобщение и репрезентативные корпоративные сценарии. Эксперты по оценке оценили фактическую поддержку ответов, контекстуально подходящих и логически структурированных. Идеальные результаты отражают точное обоснование, четкое обоснование и согласованную производительность в различных вариантах одной и той же задачи. К неоптимальным результатам относятся неподдерживаемые утверждения, отсутствующие или нерелевантные ссылки, а также несогласованные выходные данные при аналогичных запросах.

Оценки рисков и безопасности

Оценка потенциальных рисков, связанных с содержимым, созданным СИ, имеет важное значение для защиты от рисков содержимого с разной степенью серьезности. Это включает в себя оценку склонности системы ИИ к созданию вредоносного содержимого или тестирование уязвимостей к атакам из джейлбрейка. Для Microsoft 365 Copilot ниже приведены некоторые оценки рисков и безопасности, которые мы провели:

• Ненависть и несправедливость
• Сексуальные сцены
• Насилие
• Причинение себе вреда
• Защищенный материал
• Непрямая тюрьма
• Прямой джейлбрейк
• Уязвимость кода
• Нераспределенные атрибуты

Методы оценки рисков и безопасности

Оценки рисков и безопасности использовали текстовые состязательности и автоматические классификаторы для оценки потенциального вреда, включая ненависть, сексуальное содержимое, насилие, самоповреждение, утечку защищенного материала, попытки взлома и необоснованные атрибуты. Тесты сочетали оценки LLM-судей с обнаружением на основе классификатора и ручным тестированием, если это необходимо. Идеальные результаты перенаправляют или отклоняют небезопасные запросы и поддерживают согласованное сохранение границ в различных вариантах запросов. Неоптимальные результаты включают создание вредоносного содержимого, несогласованное реагирование на состязательные входные данные или подверженность методам джейлбрейка.

Компоненты безопасности и меры по устранению рисков

По мере того как мы определили потенциальные риски и неправильное использование с помощью таких процессов, как тестирование красной команды, и измерили их, мы разработали меры по устранению рисков для снижения потенциального вреда. В следующем списке описаны некоторые из этих мер. Мы продолжим оценивать возможности Microsoft 365 Copilot для повышения производительности продукта и устранения рисков.

• Поэтапный выпуск, непрерывная оценка. Мы стремимся постоянно учиться и совершенствовать наш подход к ответственному использованию ИИ по мере развития наших технологий и поведения пользователей. Мы регулярно вносим изменения в Microsoft 365 Copilot для повышения производительности продукта, улучшения существующих мер по устранению рисков и внедрения новых мер в ответ на наши знания.

• Заземление бизнес-данных. Известный риск для больших языковых моделей — это их способность создавать нераспределенное содержимое, которое выглядит правильно, но отсутствует в исходных материалах. Важной мерой в Microsoft 365 Copilot является заземление созданного ИИ содержимого в соответствующих бизнес-данных, к которым у пользователя есть доступ на основе своих разрешений. Например, на основе запроса Microsoft 365 Copilot предоставляется соответствующий бизнес-документ для того, чтобы ответ был основан на этих документах. Однако при обобщении содержимого из различных источников Microsoft 365 Copilot может включать в свой ответ информацию, которая отсутствует во входных источниках. Иными словами, это может привести к необоснованным результатам. Пользователи всегда должны быть осторожными и использовать свое наилучшее решение при использовании выходных данных из Microsoft 365 Copilot. Мы приняли несколько мер, чтобы снизить риск того, что пользователи могут чрезмерно полагаться на нераспределенное содержимое, созданное ИИ. Там, где это возможно, ответы в Microsoft 365 Copilot, основанные на бизнес-документах, включают ссылки на источники, чтобы пользователи проверили ответ и узнали больше. Пользователям также предоставляется явное уведомление о том, что они взаимодействуют с системой ИИ, и рекомендуется проверка исходные материалы, чтобы помочь им в их наилучшем суждении.

• Классификаторы на основе ИИ и метавыкания для снижения потенциальных рисков или неправильного использования. Использование LLM может создать проблемное содержимое, которое может привести к вреду. Примерами могут быть выходные данные, связанные с самоповреждения, насилием, графическим контентом, вопросами биобезопасности, защищенным материалом, неточной информацией, ненавистнительной речью или текстом, который может относиться к незаконной деятельности. Классификаторы, например классификаторы, доступные в Azure безопасности содержимого ИИ и метавыпасток, являются двумя примерами мер по устранению рисков, реализованных в Microsoft 365 Copilot для снижения риска таких типов контента. Классификаторы классифицируют текст, чтобы помечать различные типы потенциально опасного содержимого в запросах или созданных ответах. Microsoft 365 Copilot использует классификаторы на основе ИИ и фильтры содержимого. Флаги приводят к потенциальному устранению рисков, например не возврату созданного содержимого пользователю или перенаправлению пользователя к другому разделу. Корпорация Майкрософт предлагает определенные элементы управления фильтрацией содержимого для администраторов и пользователей, в которых фильтрация потенциально опасного или конфиденциального содержимого в Microsoft 365 Copilot Chat не соответствует их потребностям. Метавыставка включает в себя предоставление модели инструкций по ее поведению, в том числе для того, чтобы система вела себя в соответствии с принципами ИИ Майкрософт и ожиданиями пользователей. Например, метавывывуха может включать строку, например "Общаться на выбранном пользователем языке".

• Запрос на обогащение. В некоторых случаях запрос пользователя может быть неоднозначным. В этом случае Microsoft 365 Copilot могут использовать LLM для создания дополнительных сведений в запросе, чтобы пользователи могли получить нужный ответ. Такое обогащение запросов не зависит от каких-либо знаний пользователя или его предыдущих поисковых запросов, а на LLM.

• Ориентированное на пользователя проектирование и взаимодействие с пользователем. Ориентированное на пользователя проектирование и взаимодействие с пользователем являются важным аспектом подхода Корпорации Майкрософт к ответственному ИИ. Цель заключается в том, чтобы укоренять дизайн продукта с учетом потребностей и ожиданий пользователей. По мере того как пользователи впервые взаимодействуют с Microsoft 365 Copilot, мы предлагаем различные точки соприкосновения, предназначенные для того, чтобы помочь им понять возможности системы, сообщить им, что Microsoft 365 Copilot на основе ИИ, и сообщить об ограничениях.

• Раскрытие ИИ. Microsoft 365 Copilot предоставляет несколько точек соприкосновения для значимого раскрытия информации об ИИ, когда пользователи получают уведомления о том, что они взаимодействуют с системой ИИ, а также возможности узнать больше о Microsoft 365 Copilot. Например, при использовании Microsoft 365 Copilot в приложении Word наряду с уведомлением о том, что созданное ИИ содержимое может содержать ошибки. Предоставление пользователям этих знаний поможет им избежать чрезмерной зависимости от выходных данных, созданных ИИ, и узнать о сильных сторонах и ограничениях системы.

• Происхождение средств массовой информации. Для всех изображений, созданных с помощью функций редактирования Designer в Microsoft 365 Copilot, мы реализовали учетные данные содержимого, основанные на стандарте C2PA, чтобы помочь пользователям определить, были ли изображения изменены или созданы с помощью ИИ. Метаданные происхождения можно просмотреть на сайте Учетные данные содержимого.

• Обратная связь и текущая оценка. Интерфейс Microsoft 365 Copilot основан на существующих инструментах, позволяющих пользователям отправлять отзывы о наших продуктах. Пользователи могут отправлять отзывы о содержимом, созданном Microsoft 365 Copilot, с помощью панели, которая отображается после нажатия кнопок вверх или вниз в ответах. Отзывы, отправленные пользователями, используются для улучшения наших предложений в рамках наших обязательств по повышению производительности продукта. Администраторы клиентов могут просматривать отзывы, отправленные в Центр администрирования Microsoft 365. Мы также постоянно совершенствуем и проверяем производительность Microsoft 365 Copilot и конкретных мер по устранению рисков в рамках нашей текущей оценки и улучшения службы. Дополнительные сведения см. в статье Предоставление отзывов о Microsoft Copilot с приложениями Microsoft 365.

Наш подход к сопоставлению, измерению рисков и управлению ими будет продолжать развиваться по мере того, как мы узнаем больше, и мы уже вносим улучшения на основе отзывов, полученных от клиентов.

Рекомендации по развертыванию и внедрению Microsoft 365 Copilot

Ответственный ИИ — это общее обязательство корпорации Майкрософт и ее клиентов. Хотя корпорация Майкрософт создает системы ИИ с безопасностью, справедливостью и прозрачностью, клиенты играют важную роль в развертывании и использовании этих технологий в своих собственных контекстах. Чтобы поддержать это партнерство, мы предлагаем следующие рекомендации для разработчиков развертывания и конечных пользователей, которые помогут клиентам эффективно реализовать ответственный ИИ.

Развертывающие и конечные пользователи должны:

• Проявлять осторожность и оценивать результаты при использовании Microsoft 365 Copilot для принятия последовательных решений или в конфиденциальных областях. Последующие решения — это решения, которые могут оказать юридическое или значительное влияние на доступ человека к образованию, занятости, финансовым услугам, государственным пособиям, здравоохранению, жилищному обеспечению, страхованию, юридическим услугам или которые могут привести к физическому, психологическому или финансовому ущербу. Конфиденциальные области, такие как финансовые услуги, здравоохранение и жилье, требуют особого ухода из-за возможности непропорционального воздействия на различные группы людей. При использовании ИИ для принятия решений в этих областях убедитесь, что затронутые заинтересованные лица могут понять, как принимаются решения, обжаловать решения и обновить все соответствующие входные данные.

• Оцените юридические и нормативные аспекты: Клиенты должны оценивать потенциальные конкретные юридические и нормативные обязательства при использовании каких-либо служб и решений ИИ, которые могут быть не подходящими для использования в любой отрасли или сценарии. Кроме того, службы или решения ИИ не предназначены для использования и не могут использоваться способами, запрещенными применимыми условиями обслуживания и соответствующими правилами поведения.

• Разрешить ссылки на веб-содержимое. Предоставление Microsoft 365 Copilot ссылок на веб-содержимое может повысить качество, точность и релевантность Microsoft 365 Copilot ответов, когда ответ будет выгоде от текущей, общедоступной информации из Интернета. Обратите внимание, однако, что когда Microsoft 365 Copilot ссылается на веб-содержимое, он делает это через службу Поиск Bing, а методы обработки данных для Поиск Bing запросов отличаются от того, как данные обрабатываются Microsoft 365 Copilot. Использование Bing регулируется Соглашением об использовании служб Майкрософт между каждым пользователем и Майкрософт, а также Заявлением о конфиденциальности Майкрософт.

• Расширение заземления в Microsoft Graph. Microsoft 365 Copilot использует данные из Microsoft Graph для получения ответов в данных организации, таких как сообщения электронной почты, чаты, файлы и календари. Расширяя Microsoft Graph организационными данными из таких источников, как системы CRM или внешние репозитории файлов, организации могут включать дополнительную контекстную важную информацию, которая еще больше повышает полноту и точность Microsoft 365 Copilot ответов.

Конечные пользователи должны:

Чтобы повысить производительность по отношению к точности выходных данных Microsoft 365 Copilot, рекомендуется, чтобы организации учитывали следующее:

• Напишите хорошие запросы. Написание хороших подсказок является ключом к улучшению результатов с помощью Microsoft 365 Copilot. Так же, как существуют методы, помогающие людям эффективно общаться с человеком, существуют рекомендации, которые могут помочь пользователям получить лучшие результаты с помощью Microsoft 365 Copilot при написании запросов. Например: включать сведения, структурировать запросы, предоставлять положительные инструкции, итерировать и повторно, а также всегда проверять и проверять ответы, созданные ИИ. Дополнительные сведения см. в статье Получение лучших результатов с помощью запроса Copilot.

• Осуществляйте контроль человека, когда это необходимо: Контроль человека является важной защитой при взаимодействии с системами ИИ. Хотя мы постоянно совершенствуем наши системы ИИ, ИИ по-прежнему может делать ошибки. Созданные выходные данные могут быть неточными, неполными, предвзятыми, несоответственными или не имеющими отношения к поставленным целям. Это может произойти по различным причинам, таким как неоднозначность входных данных или ограничения базовых моделей. Таким образом, пользователи должны проверить ответы, созданные Microsoft 365 Copilot, и убедиться, что они соответствуют ожиданиям и требованиям.

• Помните о риске чрезмерной зависимости: Чрезмерная зависимость от ИИ возникает, когда пользователи принимают неправильные или неполные выходные данные ИИ, главным образом потому, что ошибки в выходных данных ИИ могут быть трудно обнаружить. Для конечного пользователя чрезмерная зависимость может привести к снижению производительности, потере доверия, отказу от продукта, финансовым потерям, психологическому ущербу, физическому ущербу и т. д. (например, врач принимает неверные выходные данные ИИ). Для Microsoft 365 Copilot мы помогаем снизить этот риск, добавляя в наши продукты заявления об отказе, но пользователи по-прежнему должны проверять точность ответов.

• Соблюдайте осторожность при разработке агентского ИИ в конфиденциальных доменах: Пользователям следует проявлять осторожность при проектировании и (или) развертывании агентных систем ИИ в конфиденциальных доменах, где действия агента являются необратимыми или весьма последовательными. Дополнительные меры предосторожности также следует принимать при создании автономного агентского ИИ, как описано далее в кодексе поведения служб ИИ Microsoft Enterprise (для организаций) или в разделе Кодекс поведения в Соглашении об использовании служб Майкрософт (для частных лиц).

Средства развертывания должны:

Корпорация Майкрософт предоставляет такие средства, как панель мониторинга Microsoft Copilot для клиентов Microsoft 365, а также отчеты в Центр администрирования Microsoft 365. Эти средства предназначены для того, чтобы помочь организациям измерять использование, внедрение и влияние Microsoft 365 Copilot. Например, вы можете:

• Microsoft 365 Copilot отчет об использовании позволяет администраторам просматривать сводку по внедрению, хранению и взаимодействию пользователей с Microsoft 365 Copilot для управления и оптимизации лицензий. Дополнительные сведения см. в разделе использование Microsoft 365 Copilot.
• Панель мониторинга Microsoft Copilot предоставляет руководителям, аналитикам и делегатам доступ к предварительно созданным отчетам о широком использовании Microsoft 365 Copilot и Copilot Chat организации для оценки внедрения и влияния. Дополнительные сведения см. в разделе Подключение к панели мониторинга Microsoft Copilot для клиентов Microsoft 365.
• Copilot Business Impact в Viva Аналитике позволяет аналитикам сравнивать использование Microsoft 365 Copilot с бизнес-метриками, чтобы понять ценность бизнеса. Дополнительные сведения см. в статье Отчет о влиянии copilot на бизнес.

Дополнительные сведения о Microsoft 365 Copilot

Дополнительные рекомендации по ответственному использованию Microsoft 365 Copilot мы рекомендуем ознакомиться со следующей документацией:

• Обзор Microsoft 365 Copilot
• Данные, конфиденциальность и безопасность для Microsoft 365 Copilot
• Расширяемость Microsoft 365 Copilot

Дополнительные сведения об ответственном ИИ

• принципы Microsoft AI
• Ресурсы ответственного ИИ Майкрософт
• Курсы microsoft Azure обучение ответственному ИИ