Данные, конфиденциальность и безопасность для Microsoft Copilot

Примечание.

Microsoft 365 Copilot теперь называется Microsoft Copilot, а Microsoft 365 Copilot Chat — Microsoft Copilot Chat. Некоторые функции, лицензии и возможности могут по-прежнему ссылаться на Microsoft 365 Copilot и Microsoft 365 Copilot Chat в течение переходного периода. Безопасность, соответствие требованиям и конфиденциальность для организаций не изменяются.

Microsoft Copilot — это сложный механизм обработки и оркестрации, который обеспечивает возможности повышения производительности на базе искусственного интеллекта, координируя следующие компоненты:

  • Большие языковые модели (LLM)
  • Содержимое в Microsoft Graph, например электронные письма, чаты и документы, на доступ к которым у вас есть разрешение.
  • Приложения Microsoft 365 для повышения производительности, которые вы используете каждый день, например Word и PowerPoint.

Обзор того, как эти три компонента работают вместе, см. в обзоре Microsoft Copilot. Ссылки на другое содержимое, связанное с Microsoft Copilot, см. в документации по Microsoft Copilot.

Важно!

Сведения в этой статье предназначены для предоставления ответов на следующие вопросы:

Примечание.

Microsoft Copilot будет продолжать развиваться с течением времени, добавляя новые возможности. Чтобы быть в курсе событий о Microsoft Copilot или задавать вопросы, посетите сообщество Microsoft Copilot на сайте Microsoft Tech Community.

Как Microsoft Copilot использует ваши собственные организационные данные?

Microsoft Copilot обеспечивает ценность, подключая LLM к данным организации. Microsoft Copilot получает доступ к содержимому и контексту через Microsoft Graph. Он может создавать ответы с привязкой к данным организации, таким как документы пользователей, сообщения электронной почты, календарь, чаты, собрания и контакты. Microsoft Copilot объединяет это содержимое с рабочим контекстом пользователя, например с собранием, на котором пользователь сейчас участвует, с электронными письмами, которыми пользователь обменивался по теме, или с беседами пользователя в чате на прошлой неделе. Microsoft Copilot использует такое сочетание содержимого и контекста для предоставления точных, релевантных и контекстуальных ответов.

Важно!

Запросы, ответы и данные, доступные через Microsoft Graph, не используются для обучения базовых LLM, в том числе тех, которые используются Microsoft Copilot.

Microsoft Copilot отображает только те данные организации, для которых отдельные пользователи имеют хотя бы разрешения на просмотр. Важно, чтобы вы использовали модели разрешений, доступные в службах Microsoft 365, таких как SharePoint, чтобы гарантировать, что нужные пользователи или группы имеют правильный доступ к нужному контенту в вашей организации. К ним относятся разрешения, которые вы предоставляете пользователям за пределами организации с помощью решений для совместной работы между клиентами, например общих каналов в Microsoft Teams.

При вводе запросов с помощью Microsoft Copilot информация, содержащаяся в ваших запросах, данные, которые они извлекают, и сгенерированные ответы обрабатываются и сохраняются в соответствии с договорными обязательствами с другим контентом вашей организации в Microsoft 365. Подробнее см. в разделе "Хранимые данные о взаимодействии пользователей с Microsoft Copilot" далее в этой статье.

Примечание.

  • При использовании агентов, помогающих Microsoft Copilot предоставлять более релевантную информацию, проверьте, как он будет обрабатывать данные вашей организации, с помощью проверки заявления о конфиденциальности и условий использования агента. Подробнее см. в статье Расширяемость Microsoft Copilot.
  • При использовании веб-поиска Microsoft Copilot анализирует запрос пользователя и определяет условия, для которых веб-поиск мог бы улучшить качество ответа. На основе этих условий Copilot генерирует поисковый запрос и отправляет его в службу Поиска Microsoft Bing. Дополнительные сведения см. в разделах "Данные, конфиденциальность и безопасность для веб-запросов в Microsoft Copilot и Microsoft Copilot Chat".
  • Microsoft предлагает сторонние модели ИИ в Microsoft Copilot, например модели Anthropic и OpenAI. Как администратор вы можете решить, использовать ли эти модели для улучшения своих возможностей, и могут применяться дополнительные условия. Дополнительные сведения см. в следующей документации: Anthropic модели в Microsoft Online Services и OpenAI в качестве субобработчика в Microsoft Online Services.
  • Мы можем развернуть для использования Microsoft Copilot другие модели ИИ, которые размещаются и управляются корпорацией Майкрософт. Эти модели регулируются теми же договорными обязательствами и обязательствами по защите данных, которые уже действуют, в том числе тем, что данные не покидают корпорацию Майкрософт. Дополнительные сведения о моделях, которые могут использоваться Copilot, см. в статье "Общие сведения о функциях и моделях ИИ в веб-службах Майкрософт".

Хотя в Azure OpenAI доступен мониторинг злоупотреблений, который включает в себя просмотр содержимого человеком, службы Microsoft Copilot отказались от него. Сведения о фильтрации контента см. в разделе Как Copilot блокирует вредоносный контент? далее в этой статье.

Примечание.

Мы можем использовать отзывы клиентов (которые являются необязательными) для улучшения Microsoft Copilot точно так же, как мы используем отзывы клиентов для улучшения других служб Microsoft 365 и приложений для повышения производительности Microsoft 365. Мы не используем этот отзыв для обучения базовых LLM, используемых Microsoft Copilot. Клиенты могут управлять отзывами с помощью элементов управления администратора. Дополнительные сведения см. в разделах Управление отзывами Майкрософт для организации и Предоставление отзывов о Microsoft Copilot с приложениями Microsoft 365.

Хранимые данные о взаимодействии пользователей с Microsoft Copilot

Когда пользователь взаимодействует с Microsoft Copilot (используя такие приложения, как Word, PowerPoint, Excel, OneNote, Loop или Whiteboard), мы сохраняем данные об этих взаимодействиях. Сохраненные данные включают запросы пользователя и ответ Copilot, включая ссылки на все сведения, использованные для обоснования ответа Copilot. Мы называем запрос пользователя и ответ Copilot на этот запрос "содержимым взаимодействий", а запись этих взаимодействий — журналом действий пользователя Copilot. Например, эти сохраненные данные предоставляют пользователям журнал действий Copilot в Microsoft Copilot Chat и собраниях в Microsoft Teams. Эти данные обрабатываются и хранятся в соответствии с договорными обязательствами с другим контентом вашей организации в Microsoft 365. При хранении данные шифруются и не используются для обучения базовых LLM, в том числе используемых Microsoft Copilot.

Для просмотра этих сохраненных данных и управления ими администраторы могут использовать поиск контента или Microsoft Purview. Администраторы также могут использовать Microsoft Purview для установки политик хранения данных, связанных с взаимодействием в чате с Copilot. Дополнительные сведения см. в следующих статьях:

Для чатов Microsoft Teams с Copilot администраторы также могут использовать API-интерфейсы экспорта Microsoft Teams для просмотра хранимых данных.

Удаление истории взаимодействий пользователей с Microsoft Copilot

Пользователи могут удалить свой журнал действий Copilot, включая запросы и ответы, возвращаемые Copilot, на портале "Моя учетная запись". Подробнее см. в статье Удаление журнала действий Microsoft Copilot.

Microsoft Copilot и граница данных ЕС

Звонки Microsoft Copilot в LLM направляются в ближайшие центры обработки данных в регионе, но также могут звонить в другие регионы, где доступна пропускная способность в периоды высокой загрузки.

Для пользователей Европейского Союза (ЕС) у нас есть дополнительные гарантии соблюдения границ данных ЕС. Трафик из ЕС остается в пределах границ данных ЕС, в то время как мировой трафик может быть отправлен в ЕС и другие регионы для обработки LLM.

Примечание.

Модели, предоставляемые Anthropic в качестве субобработчика, в настоящее время исключены из границы данных ЕС. Дополнительные сведения см. в разделе Anthropic модели в веб-службах Майкрософт.

Microsoft Copilot и место расположения данных

Microsoft Copilot соблюдает обязательства по размещению данных, изложенные в Условиях использования продуктов Майкрософт и Дополнении о защите данных. Microsoft Copilot был добавлен в качестве покрываемой рабочей нагрузки в обязательства по месту расположения данных в Условиях использования продуктов Майкрософт 1 марта 2024 г.

Предложения Майкрософт Advanced Data Residency (ADR) и Multi-Geo Capabilities включают обязательства по размещению данных для клиентов Microsoft Copilot с 1 марта 2024 г. Для клиентов в ЕС Microsoft Copilot — это служба границы данных ЕС. Запросы клиентов за пределами ЕС могут обрабатываться в США, ЕС или других регионах.

Расширяемость Microsoft Copilot

Хотя Microsoft Copilot уже может использовать приложения и данные в экосистеме Microsoft 365, многие организации по-прежнему зависят от различных внешних инструментов и служб для управления работой и совместной работы. Возможности Microsoft Copilot могут ссылаться на сторонние инструменты и службы при ответе на запрос пользователя с помощью соединителей или агентов Microsoft Graph. Данные из соединителей Graph могут быть возвращены в ответах Microsoft Copilot, если у пользователя есть разрешение на доступ к этой информации.

Если агенты включены, Microsoft Copilot определяет, нужно ли ему использовать конкретный агент для предоставления релевантного ответа пользователю. Если требуется агент, Microsoft Copilot создает поисковый запрос, который отправляется агенту от имени пользователя. Запрос основан на запросе пользователя, журнале действий Copilot и данных, к которым пользователь имеет доступ в Microsoft 365.

В разделе "Интегрированные приложения" Центра администрирования Microsoft 365 администраторы могут просматривать разрешения и доступ к данным, необходимые агенту, а также условия использования и заявление о конфиденциальности агента. Администраторы имеют полный контроль над выбором агентов, разрешенных в организации. Пользователь может получить доступ только к тем агентам, которые разрешены его администратором и установлены или назначены пользователем. Microsoft Copilot использует только агенты, включенные пользователем.

Дополнительные сведения см. в следующих статьях:

Как Microsoft Copilot защищает данные организации?

Модель разрешений в вашем клиенте Microsoft 365 может помочь предотвратить непреднамеренную утечку данных между пользователями, группами и клиентами. Microsoft Copilot представляет только те данные, к которым каждый человек может получить доступ, используя те же базовые элементы управления доступом к данным, которые используются в других службах Microsoft 365. Семантический индекс учитывает границу доступа на основе удостоверения пользователя, поэтому процесс заземления получает доступ только к тому контенту, доступ к которому разрешен текущему пользователю. Дополнительные сведения см. в политике конфиденциальности и сервисной документации Майкрософт.

Если у вас есть данные, зашифрованные с помощью Защиты информации Microsoft Purview, Microsoft Copilot соблюдает предоставленные пользователю права использования. Это шифрование можно применять с помощью меток конфиденциальности или ограничения разрешений в приложениях в Microsoft 365 с помощью управления правами на доступ к данным (IRM). Подробнее об использовании Microsoft Purview с Microsoft Copilot см. в статье Безопасность данных Microsoft Purview и защита соответствия требованиям для приложений с генеративным ИИ.

Мы уже реализуем несколько форм защиты, чтобы помочь клиентам предотвратить компрометацию служб и приложений Microsoft 365 или получение несанкционированного доступа к другим клиентам или самой системе Microsoft 365. Вот несколько примеров таких форм защиты:

  • Логическая изоляция контента клиента внутри каждого клиента служб Microsoft 365 достигается за счет авторизации Microsoft Entra и управления доступом на основе ролей. Дополнительные сведения см. в разделе Элементы управления изоляцией Microsoft 365 .

  • Корпорация Майкрософт использует строгие меры физической безопасности, фоновую проверку и многоуровневую стратегию шифрования для защиты конфиденциальности и целостности пользовательского контента.

  • Microsoft 365 использует технологии на стороне службы, которые шифруют содержимое клиента при хранении и передаче, включая BitLocker, шифрование для каждого файла, безопасность транспортного уровня (TLS) и безопасность протокола Интернета (IPsec). Дополнительные сведения о шифровании в Microsoft 365 см. в статье Шифрование в Microsoft Cloud .

  • Ваш контроль над данными подкрепляется обязательством корпорации Майкрософт соблюдать широко применимые законы о конфиденциальности, такие как GDPR, и стандарты конфиденциальности, такие как ISO/IEC 27018, первый в мире международный свод правил конфиденциальности в облаке.

  • Для содержимого, доступного через агенты в Microsoft 365, шифрование может исключить программный доступ, тем самым ограничивая доступ агента к содержимому. Дополнительные сведения см. в разделе Настройка прав использования для Azure Information Protection .

Соответствие нормативным требованиям

Корпорация Майкрософт продолжает адаптироваться и реагировать на выполнение нормативных требований к ИИ по мере их развития, чтобы заслужить и сохранить доверие клиентов, партнеров и регулирующих органов.

Microsoft Copilot предоставляет широкие предложения и сертификаты для соответствия требованиям, включая GDPR,ISO 27001, HIPAA и стандарт ISO 42001 для систем управления ИИ. Это помогает нашим клиентам в обеспечении соответствия требованиям, дополняясь такими функциями, как готовность к исполнению договоров, встроенное управление рисками в области информационных и коммуникационных технологий и инструменты обеспечения операционной устойчивости.

Корпорация Майкрософт обязуется соблюдать все законы и нормативные акты, применимые к корпорации Майкрософт, включая Закон ЕС об ИИ, чтобы наши решения в области ИИ соответствовали новым стандартам надежного и ответственного применения ИИ. Microsoft Copilot создан на основе существующих обязательств корпорации Майкрософт в отношении безопасности и конфиденциальности данных. В этих обязательствах нет никаких изменений. Copilot интегрирован в Microsoft 365 и придерживается существующих обязательств по конфиденциальности, безопасности и соответствию требованиям перед клиентами Microsoft 365.

Кроме того, мы отдаем приоритет открытому диалогу с нашими партнерами и регулирующими органами. Мы предоставляем клиентам прямой доступ к специалистам Майкрософт по обеспечению соответствия требованиям, упреждающим руководствам и тщательно подобранным решениям для управления нормативными требованиями, например к краткому руководству по оценке рисков Microsoft Copilot & Copilot Chat. Наш подход в сфере ИИ направлен на то, чтобы дать организациям возможность уверенно внедрять инновации с помощью решений, созданных с учетом прозрачности, конфиденциальности и безопасности.

Дополнительные сведения

Microsoft Copilot и элементы управления конфиденциальностью для подключенных функций

Важно!

Ваши персональные данные, собранные при использовании сетевых функций в Microsoft 365, не используются для обучения больших языковых моделей (LLM), в том числе тех, которые используются Microsoft Copilot.

Некоторые элементы управления конфиденциальностью для сетевых функций в приложениях Microsoft 365 могут повлиять на доступность функций Microsoft Copilot. Сюда входят элементы управления конфиденциальностью для подключенных взаимодействий, которые анализируют контент, а также элементы управления конфиденциальностью для дополнительных подключенных взаимодействий. Дополнительные сведения об этих элементах управления конфиденциальностью см. в статье Обзор элементов управления конфиденциальностью для приложений Microsoft 365 профессиональный плюс.

Управление конфиденциальностью для подключенных взаимодействий, анализирующих контент

Если вы отключите сетевые функции, анализирующие ваш контент, на устройствах в вашей организации, функции Microsoft Copilot будут недоступны пользователям в следующих приложениях:

  • Excel
  • OneNote
  • Outlook
  • PowerPoint
  • Word

Это относится к случаям, когда вы используете самую последнюю версию этих приложений на устройствах с Windows, Mac, iOS или Android.

Кроме того, есть элемент управления конфиденциальностью, который отключает все подключенные взаимодействия, включая анализирующие контент. Если вы используете этот элемент управления конфиденциальностью, функции Microsoft Copilot будут недоступны в приложениях и на устройствах, описанных выше.

Управление конфиденциальностью для необязательных подключенных функций

Если вы отключите необязательные сетевые функции в организации, функции Microsoft Copilot, которые являются необязательными сетевыми функциями, будут недоступны вашим пользователям. Например, отключение необязательных сетевых функций может повлиять на доступность веб-поиска.

Также есть элемент управления конфиденциальностью, который отключает все подключенные функции, включая необязательные. Если вы используете этот элемент управления конфиденциальностью, функции Microsoft Copilot, которые являются необязательными сетевыми функциями, будут недоступны.

О содержимом, создаваемом Microsoft Copilot

Ответы, которые дает генеративный ИИ, не обязательно на 100% соответствуют действительности. Хотя мы продолжаем улучшать ответы, пользователям по-прежнему следует опираться на свое мнение при просмотре результатов, прежде чем отправлять их другим. Возможности Microsoft Copilot предоставляют полезные черновики и сводки, которые помогают достичь большего, но не дает вам возможности просматривать созданный ИИ, а не полностью автоматизировать эти задачи.

Мы продолжаем совершенствовать алгоритмы для заблаговременного решения таких проблем, как недостоверная и дезинформация, блокировка контента, безопасность данных и предотвращение продвижения вредоносного или дискриминационного контента в соответствии с нашими ответственными принципами искусственного интеллекта .

Корпорация Майкрософт не является владельцем выходных данных службы. Тем не менее, мы не принимаем решения о том, защищены ли выходные данные клиента авторским правом и могут ли они быть принудительно применены к другим пользователям. Это связано с тем, что генеративные системы искусственного интеллекта могут выдавать одинаковые ответы на аналогичные запросы или запросы от нескольких клиентов. Следовательно, у нескольких клиентов могут быть претензии или права на одинаковое или схожее по существу содержимое.

Если третья сторона подает в суд на коммерческого клиента за нарушение авторских прав в связи с использованием решений Copilot корпорации Майкрософт или создаваемых ими выходных данных, мы будем защищать клиента и выплатим сумму любых неблагоприятных судебных решений или мировых соглашений, вытекающих из иска, при условии, что клиент использовал защитные барьеры и фильтры содержимого, встроенные в наши продукты. Дополнительные сведения см. в статье Microsoft объявляет о новом обязательстве по защите авторских прав Copilot для клиентов.

Как Copilot блокирует вредоносное содержимое?

Чтобы помочь заблокировать вредоносное содержимое, Microsoft Copilot использует меры безопасности, которые работают вместе с моделями ИИ, используемыми для генерирования ответов. В зависимости от сценария эти меры безопасности могут включать средства защиты от Майкрософт от корпорации Майкрософт или, в некоторых случаях, меры безопасности, встроенные в базовую модель. Эти меры безопасности используют подход глубокой защиты и могут включать сочетание собственных средств защиты Майкрософт, которые помогают обнаруживать и сокращать попытки взлома и шаблоны внедрения запросов (включая атаки с перекрестными запросами), фильтры вреда контенту для выявления вредоносного содержимого в подсказках или сгенерированных ответах (таких как ненависть & честность, сексуальное насилие и членовредительство) или, в некоторых сценариях, меры безопасности, встроенные в базовую модель.

В категории "Ненависть и справедливость" вред может наносить любое содержимое, в котором используются уничижительные или дискриминационные выражения на основании расы, этнической принадлежности, национальности, половой идентичности и самовыражения, сексуальной ориентации, религии, иммиграционного статуса, физического состояния, внешности и размера тела. Справедливость побуждает обеспечить одинаковое отношение систем ИИ ко всем группам людей, чтобы не усугублять существующее социальное неравенство. Содержимое сексуального характера включает обсуждение репродуктивных органов человека, романтических отношений, действий, изображаемых в эротических или страстных выражениях, беременности, физических половых актов, в том числе представленных как нападение или насильственный половой акт, проституции, порнографии и жестокого обращения. В категории "Насилие" используются выражения, связанные с физическими действиями, направленными на причинение вреда или убийство, включая действия, оружие и связанные структуры. Выражения, описывающие самоповреждение, относятся к преднамеренным действиям, направленным на причинение себе вреда или самоубийство.

В дополнение к фильтрации содержимого, предоставляемой службой Azure OpenAI, некоторые сценарии Microsoft Copilot предоставляют другие меры по смягчению последствий, например фильтры для предотвращения вреда на рабочем месте. Вред на рабочем месте относится к категории вреда, который может быть вызван генеративным ИИ или моделями, делающими выводы, суждения или оценки о сотруднике на основе его общения на рабочем месте. В настоящее время это означает умозаключения, суждения или оценки о производительности, отношении, внутреннем или эмоциональном состоянии сотрудника или личных характеристиках. Мы ограничиваем использование генеративного ИИ или моделей для этих целей.

Обеспечивает ли Copilot обнаружение защищенных материалов?

Да, Microsoft Copilot обеспечивает обнаружение защищенных материалов, включая текст, защищенный авторским правом, и код, на который распространяются лицензионные ограничения. Это обнаружение может быть доступно не во всех сценариях Microsoft Copilot, и не все из этих мер устранения рисков актуальны для всех сценариев Microsoft Copilot.

Блокирует ли Copilot внедрение запросов (атаки для взлома)?

Атаки со взломом корпуса — это запросы, предназначенные для обхода мер защиты Copilot или спровоцирования несоответствующего поведения. Microsoft Copilot помогает смягчить эти атаки, используя запатентованные методы, такие как классификаторы джейлбрейка и атаки с перекрестным запросом внедрения (XPIA). Эти классификаторы анализируют входные данные для службы Copilot и помогают блокировать запросы с высоким риском до выполнения модели. Эти классификаторы могут быть доступны не во всех сценариях Microsoft Copilot.

Что происходит при изменении базовой модели?

Модели ИИ, на которых работает Microsoft Copilot, регулярно обновляются и улучшаются. Обновления моделей повышают производительность, улучшают логическое обоснование и расширяют возможности, но не изменяют параметры безопасности, конфиденциальности или соответствия требованиям. Дополнительные сведения см. в блоге Microsoft 365: Общие сведения об изменениях базовой модели в Microsoft Copilot.

Приверженность ответственному ИИ

Поскольку ИИ готов изменить нашу жизнь, мы должны коллективно определить новые правила, нормы и методы использования и воздействия этой технологии. Microsoft находится на пути ответственного ИИ с 2017 года, когда мы определили наши принципы и подход к обеспечению использования этой технологии таким образом, чтобы руководствоваться этическими принципами, ставящими людей на первое место.

Мы в Microsoft руководствуемся принципами искусственного интеллекта , нашим Стандартом ответственного искусственного интеллекта и десятилетиями исследований в области искусственного интеллекта, заземления и машинного обучения с сохранением конфиденциальности. Многопрофильная команда исследователей, инженеров и экспертов по политике проверяет наши системы ИИ на наличие потенциального вреда и устраняет риски, уточняя обучающие данные, выполняя фильтрацию для ограничения вредоносного содержимого и конфиденциальных тем, блокирующих запросы и результаты, а также применяя технологии Майкрософт, такие как InterpretML и Fairlearn , для выявления и устранения смещения данных. Мы разъясняем, как система принимает решения, отмечая ограничения, ссылаясь на источники и предлагая пользователям просматривать, проверять факты и корректировать контент на основе предметной экспертизы. Дополнительную информацию см. в разделе Управление ИИ: план будущего .

Мы стремимся помочь нашим клиентам ответственно использовать наши продукты искусственного интеллекта, делиться своими знаниями и строить доверительные партнерские отношения. Что касается этих новых услуг, мы хотим предоставить нашим клиентам информацию о предполагаемом использовании, возможностях и ограничениях нашей платформы ИИ, чтобы у них были знания, необходимые для ответственного выбора развертывания. Мы также делимся ресурсами и шаблонами с разработчиками внутри организаций и с независимыми поставщиками программного обеспечения (ISV), чтобы помочь им создавать эффективные, безопасные и прозрачные решения ИИ.

  • Last updated on