Применяйте принципы ответственного ИИ

Система на основе искусственного интеллекта (ИИ) включает в себя не только технологию, но и людей, которые ее используют, людей, на которых она влияет, и среду, в которой она развернута. Агенты должны соответствовать принципам ответственного применения ИИ, чтобы обеспечить справедливость, подотчетность, прозрачность и этичное поведение.

Проектируйте систему ИИ так, чтобы она относилась ко всем пользователям справедливо, привлекала разработчиков и пользователей к ответственности за ее производительность, обеспечивала прозрачность операций ИИ и придерживалась этических стандартов.

В Microsoft мы стремимся продвигать ИИ, руководствуясь принципами, которые ставят людей на первое место. Генеративные модели обладают значительными потенциальными преимуществами, но без тщательного проектирования и продуманных мер по устранению рисков такие модели могут генерировать некорректный или даже вредный контент. Microsoft вложила значительные средства в защиту от злоупотреблений и непреднамеренного вреда, что включает в себя внедрение принципов ответственного использования ИИ Microsoft, принятие Кодекса поведения, создание фильтров контента для поддержки клиентов, а также предоставление информации и рекомендаций по ответственному использованию ИИ, которые клиенты должны учитывать при использовании генеративного ИИ.

В Copilot Studio и функциях генеративного ИИ реализован набор базовых методик обеспечения безопасности и конфиденциальности; кроме того, они соответствуют стандарту ответственного применения ИИ Microsoft.

Подробнее:

Основные принципы ответственного применения ИИ

Основные принципы ответственного применения ИИ включают справедливость, подотчетность, прозрачность и этику. Обеспечение того, чтобы агент, созданный с помощью Copilot Studio, соответствовал этим основным принципам, включает несколько ключевых практик:

  • Справедливость: используйте разнообразные и репрезентативные обучающие данные, чтобы свести к минимуму предвзятость. Регулярно обновляйте обучающие данные и привлекайте аудиторов для проверки справедливости и равенства.
  • Подотчетность: определите четкие роли и обязанности для членов команды, участвующих в проекте ИИ. Устанавливайте и придерживайтесь этических стандартов, в которых приоритет отдается справедливости и подотчетности.
  • Прозрачность: убедитесь, что пользователи знают, что они используют агент, использующий возможности генеративного ИИ. Четко объясните, почему было выбрано то или иное решение на основе ИИ, как оно было спроектировано, а также как отслеживается и обновляется.
  • Этика: создание инклюзивной рабочей силы и привлечение внимания различных сообществ на ранних этапах процесса разработки. Регулярно оценивайте и тестируйте модели на предмет этических проблем и различий в производительности. Создайте систему управления, которая включает в себя регулярные аудиты.

Включите эти практики в свои процессы разработки и развертывания, чтобы создавать агенты, соответствующие основным принципам ответственного ИИ.

Конфиденциальность и безопасность данных

Обеспечение конфиденциальности данных крайне важно, особенно учитывая, что агент может работать с конфиденциальными данными. При планировании агента с Copilot Studio важно учитывать несколько ключевых рисков и реализовывать эффективные стратегии их снижения:

  • Функции платформы: ознакомьтесь со встроенными элементами управления и функциями платформы, которые защищают ваши данные. Ознакомьтесь с часто задаваемыми вопросами об ответственном ИИ для Copilot Studio, чтобы лучше понять конкретные системы и функции искусственного интеллекта, которые разрабатывает Майкрософт.
  • Шифрование данных: для шифрования организационного контента при хранении и при передаче используются технологии на стороне службы, что представляет собой надежную меру безопасности. Защита подключений обеспечивается протоколом Transport Layer Security (TLS), а передача данных между Dynamics 365, Power Platform и Azure OpenAI происходит по магистральной сети Майкрософт, что гарантирует как надежность, так и безопасность. Узнайте больше о шифровании в облаке Microsoft Cloud.
  • Контроль доступа: данные предоставляются агенту только в соответствии с уровнем доступа текущего пользователя. Реализуйте управление доступом на основе ролей (RBAC) с помощью Microsoft Entra ID, чтобы гарантировать, что только авторизованные пользователи могут получить доступ к данным. Применяйте принцип минимальных привилегий, чтобы ограничить доступ только к тому, что необходимо. Ознакомьтесь с рекомендациями по тому, как защитить ваши проекты Copilot Studio и ключевые концепции безопасности и управления Copilot Studio.
  • Мониторинг и аудит: выявляйте и реагируйте на потенциальные инциденты безопасности посредством регулярного контроля доступа и использования агента. Ведите подробные журналы аудита для отслеживания доступа к данным и их изменений.
  • Соответствие нормативным требованиям и управление: обеспечьте соблюдение соответствующих нормативных актов о конфиденциальности данных, таких как GDPR (Общий регламент по защите данных), HIPAA (Закон о преемственности и подотчетности медицинского страхования) и CCPA (Закон штата Калифорния о защите конфиденциальности потребителей). Внедрять этичные методы применения ИИ, чтобы избежать предвзятости и обеспечить справедливость результатов ИИ.
  • Обучение пользователей и тренировка: обучение пользователей по лучшим практикам безопасности и важности конфиденциальности данных. Информируйте пользователей об обновлениях и изменениях в политиках и процедурах безопасности.

Осведомленность о предвзятости и ее устранение

Признать важность устранения предвзятости в системе и обеспечить справедливость, чтобы избежать предвзятости в ответах ИИ.

  • Разнообразные и репрезентативные данные: убедитесь, что обучающие данные разнообразны и репрезентативны для различных демографических групп, чтобы свести к минимуму врожденные предрассудки. Регулярно проверяйте данные на предмет предвзятости и дисбалансов и при необходимости принимайте корректирующие меры.
  • Инструменты обнаружения и устранения систематических ошибок: используйте инструменты и методы для обнаружения систематических ошибок в моделях ИИ, такие как статистический анализ и метрики справедливости. Реализуйте методы устранения смещений, включая перевыборку, повторное взвешивание или состязательное устранение смещений, чтобы уменьшить смещения в моделях.
  • Человек в контуре: используйте циклы проверки человеком и обратной связи для выявления и исправления предубеждений, которые может внести ИИ. Создайте комитет по этике или совет управляющих для надзора за разработкой и внедрением ИИ, обеспечивая соблюдение этических стандартов.
  • Прозрачность и доверие: обеспечьте информированность пользователей о том, что они используют агент, обладающий технологиями генеративного ИИ. Четко объясните, почему было выбрано решение на основе ИИ, и предоставьте информацию о том, как оно было разработано, как отслеживается и обновляется.
  • Непрерывный мониторинг и совершенствование: непрерывный мониторинг системы ИИ на предмет предвзятости и проблем с производительностью и обновление моделей по мере необходимости. Обеспечьте объективность и беспристрастность моделей путем регулярного переобучения моделей с помощью обновленных и более разнообразных данных.

Постоянный мониторинг и оценка

Продолжайте улучшать ваш агент. Создайте основу для непрерывного мониторинга и оценки, а также учитывайте отзывы пользователей и меняющиеся этические стандарты в обновлениях.

  • Циклы обратной связи: установите механизмы обратной связи, с помощью которых пользователи могут сообщать о неточностях, которые затем могут быть использованы для уточнения и улучшения моделей.
  • Мониторинг и аудит: обнаружение потенциальных инцидентов безопасности и реагирование на них путем регулярного мониторинга доступа и использования системы ИИ. Ведите подробные журналы аудита для отслеживания доступа к данным и их изменений.

Далее

Используйте итоговый чек-лист, чтобы проверить, готов ли ваш проект к переходу к реализации, и примените лучшие практики для доработки подхода к проекту перед переходом к этапу реализации.

Контрольный список планирования

  • Last updated on