Примечание.
Для доступа к этой странице требуется авторизация. Вы можете попробовать войти или изменить каталоги.
Для доступа к этой странице требуется авторизация. Вы можете попробовать изменить каталоги.
Ответственный ИИ руководствуется набором принципов, определяющих, как должны работать системы ИИ. Эти принципы сосредоточены на справедливости, надежности, безопасности, конфиденциальности, безопасности, инклюзивности, прозрачности и подотчетности. Они устанавливают стандарты, управляющие тем, как Microsoft оценивает риски, разрабатывает функции ИИ и гарантирует ответственное системное поведение.
Применение этих принципов к проектированию агентов помогает предотвратить непреднамеренные повреждения, такие как предвзятость, неверность информации или нарушения конфиденциальности. Она также поддерживает доверие пользователей и долгосрочное внедрение. Следуя этим рекомендациям, вы сможете создавать ИИ-агентов, которые эффективно работают, при этом соблюдая стандарты добросовестности и уважения, которых пользователи и общество ожидают от продуктов Microsoft.
В этой статье дается общее введение в принципы ответственного ИИ применительно к проектированию агентов. Подробные рекомендации см. в принципах и подходе Microsoft к ответственному ИИ.
Принципы ответственного искусственного интеллекта
Принципы ответственного искусственного интеллекта помогут вам разрабатывать, создавать и управлять агентами в Microsoft 365 Copilot. Они устанавливают общий стандарт для поведения агента, обработки данных и взаимодействия с пользователем, чтобы системы ИИ были надежными, безопасными и согласованы с человеческими ценностями.
Эти принципы применяются ко всему жизненному циклу агента, от проектирования и разработки до развертывания и текущего использования. Они информируют о проектировании взаимодействия, модели и выборе знаний, автономии, безопасности и управлении. Следуя этим принципам, вы гарантируете, что агенты обеспечивают ценность ответственно, сохраняя доверие пользователей и долгосрочное внедрение.
| Принцип | Что это означает для разработки агентов |
|---|---|
| Справедливость | Системы ИИ должны обеспечить согласованные и справедливые результаты для всех пользователей. Поведение агента должно исключать создание или усиление несправедливого обращения на основе чувствительных атрибутов или контекста пользователя. |
| Надежность и безопасность | Системы искусственного интеллекта должны функционировать так, как задумано, в самых разных условиях. Агенты должны обрабатывать изменчивость, пограничные варианты и непредвиденные входные данные таким образом, чтобы обеспечить безопасное и предсказуемое поведение. |
| Конфиденциальность и безопасность | Системы ИИ должны защищать данные пользователей и соблюдать установленные требования к конфиденциальности и безопасности. Агенты должны использовать только информацию, которую они авторизованы для доступа, и должны обрабатывать эти сведения ответственно. |
| Инклюзивность | Системы искусственного интеллекта должны предоставлять всем пользователям возможность и соответствовать различным потребностям. Агенты должны учитывать специальные возможности, варианты языка и различные уровни технического опыта, чтобы обеспечить инклюзивное взаимодействие. |
| Transparency | Системы искусственного интеллекта должны сделать свои возможности и ограничения понятными. Агенты должны сообщать о том, что они могут делать, как используется информация и как создаются выходные данные, чтобы пользователи могли принимать обоснованные решения. |
| Подотчетность | Системы искусственного интеллекта требуют четкого надзора. Команды, разрабатывающие агентов, несут ответственность за обеспечение того, чтобы система соответствовала принципам ответственного ИИ, соблюдала нормативные требования и функционировала под надлежащим человеческим контролем. |
Применение ответственного ИИ в разработке агента
Microsoft использует структурированную модель для интеграции ответственных принципов ИИ во время разработки агентов ИИ. Эта модель помогает командам выявлять риски, находить правильные способы устранения рисков и сохранять ответственное поведение на протяжении всего жизненного цикла агента.
В качестве конструктора ваши решения непосредственно влияют на выполнение этих функций. Следующие ключевые функции описывают, насколько ответственный ИИ реализован на практике:
| Function | Description |
|---|---|
| Govern | Устанавливает политики, роли и процессы, которые команды следуют при разработке и развертывании агентов. Управление обеспечивает согласование с ответственными принципами ИИ и обеспечивает четкую подотчетность. |
| Схема | Определяет и расставляет приоритеты потенциальных рисков, связанных со сценарием использования ИИ. Сопоставление позволяет принимать обоснованные решения о стратегиях устранения рисков и определять, подходит ли решение искусственного интеллекта для предполагаемого контекста. |
| Измерение | Оценивает риски и производительность системы, чтобы направлять проектирование и совершенствование мер по снижению рисков. Измерение является важным, так как возможности искусственного интеллекта растут в сложности и требуют текущей оценки. |
| Управление | Применяет и поддерживает устранение рисков во время развертывания и непрерывной работы. Команды отслеживают поведение системы и при необходимости корректируют меры по снижению рисков, чтобы агенты продолжали действовать ответственно со временем. |
Фильтры прозрачности ИИ и безопасности
Прозрачность является краеугольным камнем ответственного искусственного интеллекта. При разработке агентов четко сообщайте о наличии ИИ и его роли в процессе взаимодействия с продуктом. Узнайте пользователей о назначении агента, возможностях, ограничениях и потенциальных рисках. Эта прозрачность позволяет пользователям принимать обоснованные решения и способствовать доверию к системе.
Практические проявления прозрачности включают примечания о прозрачности и уведомления в продукте, которые объясняют, как работает ИИ и чего пользователи могут ожидать. Например, в Business Chat агент использует четкие индикаторы, например метки с текстом «Контент, созданный ИИ, может содержать ошибки», чтобы помочь сформировать надлежащие ожидания и способствовать ответственному использованию.
Фильтры безопасности
Фильтры безопасности помогают обеспечивать надлежащее и уважительное поведение агентов, соответствующее принципам ответственного ИИ Microsoft. Эти гарантии снижают риск вредных, предвзятых или вводящих в заблуждение выходных данных при защите конфиденциальности пользователей и конфиденциальной информации во время взаимодействия.
Агенты, созданные на основе Copilot, наследуют обязательства по ответственному ИИ Microsoft, которые сосредоточены на справедливости, надежности, конфиденциальности и прозрачности. Фильтры безопасности играют важную роль в применении этих обязательств, определяя способ реагирования агентов на ввод пользователей, обработку конфиденциальных тем и управление доступом к данным.
Important
В качестве конструктора вы не настраиваете фильтры безопасности напрямую. Microsoft принудительно применяет их на уровне платформы. Однако ваши проектные решения, касающиеся тона, охвата и прозрачности, напрямую укрепляют или подрывают доверие, которое призваны защищать фильтры безопасности.
Постоянно применяя фильтры безопасности, агенты могут поддерживать доверие пользователей и уверенность. Пользователи лучше могут полагаться на ответы агента, зная, что гарантии существуют для повышения ответственного поведения и этического использования ИИ.
Tip
Чтобы ознакомиться с подробными рекомендациями по подходе Microsoft к ответственному ИИ, включая подробные принципы, системы управления и отчеты о прозрачности, перейдите по ссылке Принципы и подход Microsoft к ответственному ИИ.