Ускорение и защита внедрения искусственного интеллекта

В этой статье объясняется, как быстро и безопасно внедрять ИИ с помощью принципов "Никому не доверяй", в рамках модели внедрения Microsoft безопасности.

Этот бизнес-сценарий помогает достичь следующего результата:

Быстрое и безопасное внедрение технологии искусственного интеллекта

Как бизнес-лидер, вы находитесь под давлением, чтобы быстро внедрить ИИ для конкурентного преимущества, обеспечивая защиту вашей организации от новых и развивающихся рисков.

Этот бизнес-сценарий входит в нашу структурированную модель внедрения, которая помогает вам достигать бизнес-целей благодаря современному подходу к безопасности, основанному на принципах "Никому не доверяй".

Это руководство помогает организациям быстро и уверенно внедрять ИИ при сохранении надежной безопасности, защите конфиденциальных данных и сохранении устойчивости бизнеса.

Как работает это руководство

Эта статья является частью структурированной модели внедрения , которая связывает стратегию безопасности с реализацией:

  • Начните с бизнес-сценариев, таких как этот, чтобы определить результат, который вы хотите достичь.

  • Идентификация дисциплин безопасности, применяемых к этому сценарию.

    Используйте эти дисциплины для определения требуемой стратегии, архитектуры, процессов и элементов управления для сценария. Проработайте каждую дисциплину, чтобы понять, что необходимо планировать, разрабатывать и реализовывать в организации.

  • Используйте технические решения для реализации этих требований с помощью технологий Microsoft, применяя элементы управления в технологии такие как идентификация и данные.

Такой подход гарантирует, что внедрение ИИ обеспечивается как часть общей архитектуры "Никому не доверяй", а не как отдельные усилия.

Почему внедрение искусственного интеллекта требует нового подхода

Генерируемые технологии ИИ и агенты ИИ являются мощными бизнес-возможностями, но они также вводят новые классы риска. К ним относятся (но не ограничиваются):

  • Ускорение и увеличение существующего риска кибербезопасности с помощью ИИ.
  • Непреднамеренное воздействие данных, вызывающее потерю интеллектуальной собственности (IP) и конкурентное преимущество.
  • Изменение данных, записей или процессов путем атак, таких как отравление данными.

Безопасное внедрение искусственного интеллекта

Чтобы безопасно включить ИИ при управлении этими рисками, организации должны выполнять две задачи параллельно:

  • Безопасная технология искусственного интеллекта — внедрение новых средств управления безопасностью и методик, разработанных для ИИ, при этом рериоритизация существующих инвестиций в безопасность. Рассмотрим пример.

    • Классификация и защита конфиденциальных данных для предотвращения несанкционированного раскрытия с помощью моделей, приложений или пользователей искусственного интеллекта.
    • Применение принципов "Никому не доверяй" к удостоверениям ИИ, доступу и потокам данных.
    • Расширьте мониторинг безопасности и элементы управления рабочими нагрузками и агентами с поддержкой ИИ.

  • Использование искусственного интеллекта для повышения безопасности — используйте ИИ для повышения скорости, масштабирования и эффективности операций безопасности, в том числе:

    • Управление состоянием безопасности.
    • Обнаружение уязвимостей и устранение рисков.
    • Обнаружение инцидентов, расследование и реагирование.
    • Развитие навыков для команд по безопасности и ИТ.

Оба являются обязательными. Защита искусственного интеллекта снижает риск, при использовании ИИ для обеспечения безопасности помогает командам следить за увеличением объема атак и сложности, вызванных ИИ.

Ценность для бизнеса

Значение быстрого и безопасного внедрения ИИ отличается по ролям, но дает пользу всей организации.

Roles Ценность
Руководство по бизнесу Используйте новые возможности и повышайте эффективность, одновременно ограничивая риски, связанные с ИИ, такие как потеря интеллектуальной собственности, репутационный ущерб и сбои в работе.
Роли технологий Сократите частоту инцидентов, их последствия и усилия по восстановлению, одновременно снижая сложности, связанные с требованиями безопасности и соблюдением нормативных требований.
Роли безопасности Повышение эффективности и эффективности операций безопасности с помощью искусственного интеллекта для быстрого обнаружения угроз, определения приоритетов рисков более точно и автоматизации трудоемких задач.

Выравнивание дисциплин безопасности

Дисциплины безопасности представляют структурированные области подотчетности, необходимые для реализации этого бизнес-сценария.

  • Дисциплины планирования и надзора определяют стратегию, управление и координацию между организациями.
  • Дисциплины технической стратегии определяют необходимые возможности архитектуры, эксплуатации и управления.
  • Операционные дисциплины гарантируют, что средства контроля безопасности остаются эффективными с течением времени с помощью мониторинга, реагирования и непрерывного улучшения. Они обнаруживают неправильное использование, отвечают на угрозы и ведут постоянные улучшения состояния безопасности.

Планирование и надзорные дисциплины

Discipline Действие
Стратегия, интеграция и управление Создайте или обновите кросс-командные процессы, чтобы обеспечить согласованный подход к безопасности, технологии и бизнес-командам, в том числе:

Определите четкую стратегию защиты искусственного интеллекта и использования ИИ для обеспечения безопасности.

Обновите систему управления, политики и процессы для решения рисков, связанных с ИИ.

Постоянно учитесь и адаптируйтесь по мере развития возможностей ИИ и связанных с ним угроз.
Сквозная архитектура безопасности Убедитесь, что архитектура безопасности и технические средства управления и возможности включают элементы управления для технологий ИИ и использования ИИ.

Внедрение интегрированного подхода, позволяющего быстро применять уроки в одной области в организации, сохраняя темпы изменения на основе искусственного интеллекта.

Дисциплины технической стратегии

Discipline Действие
Доступ и удостоверения Убедитесь, что агенты и приложения ИИ используют управляемые, безопасные удостоверения.

Применение минимального привилегированного доступа, информированного бизнес-приоритетами и аналитикой угроз.

Включите комплексное ведение журнала и обнаружение аномалий для поддержки быстрого реагирования и восстановления.
Безопасность инфраструктуры Используйте моделирование угроз для оценки и снижения рисков, представленных инфраструктурой ИИ и приложениями с поддержкой искусственного интеллекта.

Примените ИИ для улучшения обнаружения уязвимостей, приоритетов и исправления.

Обеспечение надежных возможностей ведения журнала и обнаружения.
Безопасность разработки Оцените риски приложений, представленные компонентами ИИ, включая как традиционные уязвимости программного обеспечения, так и социальные инженерии или манипуляции на основе запросов.

ИИ позволяет ускорить обнаружение и исправление уязвимостей, руководствуясь бизнес-рисками и аналитикой угроз.

Поддержка ведения журнала действий и обнаружения аномальных действий (потенциальных атак) для обеспечения эффективного реагирования и восстановления.
Безопасность данных Классифицируйте и маркируйте конфиденциальные данные, чтобы модели ИИ не получали и не раскрывали их ненадлежащим образом.

Расширьте элементы управления безопасностью данных, такие как защита от потери данных (DLP), чтобы охватывать приложения и агенты ИИ.

Обеспечение видимости и мониторинга угроз, связанных с данными.

Поддержка ведения журнала действий и обнаружения аномальных действий (потенциальных атак) для обеспечения эффективного реагирования и восстановления.
Безопасность OT и Интернета вещей Применение моделирования угроз к взаимодействию СИ с системами OT/IoT, особенно в том случае, когда ИИ влияет на физические процессы.

Определяйте приоритеты мер защиты и мониторинга на основе влияния на бизнес и аналитики угроз.

Поддержка ведения журнала действий и обнаружения аномальных действий (потенциальных атак) для обеспечения эффективного реагирования и восстановления.

Операционные дисциплины

Discipline Действие
SecOps Подготовьтесь к более высокому качеству и более высокому объему установленных методов атаки.

Интегрируйте аналитику ИИ для усиления и расширения возможностей и навыков специалистов при исследовании, поиске и моделировании угроз.

ИИ используется для повышения готовности навыков младших аналитиков. Определяйте приоритеты мер безопасности с учетом приоритетов бизнеса и аналитики угроз.
Управление безопасностью Сосредоточьтесь на быстром формировании и развитии этой дисциплины, чтобы противостоять растущей сложности и количеству атак, усиливаемых ИИ.

Интегрируйте ИИ, чтобы быстрее анализировать данные, определять меры по снижению рисков и повышать уровень подготовки специалистов по управлению состоянием безопасности.

Обязательные технические основы

Технологические основы представляют собой основные возможности Microsoft в области безопасности, которые поддерживают этот бизнес-сценарий.

Столб Обзор Расширенная безопасность Github
Искусственный интеллект Microsoft Purview предоставляет возможности безопасности и управления ИИ, включая Центр ИИ для видимости использования ИИ, меток конфиденциальности для содержимого, созданного ИИ, и контроля соответствия требованиям для Copilot и других служб ИИ. GitHub Advanced Security использует ИИ-анализ кода через Copilot Autofix, чтобы автоматически предлагать исправления для обнаруженных уязвимостей и ускорять их устранение.

Дальнейшие действия

Learn, как защитить Microsoft Copilot.

  • Last updated on