Команда Microsoft AI Red

О красной команде ИИ

Общие сведения

• Что такое командирование ИИ Red и как корпорация Майкрософт создает безопасный ИИ?

Практическое руководство

• Руководство по созданию ИИ Red Teams для LLM

Ссылка

• Средства и методики ответственного искусственного интеллекта
• Оценка влияния и стандарта ответственного искусственного интеллекта

Подготовка

Общие сведения

• Открытая платформа автоматизации Майкрософт для Red Team Generative AI Systems (PyRIT)

Практическое руководство

• Руководство по PyRIT

Ссылка

• Оценка рисков ИИ для инженеров машинного обучения
• Модель общей ответственности ИИ

Общие сведения об угрозах

Практическое руководство

• Руководство по моделированию угроз разработчика для систем машинного обучения

Концепция

• Таксономия для сбоя машинного обучения

Ссылка

• Панель ошибок для анализа атак на системы машинного обучения

Изучение безопасных решений

Концепция

• Методология выравнивания серии языковых моделей Phi-3

Ссылка

• Корпоративная безопасность и управление для Машинного обучения Azure
• Что такое безопасность содержимого ВИ Azure?
• Стратегии устранения вреда с помощью ИИ Azure
• Мониторинг качества и безопасности развернутых приложений потока запросов