Новые возможности безопасности содержимого искусственного интеллекта Azure
Узнайте о новых возможностях службы. Эти элементы могут быть заметками о выпуске, видео, записями блога и другими типами информации. Добавьте эту страницу в закладки, чтобы узнавать о новых и дополнительных возможностях, исправлениях проблем и обновлениях документации.
Октябрь 2024 г.
Предстоящие нерекомендуемы
Чтобы соответствовать политикам управления версиями и жизненным циклом содержимого, для нерекомендуемого использования запланированы следующие версии:
- Начиная с 28 января 2024 г.: все версии, кроме
2024-09-01,2024-09-15-previewи2024-09-30-previewбудут устаревшими и больше не поддерживаются. Мы рекомендуем пользователям перейти на последние доступные версии, чтобы продолжать получать полную поддержку и обновления. Если у вас есть вопросы об этом процессе или требуется помощь по переходу, обратитесь к нашей группе поддержки.
Сентябрь 2024 г.
Многомодальный анализ (предварительная версия)
Многомодальный API анализирует материалы, содержащие содержимое изображения и текстовое содержимое, чтобы сделать приложения и службы более безопасными от вредного содержимого, созданного пользователем или искусственного интеллекта. Анализ изображения и связанного с ним текстового содержимого вместе может сохранить контекст и обеспечить более полное представление о содержимом. Чтобы приступить к работе, ознакомьтесь с этим руководством.
Защищенное обнаружение материалов для кода (предварительная версия)
Api защищенного кода материалов флаги защищенного содержимого кода (из известных репозиториев GitHub, включая библиотеки программного обеспечения, исходный код, алгоритмы и другое закрытое содержимое программирования), которые могут быть выходными данными больших языковых моделей. Чтобы приступить к работе, ознакомьтесь с этим руководством.
Внимание
Средство проверки кода и индексатора службы безопасности содержимого выполняется только с 6 ноября 2021 г. Код, добавленный в GitHub после этой даты, не будет обнаружен. Используйте собственное усмотрение при использовании защищенного материала для кода для обнаружения последних тел кода.
Исправление заземления (предварительная версия)
API обнаружения заземления включает функцию исправления, которая автоматически исправляет любую обнаруженную незапланированность в тексте на основе предоставленных источников заземления. Если функция исправления включена, ответ включает corrected Text поле, представляющее исправленный текст, выровненный с источниками заземления. Чтобы приступить к работе, ознакомьтесь с этим руководством.
Август 2024 г.
Новые возможности — общедоступная версия
API экранирования запросов и API обнаружения заземления теперь общедоступны (GA). Следуйте краткому руководству, чтобы попробовать их.
Июль 2024 г.
Общедоступная предварительная версия API пользовательских категорий (стандартная версия)
API пользовательских категорий (стандартный) позволяет создавать и обучать собственные пользовательские категории контента и сканировать текст для совпадений. Дополнительные сведения см. в разделе "Пользовательские категории ".
Май 2024 г.
Общедоступная предварительная версия API пользовательских категорий (быстрая версия)
API пользовательских категорий (быстрых) позволяет быстро определять новые вредоносные шаблоны содержимого и сканировать текст и изображения для совпадений. Дополнительные сведения см. в разделе "Пользовательские категории ".
Март 2024 г.
Экранирование экранов общедоступной предварительной версии
Ранее известное как обнаружение рисков в тюрьме, эта обновленная функция обнаруживает атаки на запросы, в которых пользователи намеренно эксплуатируют уязвимости системы для несанкционированного поведения из крупной языковой модели. Экраны запроса анализируют как прямые атаки на запрос пользователя, так и косвенные атаки, внедренные в входные документы или изображения. Дополнительные сведения см. в статье "Экраны запроса".
Общедоступная предварительная версия обнаружения приземления
API обнаружения заземления определяет, создаются ли текстовые ответы больших языковых моделей (LLM) в исходных материалах, предоставляемых пользователями. Незапланированность описывает экземпляры, в которых LLM создает информацию, которая не является фактической или неточной в соответствии с тем, что было представлено в исходных материалах. Дополнительные сведения см. в статье об обнаружении заземления.
2024 января
Общедоступная версия пакета SDK для безопасности содержимого
Теперь служба безопасности содержимого ИИ Azure общедоступна с помощью следующих пакетов SDK для клиентской библиотеки:
- C#: примеры справочника по | API пакетов | | Краткое руководство. Текст, изображение
- Python: примеры справочника по | API пакетов | | Краткое руководство. Текст, изображение
- Java: примеры справочника по | API пакетов | | Краткое руководство. Текст, изображение
- JavaScript: примеры справочника по | API пакетов | | Краткое руководство. Текст, изображение
Внимание
К 31 марта 2024 г. общедоступные предварительные версии пакетов SDK для безопасности содержимого ИИ Azure будут устарели. Обновите приложения для использования версий общедоступной версии.
Ноябрь 2023 г.
Риск в тюрьме и защищенное обнаружение материалов (предварительная версия)
Новые API обнаружения рисков в тюрьме и защищенных API обнаружения материалов позволяют снизить некоторые риски при использовании генерированного ИИ.
- Обнаружение рисков в тюрьме проверяет текст для риска атаки на крупные языковые модели. Краткое руководство
- Обнаружение защищенного текста материалов сканирует созданный ИИ текст для известного текстового содержимого (например, текст песни, статьи, рецепты, выбранное веб-содержимое). Краткое руководство
Риск в тюрьме и защищенное обнаружение материалов доступны только в некоторых регионах. См . сведения о доступности региона.
Октябрь 2023
Безопасность содержимого ИИ Azure общедоступна (GA)
Служба безопасности содержимого ИИ Azure теперь общедоступна как облачная служба.
- Служба доступна во многих других регионах Azure. Общие сведения о списке см. в разделе "Обзор ".
- Изменены форматы возвращаемых API анализа. Ознакомьтесь с краткими руководствами по последним примерам.
- Имена и возвращаемые форматы нескольких других API изменились. Полный список критических изменений см. в руководстве по миграции. Другие руководства и краткие руководства теперь отражают версию общедоступной версии.
Пакеты SDK для Безопасности содержимого ИИ Azure и JavaScript
Теперь служба безопасности содержимого ИИ Azure доступна с помощью пакетов SDK java и JavaScript. Пакеты SDK доступны в Maven и npm соответственно. Чтобы приступить к работе, ознакомьтесь с этим руководством.
Июль 2023 г.
Пакет SDK для C# для безопасности содержимого ИИ Azure
Теперь служба безопасности содержимого ИИ Azure доступна с помощью пакета SDK для C#. Пакет SDK доступен в NuGet. Чтобы приступить к работе, ознакомьтесь с этим руководством.
Май 2023 г.
Общедоступная предварительная версия безопасности содержимого ИИ Azure
Безопасность содержимого ИИ Azure обнаруживает материалы, потенциально оскорбительные, рискованные или нежелательные. Эта служба предлагает современные модели текста и изображения, которые обнаруживают проблемное содержимое. Безопасность содержимого ИИ Azure помогает сделать приложения и службы более безопасными от вредного содержимого, созданного пользователем и искусственного интеллекта. Чтобы приступить к работе, ознакомьтесь с этим руководством.