Политики безопасности содержимого по умолчанию
Служба Azure OpenAI включает безопасность по умолчанию, применяемую ко всем моделям, за исключением Whisper Azure OpenAI. Эти конфигурации предоставляют ответственный интерфейс по умолчанию, включая модели фильтрации содержимого, блок-списки, преобразование запросов, учетные данные содержимого и другие.
Безопасность по умолчанию направлена на устранение таких рисков, как ненависть и справедливость, сексуальность, насилие, самоповредение, защищенное содержимое материала и атаки на внедрение запросов пользователей. Дополнительные сведения о фильтрации содержимого см. в нашей документации по категориям и уровням серьезности.
Все безопасность настраивается. Дополнительные сведения о настройке см. в документации по настройке фильтрации содержимого.
Текстовые модели: GPT-4, GPT-3.5
Текстовые модели в службе Azure OpenAI могут принимать и создавать текст и код. Эти модели используют модели фильтрации текстового содержимого Azure для обнаружения и предотвращения вредного содержимого. Эта система работает как с запросом, так и с завершением.
| Категория риска | Запрос и завершение | Порог серьезности |
|---|---|---|
| Ненависть и справедливость | Запросы и завершения | Средняя |
| Насилие | Запросы и завершения | Средняя |
| Половой | Запросы и завершения | Средняя |
| Самоповредение | Запросы и завершения | Средняя |
| Атака на внедрение запросов пользователей (джейлбрейк) | Запросы | Н/П |
| Защищенный материал — текст | Автозавершения | Н/П |
| Защищенный материал — код | Автозавершения | Н/П |
Модели визуального зрения: GPT-4o, GPT-4 Turbo, DALL-E 3, DALL-E 2
GPT-4o и GPT-4 Turbo
| Категория риска | Запрос и завершение | Порог серьезности |
|---|---|---|
| Ненависть и справедливость | Запросы и завершения | Средняя |
| Насилие | Запросы и завершения | Средняя |
| Половой | Запросы и завершения | Средняя |
| Самоповредение | Запросы и завершения | Средняя |
| Идентификация отдельных лиц и вывод конфиденциальных атрибутов | Запросы | Н/П |
| Атака на внедрение запросов пользователей (джейлбрейк) | Запросы | Н/П |
DALL-E 3 и DALL-E 2
| Категория риска | Запрос и завершение | Порог серьезности |
|---|---|---|
| Ненависть и справедливость | Запросы и завершения | Низкая |
| Насилие | Запросы и завершения | Низкая |
| Половой | Запросы и завершения | Низкая |
| Самоповредение | Запросы и завершения | Низкая |
| Учетные данные содержимого | Автозавершения | Н/П |
| Обманчивое поколение политических кандидатов | Запросы | Н/П |
| Изображения общественных деятелей | Запросы | Н/П |
| Атака на внедрение запросов пользователей (джейлбрейк) | Запросы | Н/П |
| Защищенный материал — художественные и студийные символы | Запросы | Н/П |
| Ненормативная лексика | Запросы | Н/П |
Помимо указанных выше конфигураций безопасности, Azure OpenAI DALL-E также поставляется с преобразованием запроса по умолчанию. Это преобразование происходит во всех запросах на повышение безопасности исходного запроса, в частности в категориях рисков разнообразия, обманчивого поколения политических кандидатов, изображения общественных деятелей, защищенных материалов и других.