Что такое Azure OpenAI в моделях Azure AI Foundry?

Azure OpenAI предоставляет доступ к мощным языковым моделям OpenAI, включая o4-mini, o3, gpt-4.1, o3-mini, o1, o1-mini, GPT-4o, GPT-4o mini, GPT-4 Turbo с Vision, GPT-4, GPT-3.5-Turbo и серии моделей Embeddings. Эти модели можно легко адаптировать к конкретной задаче, включая, но не ограничивается созданием контента, сводные данные, понимание изображений, семантический поиск и естественный язык для перевода кода. Пользователи могут получить доступ к службе через REST API, пакеты SDK Python/C#/JS/Java/Go.

Общие сведения о функциях

Ответственное применение ИИ

В корпорации Майкрософт мы стремимся к развитию ИИ на основе принципов, которые ставят на первое место человека. Созданные модели, такие как те, которые доступны в Azure OpenAI, имеют значительные потенциальные преимущества, но без тщательного проектирования и тщательного устранения рисков, такие модели могут создавать неправильное или даже вредное содержимое. Корпорация Майкрософт сделала значительные инвестиции, чтобы помочь защититься от злоупотреблений и непреднамеренного ущерба, который включает включение принципов Корпорации Майкрософт для ответственного использования ИИ, принятие кодекса поведения , который клиенты должны учитывать при использовании Azure OpenAI.

Начало работы с Azure OpenAI

Чтобы приступить к работе с Azure OpenAI, необходимо создать ресурс Azure OpenAI в подписке Azure.

Начните с руководства по созданию и развертыванию ресурса Azure OpenAI .

1. Вы можете создать ресурс с помощью портал Azure, Azure CLI или Azure PowerShell.

2. При наличии ресурса Azure OpenAI можно развернуть модель, например GPT-4o.

3. Если у вас развернутая модель, вы можете:

   • Попробуйте использовать игровые площадки портала Azure AI Foundry для изучения возможностей моделей.
   • Вы также можете просто начать вызовы API к службе с помощью REST API или пакетов SDK.

   Например, вы можете попробовать звук в режиме реального времени на игровых площадках или с помощью кода.

Сравнение Azure OpenAI и OpenAI

Azure OpenAI предоставляет клиентам расширенные возможности ИИ с помощью моделей OpenAI GPT-4, GPT-3, Codex, GPT-image-1 (предварительная версия), DALL-E, преобразования речи в текст и текста в речь, с безопасностью и корпоративными гарантиями Azure. Azure OpenAI совместно разрабатывает API с OpenAI, обеспечивая совместимость и плавное переход с одного на другое.

С помощью Azure OpenAI клиенты получают возможности безопасности Microsoft Azure, выполняя те же модели, что и OpenAI. Azure OpenAI предлагает частные сети, региональную доступность и ответственную фильтрацию контента ИИ.

Основные понятия

Запросы и завершения

Конечная точка завершения является основным компонентом службы API. Этот API предоставляет доступ к интерфейсу ввода и вывода текста модели. Пользователям просто нужно предоставить входной запрос, содержащий текстовую команду на английском языке, и модель создает текстовое завершение.

Пример простой подсказки и завершения:

Запрос: """ count to 5 in a for loop """

Завершение: for i in range(1, 6): print(i)

Токены

Текстовые токены

Azure OpenAI обрабатывает текст, разбив его на маркеры. Маркеры могут представлять собой слова или просто группы символов. Например, слово "гамбургер" разбивается на токены "гам", "бур" и "гер", тогда как короткое и распространенное слово, такое как "груша", является одним токеном. Многие маркеры начинаются с пробела, например " привет" и " пока".

Общее количество маркеров, обрабатываемых в данном запросе, зависит от длины входных, выходных данных и параметров запроса. Количество обрабатываемых маркеров также повлияет на задержку ответа и пропускную способность моделей.

Маркеры ввода изображения

Возможности обработки изображений Azure OpenAI с помощью GPT-4o, GPT-4o-mini и GPT-4 Turbo с моделями визуального зрения используют маркеризацию изображений для определения общего количества маркеров, потребляемых входными данными изображения. Количество используемых токенов вычисляется на основе двух основных факторов: уровень детализации изображения (низкий или высокий) и размеры изображения. Вот как вычисляются затраты на токены:

• Режим низкого разрешения
  • Низкая детализация позволяет API возвращать более быстрые ответы для сценариев, которые не требуют анализа высокого разрешения изображений. Маркеры, используемые для изображений с низкой детализацией:
    • GPT-4o и GPT-4 Turbo с Vision: фиксированная стоимость 85 токенов за изображение независимо от размера.
    • GPT-4o mini: плоская скорость 2833 токенов на изображение независимо от размера.
  • Пример: изображение 4096 x 8192 (низкая детализация) — стоимость составляет 85 токенов с GPT-4o, поскольку это изображение с низкой детализацией, и размер не влияет на стоимость в этом режиме.
• Режим высокого разрешения
  • Высокая детализация позволяет API более подробно анализировать изображения. Токены изображения рассчитываются на основе размеров изображения. Вычисление включает в себя следующие действия.
    1. Изменение размера изображения: изображение изменяется, чтобы он соответствовал размеру в квадрате 2048 x 2048 пикселей. Если кратчайшая сторона больше 768 пикселей, изображение будет изменено, чтобы кратчайшая сторона стала 768 пикселей длиной. Пропорции сохраняются во время изменения размера.
    2. Разделение изображения на плитки: после изменения размера изображение разбивается на плитки размером 512 x 512 пикселей. Все частичные плитки округляются до полной плитки. Количество плиток определяет общую стоимость токена.
    3. Вычисление токена:
       • GPT-4o и GPT-4 Turbo с функцией визуализации: Каждая плитка 512 x 512 пикселей стоит 170 токенов. К общей сумме добавляются дополнительные 85 базовых токенов .
       • GPT-4o mini: каждая плитка 512 x 512 пикселей стоит 5667 токенов. Дополнительные базовые токены 2833 добавляются в общую сумму.
  • Пример: изображение 2048 x 4096 (высокая детализация):
    1. Изначально изображение изменяется до размера 1024 x 2048 пикселей, чтобы поместиться в квадрат размером 2048 x 2048 пикселей.
    2. Изображение изменяется на 768 x 1536 пикселей для гарантии, что самая короткая сторона составляет не более 768 пикселей.
    3. Изображение делится на 2 x 3 плитки, каждая из которых составляет 512 x 512 пикселей.
    4. Окончательный расчет:
       • Для GPT-4o и GPT-4 Turbo с Vision общая стоимость токенов составляет 6 x 170 токенов на единицу + 85 базовых токенов, всего 1105 токенов.
       • Для GPT-4o mini общее количество токенов составляет 6 тайлов x 5667 токенов на тайл + 2833 базовых токенов = 36835 токенов.

Токены генерации изображений

GPT-image-1 создает изображения, сначала создавая специализированные маркеры изображений. Задержка и конечная стоимость пропорциональны количеству маркеров, необходимых для отрисовки изображения. Количество созданных токенов зависит от размеров изображения и качества.

Ресурсы

Azure OpenAI — это новое предложение продукта в Azure. Вы можете приступить к работе с Azure OpenAI так же, как и любой другой продукт Azure, в котором вы создаете ресурс или экземпляр службы в подписке Azure. Дополнительные сведения о проектировании управления ресурсами Azure см. в этой статье.

Развертывания

После создания ресурса Azure OpenAI необходимо развернуть модель, прежде чем приступить к вызовам API и созданию текста. Это действие можно выполнить с помощью API развертывания. Эти API позволяют указать модель, которую вы хотите использовать.

Инженерия подсказок

Модели GPT-3, GPT-3.5 и GPT-4 из OpenAI основаны на запросах. С моделями на основе текстовых подсказок пользователь взаимодействует, вводя текстовый запрос, на который модель отвечает завершением текста. Это завершение является продолжением исходного текста моделью.

Хотя эти модели являются мощными, их поведение также чувствительно к запросу. Это делает инженерию быстрого важным навыком для осваивания.

Создание запроса может быть сложной задачей. На практике запрос служит для настройки весов модели для выполнения требуемой задачи, но это скорее искусство, чем наука, часто требующее опыта и интуиции для составления успешного запроса.

Модели

Служба предоставляет пользователям доступ к нескольким различным моделям. Модели обладают разными возможностями и имеют различные расценки.

Модели создания изображений (некоторые в предварительной версии; см. модели) создают и редактируют изображения из текстовых запросов, которые предоставляет пользователь.

Модели API аудио можно использовать для транскрибирования и перевода речи в текст. Модели преобразования текста в речь, находящиеся в предварительной версии, можно использовать для синтеза текста в речь.

Дополнительные сведения о каждой модели см. на странице концепции моделей.

Дальнейшие шаги

Ознакомьтесь с дополнительными сведениями о базовых моделях, лежащих в основе Azure OpenAI.