Работа с расширением Microsoft Foundry для Visual Studio Code (предварительная версия)

Microsoft Foundry предоставляет единую платформу для корпоративных операций искусственного интеллекта, построителей моделей и разработки приложений. Этот фонд объединяет инфраструктуру производственного уровня с понятными интерфейсами, обеспечивая организациям возможность создавать и управлять приложениями ИИ с уверенностью.

С помощью Foundry вы можете:

• Разверните последние языковые модели из Microsoft, OpenAI, Meta, DeepSeek и других с помощью надежного каталога моделей.

• Тестируйте развернутые модели в экспериментальной среде для моделей

• Быстро приступайте к разработке генеративных приложений ИИ, используя коллекцию шаблонов кода, подобранных Azure.

• Настройка и развертывание агентов с помощью службы агента Foundry

С помощью расширения Foundry для Visual Studio Code вы можете выполнить большую часть этого рабочего процесса непосредственно из Visual Studio Code. Он также поставляется с другими функциями, такими как шаблоны кода, игровые площадки и интеграция с другими расширениями и функциями VS Code.

В этой статье показано, как быстро приступить к работе с функциями расширения Foundry для Visual Studio Code.

Предпосылки

Прежде чем использовать расширение Foundry для Visual Studio Code, необходимо:

• Загрузить, установить и настроить Visual Studio Code. Дополнительные сведения: Загрузка Visual Studio Code

• Ваши расходы по подписке должны быть ниже вашего лимита квоты, чтобы развернуть новую модель в рамках этого быстрого начала. В противном случае вам уже нужно иметь развернутую модель чата.

• Задайте соответствующие разрешения RBAC для создания ресурсов Foundry и управления ими с расширением Visual Studio Code. Дополнительные сведения см. в разделе "Управление доступом на основе ролей" для Foundry.

Установка

После установки Visual Studio Code необходимо установить расширение Foundry для Visual Studio Code.

Чтобы установить расширение Foundry для Visual Studio Code, можно использовать Visual Studio Code Marketplace или установить его непосредственно из Visual Studio Code Code.

Установка из Visual Studio Code Marketplace

Чтобы установить расширение Foundry для Visual Studio Code из Visual Studio Code Marketplace, выполните следующие действия.

1. Откройте страницу расширения Foundry для Visual Studio Code.
2. Нажмите кнопку Установить.
3. Следуйте инструкциям по установке расширения в Visual Studio Code.
4. После установки откройте Visual Studio Code и убедитесь, что расширение успешно установлено из сообщений о состоянии.
5. Теперь расширение должно отображаться в основной панели навигации слева от Visual Studio Code.

Установка из Visual Studio Code

Чтобы установить расширение Foundry для Visual Studio Code в Visual Studio Code, выполните следующие действия.

1. Откройте Visual Studio Code.

2. Выберите Расширения в левой области.

3. Выберите значок Параметры в правой верхней части панели расширений.

4. Найдите и выберите Foundry.

5. Нажмите Установить.

6. Убедитесь, что расширение успешно установлено по сообщениям статуса.

Начало работы

Приступая к работе с расширением Foundry, выполните следующие действия.

Вход в ваши ресурсы

Войдите в подписку Azure, чтобы получить доступ к ресурсам, выполнив следующие действия.

1. Выберите значок Azure на панели навигации VS Code.

2. Войдите, выбрав Sign in to Azure... элемент в представлении Ресурсов Azure.

   

3. В разделе "Ресурсы" выберите подписку Azure и группу ресурсов.

4. Выберите Foundry и щелкните проект правой кнопкой мыши.

5. Выберите "Открыть" в расширении Foundry.

   

Исследовать расширение Foundry

Расширение Foundry открывается в собственном представлении, а значок Foundry теперь отображается на панели навигации VS Code. Расширение содержит три основных раздела: ресурсы, инструменты и справка и отзывы.

• Ресурсы. В этом разделе содержатся ресурсы, к которые у вас есть доступ в проекте Foundry. Раздел "Ресурсы" — это основное представление взаимодействия со службами Foundry. Он содержит следующие подразделы:

  • Модели. В этом разделе содержатся модели, которые можно использовать для создания и развертывания приложений ИИ. Представление "Модели" — это место, где можно найти развернутые модели в вашем проекте Foundry.
  • Агенты: Этот раздел содержит установленных агентов в проекте Foundry.
  • Ресурсы: в этом разделе содержатся ресурсы, которые есть в проекте Foundry.
    • Подключения. Этот подраздел содержит подключения, которые у вас есть в проекте Foundry. Например, подключения для заземления Bing.
    • Векторные хранилища: этот подраздел содержит векторные хранилища, которые есть в проекте Foundry.
  • Потоки: этот раздел содержит потоки и запускается из развернутого агента в проекте Foundry.

• Инструменты. В этом разделе содержатся средства, которые можно использовать для создания и развертывания приложений ИИ. В представлении "Инструменты" можно найти средства, доступные для развертывания, а затем работать с развернутыми моделями и агентами. Он содержит следующие подразделы:

  • Каталог моделей: ссылка на каталог моделей, который можно использовать для обнаружения и развертывания моделей.
  • Открытая среда для моделей: ссылка на интерактивную среду для взаимодействия с развернутыми моделями в проекте Foundry.
  • Площадка агента: ссылка на игровую площадку агента для взаимодействия с развернутыми агентами в проекте Foundry.

• Справка и отзывы. В этом разделе содержатся ссылки на документацию по Foundry, отзывы, поддержку и заявление о конфиденциальности Майкрософт. Он содержит следующие подразделы:

  • Документация. Ссылка на документацию по расширению Foundry.
  • GitHub: ссылка на репозиторий GitHub расширения Foundry.
  • Заявление о конфиденциальности Майкрософт: ссылка на заявление о конфиденциальности Майкрософт.
  • Присоединяйтесь к сообществу Foundry: Discord + Forum: ссылка на сервер Foundry community Discord.

Создание проекта

Вы можете создать проект Foundry из представления расширения Foundry, выполнив следующие действия.

1. Щелкните значок "плюс" рядом с ресурсами в разделе "Ресурсы" представления расширения Foundry.

   Можно создать новую группу ресурсов или выбрать существующую.

2. Чтобы создать новую группу ресурсов:

   1. В верхнем центре выберите Создать группу ресурсов и нажмите клавишу Enter.

      

   2. В верхнем центре введите имя группы ресурсов Azure для использования в текстовом поле "Ввод новой группы ресурсов " и нажмите клавишу ВВОД.

   3. В верхнем центре выберите расположение, которое вы хотите использовать в списке доступных расположений, и нажмите клавишу ВВОД.

3. Чтобы использовать существующую группу ресурсов:

   • В верхнем центре выберите группу ресурсов, которую вы хотите использовать в списке доступных групп ресурсов, и нажмите клавишу ВВОД.

4. В верхнем центре введите имя проекта Foundry для использования в текстовом поле "Ввод имени проекта " и нажмите клавишу ВВОД.

   

После развертывания проекта появится всплывающее окно с сообщением "Проект успешно развернут".

Чтобы развернуть модель в только что созданном проекте, нажмите кнопку "Развернуть модель " во всплывающем окне. Это действие открывает страницу каталога моделей в представлении расширения Foundry, чтобы выбрать нужную модель для развертывания.

Проект Foundry по умолчанию

При открытии проекта в расширении Foundry этот проект устанавливается в качестве проекта по умолчанию.

Переключите проект по умолчанию, выполнив следующие действия:

1. Щелкните правой кнопкой мыши проект Foundry и выберите параметр "Переключить проект по умолчанию" в расширении Azure .

2. В верхнем центре выберите проект Foundry, который вы хотите использовать в списке доступных проектов, и нажмите клавишу ВВОД.

Выбранный проект будет отображаться по умолчанию после имени проекта.

Работа с моделями

Расширение Foundry для Visual Studio Code позволяет создавать, взаимодействовать и развертывать большие языковые модели в Visual Studio Code.

Изучение всех моделей с помощью каталога моделей

Каталог моделей на портале Foundry — это центр для обнаружения и использования широкого спектра моделей для создания создаваемых приложений ИИ.

Доступ к каталогу моделей можно различными способами:

• Команда Foundry: Открыть палитру команд каталога моделей.
• Щелкните значок "плюс" рядом с моделями в разделе "Ресурсы " представления "Расширение Foundry".
• Выберите ссылку каталога моделей в разделе "Сервис " представления расширения Foundry.

Открытие каталога моделей из палитры команд

Получите доступ к каталогу моделей из командной палитры для изучения и развертывания подобранных моделей, доступных в Foundry, непосредственно из VS Code.

1. Выберите F1 , чтобы открыть палитру команд.

2. Введите Foundry: Открыть каталог моделей и нажмите Enter.

3. Отображается страница каталога моделей .

   

4. Отфильтруйте каталог моделей с помощью Publisher и/или Task раскрывающихся списков в левом верхнем углу страницы.

5. Найдите определенную модель с помощью панели поиска в верхнем центре страницы.

Открытие каталога моделей из раздела "Ресурсы"

Каталог моделей также доступен в разделе "Ресурсы" представления расширения Foundry.

В представлении расширения Foundry щелкните значок плюса рядом с моделями , чтобы открыть каталог моделей.

Откройте каталог моделей из раздела "Инструменты"

Каталог моделей также доступен в разделе "Сервис" представления расширения Foundry. Дважды щелкните ссылку каталога моделей , чтобы открыть каталог моделей.

Развертывание модели из каталога моделей

Разверните выбранную модель в каталоге моделей, выполнив следующие действия.

1. Выберите "Развернуть в Azure " сразу после имени выбранной модели.

   

2. Отображается страница развертывания модели .

   

3. Введите имя развертывания модели в текстовое поле Enter deployment name и нажмите клавишу ВВОД.

   

4. Выберите тип развертывания в раскрывающемся списке Тип развертывания и нажмите Enter.

   

5. Выберите версию модели в раскрывающемся списке "Версия модели", и нажмите клавишу ВВОД.

   

6. (Необязательно) Выберите количество токенов в минуту для ползунка токенов в минуту и нажмите клавишу ВВОД.

7. В левом нижнем углу нажмите кнопку Развернуть в Foundry, чтобы развернуть модель.

8. Откроется диалоговое окно подтверждения. Нажмите кнопку "Развернуть ", чтобы развернуть модель в проекте.

   

9. После успешного развертывания модель будет отображена под именем развертывания вместе с другими развернутыми моделями в разделе «Модели» вашего проекта.

   

Просмотр развернутых моделей

В представлении расширения ресурсов Azure выберите значок каретки в начале раздела "Модели", чтобы посмотреть список развернутых моделей.

В расширенном разделе Модели отображается список развернутых моделей.

Просмотр информации о карте модели

При выборе развернутой модели откроется панель, которая предоставляет некоторые основные сведения:

• Сведения о развертывании. В этом разделе содержатся сведения о модели:
  • Имя
  • Состояние настройки
  • Тип развертывания
  • Сведения об ограничении скорости
  • Сведения о версии
  • Имя модели
  • Версия модели
• Сведения о конечной точке. Этот раздел содержит ссылку целевого URI, тип проверки подлинности и ключ.
• Полезные ссылки. В этом разделе содержатся ссылки на пример кода и ссылки на учебники для начала разработки приложений ИИ.

Обновление модели

Чтобы обновить сведения о карточке модели, нажмите кнопку "Изменить " в правом верхнем углу карточки модели.

Обновите нужные редактируемые поля, такие как ограничение скорости непосредственно в VS Code.

Чтобы сохранить изменения, нажмите кнопку "Сохранить " в правом верхнем углу карточки модели.

Изучение примера кода модели

Создайте пример файла кода, выполнив следующие действия.

1. Щелкните правой кнопкой мыши развернутую модель и выберите параметр "Открыть файл кода ".

   

2. В верхнем центре выберите предпочитаемый пакет SDK для использования в раскрывающемся списке "Выбор предпочтительного пакета SDK" и нажмите клавишу ВВОД.

   

3. В верхнем центре выберите предпочитаемый язык в раскрывающемся списке "Выбор языка " и нажмите клавишу ВВОД.

   

4. В верхнем центре выберите предпочитаемый метод проверки подлинности, используемый в раскрывающемся списке "Выбор метода проверки подлинности " и нажмите клавишу ВВОД.

   

Пример файла кода

Этот пример файла кода Python, демонстрирующий базовый вызов API завершения чата. Вызов синхронный:

Взаимодействие с моделями с помощью песочницы для моделей

Интерактивный чат с моделью, изменением параметров и системными инструкциями с помощью игровой площадки модели.

Платформа модели доступна в разделе "Сервис" представления расширения Foundry. Дважды щелкните ссылку "Игровая площадка модели" , чтобы открыть игровую площадку модели.

Вы также можете открыть игровую площадку модели, выполнив следующие действия:

1. Щелкните правой кнопкой мыши на развернутой модели и выберите «Открыть в песочнице».

   

2. Отображается страница "Детская площадка ".

   

3. Введите запрос и просмотрите выходные данные.

4. Кроме того, можно использовать код представления в правом верхнем углу, чтобы узнать, как получить доступ к развертыванию модели программным способом.

5. Щелкните ссылку "Журнал" в левом верхнем углу игровой площадки, чтобы просмотреть журнал чата.

Очистка ресурсов

Плата за ресурсы Azure, созданные в этой статье, списывается с вашей подписки Azure. Если вы не ожидаете, что эти ресурсы потребуются в будущем, удалите их, чтобы избежать дополнительных расходов.

Удалите ваши модели

1. На панели навигации VS Code обновите расширение Foundry. В разделе "Ресурсы" разверните подраздел "Модели ", чтобы отобразить список развернутых моделей.

2. Щелкните правой кнопкой мыши развернутую модель, чтобы удалить и выберите параметр "Удалить ".

   

Удалите ваши инструменты

Удалите подключенную программу, выполнив следующие действия.

1. Откройте портал Azure.
2. Выберите группу ресурсов Azure, содержащую средство.
3. Нажмите кнопку Удалить.

Дальнейшие действия

• Узнайте о работе со службой агента с помощью этого расширения Visual Studio Code.