Подключение и запрос модели ИИ с помощью .NET

Из этого краткого руководства вы узнаете, как создать консольное приложение чата .NET для подключения и взаимодействия с моделью OpenAI или Azure OpenAI. Приложение использует библиотеку Microsoft.Extensions.AI, чтобы можно было писать код с помощью абстракций ИИ, а не конкретного пакета SDK. Абстракции искусственного интеллекта позволяют изменять базовую модель ИИ с минимальными изменениями кода.

Клонирование примера репозитория

Вы можете создать собственное приложение, следуя шагам, описанным в следующих разделах, или клонировать репозиторий GitHub, содержащий готовые примеры приложений для всех быстрых стартов. Если вы планируете использовать Azure OpenAI, пример репозитория также структурирован как шаблон интерфейса командной строки разработчика Azure, который может подготовить ресурс Azure OpenAI для вас.

git clone https://github.com/dotnet/ai-samples.git

Создание приложения

Выполните следующие действия, чтобы создать консольное приложение .NET для подключения к модели ИИ.

1. В пустом каталоге на компьютере используйте команду dotnet new для создания нового консольного приложения:

   dotnet new console -o ExtensionsAI
   

2. Измените каталог в папку приложения:

   cd ExtensionsAI
   

3. Установите необходимые пакеты:

   dotnet add package Azure.Identity
   dotnet add package Azure.AI.OpenAI
   dotnet add package Microsoft.Extensions.AI.OpenAI
   dotnet add package Microsoft.Extensions.Configuration
   dotnet add package Microsoft.Extensions.Configuration.UserSecrets
   

   dotnet add package OpenAI
   dotnet add package Microsoft.Extensions.AI.OpenAI
   dotnet add package Microsoft.Extensions.Configuration
   dotnet add package Microsoft.Extensions.Configuration.UserSecrets
   

4. Откройте приложение в Коде Visual Studio или в выбранном редакторе

   code .
   

Добавление кода приложения

Приложение использует пакет Microsoft.Extensions.AI для отправки и получения запросов в модель ИИ.

1. В файле Program.cs добавьте следующий код для подключения и аутентификации к модели ИИ.

   using Microsoft.Extensions.Configuration;
   using Microsoft.Extensions.AI;
   using Azure.AI.OpenAI;
   using Azure.Identity;
   
   var config = new ConfigurationBuilder().AddUserSecrets<Program>().Build();
   string endpoint = config["AZURE_OPENAI_ENDPOINT"];
   string deployment = config["AZURE_OPENAI_GPT_NAME"];
   
   IChatClient client =
       new AzureOpenAIClient(new Uri(endpoint), new DefaultAzureCredential())
           .GetChatClient(deployment)
   

   Примечание.

   DefaultAzureCredential searches for authentication credentials from your local tooling. Если вы не используете шаблон azd для подготовки ресурса Azure OpenAI, необходимо назначить роль Azure AI Developer учетной записи, которую вы использовали для входа в Visual Studio или Azure CLI. Дополнительные сведения см. в статье Аутентификация в службах ИИ Azure с помощью.NET.

   using Microsoft.Extensions.AI;
   using Microsoft.Extensions.Configuration;
   using OpenAI;
   
   IConfigurationRoot config = new ConfigurationBuilder().AddUserSecrets<Program>().Build();
   string? model = config["ModelName"];
   string? key = config["OpenAIKey"];
   
   // Create the IChatClient
   IChatClient client =
       new OpenAIClient(key).GetChatClient(model).AsIChatClient();
   

2. Read the benefits.md file content and use it to create a prompt for the model. Запрос указывает модели суммировать текстовое содержимое файла.

   // Create and print out the prompt
   string prompt = $"""
       summarize the the following text in 20 words or less:
       {File.ReadAllText("benefits.md")}
       """;
   
   Console.WriteLine($"user >>> {prompt}");
   

3. Вызовите функцию InvokePromptAsync, чтобы отправить подсказку модели для создания ответа.

   // Submit the prompt and print out the response
   ChatResponse response = await client.GetResponseAsync(prompt, new ChatOptions { MaxOutputTokens = 400 });
   Console.WriteLine($"assistant >>> {response}");
   

4. Используйте команду dotnet run для запуска приложения:

   dotnet run
   

   Приложение выводит ответ завершения из модели ИИ. Настройте текстовое содержимое benefits.md файла или длину сводки, чтобы увидеть различия в ответах.

azd down

Дальнейшие действия

• краткое руководство по созданию приложения чата ИИ с помощью .NET
• Generate text and conversations with .NET and Azure OpenAI Completions