CachingChatClient Класс

Определение

Представляет делегированный клиент чата, который кэширует результаты вызовов чата.

public ref class CachingChatClient abstract : Microsoft::Extensions::AI::DelegatingChatClient
public abstract class CachingChatClient : Microsoft.Extensions.AI.DelegatingChatClient
type CachingChatClient = class
    inherit DelegatingChatClient
Public MustInherit Class CachingChatClient
Inherits DelegatingChatClient
Наследование
CachingChatClient
Производный

Конструкторы

Имя Описание
CachingChatClient(IChatClient)

Инициализирует новый экземпляр класса CachingChatClient.

Свойства

Имя Описание
CoalesceStreamingUpdates

Возвращает или задает значение, указывающее, являются ли обновления потоковой передачи объединенными.

InnerClient

Возвращает внутренний IChatClient.

(Унаследовано от DelegatingChatClient)

Методы

Имя Описание
Dispose()

Выполняет определяемые приложением задачи, связанные с освобождением, освобождением или сбросом неуправляемых ресурсов.

(Унаследовано от DelegatingChatClient)
Dispose(Boolean)

Предоставляет механизм освобождения неуправляемых ресурсов.

(Унаследовано от DelegatingChatClient)
EnableCaching(IEnumerable<ChatMessage>, ChatOptions)

Определяет, следует ли использовать кэширование с указанным запросом.

GetCacheKey(IEnumerable<ChatMessage>, ChatOptions, ReadOnlySpan<Object>)

Вычисляет ключ кэша для указанных значений.

GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken)

Представляет делегированный клиент чата, который кэширует результаты вызовов чата.

GetService(Type, Object)

Запрашивает IChatClient объект указанного типа serviceType.

(Унаследовано от DelegatingChatClient)
GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken)

Представляет делегированный клиент чата, который кэширует результаты вызовов чата.

ReadCacheAsync(String, CancellationToken)

Возвращает ранее кэшированный ChatResponseобъект , если он доступен. Это используется при вызове GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken).

ReadCacheStreamingAsync(String, CancellationToken)

Возвращает ранее кэшированный список значений ChatResponseUpdate , если он доступен. Это используется при вызове GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken).

WriteCacheAsync(String, ChatResponse, CancellationToken)

Хранится ChatResponse в базовом кэше. Это используется при вызове GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken).

WriteCacheStreamingAsync(String, IReadOnlyList<ChatResponseUpdate>, CancellationToken)

Хранит список значений ChatResponseUpdate в базовом кэше. Это используется при вызове GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken).

Методы расширения

Имя Описание
AsBuilder(IChatClient)

Создает новое ChatClientBuilder использование innerClient в качестве внутреннего клиента.

GetRequiredService(IChatClient, Type, Object)

Запрашивает IChatClient объект указанного типа serviceType и создает исключение, если он недоступен.

GetRequiredService<TService>(IChatClient, Object)

Запрашивает IChatClient объект типа TService и создает исключение, если он недоступен.

GetResponseAsync(IChatClient, ChatMessage, ChatOptions, CancellationToken)

Отправляет сообщение чата и возвращает ответные сообщения.

GetResponseAsync(IChatClient, String, ChatOptions, CancellationToken)

Отправляет текстовое сообщение чата пользователя и возвращает ответные сообщения.

GetResponseAsync<T>(IChatClient, ChatMessage, ChatOptions, Nullable<Boolean>, CancellationToken)

Отправляет сообщение чата, запрашивая ответ, соответствующий типу T.

GetResponseAsync<T>(IChatClient, ChatMessage, JsonSerializerOptions, ChatOptions, Nullable<Boolean>, CancellationToken)

Отправляет сообщение чата, запрашивая ответ, соответствующий типу T.

GetResponseAsync<T>(IChatClient, IEnumerable<ChatMessage>, ChatOptions, Nullable<Boolean>, CancellationToken)

Отправляет сообщения чата, запрашивая ответ, соответствующий типу T.

GetResponseAsync<T>(IChatClient, IEnumerable<ChatMessage>, JsonSerializerOptions, ChatOptions, Nullable<Boolean>, CancellationToken)

Отправляет сообщения чата, запрашивая ответ, соответствующий типу T.

GetResponseAsync<T>(IChatClient, String, ChatOptions, Nullable<Boolean>, CancellationToken)

Отправляет текстовое сообщение чата пользователя, запрашивая ответ, соответствующий типу T.

GetResponseAsync<T>(IChatClient, String, JsonSerializerOptions, ChatOptions, Nullable<Boolean>, CancellationToken)

Отправляет текстовое сообщение чата пользователя, запрашивая ответ, соответствующий типу T.

GetService<TService>(IChatClient, Object)

Запрашивает IChatClient объект типа TService.

GetStreamingResponseAsync(IChatClient, ChatMessage, ChatOptions, CancellationToken)

Отправляет сообщение чата и передает ответные сообщения.

GetStreamingResponseAsync(IChatClient, String, ChatOptions, CancellationToken)

Отправляет текстовое сообщение чата пользователя и передает ответные сообщения.

Применяется к