Мониторинг операций служб SSIS с помощью Azure Monitor

Примечание.

Вы можете отслеживать работу SSIS с помощью Azure Monitor в Azure Data Factory, а не в Azure Synapse Pipelines.

Чтобы поднять и сдвинуть рабочие нагрузки SSIS, можно подготавливать IR SSIS в ADF, что поддерживает:

  • выполнение пакетов, развернутых в каталоге SSIS (SSISDB), которые размещаются на сервере Базы данных SQL Azure или в Управляемом экземпляре (модель развертывания для проектов);
  • выполнение пакетов, развернутых в файловой системе, службе "Файлы Azure" или базе данных SQL Server (MSDB), которые размещаются в Управляемом экземпляре SQL Azure (модель развертывания для пакетов).

После подготовки можно проверить операционный статус служб SSIS IR с помощью Azure PowerShell или в центре мониторинга в портале ADF. При использовании модели развертывания проекта журналы выполнения пакетов служб SSIS хранятся во внутренних таблицах и представлениях SSISDB, что позволяет выполнять запросы, анализировать и визуально представлять их с помощью определенных средств, таких как SSMS. При использовании модели развертывания пакетов журналы выполнения пакетов служб SSIS могут храниться в файловой системе или в Файлах Azure в виде CSV-файлов, которые необходимо проанализировать и обработать с помощью других назначенных средств, прежде чем можно будет выполнять запросы, анализировать и визуально представлять их.

Теперь с интеграцией Azure Monitor можно запрашивать, анализировать и визуально представлять все метрики и журналы, созданные с помощью IR-операций служб SSIS и выполнения пакетов служб SSIS, на портале Azure. Кроме того, по ним можно создавать оповещения.

Настройка параметров диагностики и рабочей области для операций служб SSIS

Чтобы отправлять все метрики и журналы, созданные с помощью IR-операций служб SSIS и выполнения пакетов служб SSIS, в Azure Monitor, необходимо настроить параметры диагностики и рабочую область для ADF.

Операционные метрики служб SSIS

Операционные метрики служб SSIS — это счетчики производительности или числовые значения, описывающие состояние операций запуска и завершения IR служб SSIS, а также выполнение пакетов служб SSIS в определенный момент времени. Они являются частью метрик Azure Monitor.

При настройке параметров диагностики и рабочей области для ADF в Azure Monitor установите флажок "Все метрики", чтобы операционные метрики SSIS стали доступны для интерактивного анализа с помощью обозревателя метрик Azure, представления на панели мониторинга Azure и оповещений практически в реальном времени.

Назовите ваши настройки и выберите рабочую область Log Analytics

Операционные оповещения служб SSIS

Чтобы создавать оповещения для операционных метрик служб SSIS на портале ADF, выберите страницу Оповещения и метрики центра мониторинга ADF и следуйте пошаговым инструкциям.

Создание оперативных уведомлений служб SSIS на портале ADF

Чтобы создавать оповещения для операционных метрик служб SSIS на портале Azure, выберите страницу Оповещения центра мониторинга Azure и следуйте пошаговым инструкциям.

Создание операционных оповещений служб SSIS на портале Azure

Журналы операций служб SSIS

Журналы операций служб SSIS — это события, создаваемые IR-операциями служб SSIS и выполнения пакетов служб SSIS, которые обеспечивают достаточный контекст при обнаруженных проблемах и полезны для анализа основных причин.

При настройке параметров диагностики и рабочей области для ADF в Azure Monitor можно выбрать соответствующие операционные журналы SSIS и отправить их в Log Analytics, основанный на Azure Data Explorer. В нем они будут доступны для анализа с помощью расширенного языка запросов, представления на панели мониторинга Azureи оповещений практически в реальном времени.

Дайте имя вашим настройкам и выберите рабочую область службы Log Analytics

Схемы и содержимое журналов выполнения пакетов служб SSIS в Azure Monitor и Log Analytics похожи на схемы внутренних таблиц и представлений SSISDB.

Категории журналов Azure Monitor Таблицы Log Analytics Внутренние таблицы и представления SSISDB
SSISIntegrationRuntimeLogs ADFSSISIntegrationRuntimeLogs
SSISPackageEventMessageContext ADFSSISPackageEventMessageContext [internal].[event_message_context]
SSISPackageEventMessages ADFSSISPackageEventMessages [internal].[event_messages]
SSISPackageExecutableStatistics ADFSSISPackageExecutableStatistics [internal].[executable_statistics]
SSISPackageExecutionComponentPhases ADFSSISPackageExecutionComponentPhases [internal].[execution_component_phases]
SSISPackageExecutionDataStatistics ADFSSISPackageExecutionDataStatistics [internal].[execution_data_statistics]

Дополнительные сведения об атрибутах и свойствах операционных журналов SSIS смотрите в разделе Журналы ресурсов.

Выбранные журналы выполнения пакетов служб SSIS всегда отправляются в Log Analytics независимо от их методов вызова. Например, можно вызывать выполнение пакетов, использующих возможности Azure, с помощью T-SQL в SSMS, агента SQL Server или других назначенных средств, а также в качестве запусков, активированных триггером, или отладочных запусков активности по выполнению пакетов SSIS в конвейерах Azure Data Factory (ADF).

При запросе журналов IR-операций для служб SSIS в журналах аналитики можно использовать свойства OperationName и ResultType, для которых заданы значения Start/Stop/Maintenance/Heartbeat и Started/InProgress/Succeeded/Failed/Healthy/Unhealthy соответственно.

Запрос журналов IR-операций службы SSIS в Log Analytics

Для запроса состояния узла SSIS IR можно установить для свойства OperationName значение Heartbeat. Каждый узел обычно отправляет одну запись Heartbeat в минуту в Log Analytics. Свойство ResultType отражает его статус: Healthy, когда выполнение пакета доступно, и Unhealthy, когда оно недоступно. Например, если ваша среда выполнения SSIS содержит два доступных узла, вы всегда будете видеть две Heartbeat записи со свойством ResultType, установленным на Healthy, в любой момент времени в течение одной минуты.

Запрос о пульсах среды выполнения интеграции службы Integration Services в Log Analytics

Вы можете запросить следующие шаблоны, чтобы обнаружить недоступность ваших узлов IR SSIS (среды выполнения интеграции для SSIS):

  • В течение многих одноминутных периодов отсутствуют записи Heartbeat, когда ваша среда выполнения SSIS всё ещё работает.
  • Когда ваша среда выполнения интеграции служб (SSIS IR) все еще работает, в течение многих одноминутных интервалов имеется Heartbeat записей, у которых свойство ResultType установлено на Unhealthy.

Вы можете преобразовать вышеупомянутые запросы в оповещения и перейти к вашей странице мониторинга SSIS IR, чтобы подтвердить момент получения вами этих оповещений.

При запросе журналов выполнения пакетов служб SSIS в службе Logs Analytics их можно объединить с помощью свойств OperationId/ExecutionId/CorrelationId. Для OperationId/ExecutionId всегда задано значение 1 для всех операций и выполнений, связанных с пакетами, которые не хранятся в SSISDB или вызываются через T-SQL.

Запрос журналов выполнения пакетов служб SSIS в Log Analytics

Схема журналов и событий