Поделиться через

Рекомендации по мониторингу Kubernetes с помощью Azure Monitor

  • Статья

В этой статье представлены лучшие практики мониторинга работоспособности и производительности вашей Службы Azure Kubernetes (AKS) и кластеров Kubernetes, поддерживающие Azure Arc. Руководство основано на пяти основных принципах архитектуры, описанных в Azure Well-Architected Framework.

Надёжность

Мы подтверждаем, что в облачной среде возникают сбои. Вместо того чтобы пытаться предотвратить все возможные сбои, нужно свести к минимуму воздействие сбоя каждого отдельного компонента. Используйте следующие сведения, чтобы обеспечить надежность кластеров Kubernetes и среды мониторинга.

Контрольный список проектирования

  • Включите очистку метрик Prometheus для кластера.
  • Включите аналитику контейнеров для сбора журналов и данных о производительности из кластера.
  • Создайте параметры диагностики для сбора журналов контрольной плоскости для кластеров AKS.
  • Включите рекомендуемые оповещения Prometheus.
  • Обеспечение доступности рабочей области Log Analytics, поддерживающей аналитику контейнеров.

Рекомендации по конфигурации

Рекомендация Преимущества
Включите очистку метрик Prometheus для кластера. Включите Prometheus в кластере с управляемой службой Azure Monitor для Prometheus , если у вас еще нет среды Prometheus. Используйте Azure Managed Grafana для анализа данных, собранных Prometheus. См. статью "Настройка сбора метрик Prometheus в управляемой службе Azure Monitor для Prometheus", чтобы собрать дополнительные метрики сверх конфигурации по умолчанию.
Включите аналитику контейнеров для сбора журналов и данных о производительности из кластера. Аналитика контейнеров собирает журналы stdout/stderr, метрики производительности и события Kubernetes из каждого узла в кластере. Он предоставляет панели мониторинга и отчеты для анализа этих данных, включая доступность узлов и других компонентов. Используйте Log Analytics для выявления ошибок доступности в собранных журналах.
Создайте параметры диагностики для сбора журналов контрольной плоскости для кластеров AKS. AKS реализует журналы плоскостей управления в качестве журналов ресурсов в Azure Monitor. Создайте параметр диагностики для отправки этих журналов в рабочую область Log Analytics, чтобы использовать запросы журналов для выявления ошибок и проблем, влияющих на доступность.
Включите рекомендуемые оповещения Prometheus. Оповещения в Azure Monitor заранее уведомляют вас об обнаружении проблем. Начните с набора рекомендуемых правил генерации оповещений Prometheus , которые определяют наиболее распространенные проблемы с доступностью и производительностью кластера. Потенциально добавьте оповещения поиска по журналам с помощью данных, собранных аналитикой контейнеров.
Обеспечение доступности рабочей области Log Analytics, поддерживающей аналитику контейнеров. Аналитика контейнеров использует рабочую область Log Analytics. Чтобы получить рекомендации по обеспечению надежности рабочей области, см. лучшие практики для журналов Azure Monitor.

Безопасность

Безопасность является одним из наиболее важных аспектов любой архитектуры. Azure Monitor предоставляет функции, которые используют как принцип минимальной привилегии, так и глубокой защиты. Используйте следующие сведения для мониторинга кластеров Kubernetes и обеспечения доступа только авторизованных пользователей к собранным данным.

Подключение кластеров к инсайтам контейнеров с помощью аутентификации с управляемыми идентификаторами.

Аутентификация с использованием управляемого удостоверения является стандартным методом аутентификации для новых кластеров. Если вы используете устаревшую проверку подлинности, перейдите к управляемому удостоверению, чтобы удалить локальную проверку подлинности на основе сертификатов.

Инструкции:Перейти на аутентификацию с управляемой идентификацией

Управляемая служба Azure для Prometheus хранит свои данные в рабочей области Azure Monitor, которая использует общедоступную конечную точку по умолчанию. Корпорация Майкрософт защищает подключения к общедоступным конечным точкам с помощью сквозного шифрования. Если требуется частная конечная точка, используйте приватный канал Azure , чтобы разрешить кластеру подключаться к рабочей области через авторизованные частные сети. Приватный канал также можно использовать для принудительного приема данных рабочей области через ExpressRoute или VPN.

Инструкции: см. Включение приватного канала для мониторинга Kubernetes в Azure Monitor для получения сведений о настройке вашего кластера для приватного канала. Дополнительные сведения о запросе данных с помощью приватной ссылки см. в статье "Использование частных конечных точек для управляемого Prometheus и рабочей области Azure Monitor".

Мониторинг сетевого трафика в кластеры и из кластеров с помощью аналитики трафика

Аналитика трафика анализирует журналы потоков NSG с помощью Azure Network Watcher для предоставления информации о потоке трафика в облаке Azure. Используйте этот инструмент, чтобы убедиться в отсутствии утечки данных из вашего кластера и обнаружить, если раскрыты какие-либо ненужные общедоступные IP-адреса.

Включение наблюдаемости сети

Надстройка "Наблюдаемость сети" для AKS обеспечивает наблюдаемость на нескольких уровнях в сетевом стеке Kubernetes. Наблюдение доступа между службами в кластере (восточно-западный трафик).

Инструкции. Настройка наблюдаемости сети контейнеров для службы Azure Kubernetes (AKS)

Защита рабочей области Log Analytics

Аналитика контейнеров отправляет данные в рабочую область Log Analytics. Обязательно обеспечьте защиту сбора и хранения данных журналов в рабочей области Log Analytics.

Инструкции. Прием журналов и хранение.

Оптимизация затрат

Оптимизация затрат — это способы сокращения ненужных расходов и повышения эффективности работы. Вы можете значительно сократить затраты на Azure Monitor, понимая различные параметры конфигурации и возможности для уменьшения объема собираемых данных. Ознакомьтесь с затратами и использованием Azure Monitor, чтобы понять различные способы оплаты Azure Monitor и как просмотреть ежемесячный счет.

Замечание

Ознакомьтесь с рекомендациями по оптимизации затрат в Azure Monitor для всех функций Azure Monitor.

Контрольный список проектирования

  • Включите коллекцию метрик с помощью управляемой службы Azure Monitor для Prometheus.
  • Настройте коллекцию агентов для изменения сбора данных в службе "Аналитика контейнеров".
  • Измените параметры сбора данных метрик в системе аналитики контейнеров.
  • Отключите сбор контейнерных аналитических данных о метриках, если вы не используете опыт взаимодействия с аналитикой контейнеров в портале Azure.
  • Если вы регулярно не запрашиваете таблицу журналов контейнеров или используете ее для оповещений, настройте ее в качестве базовых журналов.
  • Ограничьте сбор журналов ресурсов, которые вам не нужны.
  • Используйте ведение журналов, специфичных для ресурсов, для журналов ресурсов AKS и настройте таблицы как базовые журналы.
  • Используйте OpenCost для сбора сведений о затратах на Kubernetes.

Рекомендации по конфигурации

Рекомендация Преимущества
Включите коллекцию метрик с помощью управляемой службы Azure Monitor для Prometheus. Убедитесь, что вы не отправляете метрики Prometheus в рабочую область Log Analytics. Вы можете использовать управляемую службу Azure Monitor для Prometheus для удаления метрик Prometheus из кластера, включив Managed Prometheus. Обратите внимание, что вы можете настроить мониторинг контейнеров для сбора метрик Prometheus в рабочей области Log Analytics, однако это не рекомендуется, так как это дублирует данные в Управляемом Prometheus и приведет к дополнительным затратам. Дополнительные сведения см. в разделе о ценах на Managed Prometheus.
Настройте агент для изменения сбора данных в аналитике контейнеров. Анализируйте данные, собранные с помощью Container insights, как описано в Оптимизация затрат на мониторинг для Container insights, и измените конфигурацию, чтобы прекратить сбор ненужных данных.
Измените параметры сбора данных метрик в системе аналитики контейнеров. См. раздел "Включение параметров оптимизации затрат", чтобы узнать, как изменить частоту сбора данных метрик и пространств имен, которые собираются функцией аналитики контейнеров.
Отключите сбор контейнерных аналитических данных о метриках, если вы не используете опыт взаимодействия с аналитикой контейнеров в портале Azure. Аналитика контейнеров собирает множество одинаковых значений метрик, что и Managed Prometheus. Вы можете отключить коллекцию этих метрик, настроив аналитику контейнеров только для сбора журналов и событий , как описано в разделе "Включение параметров оптимизации затрат в аналитике контейнеров". Эта конфигурация отключает возможности Container insights в портале Azure, но вы можете использовать Grafana для визуализации метрик Prometheus и Log Analytics для анализа данных журналов, собранных системой Container insights.
Если вы регулярно не запрашиваете таблицу журналов контейнеров или используете ее для оповещений, настройте ее в качестве базовых журналов. Преобразуйте схему аналитики контейнеров в ContainerLogV2 , которая совместима с журналами Basic и может обеспечить значительную экономию затрат, как описано в статье "Оптимизация затрат на мониторинг для аналитики контейнеров".
Ограничьте сбор журналов ресурсов, которые вам не нужны. Журналы плоскости управления для кластеров AKS реализуются в виде журналов ресурсов в Azure Monitor. Создайте параметр диагностики для отправки этих данных в рабочую область Log Analytics. См. Сбор журналов уровня управления для кластеров AKS для рекомендаций о том, какие категории следует собирать.
Используйте ведение журналов, специфичных для ресурсов, для журналов ресурсов AKS и настройте таблицы как базовые журналы. AKS поддерживает либо диагностический режим Azure, либо режим, зависящий от ресурса, для журналов ресурсов. Укажите журналы ресурсов, чтобы включить параметр настройки таблиц для базовых журналов, которые обеспечивают сниженную плату за прием журналов, которые запрашиваются только иногда и не используются для оповещения.
Используйте OpenCost для сбора сведений о затратах на Kubernetes. OpenCost — это проект песочницы с открытым исходным кодом, нейтральный к поставщикам CNCF, предназначенный для понимания ваших затрат на Kubernetes и улучшения вашей способности к видимости затрат AKS. Он экспортирует подробные данные о затратах в дополнение к ценам azure для конкретного клиента в службу хранилища Azure, чтобы помочь администратору кластера анализировать и классифицировать затраты.

Эффективность работы

Операционное превосходство относится к процессам операций, необходимым для обеспечения надежной работы службы в рабочей среде. Используйте следующие сведения, чтобы свести к минимуму операционные требования для мониторинга кластеров Kubernetes.

Контрольный список проектирования

  • Ознакомьтесь с рекомендациями по мониторингу всех слоев среды Kubernetes.
  • Используйте Kubernetes с поддержкой Azure Arc для мониторинга кластеров за пределами Azure.
  • Используйте управляемые службы Azure для облачных инструментов.
  • Интеграция кластеров AKS в существующие средства мониторинга.
  • Используйте политику Azure для включения сбора данных из кластера Kubernetes.

Рекомендации по конфигурации

Рекомендация Преимущества
Ознакомьтесь с рекомендациями по мониторингу всех слоев среды Kubernetes. Мониторинг производительности кластера Kubernetes с помощью инструмента Container insights включает рекомендации и лучшие практики по мониторингу всей среды Kubernetes на сетевом, кластерном и прикладном уровнях.
Используйте Kubernetes с поддержкой Azure Arc для мониторинга кластеров за пределами Azure. Kubernetes с поддержкой Azure Arc позволяет отслеживать кластеры Kubernetes, работающие в других облаках, используя те же средства, что и кластеры AKS, включая аналитику контейнеров и управляемую службу Azure Monitor для Prometheus.
Используйте управляемые службы Azure для инструментов облачной среды. Управляемая служба Azure Monitor для Prometheus и Управляемая Grafana от Azure поддерживают все функции облачных нативных инструментов Prometheus и Grafana без необходимости работать с их основной инфраструктурой. Вы можете быстро обеспечить эти инструменты и подключить ваши кластеры Kubernetes с минимальными затратами. Эти службы позволяют получить доступ к обширной библиотеке правил сообщества и панелей мониторинга для мониторинга среды Kubernetes.
Интеграция кластеров AKS в существующие средства мониторинга. Если у вас уже есть инвестиции в Prometheus и Grafana, интегрируйте кластеры AKS и управляемые службы Azure в вашу существующую инфраструктуру, используя рекомендации в Мониторинг кластеров Kubernetes с помощью служб Azure и облачных нативных инструментов.
Используйте политику Azure для включения сбора данных из кластера Kubernetes. Используйте Политику Azure для включения сбора данных для метрик Prometheus, Аналитики контейнеров и параметров диагностики. Это гарантирует, что все новые кластеры автоматически отслеживаются и обеспечивается их конфигурация мониторинга.

Эффективность производительности

Уровень производительности — это способность вашей рабочей нагрузки эффективно масштабироваться в соответствии с требованиями, предъявляемыми к ней пользователями. Используйте следующие сведения для мониторинга производительности кластеров Kubernetes и обеспечения максимальной производительности.

Контрольный список проектирования

  • Включите коллекцию метрик Prometheus для кластера.
  • Включите аналитику контейнеров для отслеживания производительности кластера.
  • Включите рекомендуемые оповещения Prometheus.

Рекомендации по конфигурации

Рекомендация Преимущества
Включите коллекцию метрик Prometheus для кластера. Prometheus — это облачное решение метрик из Cloud Native Compute Foundation и наиболее распространенное средство, используемое для сбора и анализа данных метрик из кластеров Kubernetes. Включите Prometheus в кластере с управляемой службой Azure Monitor для Prometheus , если у вас еще нет среды Prometheus. Используйте Azure Managed Grafana для анализа данных, собранных Prometheus.

См. статью "Настройка сбора метрик Prometheus в управляемой службе Azure Monitor для Prometheus", чтобы собрать дополнительные метрики сверх конфигурации по умолчанию.
Включите аналитику контейнеров для отслеживания производительности кластера. При включении аналитики контейнеров для кластера Kubernetes можно использовать представления и рабочие книги для отслеживания производительности компонентов кластера. Эти данные могут перекрываться данными, собранными Prometheus. Ознакомьтесь с рекомендациями по оптимизации затрат .
Включите рекомендуемые оповещения Prometheus. Оповещения в Azure Monitor заранее уведомляют вас об обнаружении проблем. Начните с набора рекомендуемых правил генерации оповещений Prometheus , которые определяют наиболее распространенные проблемы с доступностью и производительностью кластера. Потенциально добавьте оповещения поиска по журналам с помощью данных, собранных аналитикой контейнеров.

Следующий шаг