Эпоха монолитных приложений почти прошла. Современные системы разделены на множество компонентов. Даже в самом простом приложении может быть много микросервисов, а у тех есть свои составляющие, например база данных, так что число элементов в системе растёт в геометрической прогрессии. Посмотрите на пирамиду SRE из книги Google о SRE — в её основании лежит мониторинг. Мы должны очень хорошо понимать, что происходит в нашей системе в каждый момент времени. Чем качественнее наблюдение, тем меньше багов. А ещё можно вовремя находить узкие места и тратить меньше времени на обслуживание системы. В этой статье мы поговорим о наблюдаемости и её главных инструментах. Чтобы было понятнее, возьмём для примера приложение, которое обрабатывает создание аккаунтов. UI Microservice — бэкенд-сервис, который будет обрабатывать запросы, полученные от пользовательского интерфейса (это может быть мобильное или веб-приложение). Получив данные от пользователя, этот микросервис будет делать запрос к Accounts Microservice. Accounts Microservice проверяет, есть в базе данных такой аккаунт или нет. Если нет, добавляет новый аккаунт. Если есть, ничего не делает. Лог — это запись, которая описывает событие, произошедшее в системе или сервисе. Обычно логи включают метаданные с контекстом, например метку времени, когда произошло событие. Логи можно структурировать в любом формате (скажем, JSON) или отображать как обычный текст. Например, наш микросервис Accounts может занести в лог ошибку, возвращённую базой данных:  Мы можем заглянуть в лог и узнать, почему приложение не зарегистрировало аккаунт в базе данных. Логи очень просты, но при этом эффективны для анализа события в системе, если предоставляют качественный контекст. Правда, тут надо действовать с умом:  Если мы записываем слишком много подробностей, страдает производительность приложения. Если мы храним логи, нужно проследить, чтобы хранилище не обходилось слишком дорого. В логах НЕ должно быть конфиденциальной информации. Для логов не нужен отдельный сервис — в языке программирования уже есть библиотека для их создания. Лучше хранить логи централизованно, чтобы можно было изучать всю полезную информацию в одном месте. Существуют инструменты для загрузки логов: Fluentd — опенсорс-проект, с помощью которого можно загружать логи в разные хранилища. Если сервис развёрнут в облаке (AWS, Azure, GCP и т. д.), там уже есть управляемый сервис для сбора логов. Например, AWS CloudWatch или GCP Cloud Monitoring. Datadog, ELK Stack и New Relic — платформы наблюдаемости, которые предлагают инструменты для сбора, анализа и хранения логов. Метрики помогают измерять количественные характеристики системы.  У метрики обычно есть имя, значение, метка времени и метки. Кстати, следите за кардинальностью меток — если она слишком высокая, пострадает производительность системы. Не пытайтесь уместить очень много информации в одной метрике. В нашем примере можно определить метрику для мониторинга числа ошибок, полученных из базы данных. Мы не узнаем столько же информации, сколько из лога, но это лёгкий способ собрать общие сведения. Метрики можно использовать двумя способами: Прямой мониторинг — визуализации. По метрикам на дашбордах очень удобно отслеживать поведение системы. Непрямой мониторинг — оповещения. Можно определить пороговое значение и настроить уведомления о том, что метрика пересекла этот порог. Для работы с метриками есть две категории инструментов. Если мы хотим использовать опенсорс-решения, придётся комбинировать несколько продуктов. Для сбора метрик обычно используется Prometheus. Он предлагает SDK по реализации и сбору метрик для разных языков программирования. Prometheus может хранить метрики, но хранилище у него не лучшее. Если вы планируете долго хранить метрики, а система производит очень много метрик, лучше использовать Thanos. Thanos оптимизирован для долгосрочного хранения метрик Prometheus.  Prometheus и Thanos позволяют визуализировать хранимые метрики, но если нам нужны расширенные возможности визуализации, стоит использовать Grafana с её продуманными дашбордами. Для оповещений у нас есть Alert Manager, уже интегрированный в Prometheus, где можно определять правила. Alert Manager можно интегрировать с разными решениями для on-call. На облачных платформах есть инструменты для сбора метрик, а также для их хранения, визуализации и настройки оповещений. Это хороший вариант для систем, развёрнутых в облаке, если вас не смущает цена. У Datadog, ELK Stack и New Relic тоже есть SDK для отправки метрик и весь стек, необходимый для работы с ними. В распределённых системах метрик и логов может быть недостаточно для полноценного анализа события. В этом случае используются трассировки, которые записывают информацию на протяжении всего жизненного цикла действия, включая результат, время, потраченное в каждом сервисе, и другие полезные сведения. В нашем примере давайте рассмотрим запрос пользователя на регистрацию аккаунта: Для этого запроса трассировка может выглядеть так: Трассировки могут извлекать метрики из действий, например, время, потраченное на операцию в базе данных. Трассировки тоже можно визуализировать, чтобы изучить взаимодействие между разными компонентами и определить, какой сервис сбоит и где у системы узкие места. Для распределённой трассировки доступны следующие инструменты: Среди опенсорс-проектов можно выделить два: OpenTelemetry и Jaeger. Если мы хотим визуализировать трассировки, можно использовать их родные инструменты визуализации или интегрировать их с Grafana, чтобы получить больше возможностей. На облачных платформах есть свои сервисы для сбора трассировок. Также можно использовать решения Datadog, New Relic и ELK Stack. Наверное, вы уже заметили, что инструменты для наблюдаемости можно разделить на две большие категории: Отдельные опенсорс-решения, которые мы собираем и настраиваем сами. Сервисы на облачных платформах или сторонние стеки (Datadog, ELK Stack, New Relic). А как насчёт опенсорс-проекта для комплексного подхода к наблюдаемости? OpenTelemetry сочетает в себе два решения для мониторинга — OpenTracing и OpenCensus — и развивается как единый инструмент для всех задач, связанных с мониторингом. Универсального решения не существует. Нужно проанализировать требования, расходы, масштабируемость, навыки команды и многие другие факторы каждой системы, чтобы выбрать подходящий продукт. Все компании, рано или поздно сталкиваются с внедрением SRE-практик, которые помогают повысить отказоустойчивость системы и минимизировать издержки бизнеса.  Приходите на трехнедельных практический курс SRE: data-driven подход к управлению надёжностью систем.  Обучение выстроено по принципу полного погружения в среду, чтобы студенты не просто изучали теорию и смотрели видеоуроки, а могли сами потрогать различные инструменты и поработать в команде.  Формат предполагает разделение на команды, разбор интересных кейсов и обмен опытом между участниками и спикерами.    На курсе вы: внедрите правки прямо в прод; узнаете, как решать конкретные проблемы, связанные с надежностью сервиса; поймете, какие метрики собирать и как это делать правильно; научитесь быстро поднимать продакшн силами команды. Помимо того, что учиться будет интересно, благодаря новым знаниям и практике вы сможете:  снизить процент отказов своего сервиса; повысить скорость реагирования на отказы; снизить риски при выкате новых фич; увеличить скорость разработки. Курс хорошо подходит как для только думающих внедрять в компании практики SRE, так и для сформировавшихся команд, которые хотят опробовать новые практики, улучшить имеющиеся и обменяться опытом с коллегами. Для команд от 5 человек у нас действуют особые условия участия -65 000 Р за 1 сотрудника, вместо 75 000 Р. Возможна постоплата!   Посмотреть программу и записаться.