Всем привет! В этой статье я расскажу, как мы внедряли сервис Apache Airflow для использования различными командами в нашей компании, какие задачи мы хотели решить этим сервисом, опишу архитектуру деплоя и наш IaC (Infrastructure as Code). До того как у нас в data платформе появился Airflow регламентные процессы запускались или вручную, или настраивался регулярный запуск задач через NiFi, что вызывало определенные неудобства: невозможно было отслеживать state задач, логи работы задач не были недоступны через интерфейс, да и в целом, NiFi как инструмент предназначен для задач потоковой обработки данных. Поэтому было принято решение внедрить более специализированный инструмент от которого требовалось запускать задачи по расписанию с возможностью перезапуска, контролем статуса и уведомлением всех заинтересованных сторон. Также нужно было обеспечить разделение доступов для пользователей по выполняемым задачам, поскольку на кластере работают разные команды. При выборе мы рассматривали Oozie и Airflow. И выбрали Apache Airflow по причине наличия у нас в команде практик по работе с этим инструментом, и как одно из самых используемых и развивающихся open source решений для оркестрации процессов работы с данными.  Ниже приведена текущая схема деплоя и связей компонентов платформенного кластера Apache Airflow: Сервисы  Airflow развёрнуты в Docker контейнерах на VM в облаке. В качестве базы данных используется PostgreSQL и Redis как MQ (мы используем Airflow CeleryExecutor). Логи DAGов сохраняются на S3 через настройки Airflow, логи самих сервисов (Docker контейнеров) через Fluentd пересылаются в Elasticsearch. Пользователи обращаются через reverse proxy (Nginx) к развёрнутым инстансам Airflow Webserver. Набор DAG’ов, который относится к одной команде разработки или имеет общие библиотеки-зависимости, мы называем модулем и для каждого такого модуля разработчики создают отдельный репозиторий GIT (module-репозиторий). Репозитории в общем случае имеют следующую структуру: dags/ —  в этот каталог, как вы уже догадались, мы помещаем все разработанные DAGи. tests/ — опциональный каталог, в который разработчики могут поместить свои тесты, которые запустятся во время pipeline. requirements.txt — здесь разработчики указывают свои Python зависимости для установки в Docker образ. Dockerfile — инструкции для сборки образа. В общем случае он почти всегда один и тот-же, и наследуется с нашего базового образа Apache Airflow. Jenkinsfile — инструкции для самого pipeline, который у нас запускается через Jenkins.  В результате pipeline каждого такого module-репозитория собирается Docker образ с необходимыми зависимостями. Эти образы в дальнейшем будут используются для запуска контейнеров Airflow Worker. Стоит заметить, что тесты запускаются на нашем базовом образе Apache Airflow, чтобы проверить логику импорта python зависимостей. Поскольку зависимости у каждого модуля свои и находятся только в образе Worker, то необходимо проверить, что Airflow сможет корректно импортировать такие DAGи на базовых образах. Для этого все импорты кастомных библиотек разработчики выполняют внутри PythonOperator. Например: Для интересующихся, советую к прочтению статью об опыте наших data-инженеров по разработке самогенерирующихся DAGов на основе метаданных - DAG’и без напрягов: наш опыт использования метаданных при работе с Apache Airflow. Доставку и настройку компонентов Airflow мы производим через Ansible, конфигурации которого хранятся в отдельном deploy-репозитории. У deploy-репозитория есть свой pipeline, который в результате публикует в наш Docker Registry образ с необходимыми ansible конфигурациями для деплоя. На основе этого образа производится запуск docker container, из которого производится выполнения установок (как через pipeline, так и локально). Репозиторий с Ansible конфигурацией в общем случае имеет следующую структуру: group_vars — переменные для разных окружений. playbooks — ansible playbooks файлы. roles/requirements.yml — конфиг с используемыми ansible ролями и их версиями (устанавливаем через ansible-galaxy). Dockerfile — инструкция для сборки образа с установленным ansible и всеми конфигурациями для него. аnsible.cfg — конфигурация ansible. inventory.* — inventory файлы ansible для разных окружений. У каждого module-репозитория есть свой pipeline, результатом которого является опубликованный (в Docker Registry) образ со всеми конфигурациями Ansible (roles, playbooks, vars, plugins и т.д.) для запуска. Этот образ используется для запуска контейнера, в котором и выполняется ansible-playbook. В каждом отдельном module-репозитории по различным событиям GIT запускаются соответствующие pipeline. На схеме ниже приведён самый распространённый из всех: Pull request в main/master ветки запускает только проверку сборки Docker образа и тесты. Push в main/master ветку запускает сборку и публикацию Docker образа (в Docker Registry) с latest версией, и следом деплой на Stage кластер Airflow. Установка тега запускает сборку и публикацию Docker образа и релиз модуля на Airflow Prod. Чтобы построить такую схему деплоя с использованием Jenkins, мы используем Jenkins Pipeline Library репозиторий. Таким образом сам Jenkinsfile в module-репозиториях предельно простой: Причём настройки уникальные для module-репозитория всегда можно передать параметром в функцию вызова pipeline. Например, в следующем Jenkinsfile указано, что DAGи нужно будет устанавливать сразу на два кластера: Весь код pipeline храниться и обновляется отдельно от репозиториев модулей. Это позволяет легко модифицировать deploy pipeline централизованно, без обновлений в module-репозиториях. Всю конфигурацию для Airflow мы передаём через environment variables для запускаемых Docker контейнеров. Конфигурация содержится в deploy-репозитории, в который обычные пользователи не контрибьютят. Для каждого модуля так же существует конфигурация, в которой мы указываем какие worker для этого модуля нужно развернуть, на каких хостах, с какими переменными или секретами внутри. Т.к. кластер коммунальный, а в Airflow нет гибкого RBAC для разграничения доступа на создание и изменение подключений, настройки подключений производятся администраторами кластера по запросам пользователей. Пример для конфигурации одного модуля, для которого деплоятся два Airflow Worker с разными очередями и конфигами: Для предоставления пользователям возможности задавать на кластерах необходимые переменные, пулы или роли у нас используется разработанный в компании сервис metadata. Сервис представляет собой приложение, которое преобразует загруженные yaml файлы и отдаёт их в JSON формате через REST API.  Все yaml файлы находятся в репозитории GIT и пользователи кластера контрибьютят в соответствующие yaml конфигурации для изменения общих параметров кластера. В самом Airflow присутствуют технические даги, которые синхронизируют мету, указанную пользователями, в роли, переменные и пулы Airflow. Помимо дагов, которые синхронизируют некоторые параметры кластеров (см. главу Pools, variables and roles) нами написан canary DAG для мониторинга задержек между запусками task внутри DAGов. Сам DAG не выполняет никакой работы, просто запускает dummy задачи каждые 15 минут. Код DAGа: Работу этого DAG’а анализирует Airflow Exporter (см. главу про мониторинг ниже) и отдаёт метрику airflow_dag_task_lag, которая показывает средний лаг между dummy-задачами. Эта метрика позволяет нам выявить проблемы взаимодействия компонент сервиса. Мы собрали базовый Docker образ на основе официально образа от Apache Airflow (c этого образа наследуют все module-репозитории). В этот образ, в том числе, входят несколько написанных нами плагинов. Чтобы пользователи могли увидеть, какая версия их DAG’ов установлена на кластер, мы разработали плагин, который отображает модули и установленные версию на кластер. В нашей команде есть сервис по централизованному управлению доступами к сервисам платформы и нам требовалось выдавать доступы на кластера Airflow через API. В используемой нами версии Airflow 1.10.14 отсутствует rest api по управлению доступом, поэтому мы написали плагин для grant и revoke Airflow ролей у пользователей через rest api и используем его для автоматизаций. В команде используется Prometheus, как хранилище метрик и для мониторинга кластеров мы разработали свой собственный Prometheus Exporter с нужными нам метриками. Exporter содержит общие метрики по состоянию кластера для SRE платформы.  Например: Состояние компонент кластера (webserver/scheduler/metadatabase); Состояние запущенных Celery Worker (через Flower API); Кол-во запущенных задач на кластере; Лаг между задачами внутри DAG (см. Главу Технические DAG); Размеры и использование Airflow Pool; Кол-во XCOM; Кол-во ошибок импорта DAGов; и т.п. Также exporter предоставляет метрики для команд, которые хотят настроить свои собственные алерты по разработанным DAG. Например, метрика, показывающая статус DAG или лаг с момента последнего запуска DAG. На текущий момент по описанным выше методам и конфигурациям у нас установлены и успешно используются и сопровождаются три кластера: коммунальные кластера (stage и prod окружения) и кластер для отдельного проекта. Мы считаем, что выбор и использование Apache Airflow как инструмента оправдало себя. Сервис стабилен и успешно справляется с выполняемыми задачами, и возлагаемой на него нагрузкой. Стоит заметить, что в большинстве случаев мы используем Airflow в основном как оркестратор процессов. Основные операционные нагрузки на текущий момент находятся на стороне Greenplum и сервисах-источниках.  Узнать больше о нашем хранилище и в целом об архитектуре платформы можно здесь  Но так же на Airflow выполняются и задачи, несущие ресурсную нагрузку типа MLOps, которые выполняются на отдельных Airflow Worker. Подробнее про то как наши data scientist’ы строят свои data-pipeline можно посмотреть здесь.  Немного статистики: На прод окружении коммунального кластера создано ~ 700 DAGов; В среднем ~100 одновременно работающих DAG (~70 одновременно запущенных DAG task, ~65000 DAG tasks за день; В базе хранится ~300K XCOM; Порядка 100 пользователей в Airflow Webserver; Со всем этим успешно справляются (и даже с запасом): VM (Airflow Scheduler)  - 8 vCPU 8 GB RAM; VM (Airflow Webserver) - 4 vCPU 6 GB RAM; Postgres 12 -  8 vCPU, 32 GB RAM (на этом кластере живут два прод кластера Airflow; Сама БД Airflow текущим размером в 45 GB); Redis 5 - 2 vCPU, 8 GB RAM; Некоторые параметры тюнинга процессов Airflow, что мы используем на указанных выше ресурсах, без тюнинга которых невозможно добиться производительности кластера: Из планов на будущее: Конечно же обновление на Airflow 2.x (хотим отказоустойчивый Scheduler). Переезд в Kubernetes для отказоустойчивости и более оптимального использования ресурсов в облаках. DevOps/SRE/Developer