Автор статьи - Павел Греблов, руководитель группы аналитиков GlowByte (@greblov) В задачах построения и развития Data Platform с течением времени мы всегда приходим к вопросу эффективного управления данными. Chief Data Officer, задавшись целью развить, вывести на новый уровень функцию управления данными, склоняются к “тяжеловесным” шагам, внедряя дорогостоящее вендорское ПО или начиная собственную разработку инструментов. В то же время в открытом доступе есть законченные, испытанные временем продукты, с которых можно начать испытывать и развивать процессы и компетенции в области Data Governance, применив минимум затрат на внедрение и двигаясь поступательно методом “маленьких побед”. Apache Atlas является одним из таких доступных open source-инструментов класса Data Catalog, который нам удалось полноценно опробовать и успешно замкнуть на него ряд процессов управления данными. Далее я хочу дать краткий обзор основных компонент Apache Atlas, какие функциональные возможности они открывают для пользователей, дать им свою оценку (плюсы и минусы). В конце статьи будет небольшая инструкция, как быстро развернуть экземпляр Atlas для знакомства и экспериментов с парой примеров. Apache Atlas тесно интегрирован с экосистемой Hadoop, является open source-продуктом и присутствует в дистрибутивах от ArenaData, Cloudera и HortonWorks. Предоставляет возможности управления метаданными и создания единого каталога данных, а также классификации и управления этими данными. Рассмотрим основные компоненты Atlas на верхнеуровневой архитектуре. Atlas предоставляет инструмент проектирования собственной модели метаданных, которая будет удовлетворять любым нуждам конечного пользователя.  Модель строится из определений схемы метаданных, называемых Типами. Определение схемы представляет из себя  json-файл (см. пример ниже), в котором мы как из конструктора составляем основные свойства нашего Типа, его структуру и атрибуты. Экземпляры Типов называются Сущностями и представляют собой фактические элементы метаданных, которыми мы хотим управлять (конкретные таблицы, атрибуты etc.). Система Типов базируется на концепции «наследования» из ООП, что позволяет использовать атрибуты родительского Типа при описании сущности дочернего. С помощью Типов задаются как структуры для хранения метаданных, так и определение связей между ними. Пример кастомной модели метаданных представлен на рисунке ниже.  Легенда обозначений: Прямоугольники – Типы-контейнеры (таблица, столбец, etl-процесс etc.) Линии – Типы-связи (столбец таблицы, PK, FK, таблица схемы etc.) Зеленый цвет – Типы “из коробки” Оранжевый цвет – новые спроектированные Типы Система Типов дает Atlas необычайную гибкость, что является одним из главных его достоинств. За счет этого в Atlas одинаково легко можно спроектировать модели для хранения как технических, так и бизнес-метаданных (бизнес-глоссарий), добавить информацию, которая изначально была не заложена,  например, результаты профилирования и проверок качества данных. Atlas сохраняет объекты метаданных в графовую модель, что дает гибкость и эффективность при обработке сложных отношений между объектами, в частности для сбора и отображения Data Lineage. Также в обязанности движка входит индексация объектов для реализации функционала поиска.  В качестве графовой базы данных Atlas использует JanusGraph, движком полнотекстового поиска выступает Solr, хранилищем метаданных – HBase. Добавлять метаданные позволяет компонента Ingest, а их изменения в Atlas регистрирует Export в виде событий, которые потребители могут использовать для реагирования в режиме реального времени. Управлять метаданными в Atlas можно двумя способами: Богатый REST API, который позволяет искать/ создавать/ обновлять/ удалять Типы и Сущности, связи между ними и другими объектами Atlas (Классификациями и Терминами). Интерфейс обмена сообщениями (Kafka). Может использоваться как для передачи объектов метаданных в Atlas, так и для получения событий изменения метаданных, дает возможность задействовать их в приложениях. События генерируются идущими в комплекте процессами захвата (hooks) и самим Atlas и пишутся в разные топики Kafka. Наполнять Atlas метаданными можно “вручную”, используя описанные выше способы интеграции.  В то же время  каталог поддерживает интеграцию со многими источниками метаданных “из коробки” – компонентами экосистемы Hadoop (HBase, Hive, Sqoop, Storm, Kafka, Falcon),  причем этот  список  постоянно пополняется. Готовая интеграция подразумевает две вещи: модель метаданных для хранения объектов этих систем и функционал захвата (hooks) объектов (в реальном времени или в некоторых случаях в пакетном режиме). Как и другие инструменты класса Data Catalog, Atlas предоставляет простой, но интуитивно понятный интерфейс для пользователя и администратора, помогающий выполнять главные задачи дата каталога - поиск, исследование и управление данными. Благодаря интеграции Atlas с Ranger возможно определять политики безопасности на основе метаданных (тегирования данных). Ranger является потребителем событий изменения метаданных в Atlas. Позволяет: использовать заранее подготовленные или кастомные модели хранения метаданных, управлять техническими и бизнес-метаданными, создавая свои собственные модели, связывать метаданные друг с другом, задавая различные логические и смысловые вариации связей, искать элементы метаданных в каталоге с помощью развитого инструментария поиска, просматривать детальную информацию по каждому объекту метаданных (карточки метаданных) и быстро переключаться на связанные с ним объекты. На картинке ниже представлен интерфейс Atlas, где мы видим поисковую панель (слева), детальную карточку метаданных (по центру) с техническими свойствами и заданными пользователем бизнес-атрибутами. Позволяет управлять бизнес-терминами, за счет которых еще больше раскрывать контекст данных в каталоге, а также: объединять их в категории и выстраивать в иерархии, соединять друг с другом разными типами связей (расширение контекста термина и функционала поиска данных для пользователя), присоединять к объектам метаданных (быстрый поиск физических данных). На рисунке ниже показана карточка термина Claim (по центру), размещенного в глоссарии Insurance (слева). Термин привязан к объекту метаданных Типа hdfs_path и относится к классификации Insurance, которая наследуется (см. п.4) объектами метаданных. Data Lineage дает нам: информацию о происхождении данных – всю цепочку источников, влияние элементов метаданных друг на друга – impact analysis, как графическое представление данных, так и стандартный формат выгрузки (json), который в дальнейшем можно использовать для задач автоматизации. В Atlas довольно простой и гибкий инструмент создания связей Data Lineage, который позволяет отрисовывать связи как для таблиц, так и для атрибутов или любых других типов метаданных. Например, создавать схемы потоков данных между системами, вход – выход бизнес процессов. На рисунке ниже пример построенного  Data Lineage в Atlas. Классификации – это инструмент дополнительного маркирования данных, тегирования, с помощью которого можно еще сильнее расширить контекст данных и обогатить возможности поиска. Классификации позволяют создавать и управлять сложными моделями доступа к данным в связке с Apache Ranger (см. п.6), обладают свойством наследования, то есть тег может быть унаследован от привязанного Термина или данных – источников (согласно Data Lineage). На один объект метаданных или термин бизнес-глоссария можно назначить несколько классификаций. Они могут быть организованы как иерархический список, и каждый дочерний элемент будет наследовать свойства родителя и детализировать их. Свойства классификации можно расширять дополнительными атрибутами. Ниже на рисунках показано, как любые изменения классификаций распространяются по Data Lineage. Появились в последних (начиная с 2.1.0) версиях Atlas. Это дополнительные атрибуты, которые пользователи могут добавлять к уже созданным Типам метаданных через GUI – наполнять их и осуществлять по ним поиск. Управлять и изменять бизнес-метаданные также возможно через REST API. Функционал ролевого доступа в Atlas включает: Несколько методов аутентификации (File, Kerberos, LDAP, Keycloak (OpenID Connect/ OAUTH2), PAM). Возможность настройки доступа к каждому Типу метаданных в отдельности. Управление доступом к данным и маскированием с помощью системы тегов и связкой с Apache Ranger. Например, можно создавать следующие правила: кто может получить доступ к данным, классифицированным как PII, SENSITIVE; группа пользователей может видеть только последние 4 цифры столбцов, классифицированных как NATIONAL_ID, CARD_NUMBER. Все изменения метаданных в Atlas логируются.  По каждому объекту можно просмотреть историю изменений в виде плоской таблицы фактов. Доступна информация о времени и авторе изменения, значение какого параметра как именно изменилось.  Функционал не позволяет сравнить разные версии метаданных и откатиться к прошлой версии. Полноценный Data Catalog. Есть все базовые функции: поиск, организация хранения и управления метаданными, бизнес-глоссарий, Data Lineage. Гибкая модель хранения метаданных – система Типов позволяет описать любые объекты реального мира и связи между ними. Open source – бесплатно, в открытом доступе. Идет в составе всех популярных дистрибутивов Hadoop.  Продукт зрелый, прошел испытание временем, продолжает развиваться и с каждой новой версией обрастает дополнительным функционалом. Относительно прост в установке, настройке и кастомизации. Много подготовленных моделей и инструментов захвата метаданных “из коробки”. Богатый REST API и формат обмена данными с ядром Atlas дает широкие возможности по автоматизации процессов, которых изначально в Atlas нет. Простенький GUI с проблемами в верстке. Интерфейс администратора скуден по функционалу. Управление метаданными (загрузка/ обновление/ удаление) – исключительно  через консоль. Часть функций, доступных только через REST API, хочется вынести в GUI – например, выгрузка Data Lineage в файл в удобном формате. Нет функционала поддержания версионности изменений: просмотра версии объекта на дату, сравнения версий, подсветки изменений. Нет встроенного релизного цикла – редактирования версии метаданных, сборки мета-патча, релиза патча. Отсутствуют инструменты для организации процесса согласования изменений метаданных, бизнес-терминов заинтересованными лицами/ ролями и встроенного  способа коммуникации участников процесса согласования. Примитивная нотификация – только сообщения в Kafka. Нет пользовательского функционала “подписки” на отслеживание изменений объекта с нотификацией, например, по почте. Отсутствие семантического поиска. Нет разметки текста – Rich Text. Например, в описании метаданных нельзя вставить гиперссылку или выделить текст жирным/ курсивом. Нет возможности вставить картинки, отрисовать ER-модель. Нельзя управлять атрибутами Терминов. Есть только два базовых атрибута – длинное и краткое описание. Нет встроенных инструментов профилирования данных. Набор готовых моделей метаданных и коннекторов ограничен экосистемой Hadoop и некоторыми облачными сервисами. Легко сломать сам Atlas при не связанных с ним работах в составных компонентах – HBase, Solr, Kafka, Zookeeper, Ranger. Нужно быть аккуратными с ручными операциями удаления/ обновления метаданных через REST API – легко сломать, сложно восстановить, невозможно удалить полностью. В частности, практически невозможно кардинально поменять Тип без полной зачистки Atlas: Тип не поменять, пока есть связанные с ним элементы, soft delete-объекты все еще могут расцениваться как связанные. Возможность полного удаления объекта метаданных (hard delete) появилась относительно недавно в самой последней версии Atlas. Некоторые операции взаимодействия с Atlas через REST API крайне сложные, так как требуют предварительного получения GUID-элементов, что выливается в дополнительную комбинацию запросов (json + парсинг). Atlas – отличный Data Catalog для старта внедрения и развития процессов управления данными. В нем есть необходимый функционал для решения базовых задач, которые ставятся перед инструментами этого класса.  Его можно максимально подстроить под свою инфраструктуру и источники метаданных,  нужные задачи и любое представление о данных. Придется детально изучить его возможности (что под интерфейсом), не бояться работать с консолью и дописывать поверх базового функционала свои автоматизации. Определенная “аскетичность” интерфейса и функционала делает основной целевой аудиторией инструмента опытных пользователей данных – дата-инженеров, системных аналитиков и дата-стюардов. Рядовому бизнес-пользователю, которому нужна максимальная функциональность из интерфейса, красивая разметка текста и написание статей (как в wiki), максимально легкий поиск (как в Яндексе), нотификации в интерфейсе и на почте по шаблону, социальные функции (чаты, оценки), Atlas с большой вероятностью не понравится. Минимальный набор для запуска Apache Atlas предполагает наличие поднятых и прописанных в конфигурации экземпляров Solr в качестве движка полнотекстового поиска и HBase как хранилища метаданных, а также Zookeeper. Пример ниже автоматически устанавливает все необходимые и дополнительные компоненты и семплы данных и предоставляет возможность на практике опробовать взаимодействие Apache Atlas с Hadoop. Пререквизиты: Локальная машина или облачная виртуальная машина, на которой запущены Docker и Docker Compose, Репозитории GitHub  — Docker Atlas, Docker образы (будут извлечены в процессе установки): Apache Atlas,  Zookeeper,  Kafka,  Hadoop namenode,  Hadoop datanode, Hive PostgreSQL metastore,  Hive server, Maven (будет использоваться для сборки Atlas как часть Docker Compose). Клонируем репозиторий,  Может сложиться ситуация, что установка завершит свою работу по истечению стандартного порога ожидания запуска сервера Atlas – он довольно долго устанавливает патчи с обновлениями модели метаданных. Рекомендую увеличить значение переменной START_TIMEOUT в файле /docker-atlas/atlas/resources/atlas-setup.sh в 2-3 раза.  Переходим в корень клонированного репозитория и используем команду docker-compose up, чтобы начать установку: После извлечения Docker образов для Kafka и Zookeeper, указанных в пререквизитах, установка продолжится Maven-сборкой для Atlas – процесс занимает длительное время. По завершении сборки будут созданы следующие девять контейнеров, состояние которых можно проверить с помощью команды docker ps в отдельном окне консоли: Последним шагом установки является запуск Apache Atlas Server. Атласу может понадобиться несколько минут для запуска. Проверяем статус следующей командой: Если установка завершит свою работу по истечению порога ожидания запуска сервера Atlas, можно вручную остановить и запустить сервер.   При этом внимательно следить за тем, что происходит в логах:   Во время первого старта Atlas будет создавать и обновлять определения модели метаданных, создавать поисковые индексы и присваивать их элементам метаданных,  что можно будет наблюдать в логах.  Когда процесс обновления и настройки закончится, логи перестанут обновляться, и мы увидим заветное Atlas server is ready. Пробуем зайти в UI Atlas по адресу http://localhost:21000 Семпл из коробки После успешного запуска сервера Atlas можно наполнить его семплом метаданных “из коробки” Автоматический захват метаданных Так как в составе установке есть Hadoop и Hive-сервер, можем протестировать захват метаданных из Hive-сервера. Через несколько секунд Atlas подхватит изменения, и они будут доступны для поиска и просмотра в UI: Вручную создаем и наполняем кастомный Тип метаданных Попробуем создать свой Тип метаданных и его экземпляр вручную. Прямое взаимодействие с моделью данных и REST API Atlas открывает широкий простор для автоматизации и кастомизации процессов захвата и наполнения Atlas метаданными из любых источников. Создаем новые Типы метаданных table и column, которые наследует свойства Типа DataSet и объявляют дополнительные атрибуты: После успешного создания нового Типа Atlas вернет респонс, содержащий всю информацию о Типе, в том числе присвоенный ему GUID: Создаем новые Типы для связиtable и column, одна из которых будет иметь логический смысл первичного ключа таблицы: Создаем экземпляры Типов. Таблица: Столбцы:   Связи между ними:   Новые Типы метаданных, его экземпляры и связи между ними появились в Atlas: Далее схожим образом, обращаясь к экземпляру Типа по qualifiedName или GUID, его можно обновлять, удалять, добавлять связи с другими объектами метаданных и терминами Бизнес-глоссария, добавлять классификации и встраивать в цепочки Data Lineage.