Построение единой архитектуры интеграции производственных данных в горнодобывающей компании

УДК 004.031 Дата подачи статьи: 19.07.17

Б01: 10.15827/0236-235Х.030.4.778-784 2017. Т. 30. № 4. С. 778-784

построение единой архитектуры интеграции производственных данных в горнодобывающей компании

И.О. Темкин, д.т.н., профессор, зав. кафедрой, igortemkm@yandex.ru; И.С. Конов, аспирант, pro100savant@yandex.ru

В статье представлен анализ существующих подходов к организации информационных систем, таких как интеграция по принципу точка-точка, реализация с помощью общей БД, создание единой шины данных, и к их модификации.

На примере горнорудного производства рассмотрено использование как готовых решений на базе сторонних ЕКР-систем, так и собственных приложений, разработанных в компаниях горнодобывающего сектора. Проанализированы используемые методы интеграции различных систем, обеспечивающих единую информационную базу предприятий. Рассмотрены типизированные бизнес-процессы горнорудных предприятий, охватывающие весь цикл производственно-экономической деятельности, и выполняемые при этом задачи с выделением ключевых особенностей и ограничений для создаваемых систем. Описаны обобщенные потоки данных, характерные для горнорудных компаний, а также способы информационного взаимодействия систем на различных функциональных уровнях.

В рамках исследуемой области озвучена проблема, связанная с необходимостью изменения существующих архитектур интеграции данных. Дана оценка существующих подходов к организации информационных систем и выделены преимущества и недостатки таких подходов с точки зрения горнодобывающих компаний.

Предложено решение на основе сервис-ориентированной архитектуры. Рассмотрена возможность создания единой корпоративной интеграционной шины, позволяющей наиболее эффективно осуществлять интеграцию новых систем в существующую ИС предприятия при минимальных трудозатратах, с учетом ограничений и поставленных задач исследуемой области. Описаны базовые механизмы, рассмотрены преимущества и недостатки использования такого подхода, представлен обобщенный способ его реализации для горнодобывающих компаний.

Ключевые слова: информационные среды, системы, горнодобывающая промышленность, интеграция.

В практике построения корпоративных информационных систем (ИС) на предприятиях горнорудной промышленности наблюдаются разнообразие типовых специализированных ИС, работающих на различных программно-аппаратных платформах, и одновременное использование уникальных приложений, разработанных собственными силами компании, которые, как правило, наилучшим образом решают задачи каждого конкретного предприятия [1].

Как показывает опыт, создание единой среды, охватывающей все бизнес-процессы предприятия, является сложной и трудоемкой задачей [2]. В современном мире как небольшие, так и крупные компании стремятся использовать ERP-системы. Однако даже такие крупные программные комплексы, как SAP, Oracle, IFS, IBM Cognos и другие, вынуждены модифицировать отдельные модули для обеспечения соответствия изменяющимся задачам. Распределение бизнес-процессов между несколькими приложениями дает компаниям возможность выбора наилучшего, гибкого пакета программ для бухгалтерского и финансового учета, оптимального приложения для управления поставками и складского учета, для решения производственных задач, ремонтов оборудования, а также

для управления кадрами и расчета заработной платы. Однако не всегда предлагаемый разработчиками стандартный функционал удовлетворяет всем бизнес-требованиям. Разработчикам ПО приходится адаптировать соответствующие модули, дорабатывать и расширять функционал, что влечет за собой еще большие финансовые затраты предприятия-заказчика.

Очевидно, что для поддержания сквозных бизнес-процессов, а также повышения эффективности управления и минимизации издержек (временных и финансовых) необходимо построение единого интеграционного пространства, обеспечивающего осуществление таких задач, как повышение прозрачности и управляемости процессов, поддерживаемых ИС компаний, минимизация ошибок, возникающих при вводе и передаче информации в ручном режиме, сокращение трудозатрат путем исключения ввода дублирующих данных в ИС, использующие одинаковые справочники и одну и ту же информацию, снижение времени и стоимости внедрения новых ИС.

Для решения задачи интеграции данных 1Т-под-разделения создают частные интеграционные решения (стандартные программные интерфейсы). Преимуществом такого подхода является возмож-

ность использования внутренних инструментов настройки интеграций этих ИС, а также относительно невысокая стоимость создания такого решения.

Бизнес-процессы горнодобывающего предприятия, реализуемые в ИС

Горнодобывающее предприятие является сложным производственным комплексом, структура которого охватывает целый ряд производственных служб по обеспечению геологических, маркшейдерских работ, а также подразделения управленческого уровня.

Особенностью горнодобывающей промышленности является сложность взаимодействия предприятий, участвующих в процессе добычи, их географическое расположение, различие в методах отработки залежей в зависимости от особенностей физико-механических свойств поверхности и пород, что обусловливает уникальность 1Т-инфра-структуры на каждом горнодобывающем предприятии [2].

Весь комплекс задач, решаемых на предприятиях горной промышленности, можно разделить на следующие подсистемы: управление производством (добычей) - обеспечение и ведение геоло-

го-маркшейдерских работ, планирование горных работ и ресурсов; техническое обслуживание и ремонт горно-шахтного оборудования и вспомогательной техники; бюджетирование-планирование деятельности предприятия, анализ отклонений фактических затрат от плановых; управление денежными средствами; управление взаиморасчетами; бухгалтерский учет; управление материально-техническим снабжением и поставками; управление персоналом и расчет заработной платы; управление промышленной безопасностью; управление сбытом.

Приложения, обеспечивающие решение большей части этих задач, реализованы на различных программных платформах. На рисунке 1 демонстрируется подход к организации архитектуры взаимодействия ИС на горнорудном предприятии.

В блоке «Планирование горных работ» применяются горно-геологические ИС, позволяющие моделировать и планировать горные работы. Задачи блока «Управление производством и ТОиР» -управление производственными процессами, управление техническим обслуживанием и ремонтами, обеспечение промышленной безопасности. Блок «Управление финансами и бухучет» включает в себя управление бухгалтерским учетом, казначейство, учет и управление основными сред-

Рис. 1. Архитектура ИС Fig. 1. Architecture of information systems

ствами, учет затрат и доходов, калькуляцию себестоимости, финансовый контроль. Модуль «Управление поставками» эффективно решает задачу по организации закупочной деятельности служб материально-технического снабжения. Бизнес-процессы, связанные с кадровым учетом, учетом рабочего времени и расчетом заработной платы, решаются в блоке «Управление персоналом». Блок «Управление сбытом» включает ИС, решающую задачи реализации готовой продукции.

В таблице дана краткая характеристика данных, участвующих в интеграционном потоке между ИС.

Потоки данных Data flows

Тип данных Описание

Плановые данные по затратам (кассовый план) предприятия Плановые затраты всех разделов кассового плана (расчет материалов, услуги, налоги, амортизация, фонд оплаты труда и т.д.). Нормативно-справочная информация

Основные производственные показатели Объемы добычи, содержание металла в руде, объемы отгруженной руды

Работа оборудования Простои, основные показатели работы оборудования

Поставки Поставки материалов от внешних поставщиков, межскладские перемещения, ведение договоров

Фактические затраты по материалам, услугам и т.д. Затраты, списанные в производство, а также услуги, оказанные сторонними организациями

Начисления заработной платы, удержания, наряды Данные, введенные в ИС кадрового учета

Горнодобывающее производство имеет следующие особенности [3]:

- бизнес-процессы представляют собой сложный комплекс разнотипных технологий;

- технологические процессы распределены в пространстве, что связано с географической удаленностью производств друг от друга;

- используются различные типы датчиков, следовательно, требуются различные алгоритмы обработки;

- различные процессы, связанные с повышенной опасностью, строго регламентированы.

Эти особенности обусловливают соответствующие ограничения на интегрируемые ИС

Разнообразие структур, типов данных, уровней детализации имеющегося информационного пространства требуют выбора и реализации интеграционного решения. В настоящее время на рассматриваемом авторами предприятии используются различные виды архитектуры интеграции данных.

Одним из таких видов является концепция обмена на основе файлов. Взаимодействие между ИС реализуется на основе передачи файлов с общими данными. В этом случае разработчики согласовывают общий как по формату файла, так и по структуре передаваемых данных стандарт. Современные интеграционные решения основываются на использовании жестко структурированных данных, например, в формате XML, либо плоского файла с определенным разделителем полей.

К основным недостаткам этого метода можно отнести несвоевременный обмен данными между приложениями и возникновение проблемы диссонанса при разборе интеграционного сообщения. Например, если разделителем полей в файле является символ «,» либо другие служебные символы и при вводе данных в систему-источник пользователь введет указанный символ в поле ввода, то при формировании интеграционного файла принимаемая система не сможет правильно обработать данный файл вследствие увеличения количества полей за счет применения указанного символа. Этот метод интеграции реализован между ИС бухгалтерского и финансового учета ERA Financials и системой управления материально-техническим снабжением IFS Procurement, между IFS Procurement и системой собственной разработки «Электронные торги», а также между IFS Procurement и системой складского учета WMS в компании «Корпорация Казахмыс». К преимуществам данной архитектуры можно отнести возможность легко добавлять дополнительные программные комплексы на все уровни системы, а также отсутствие привлечения дополнительных средств или пакетов для интеграции.

Следующая концепция - взаимодействие систем по принципу точка-точка [4]. Точечная интеграция рекомендуется к реализации в единичных случаях между двумя системами с жестко определенными и не предполагаемыми к изменению в будущем требованиями к бизнес-процессам и передаваемым данным и чаще всего реализуется в небольших компаниях с упрощенными бизнес-процессами. Достоинствами этого метода являются возможность быстрой реализации интеграции с минимальными трудозатратами ресурсов и надежность взаимосвязей между компонентами. К недостаткам можно отнести сложную масштабируемость, сильную зависимость от интегрируемых систем и вследствие этого недостаточную гибкость. Следует отметить, что чаще всего подобные частные решения требуют дополнительной поддержки со стороны местной службы ИТ.

Концепция интеграции общей БД отличается от метода передачи данных посредством файлов тем, что обеспечивает единое пространство для хранения в ней информации [5, 6]. Недостатки данного метода:

- большая часть компаний-разработчиков работает только со специализированной схемой данных, вследствие чего усложняется задача интеграции новых программных комплексов;

- большое количество подключений к общей БД снижает производительность систем и накладывает специализированные ограничения на архитектуру БД из-за возникновения блокировки данных;

- если серверы приложений находятся отдаленно друг от друга и далеко от сервера БД, могут возникать «гонки» изменения данных;

- сложность преобразования базовой структуры БД.

Технологии web-сервисов являются развитием концепции общей БД, в которой большинство потоков данных проходят через внешнюю среду (например через Интернет), что определяет дополнительные требования к надежности и скорости передачи данных.

К преимуществам данного подхода можно отнести простоту управления потоками и самими данными, высокую доступность данных, обусловленную тем, что все данные находятся в одном месте, возможность контролировать источники данных, что обеспечивает непротиворечивость и целостность данных.

Учитывая большой поток данных и подсистем, участвующих в построении единой ИС в горнодобывающей промышленности, изменения во времени функционала решаемых задач и, конечно же, стоимость внедрения и владения подобными системами, сложность и требования к надежности, предлагается рассмотреть относительно новую технологию построения интеграции данных на основе сервис-ориентированной архитектуры (Service-Oriented Architecture, SOA), развитие которой в последние годы идет особенно быстрыми темпами.

Цель данной архитектуры - отвечать требованиям слабосвязанных ИС, осуществлять взаимодействие модулей ПО друг с другом [7]. В SOA программная обработка реализована в виде сервисов, которые представлены как автономные модули, обеспечивающие стандартную бизнес-функциональность и не зависят от текущего состояния или контекста других сервисов. Сервисы описаны на определенном стандартном языке. Имеют опубликованные интерфейсы и общаются друг с другом путем выполнения запросов с целью поддержки общих бизнес-задач. Наиболее популярные из доступных сегодня служб - это сервисы, использующие стандарты веб-служб, например, Simple Object Access Protocol (SOAP) для описания формата принимаемых и отправляемых сообщений, язык описания сервисов Web Services Description Language (WSDL) и стандарт Universal Description, Discovery and Integration (UDDI). UDDI используется для создания каталогов доступных сервисов. SOA реализует набор служб, которые могут осуществлять связь друг с другом, используя интерфейс для пе-

редачи сообщений от одного сервиса к другому или координируя деятельность между одним и более сервисами.

Построение единой архитектуры интеграции данных

Для реализации интеграционных процессов между ИС, представленными ранее и имеющими достаточное количество собственных бизнес-процессов, прослеживается необходимость мощного и гибкого инструмента для связывания всех систем в единое информационное пространство.

Исходя из вышеуказанных описаний, а также опираясь на лучшие мировые практики внедрения ПО, интеграцию ИС в компаниях горнодобывающей промышленности предлагается организовать посредством промежуточного ПО (корпоративной интеграционной шины Enterprise Service Bus, ESB) с применением сервис-ориентированной архитектуры SOA. Данный подход целесообразен для крупных компаний (групп компаний) с большим количеством различных интегрируемых систем и сложными бизнес-процессами [8].

К достоинствам применения метода посредством интеграционной шины предприятия можно отнести масштабируемость; интерфейсы создаются один раз и могут быть использованы различными потребителями. В случае появления новых систем интеграция по уже готовым интерфейсам выполняется в сжатые сроки. При данном подходе интегрируемые системы не зависят друг от друга. Весь информационный обмен осуществляется с интеграционной шиной. Ответственность за прием, гарантированную доставку, преобразование и координацию потоков данных возлагает на себя интеграционная шина с помощью собственных механизмов.

На рисунке 2 представлена архитектура интегрируемых ИС.

Согласно рисунку 2, основным звеном интеграционного процесса является корпоративная шина (ESB), которая обеспечивает объединение и распределение всех потоков данных в единое информационное пространство, а каждая участвующая в этом процессе система может выступать в роли как поставщика, так и потребителя данных. Для приведения интерфейсов систем в формат принимаемых и отправляемых сообщений, согласующийся с интерфейсом корпоративной шины, в схему взаимодействия вводятся так называемые адаптеры. Реализация каждого адаптера зависит от конкретной интегрируемой системы и задач, поставленных перед ней.

Техническая реализация интеграции построена на событийно-ориентированном подходе. Таким образом, системы, которые уведомляют шину о наличии/изменении своих данных, а также генерируют запросы на получение данных (инициа-

торы), будут формировать специальные события и отправлять их сообщения на шину. Создаются системы подписки объектов на поступление определенных сообщений.

В данной концепции интеграции необходимо реализовать две схемы подписки:

- подписка на уведомления о бизнес-событиях;

- подписка на запросы от конкретных систем.

В первом случае подписчик, получив уведомление, отправляет запрос на интеграционную шину для получения интересующих его данных.

Во втором случае системы-поставщики данных подписываются на запросы в очередь запросов, отрабатывают запросы и публикуют ответы в очередь ответов. Данная схема является достаточно гибкой с точки зрения подключения/изменения поставщиков данных на запросы, так как нет необходимости конечной системе вести информацию о точках доступа к конкретной системе [9, 10]. Все взаимодействие будет построено только на основе очередей сообщений.

На рисунке 3 схематично отображен процесс передачи данных между системой-источником и системой-потребителем.

Движение потоков данных в описываемом процессе происходит по следующему маршруту. В системе инициатора запроса возникает бизнес-событие. Подсистема обработки событий системы-поставщика данных генерирует на корпоративную шину данных сообщение о наступлении определенного события. Адаптер системы-инициатора запроса используется для приведения интерфейса системы-поставщика данных в формат, согласующийся с интерфейсом корпоративной шины. Реализация адаптера зависит от конкретной интегрируемой системы и задач, поставленных перед ней. Сформированное сообщение попадает на шине в очередь сообщений для дальнейшей обработки

данных. Система подписки уведомляет систему-потребителя о полученном сообщении. Система-потребитель посредством своего адаптера анализирует полученное сообщение и согласно полученным сведениям выполняет проверку на наличие данных в интеграционном сообщении. Если в сообщении присутствуют данные, происходят извлечение их из сообщения и передача системе-потребителю. Если в сообщении отсутствуют данные, происходит отправка запроса на получение данных либо сообщение может быть перенаправлено обслуживаемой системе.

Использование подобного подхода порождает ряд особенностей:

- усложнение архитектуры и введение дополнительных элементов, которые, в свою очередь, требуют материальных и людских ресурсов, особенно остро это проявляется при условии объединения большого количества систем;

- зачастую невозможность прямого подключения адаптеров к определенным системам, которые изначально не разрабатывались с учетом данного подхода [10].

Выводы

Практика применения различных подходов к взаимодействию систем на примере передачи большого потока данных между гетерогенными ИС горнодобывающего комплекса показывает, что наиболее гибким многофункциональным решением является реализация интеграции на основе построения сервисно-ориентированной архитектуры и интеграционной шины предприятия. Предложенное решение позволило достичь объединения взаимодействия всех систем в единую интеграционную платформу, что во многом облегчает работу по настройкам, мониторингу и анализу интеграционных данных. Данный подход является наилучшим

Бизнес-процесс интеграции приложений. Публикация событий, получение данных

Рис. 3. Алгоритм взаимодействия всей цепи интеграции от источника до потребителя данных Fig. 3. Algorithm of the whole integration circuit interaction from the source to a data consumer

решением для тех систем, которые одновременно используют одну и ту же информацию системы-поставщика, то есть система-поставщик выкладывает сообщение с данными не для каждой системы в отдельности, а генерирует его один раз и посылает на интеграционную шину, а уже системы-подписчики одновременно из одного источника получают и обрабатывают данные.

Работа выполнена при поддержке Российского научного фонда, проект № 17-11-01353.

Литература

1. Клебанов А.Ф. Информационные системы горного производства и основные направления развития автоматизации открытых горных работ // Горная промышленность. 2015. № 2. С. 93-95.

2. Хоп Г., Вульф Б. Шаблоны интеграции корпоративных приложений; [пер. с англ.]. М.: Вильямс, 2007. 672 с.

3. Temkin I.O., Kulyanitsa A.L., Kubrin S.S. Application of

intellectual system for robotic coal plough machine. Proc. Miner's week-2015 reports of the XXIII Intern. sc. sympos., 2015. pp. 274-280.

4. Добровольский А. Интеграция приложений: методы, взаимодействия, топология, интрументы // Открытые системы. СУБД. 2006. № 9. С. 20-36.

5. Калиниченко Л.А. Методы и средства интеграции неоднородных баз данных. М.: Физматлит, 1983. 424 с.

6. Papazoglou M.P., van den Heuvel W.-J. Service oriented architectures: approaches, technologies and research. The VLDB Jour., 2007, no. 3, pp. 389-415.

7. Nachiyappan S., Justus S. Big data validation needs and challenges. Intern. Jour. of Pharmacy and Technology, 2016, vol. 8, iss. 4, pp. 21998-22008.

8. Li Y. Design and implementation of the management information system for Chain business corporation. Proc. 8th Intern. Conf. on Measuring Technology and Mechatronics Automation (ICMTMA 2016), 2016, pp. 195-198.

9. Li J., Wang L., Yan L. Cloud Service based intelligent power monitoring and early-warning system, 2012 IEEE Innovative Smart Grid Technologies - Asia, 2012, Article no. 6303140. pp. 1944-1947.

10. Christudas B.A. Service oriented Java business integration. Packt Publ.: 2008.

Software & Systems Received 19.07.17

DOI: 10.15827/0236-235X.030.4.778-784 2017, vol. 30, no. 4, pp. 778-784

BUILDING A UNIFIED ARCHITECTURE FOR PRODUCTION DATA INTEGRATION

IN A MINING COMPANY

I.O. Temkin 1, Dr.Sc. (Engineering), Professor, Head of Chair, igortemkin@yandex.ru I.S. Konov 1, Postgraduate Student, pro100savant@yandex.ru A.L. Kubenova 2 Professional Employee, aliya_d@mail.ru L. G. Zartenova 2 Manager of the Project

1 National University of Scince Research Technological "MISIS", Leninsky Ave. 4, Moscow, 119049, Russian Federation

2 Kazakhmys Corporation LLC, Lenin St. 12, Karaganda, 100012, Republic of Kazakhstan

Abstract. The article analyzes existing approaches to organizing information systems, such as point-to-point integration, implementation using a general database, creation of a universal data bus, as well as their modifications. It considers use of existing solutions based on ERP system, as well as custom written applications developed in mining companies in terms of mining production. The paper analyzes methods of integrating various information systems, which provide a unified information base of companies. It also considers typical mining business processes that cover the whole production and economy cycle, as well as tasks for these processes showing key features and limitations for created systems. The paper describes general data flows typical for mining companies and ways for information interaction of systems on different functional levels. The authors introduce a problem related to the necessity of changing the existing data integration architectures. They also assess the existing approaches to organizing information systems and give their pros and cons. A solution is based on a service-oriented architecture. The authors consider a possibility of creating a united corporate integration bus that allows integrating new systems into an existing information system efficiently with minimal labor costs considering limitations and specific tasks of the research field. The paper describes basic mechanisms, considers pros and cons of the approach and introduces a generalized way of it's implementation for mining companies.

Keywords: information environment, systems, mining, ERP, integration, ESB.

Acknowledgements. The work has been supported by the Russian Science Foundation, project no. 17-11-01353.

References

1. Klebanov A.F. Information systems of mining production and main directions of development of open mining operations automation. Gornayapromyshlennost [Mining Industry]. 2015, no. 2 (120), pp. 93-95 (in Russ.).

2. Hohpe G., Woolf B. Enterprise Integration Patterns: Designing, Building, and Deploying Messaging Solutions. Addi-son-Wesley Professional Publ., 2003, 736 p. (Russ. ed.: Moscow, Vilyams Publ., 2007, 672 p.).

3. Temkin I.O., Kulyanitsa A.L., Kubrin S.S. Application of intellectual systems for robotic plough machine control under complex mine-geological conditions. Reports 23rdInt. Sci. Symp. "Miner's Week-2015". 2015, pp. 274-280.

4. Dobrovolsky A. Integration of applications: methods, interactions, topology, tools. Otkrytye sistemy. SUBD [Open Systems. DBMS]. 2006, no. 9 (in Russ.).

5. Kalinichenko L.A. Metody i sredstva integratsii neodnorodnykh baz dannykh [Methods and Tools for Integrating Heterogeneous Databases]. Moscow, Nauka Publ., 1983, 424 p.

6. Papazoglou M.P., van den Heuvel W.-J. Service oriented architectures: approaches, technologies and research issues. The VLDB Jour. 2007, no. 3, pp. 389-415.

7. Nachiyappan S., Justus S. Big data validation needs and challenges. Int. Jour. of Pharmacy and Technology. 2016, vol. 8, iss. 4, pp. 21998-22008.

8. Li Y. Design and implementation of the management information system for Chain business corporation. Proc. 8th Int. Conf. on Measuring Technology andMechatronics Automation, ICMTMA. 2016, pp. 195-198.

9. Li J., Wang L. Email Author, Yan L. Cloud Service based intelligent power monitoring and early-warning system. 2012 IEEE Innovative Smart Grid Technologies - Asia. 2012, no. 6303140.

10. Christudas B.A. Service Oriented Java Business Integration. Packt Publ., 2008.