Application of queueing theory methods for estimating synchronization parameters of distributed computing systems
Authors: Полухин П.В. 
Published: July 2024

В работе рассматривается подход к оценке параметров синхронизации распределенных вычислительных систем, базирующийся на применении алгоритмов теории массового обслуживания. В основе предложенного подхода лежит использование статистических подходов на основе метода максимального правдоподобия, а также ряд численных алгоритмов для нахождения оптимальных параметров систем синхронизации. Применение методов теории массового обслуживания и модели Рикарта-Агравала позволяет эффективно адаптировать распределенную систему в рамках оптимального решения задачи синхронизации. Использование статистических подходов на основе расчета функции правдоподобия позволяет получить статистические оценки интенсивностей входных и выходных потоков требований синхронизации ресурсов, что позволяет производить оптимальную настройку системы синхронизации с разнородной аппаратной конфигурацией и определить максимально допустимый поток требований для данной системы. В работе проведен вычислительный эксперимент с использованием в качестве базовой распределенной вычислительной системы Spark. При проведении эксперимента вместо стандартного алгоритма синхронизации, включенного в состав сборки Spark, применяется анализируемый в работе алгоритм. В работе получены соотношения между временем синхронизации и объемом данных, передаваемых между узлами исследуемой системы, позволяющие произвести вычисление параметров системы синхронизации, а также подобрать оптимальные значения для данной системы. Приведенные в рамках научного исследования практические результаты доказывают правильность теоретических подходов, используемых в процессе создания эффективных систем синхронизации распределенных ресурсов для рассматриваемой платформы Spark.

The paper discusses the approach to estimating the synchronization parameters of distributed computing systems, based on the application of mass queueing theory algorithms. The proposed approach is built upon the use of statistical approaches by means of the maximum likelihood method as well as a number of numerical algorithms to find optimal parameters of synchronization systems. The application of mass queueing theory methods and the Ricart-Agraval model helps to efficiently adapt a distributed system in terms of an optimal solution to the synchronization problem. The employment of statistical approaches in reliance on the calculation of the likelihood function allows one to obtain statistical estimates of the input and output flow intensities of resource synchronization requirements, which enables optimization of the synchronization system with a heterogeneous hardware configuration and makes it possible to determine the maximum allowable flow of requirements for this system. A computational experiment was conducted utilizing Spark as a basic distributed computing system. When conducting an experiment, the algorithm analyzed in the article is used instead of the standard synchronization algorithm included in the Spark assembly. Relations between synchronization time and volume of data transmitted between units of the analyzed system are obtained, which provides a means of calculating parameters of the synchronization system as well as selecting optimal values for the given system. The practical results presented in the scientific study prove the correctness of the theoretical approaches used in the process of creating effective systems for synchronizing distributed resources for the Spark platform in question.