Составление уравнения измерения энтропии Шеннона нелинейных динамических систем с использованием методов интервального анализа

УДК 53.088.23

Составление уравнения измерения энтропии Шеннона нелинейных динамических систем с использованием методов интервального анализа

Мачехин Ю.П., Курской Ю.С.

Харьковский национальный университет радиоэлектроники, пр. Ленина, 14, 61166, Харьков, Украина

Поступила 06.07.2015 Принята к печати 03.11.2015

В статье рассмотрен вопрос измерения динамических переменных открытых нелинейных динамических систем. К нелинейным динамическим системам можно отнести большинство из реальных систем окружающего мира физического и биологического происхождения. В таких системах вследствие диссипации образуются пространственные, временные и пространственно-временные структуры, возможны коллективные эффекты, связанные с процессами самоорганизации и эволюции. Целью работы являлось составление уравнения измерения энтропии Шеннона нелинейных динамических систем. Для решения этой задачи предложено использовать методы интервальной математики. Показано, что измерение и анализ результатов измерения величин со сложным хаотичным поведением находятся за рамками классических метрологических подходов, отображенных в нормативных документах, таких как GUM. Это обусловлено несоответствием используемых математических и физических подходов процессам, протекающим в реальных динамических системах. Для измерения характеристик нелинейных динамических систем разработаны специальные модели измерения и анализа результатов измерений, основанные на теории открытых систем, теории динамического хаоса и теории информации. В качестве инструментов оценки состояния систем предлагается использовать фрактальные, временные и энтропийные шкалы. В результате исследования получены уравнения измерения энтропии Шеннона отдельной динамической переменной и всей нелинейной динамической системы на основе интервальных представлений результатов измерения. Уравнения, составленные таким образом, содержат точные решения и дают возможность полного учета неопределенностей. Полученные результаты дополнят предложенные ранее модели измерения и анализа результатов измерения динамических переменных нелинейных динамических систем.

Ключевые слова: нелинейная динамическая система, уравнение измерения, интервальные величины, энтропия Шеннона.

Адрес для переписки:

Курской Ю.С.

Харьковский национальный университет радиоэлектроники, пр. Ленина, 14, 61166, Харьков, Украина e-mail: kurskoy@rambler.ru

Для цитирования:

Мачехин Ю.П., Курской Ю.С.

Составление уравнения измерения энтропии Шеннона нелинейных динамических систем с использованием методов интервального анализа Приборы и методы измерений 2015. - Т. 6. № 2. - C. 257-263

Address for correspondence:

Kurskoy Yu.S.

Kharkov National University of Radioelectronics, Lenin Ave., 14, 61166, Kharkov, Ukraine e-mail: kurskoy@rambler.ru

For citation:

Machekhin Yu.P., Kurskoy Yu.S.

The compilation of Shannon entropy measurement equation for nonlinear dynamic systems using the interval analysis methods

Devices and Methods of Measurements 2015, vol. 6, No. 2, pp. 257-263

Введение

Общепризнанным методом выражения и оценки неопределенности измерений является метод, предлагаемый Руководством по выражению неопределенности измерения (GUM) [1]. В случае, когда его применение невозможно, рекомендуется использовать метод Монте-Карло, изложенный в дополнении к GUM [2]. Оба метода подтвердили свою эффективность при измерениях в линейных или линеаризованных системах. Трудности возникают при измерениях в нелинейных динамических системах (НДС).

Физический и математический аппараты, положенные в основу методов [1, 2], не всегда адекватны процессам, протекающим в открытых НДС со сложным, например хаотичным, характером поведения. В таких системах вследствие диссипации образуются пространственные, временные и пространственно-временные структуры, возможны коллективные эффекты, связанные с процессами самоорганизации и эволюции. К НДС можно отнести большинство из реальных систем окружающего мира — живые организмы и экосистемы, вихри в атмосфере и океане, лазеры и др. [3, 4].

Задачи измерения в НДС являются новыми и сложными метрологическими задачами, которые можно выделить в отдельное новое направление — «нелинейная метрология». Подходы и методы, разрабатываемые для измерения в таких системах, сегодня востребованы в физике, инженерии, медицине, экономике, биологии [5]. В этом направлении разработаны модели измерения [6] и анализа результатов измерений характеристик НДС [7], основанные на теории открытых систем, теории динамического хаоса и теории информации. В качестве инструментов оценки состояния НДС предлагается использовать фрактальные, временные и энтропийные шкалы [8, 9].

Целью работы являлось составление уравнения измерения энтропии Шеннона нелинейных динамических систем с использованием методов интервального анализа. Для достижения цели выполним анализ возможностей классических методов выражения и оценки неопределенности измерений, а также подходов к составлению уравнений измерения, изложенных в GUM [1] и дополнении [2].

Условия составления уравнения измерения

В большинстве случаев на практике имеют дело с косвенными измерениями. Поэтому состав-

ление уравнения измерения является ключевым этапом процедуры оценки неопределенности. При этом для определения искомой величины Y необходимо измерить значения N входных величин X, связанных с Y функциональной зависимостью:

Y = f

Входные величины X при этом могут быть функциями других величин. В случае временных зависимостей имеют дело с измерением динамических переменных (ДП) X.(t) и уравнение измерения (1) принимает вид:

7 (t) = f [Xi(t),..., Xw (t)].

Уравнение измерения, наряду с входными величинами, должно содержать константы, а также величины, влияющие на их значения. При этом входные величины могут иметь как линейную, так и нелинейную зависимость от времени:

F[X1(t0),..., X,(t0)] ^ [Xl(ti),..., (tt)],

где X. - значение X. в начальный момент времени t0; X.(t.) - значение X. в момент времени t.; F - временная зависимость ДП.

Определение временной зависимости F является стандартной задачей динамических измерений [10]. Знание X.(t) позволяет прогнозировать значения X(t) в любой момент времени. Исходя из этого, уравнение измерения (1) можно представить в виде:

Y{t) = f {F [[

В руководстве [1] очерчены рамки применения GUM. Предполагается, что согласно уравнению (1) существует способ определения Y по результатам измерения входных величин Xi и полученное при этом значение Y - единственное. При этом в случае НДС результат определения - может характеризоваться рядом значений, заполняющих сложным образом интервал значений Y < Y < Y .

А А min max

Входные величины X. в GUM ассоциируются со случайными величинами. Допускается, что они (все или часть из них) могут быть связаны между собой, однако GUM рассматривает преимущественно независимые случайные величины. Для описания связанных величин руководство допускает использование совместных распределений. Считается, что результаты многократных измерений входных величин описываются распределением Гаусса при оценке неопределенности по типу А и прямоугольным распределением при оценке неопределенности по типу B [1].

При этом входные величины X. НДС не всегда могут быть представлены случайными величинами. Как правило, они представляют собой немарковские величины, связаны между собой и подвержены влиянию извне даже слабых флуктуа-ций. Динамика ДП НДС имеет сложный характер, поэтому априори утверждать, что входные величины и результат измерения имеют гауссово или прямоугольное распределение нельзя. Ключевой элемент классической теории измерения - эргоди-ческая гипотеза - в случае НДС с хаотичным поведением не подтверждается [11].

Когда применение GUM дает некорректные результаты измерения, например, вследствие сложности уравнения измерения (1), для оценки неопределенности предлагается использовать метод Монте-Карло, изложенный в приложении к GUM [2]. Метод рекомендуется использовать, когда линеаризация уравнения измерения (1) не обеспечивает адекватного представления о процессе, а распределение выходной величины не может быть описано нормальным распределением или масштабированным смещенным t-распределением. Преимущество данного метода заключается в том, что предлагаемая трансформация распределений входных величин позволяет всегда получить распределение вероятностей выходной величины на основе распределений входных величин.

Метод Монте-Карло применим для выражения неопределенности измерения хорошо определенной физической величины, характеризуемой единственным значением. Он всегда дает корректные результаты в случае линейного уравнения измерения. Функция измерения f (X., X.,..., XN) должна иметь непрерывную производную по компонентам входных величин X. в окрестностях оценок x. Функция распределения для выходной величины Y непрерывна и строго возрастающая. Плотность распределения вероятностей Y имеет единственный максимум и др. При этом в случае измерений в сложных динамических системах измеряемая величина ведет себя нелинейным образом, не может быть определена единственным значением, а плотность распределения имеет больше одного максимума.

Таким образом, сопоставление возможностей GUM [1] и метода Монте-Карло [2] со свойствами реальных НДС приводит к выводу о необходимости создания специальных подходов к измерению в таких системах и выборе адекватного математического аппарата и составлению уравнения измерения.

О необходимости индивидуального подхода к неординарным метрологическим задачам говорят сами составители GUM, декларируя, что оценку неопределенности не следует рассматривать как стандартную задачу, требующую применения типовых математических процедур. Успех решения этой задачи зависит от понимания физики и критического анализа протекающих процессов [1].

Для составления уравнения измерения ДП НДС необходимо учитывать следующие условия. Результат измерения Y характеризуется рядом значений, заполняющих сложным образом интервал значений Y < Y < Y . Значения каждой

А mm max

из N входных величин X находятся в интервалах Xmin < x < Xmax . Закон распределения входных величин в рамках интервала неизвестен. Таким образом, как результат измерения, так и входные величины представляют собой интервальные величины с неизвестным законом распределения.

Применение методов интервальной математики

В качестве математического аппарата для составления уравнения измерения и анализа результатов измерения ДП НДС предлагается использовать методы интервальной математики [12]. Такой выбор обусловлен интервальным характером значений ДП реальных НДС.

Основная идея интервального анализа заключается в замене арифметических операций и вещественных функциональных преобразований вещественных чисел интервальными операциями и функциями, преобразующими интервалы, содержащие эти числа. Ценность интервальных решений заключается в том, что они содержат точные решения исходных задач, дают возможность полного учета неопределённостей начиная с неточных данных уравнения измерения и заканчивая ошибками округления [11].

При изучении НДС сталкиваются как с прямыми измерениями при измерении ДП, так и с косвенными при измерении общих характеристик системы. К примеру, если объектом изучения является организм человека, то прямыми измерениями можно оценить такие характеристики, как частота пульса, артериальное давление, температура тела и прочие [8]. Измерение времени возвращения возбужденной ДП в равновесное состояние, как и измерение информационной энтропии, выполняется косвенно и требует составления уравнения измерения вида (2).

Рассмотрим уравнение измерения информационной энтропии сложной системы. Информационная энтропия, или энтропия Шеннона, Н является функцией состояния системы и описывается выражением вида:

Н = p( х,)ln p( X

где р = р(х.) - плотность распределения вероятности величины х.; X - оценка значения ДП X..

В случае измерения постоянной физической величины X энтропия характеризует качество измерительного эксперимента, при этом закон распределения считается нормальным. При измерении ДП энтропия содержит информацию и о качестве измерения и об ее распределении. Наибольшей трудностью при определении энтропии НДС является определение закона распределения р(х.) изучаемой величины. Для решения этой задачи предлагается использовать подходы интервального анализа, а именно гистограммную арифметику [9].

Если НДС характеризуется набором из N ДП X., то в результате измерений и оценки результатов измерения ДП будут получены N интервалов значений [х.тт, хтах], где [хтт, хтах] представляет собой интервал оценок значений [Х.тт, Хтах] . Значения х. заполняют интервал [хтт, хтах] неравномерно, сложным образом, отличным от классических законов распределения.

Согласно положениям интервальной математики плотность распределения интервальных значений х. может быть задано кусочно-постоянной функцией х результаты измерений х. образуют интервалы постоянных значений функции р(х ). Такие случайные величины называются гисто-граммными числами или гистограммами. Требуется определить функцию плотности вероятности рх величины х с заданной точностью в классе кусочно-постоянных функций - гистограмм. Использование гистограммного выражения ДП позволяет определить наиболее вероятные участки попадания неизвестных X.

1

Интервал значений х [хтт, хтах] разобьем на К частей размером ё.к, к = 1,..., К. Разбиение выполняется таким образом, чтобы интервальные значения ёк и ёк+] считались не связанными между собой. Тогда плотность вероятности попадания X. в интервал [ёк, ёк+1] определяется выражением:

PXki

2

dk+i d>

uk+\

J p( x1)dx.

k dk

Совокупность из K значений, полученных согласно (4), представляет собой гистограмму плотностей вероятностей разной протяженности по

оси значений X..

1

Для определения плотности вероятности на интервалах dk воспользуемся рекомендацией дополнения к GUM [2] о том, что при отсутствии дополнительной информации о величине, в соответствии с принципом максимума энтропии [12] случайная величина может быть описана криволинейно-трапецеидальным распределением. Если значения dk и dk+1 известны с точностью до интервалов (a ± d) и (b ± d) соответственно, выражение для криволинейно-трапецеидального распределения примет вид:

( ,

p( х) = — max ^ ; 4d

ln

d

max

,0

где h = (a ± b) / 2; w = (b - a)/2.

Из выражений (3)-(5) можно найти вклад в значение энтропии отдельной ДП X:

H (Xi) = - Ржln Рж.

Если ДП системы не связаны между собой, выполняется принцип аддитивности энтропии

N

всей системы H = ^H(Xt), иначе должна быть

(

определена совместная плотность распределения результатов измерения и введено понятие условной энтропии системы.

Полученные уравнения измерения энтропии Шеннона (3)-(6) содержат точные решения исходных задач и дают возможность полного учета неопределенностей, включая неточные исходные данные.

Заключение

В работе получила развитие задача создания теоретических основ измерений характеристик нелинейных динамических систем.

Показано, что измерение величин со сложным поведением находится за рамками классических метрологических методов, закрепленных в нормативных документах, таких как GUM и приложении к нему, использующему метод Монте-Карло. Это обусловлено несоответствием используемых математических и физических подходов процессам реальных динамических систем.

Предложено использовать методы интервальной математики для составления уравнения изме-

рения динамических переменных открытых нелинейных динамических систем.

Выбор обусловлен интервальным характером значений измеряемых динамических переменных. Ценность интервальных решений заключается в том, что они содержат точные решения исходных задач и дают возможность полного учета неопределенностей, включая неточные данные уравнения измерения.

Получены уравнения измерения энтропии Шеннона отдельной динамической переменной и всей нелинейной динамической системы на основе интервальных представлений результатов измерения.

Описанные результаты дополнят предложенные ранее модели измерения и анализа результатов измерения динамических переменных нелинейных динамических систем.

Список использованных источников

1. ISO/IEC Guide 98-1:2009 Uncertainty of measurement. - Part 1: Introduction to the expression of uncertainty in measurement: стандарт / ISO, Женева, 27.08.2009.

2. ISO/IEC Guide 98-3:2008/Suppl.1:2008/ Cor.1:2009 Uncertainty of measurement. - Part 3: Guide to the expression of uncertainty in measurement (GUM:1995) - Supplement 1: Propagation of distributions using a Monte Carlo method - Technical Corrigendum 1: стандарт / ISO, Женева, 07.05.2009.

3. Шустер, Г. Детерминированный хаос: Введение / Г. Шустер ; пер. с нем. - М. : Мир, 1988. - 253 с.

4. Трубецков, Д.И. Введение в теорию самоорга-

низации открытых систем / Д.И. Трубецков, Е.С. Мчедлова, Л.В. Красичков. - М.: Физматлит, 2005. - 200 c.

5. Fisher, W.P. New metrological horizons: invariant reference standards for instruments measuring human, social, and natural capital / W.P. Fisher // New metrological horizons: invariant reference standards for instruments measuring human, social, and natural capital: materials of 12th IMEKO TC1 & TC7 Joint Symposium on Man Science & Measurement. - Annecy, France. - 2008. - P. 51-58.

6. Мачехин, Ю.П, Модель измерения параметров нелинейных динамических систем / Ю.П. Мачехин, Ю.С. Курской // Системы обработки информации. -2012. - №. 1 (99). - С. 169-175.

7. Мачехин, Ю.П. Анализ результатов измерений в нелинейных динамических системах / Ю.П. Мачехин, Ю.С. Курской // Системы обработки информации. -2012. - № 7 (105). - С. 117-122.

8. Мачехин, Ю.П. Фрактальная шкала для временных рядов результатов измерений / Ю.П. Мачехин // Измерительная техника. - 2008. -№ 8. - С. 40-43;

9. Мачехин, Ю.П. Фрактально-энтропийный анализ результатов измерений в нелинейных динамических системах // Ю.П. Мачехин, Ю.С. Курской // Измерительная техника. - 2014. - № 6. - С. 18-21.

10. Грановский, В.А. Динамические измерения. Основы метрологического обеспечения / В.А. Грановский. - Л.: Энергоатомиздат. Ленинградское отделение, 1984. - 224 с.

11. Добронец, Б.С. Интервальная математика / Б.С. Добронец. - Красноярск : СФУ, 2007. - 216 c.

12. Шеннон, К. Работы по теории информации и кибернетике / К. Шеннон. - М. : ИИЛ, 1963. - 832 c.

The compilation of Shannon entropy measurement equation for nonlinear dynamic systems by using the interval analysis methods

Machekhin Yu.P., Kurskoy Yu.S.

Kharkov National University of Radioelectronics Lenin Ave., 14, 61166, Kharkov, Ukraine

Received 06.07.2015

Accepted for publication 03.11.2015

Abstract. The article considers the issue of measurement of dynamic variables of open nonlinear dynamical systems. Most of real physical and biological systems in the surrounding world are the nonlinear dynamic systems. The spatial, temporal and spatio-temporal structures are formed in such systems because of dissipation. The collective effects that associated with the processes of self-organization and evolution are possible there too. The objective of this research is a compilation of the Shannon entropy measurement equations for case of nonlinear dynamical systems. It's proposed to use the interval mathematics methods for this. It is shown that the measurement and measurement results analysis for variables with complex dynamics, as a rule, cannot be described by classical metrological approaches, that metrological documents, for example GUM, contain. The reason of this situation is the mismatch between the classical mathematical and physical approaches on the one hand and processes that occur in real dynamic systems on the other hand. For measurement of nonlinear dynamical systems variables the special measurement model and measurement results analysis model are created. They are based on Open systems theory, Dynamical chaos theory and Information theory. It's proposed to use the fractal, entropic and temporal scales as tools for evaluation of a systems state. As a result of research the Shannon entropy measurement equations, based on interval representations of measurement results. are created, like for an individual dynamic variable as for nonlinear dynamic system. It is shown that the measurement equations, based on interval mathematics methods, contains the exact solutions and allows take into account full uncertainty. The new results will complement the measurement model and the measurement results analysis model for case of nonlinear dynamic systems.

Keywords: nonlinear dynamic system, measurement equation, interval variables, Shannon entropy.

Адрес для переписки:

Курской Ю.С.

Харьковский национальный университет радиоэлектроники, пр. Ленина, 14, 61166, Харьков, Украина e-mail: kurskoy@rambler.ru

Для цитирования:

Мачехин Ю.П., Курской Ю.С.

Составление уравнения измерения энтропии Шеннона нелинейных динамических систем с использованием методов интервального анализа Приборы и методы измерений 2015. - Т. 6. № 2. - С. 257-263

Address for correspondence:

Kurskoy Yu.S.

Kharkov National University of Radioelectronics, Lenin Ave., 14, 61166, Kharkov, Ukraine e-mail: kurskoy@rambler.ru

For citation:

Machekhin Yu.P., Kurskoy Yu.S.

The compilation of Shannon entropy measurement equation for nonlinear dynamic systems using the interval analysis methods

Devices and Methods of Measurements 2015, vol. 6, No. 2, pp. 257-263

References

1. ISO/IEC Guide 98-1:2009 Uncertainty of measurement - Part 1: Introduction to the expression of uncertainty in measurement: standard / ISO, Geneva, 27.08.2009.

2. ISO/IEC Guide 98-3:2008/Suppl.1:2008/ Cor.1:2009 Uncertainty of measurement - Part 3: Guide to the expression of uncertainty in measurement (GUM:1995) - Supplement 1: Propagation of distributions using a Monte Carlo method - Technical Corrigendum 1: standard / ISO, Geneva, 07.05.2009.

3. Shuster H. Determinirovannyj haos, vvedeniye [Deterministic chaos An Introduction]. Moscow, Mir Publ., 1988, 253 p. (in Russian).

4. Trubeckov D.I., Mchedlova E.S., Krasavchikov L.V. Vvedeniye v teoriyu samoorganizatsii otkrytykh sistem [Introduction to the self-organization theory for open systems]. Moscow, Fizmatlit Publ., 2005, 200 p. (in Russian).

5. Fisher W.P. New metrological horizons: invariant reference standards for instruments measuring human, social, and natural capital. New metrological horizons: invariant reference standards for instruments measuring human, social, and natural capital: materials of 12th IMEKO TC1 & TC7 Joint Symposium on Man Science & Measurement, Annecy, France, 2008, pp. 51-58.

6. Machekhin Yu.P., Kurskoy Yu.S. [Model of measurement of nonlinear dynamic systems parameters]. Siste-my obrabotki informacii, 2012, no. 1 (99), pp.169-175 (in Russian).

7. Machekhin Yu.P., Kurskoy Yu.S. [Analysis of measurements results in nonlinear dynamic systems]. Sistemy obrabotki informacii, 2012, no. 7 (105), pp. 117-122 (in Russian).

8. Machekhin Yu.P. Fractal scale for measurement time series. Measurement Techniques, 2009, vol. 52, no. 8, pp. 835-840.

9. Machekhin Yu.P., Kurskoy Yu.S. Fractal-entropy analysis of measurement results in nonlinear dynamical systems. Measurement Techniques, 2014, vol. 57, no. 6, pp. 609-614.

10. Granovckiy VA. Dinamicheskiye izmereniya. Osnovy metrologicheskogo obespecheniya [Dynamic measurement. Fundamentals of metrological support], Leningrad, Energoatomizdat Publ., 1984, 224 p. (in Russian).

11. Dobronetc B.C. Intervalnaya matematika [Interval mathematics], Krasnoyarsk, SFU, 2007, 216 p. (in Russian).

12. Shennon K. Raboty po teorii informatsii i kiber-netike [Works on information theory and cybernetics], Moscow, IIL, 1963, 832 p. (in Russian).