Вычислительная технология оптимизации позиционных управлений в дифференциальных системах

2. Гурман В.И. Принцип расширения в задачах управления. М.: Наука. Физматлит, 1985.

3. Гурман В.И., Квоков В.Н., Ухин М.Ю. Приближенные методы оптимизации управления летательным аппаратом // АиТ. 2008. № 3. С. 191-201.

4. Коваленко М.Р., Матвеев Г.А., Осипов В.И., Трушкова Е.А. Параллельный алгоритм улучшения управления // Параллельные вычисления и задачи управления (РАСО'2008): тр. Четвертой междунар. конф. М.: ИПУ им. В.А. Трапезникова РАН. 2008. С. 979-984.

вычислительная технология оптимизации позиционных управлений в дифференциальных системах

О.В. Моржин

Статья посвящена описанию вычислительной технологии оптимизации позиционных управлений в нелинейных дифференциальных системах.

Ключевые слова: динамические системы, множества достижимости, позиционное управление, численные методы.

Проблема построения управления с обратной связью в нелинейных управляемых системах до сих пор остается актуальной и находится в центре внимания специалистов по управлению.

Для решения задач оптимального позиционного управления (ЗОПзУ) нелинейными дифференциальными системами известны различные методики. Специфической чертой подхода Н.Н. Моисеева [1] является возможность декомпозиции ЗОПзУ с аддитивным целевым функционалом на элементарные задачи за счет реализации принципа оптимальности Р. Беллмана на априорных «шкалах состояний» в пространстве «время-состояния». Известный метод «блуждающих трубок» [1], призванный дать оценку области, в которой требуется введение шкал состояний, при данных начальном и/или целевом множествах обеспечивает локальное решение задачи, будучи определенным на некоторых подмножествах трубок достижимости и/или разрешимости (управляемости).

Эффективность подхода определяется суммарной трудоемкостью значительного числа элементарных операций по вычислению траектории системы для перехода из каждого узла на дискретном множестве состояний, введенном для одного узлового момента времени, в каждый узел на аналогичном множестве для последующего узла по времени. Иными словами, требуется найти (по возможности глобальное) решение задачи оптимального программного управления (ЗОПрУ) для рассматриваемой динамической системы при терминальных ограничениях.

Конструктивными направлениями в развитии подхода Н.Н. Моисеева представляются: 1) предварительная аппроксимация трубки достижимости при заданном начальном множестве или трубки разрешимости при данном целевом множестве; 2) решение ЗОПрУ на основе современных алго-

ритмических и программных средств. Конструктивное развитие схемы Моисеева предложено в работах [2-4] с приложениями к различным модельным задачам.

Формулировка задач оптимального управления

Рассматривается управляемая система

¿

где управление программное и=и(0 или позиционное и=и(г, х). Классы доступных программных и позиционных управлений:

и^гат ={ие РС(Т,Ет): и(1)е и, 1 е [18,1Е]} , и^шопа, ={и е РС(Т X Х,Ет): и(1,х) е и, ге [18,гр], хе X}, где компакт X определяется в

контексте конкретной задачи управления.

Множеством достижимости х1, г1) системы (1) из позиции {г1, х1} (г8<г1 х<1р) называется множество, состоящее из всевозможных состояний системы в момент г11 на любых доступных управлениях и=(-).

Трубкой достижимости, обозначаемой х1, (г1, г11]), системы (1) из позиции {г1, х1} на полуотрезке (г1, г11] (г^1^11^) будем называть объединение у щг^х1^).

1е(1:,1п]

Аналогично определяются множества и трубки достижимости из компакта Х(г'), лежащего на гиперплоскости, пересекающей пространство позиций при г = г1 е [г8 ,гр).

Целевым множеством М назовем компакт, лежащий на гиперплоскости, пересекающей пространство позиций в момент гр, на который требуется привести систему (1) при всевозможных доступных управлениях.

Множеством разрешимости (M-управляемос-ти), обозначаемым W(t, tF, M), для системы (1) в момент те [tS,tF) при заданном целевом множестве M называется множество, состоящее из всевозможных состояний в момент t=T, из которых система переводима на M при любых управлениях

u( ) е Uprogram '

Трубкой разрешимости, или трубкой M-уп-равляемости, обозначаемой W([t', t11), tF, M), системы (1) на полуотрезке [t1, t11) (tS<t'<tn<tF) при заданном множестве M назовем объединение

U W(t,tF,M) .

te[tI,tI1)

Поточечные фазовые ограничения gk (x(t),{u(t)лu(t,x)},t)< 0, tе [ts,tF], k = 1,r ,

r < n, являются дополнительными критериями качества управления, которое, если удовлетворяет ограничениям, называется допустимым. При фазовых ограничениях речь идет об условных множествах достижимости и разрешимости, для аппроксимации которых недостаточно отсечения частей соответствующих множеств системы без фазовых ограничений. Обозначим условные и безусловные множества одинаково, так как из контекста ясен смысл обозначений.

Относительно системы (1) с заданным целевым множеством M, множеством начальных состояний X(ts), имеющим непустое пересечение с W(tS, tF, M), рассматривается ЗОПзУ с целевым

tF

критерием I(u,x) = J z(x,u,t)dt ^ inf . ts

Решением ЗОПзУ будем называть функцию u(-) е Upositional, определяющую управление системой для каждой позиции {t, x} из трубки разрешимости.

Схема численной оптимизации позиционных управлений

Для реализации подхода необходимо ввести в рассмотрение понятия аппроксимации целевого множества, трубки разрешимости и аппроксимирующего позиционного управления. Сечение трубки разрешимости - множество разрешимости, является также множеством достижимости системы, получаемой из исходной при ее рассмотрении в обратном времени с целевым множеством как множеством начальных состояний.

Множества достижимости нелинейных систем могут быть невыпуклыми и несвязными, и поэтому для учета этих особенностей в работе [2] предложены алгоритмы, реализующие метод сечений для аппроксимации множеств, а для ряда тестовых примеров представлены результаты численных экспериментов, иллюстрирующих эффективность метода сечений.

На отрезке [0, рассматриваемом в прямом

времени, вводится сетка с шагом АГ = —: 0=Г0<

N

Вводится также сетка, узлы тг (г = кото-

,1 —N .0 _г ¿Л-г

рои следуют по узлам г: т = I , ..., т = I , ...,

т0 = tN. Для краткости вместо '(Г1, М) будем писать '[Г1].

Аппроксимацией (ограниченного) множества разрешимости '[Г1] системы (1), рассматриваемого в момент Г' е [0,^), будем называть такое ко-

нечное множество '[Г1] = {х1 (Г1)}, 1 = ,

что справедлива формула

Vх'Се '[Г1] (1 е х'СП'[Г1]*0j &

(ух(Г)е ТГ1] Эх'(Г1)е _№] (1 е 1^))&Эе 10:

Цх^1) - <е), где q(tj) означает количество

__. . о

элементов во множестве '[Г1 ], квантор V имеет

смысл «почти для всех».

Аппроксимацией (ограниченной) трубки разрешимости '([0,ГР),ГР,М) системы, рассматриваемой на отрезке [0, называется конечное

______N-1___

множество (^Д^М) = у '[Г1 ] = {{х'(Г1)} ,

1=0

1 = 1^(1, 1 = 0^ -1} с условием 0<АГ<8^0.

В основу метода сечений [2] положена следующая идея построения контура множества достижимости системы в момент Г1: 1) находятся координаты параллелепипеда, всех граней которого изнутри касается множество достижимости - для этого решается серия ЗОПрУ с целью поиска экстремальных (по возможности в глобальном смысле) значений каждой фазовой переменной; 2) в границах параллелепипеда вводится сетка с разбиением по каждой координате; 3) в результате решения серии ЗОПрУ вычисляются экстремальные (по возможности все локальные) значения некоторой фазовой координаты при фиксированных значениях для всех остальных координат.

В контексте схемы оптимизации позиционного управления узлы, представляющие содержание множества '[Г1], могут быть введены условно, так как при работе оптимизационного алгоритма в случае несвязности множества достижимости будут удалены такие элементы множества '[Г1], которые не принадлежат '[Г1].

Итак, для эффективной реализации схемы необходимо учитывать возможности несвязности, вырождения в многообразие меньшей размерности для множества достижимости. Для аппрокси-

мации, скажем, трехмерного множества достижимости его двухмерные сечения необязательно строить также методом сечений: можно применить для упрощения расчетов, к примеру, метод опорных гиперплоскостей в предположении выпуклости этих плоских сечений.

Разработанная компьютерная программа позволяет строить аппроксимации множеств достижимости. В основе лежат программы для численной оптимизации программных управлений в системах с фазовыми ограничениями.

Рассмотрим пример аппроксимации контура невыпуклого множества разрешимости.

Рассматривается система, описывающая управление с помощью p(t) плоским маятником в среде с неизвестной вязкостью q(t) (управление второго игрока) на отрезке времени [0, 2]:

Xx(t) = X2(t) ,

X 2(t) = —0.15q(t)x2 (t) -10.15 sin x1 (t) + p(t).

На управления наложены ограничения: |p(t)| < 10, q(t) e [0,1], t e [0,2]. Целевое множество M=(0, 0). Положим функцию q(t)=0.5 и для построения контура множества W(0, 2, M) рассмотрим систему в обратном времени, полагая за начальный момент t=0:

X 1(t) = —X2(t) ,

X2(t) = 0.15q(t)x2(t) + 10.15sinx1 (t) — p(t),

t e [0,2]. На рисунке представлен результат работы алгоритма.

Основным отличием методов сечений и опорных гиперплоскостей от методов эллипсоидов и других является вычисление аппроксимации множества достижимости, исходя непосредственно из определения этого множества.

Для нахождения семейства оптимальных программных управлений, аппроксимирующих оптимальное позиционное управление на частичном

временном отрезке [Г1, Г^1] (1 е 0^ -1), прово-

дится решение серии ЗОПрУ с целевым критерием

Г*1 N-1

1Ди) = | z(x(t),u(t),t)dt ^ М, 1(и) = X I»,

1=0

относительно системы (1)-(7) при поточечных фазовых ограничениях и краевых условиях

х(Г1) е '[Г1], х^1) е '[Г*1].

На отрезке [Г8, %] проводится вычисление оптимального позиционного управления последовательно, переходя от отрезка [Г4-1, tN] к отрезку [Г0, Г1], на основе принципа оптимальности Белл-мана.

Для каждой позиции {tJ, xJ(tJ)}, j е 0,N — 1,

' е 1, q(tJ), определяется программное управление для движения на текущем частичном временном отрезке [Г1, Г^1]. Тем самым проводится аппроксимация позиционного управления программными управлениями - функциями или параметрами. Для простоты изложения ограничимся случаем аппроксимации параметрами.

Условие х(Г1+1) е \¥[Г1+1] записывается посредством терминальных ограничений следующего вида: Х'(Г1) - х1 = 0 , где х - заданный число-

вой вектор, 1 е 1, q(tj+1), 1 е 0^ -1. Для учета таких терминальных ограничений могут быть использованы различные способы, включая негладкий штрафной функционал X в ^(Г1) - х^ , Р>1.

В узлах сетки М функция цены ф позиционного управления и(Г, х) принимает лишь нулевые значения. Рассмотрим функцию

I

уДМЧГ^и") = | z(x(q),u(q), ^, Ге [Г1, Г1+1].

Функция цены управляющего параметра для позиции

m \

um е {um}M=

m=0

{tN—1,xi(tN—1)}:

жл/ч-N—1 „m i /ÍN—1 „m \\ /¿N , i/-N—К „m\

9(t ,u ,x (t ,u )) = yN—1(t ,x (t ),u ) ,

е 1,q(t ). Для позиции {tj,xi(tj)} (j е 0,N — 1,

i e 1, q(tj)) функция цены управления um определяется как сумма значения yj(tj+1,xi(tj),um) и соответствующих значений функции цены на последующих частичных временных отрезках.

Функция Беллмана на множестве W[tJ] и ее аппроксимация как объединение всех наименьших значений функции цены по всем элементам множества W[tj]:

B(tj,W[tj],{u}) = min9(tj,W[tj],{u}) «

{u}

______q

« B(tj,W[tj],{u}) = II min 9(tj,x'(tj),u),

u

i=1

где {и} - объединение оптимальных программных управлений по всем узлам из ХУ^-1]. Анало-

q

гично

фтах (tJ, W[tj = }) = у тах 9(tj ,xi (tJ),U) .

На отрезке [tj, tj+1] (j e 0,N — 1) для каждого

узла x1 (tj) e W[tj ] (i e 1, q(tj)) проводится выбор

}M

m=0

из

сгенерированного набора {um} , во-первых,

I J m=0

r;i'J

оптимального программного управления u и, во-вторых, управления U1,J, на котором достигается максимальное значение функции цены, а также вычисление значений функций B и фтах: u1,j = argmin [yj (tj+1,x1(tj),um) +

+ B (tj+1,xd (tj+1),Ud'j+1) ], B (tj,x1 (tj ),U1,j) = min [yj (tj+1,x1 (tj ),um) +

+ B (tj+1,xd (tj+1),Ud'j+1)], U1,j = arg max [yj (tj+1 ,x1(tj),um) +

+ 9max (tj+1,xd(tj+1),ud'j+1) ], 9max (tj,x1(tj),Ü1'j) = max [yj (tj+1 ,x1(tj),um) +

+ 9max (tj+1,xd(tj+1),ud'j+1) ],

1 e 1,q(tj), d e 1,q(tj+1), j = 0,N — 1.

Приведенная схема реализована программно, причем в случае аппроксимации позиционного управления семействами программных управляющих функций требуется привлечение программных средств для оптимизации программных управлений вместо простой схемы выбора значений параметра, изложенной ранее.

Случай аппроксимации параметрами более простой и менее трудоемкий, поэтому с точки зрения сравнительной эффективности можно считать его наиболее приемлемым.

По результатам работы алгоритмов, реализующих изложенную схему, строится композиционное программное управление, обеспечивающее кусочно-дифференцируемую траекторию, по которой производится перевод системы на целевое множество.

Если реализуется случай аппроксимации позиционного управления семействами параметров, то может понадобиться сглаживание получаемой траектории. С этой целью проводится приближение композиционного управления как кусочно-постоянной функции полиномиальной функции достаточно высокой степени.

Таким образом, итоговым этапом работы программной системы является применение результатов, насчитанных для всех аппроксимирующих сечений трубки разрешимости, для построения оптимального программного движения из любой позиции, взятой из аппроксимации этой трубки, на целевое множество.

Вопросы численной оптимизации программных управлений

Как уже отмечено, элементарной операцией в алгоритмах аппроксимации множеств разрешимости и оптимизации позиционного управления является ЗОПрУ, которая может оказаться достаточно трудноразрешимой. Эффективность решения серии ЗОПрУ зависит от уровня надежности (включая уровень автоматизации) программного обеспечения.

Авторами проведена реализация (на языке Fortran) ряда методов улучшения программных управлений. На языке Maple разработана программа автоматического вывода конструкций принципа максимума Понтрягина и его линеаризованной версии. Для учета концевых и поточечных фазовых ограничений реализованы методы гладких и недифференцируемых по Фреше штрафных функционалов.

Разработанная технология решения ЗОПзУ и аппроксимации множеств разрешимости не используют дифференциальное уравнение Гамиль-тона-Якоби-Беллмана, опираются непосредственно на определение множеств разрешимости и принцип оптимальности Беллмана, реализуемый на аппроксимации трубки разрешимости. В подходе элементарной операцией является ЗОПрУ, следовательно, эффективность его зависит от эффективности методов и многометодных схем решения ЗОПрУ.

Таким образом, аппарат аппроксимации тра-екторных трубок, а также решения ЗОПрУ и ЗОПзУ является единым с точки зрения достаточно полного исследования возможностей управления в нелинейных дифференциальных системах.

Литература

1. Моисеев Н.Н. Численные методы в теории оптимальных систем. М.: Наука, 1971.

2. Моржин О.В., Тятюшкин А.И. Алгоритм метода сечений и программные средства для построения множеств достижимости // Изв. РАН. Теория и системы управления. 2008. № 1. С. 5-11.

3. Тятюшкин А.И., Моржин О.В. Алгоритм численного синтеза оптимального управления // Автоматика и телемеханика. 2008. № 4.

4. Тятюшкин А.И., Моржин О.В. Конструктивные методы оптимизации управлений в нелинейных системах // Там же. 2009. № 4.

i=1