СМЕШИВАНИЕ ИЗОБРАЖЕНИЙ
MIXING IMAGES

Область техники, к которой относится изобретение
Данное описание относится в общем к редактированию изображений и более конкретно к смешиванию изображений.
Предшествующий уровень техники
Средства для обработки изображений, такие как Digital Image Suite (торговая марка) от Microsoft, Adobe Photoshop (торговая марка) и Illustrator (торговая марка), известны, и спрос на такие средства увеличивается на рынках как для домашнего, так и для профессионального использования. Одна из стандартных задач, выполняемых с использованием таких средств, состоит во вставке части одного изображения в другое изображение или в другие места того же самого изображения. Этот тип операции полезен как для коррекции, восстановления или изменения цифровых изображений, таких как цифровые фотографии, так и для создания фотомонтажа. Однако появляются несколько проблем, включая то обстоятельство, что обычно между редактируемым участком и остальной частью исходного изображения вводятся стыки. Поэтому требуется смешивание изображений, при котором появление таких стыков снижается до минимума. Кроме того, требуется упростить необходимые действия для работы пользователя с этими средствами обработки изображений, а также обеспечить инструмент, который функционирует быстро и эффективно.
Сущность изобретения
Далее представлено упрощенное краткое изложение раскрытия для того, чтобы обеспечить основное понимание для читателя. Это краткое изложение не является исчерпывающим обзором раскрытия, и оно не устанавливает ключевые/критические элементы изобретения или очерчивает объем изобретения. Его единственная цель состоит в том, чтобы представить некоторые концепции, раскрытые в данном описании в упрощенной форме в виде вводной части к более подробному описанию, которое представлено ниже.
Прежде, для смешивания изображения использовали смешивание Пуассона, включая клонирование объекта на фон целевого объекта и смешивание пар исходных изображений вместе. Такое смешивание Пуассона функционирует хорошо во многих ситуациях. Однако, хотя этот способ всегда осуществим, мы обнаружили, что иногда происходит обесцвечивание. Мы поняли, что это обесцвечивание происходит, когда градиент исходного изображения сохраняется слишком настойчиво, за счет сохранения объекта и цвета фона. В некоторых ситуациях контуры объекта становятся смазанными или размытыми. Мы разработали элемент сохранения цвета и меру хрупкости, чтобы обратиться к этим проблемам. Это дает пользователю дополнительное управление для получения гладких композиций и снижения дефектов обесцвечивания.
Многие из сопутствующих признаков можно легче оценить, когда они станут более понятыми в отношении последующего подробного описания, рассматриваемого в связи с прилагаемыми чертежами.
Краткое описание чертежей
Настоящее описание будет лучше понятно из последующего подробного описания, читаемого в связи с прилагаемыми чертежами, на которых:
фиг.1 - схематическое представление высокого уровня системы смешивания изображений;
фиг.2 - блок-схема высокого уровня способа смешивания изображений;
фиг.3a показывает исходное изображение объекта для клонирования;
фиг.3b показывает результат клонирования объекта с фиг.3a на фон целевого объекта с использованием способа смешивания предшествующего уровня техники;
фиг.3c показывает результат клонирования объекта фиг.3a на тот же самый фон целевого объекта, что и на фиг.3b, с использованием способа смешивания, содержащего элемент сохранения цвета;
фиг.3d показывает результат клонирования объекта фиг.3a на тот же самый фон целевого объекта, что и на фиг.3b, с использованием способа смешивания, содержащего и элемент сохранения цвета с фиг.3c, и меру степени контрастности в исходном изображении;
фиг.4 показывает два участка исходного изображения, подлежащих смешиванию вместе;
фиг.5a показывает первое исходное изображение;
фиг.5b показывает второе исходное изображение;
фиг.5c показывает созданное изображение, сформированное из первого и второго исходных изображений с фиг.5a и фиг.5b, где это созданное изображение было обработано с использованием алгоритма предварительной сегментации;
фиг.5d показывает результат процесса двустороннего градиентного смешивания на изображении фиг.5c;
фиг.5e показывает результат улучшенного процесса смешивания изображений на изображении фиг.5c;
фиг.6 показывает составное изображение, сформированное посредством смешивания шести исходных изображений с использованием способа по настоящему изобретению.
На прилагаемых чертежах подобные ссылочные позиции используются для обозначения подобных частей.
Подробное описание
Подробное описание, обеспеченное ниже в связи с прилагаемыми чертежами, предназначается в качестве описания представленных примеров и не предназначено для представления единственных форм, в которых представленный пример может быть образован или использован. Описание формулирует функции примера и последовательность этапов для создания и действия этого примера. Однако такие же или эквивалентные функции и последовательности могут быть также выполнены с помощью других примеров.
В более ранней патентной заявке США № 10/417937, зарегистрированной 16 апреля 2003 г., опубликованной как US 2004/0165788 А1 и также переуступленной Microsoft Corporation, описывается способ смешивания изображений, упоминаемый в данном описании как смешивание Пуассона (а так же как редактирование Пуассона). Такое смешивание Пуассона хорошо функционирует во многих ситуациях. Хотя этот способ всегда выполним, обнаружено, что имеется вероятность обесцвечивания. Понятно, что это обесцвечивание происходит тогда, когда градиент исходного изображения сохраняется слишком настойчиво за счет сохранения объекта и цвета фона. Другая проблема заключается в том, что во многих ситуациях контуры объекта становятся смазанными или размытыми. Настоящее изобретение стремится обратиться к этим проблемам, основываясь на методе смешивания Пуассона и расширяя его. Кроме того, оно пытается исключить или снизить до минимума искусственные стыки по границам шва между частями изображений в составном изображении.
Редактирование Пуассона описано в нашей более ранней патентной заявке, упомянутой выше, а также в работе Perez и др. 2003 "Poisson image editing (Редактирование изображений Пуассона)". ACM Trans. Graph. 22, 3, 313-318. Оно также описано теперь в данном описании.
S
T
Редактирование Пуассона выражается просто как оптимизация по создаваемому изображению u(r), r ∈ S , которая согласовывает его градиент ∇u наиболее близко с градиентом ∇I источника, при условии 1 подгонки целевого изображения I(r) на границе S. Это записывается как минимизация функционала
при условии, что u является непрерывным, и граничном условии, представляющем собой
Т
u(r) = I(r) для r на ∂S.
S
S
2
2
Согласовывающий градиенты элемент аппроксимирует физическую "мембрану", как если бы реконструируемое изображение u было сгенерировано натягиванием мембраны на исходное изображение I, но также вынуждено согласовываться с целевым изображением на границе ∂S. Задача минимизации может быть точно решена с помощью вариационного исчисления, давая уравнение Пуассона ∇u = ∇I, подчиненное условиям Дирихле, приводя к термину "смешивание Пуассона".
В то время как смешивание Пуассона часто является эффективным, мы нашли, что бывают случаи, когда оно терпит неудачу. Например, рассмотрим исходное изображение на фиг.3a, содержащее объект, который нужно клонировать на целевое изображение. Исходное изображение содержит портрет человека 30, стоящего на темном фоне 31. Вокруг человека была грубо нарисована линия 32, чтобы указать участок исходного изображения, подлежащий клонированию. Термин "клонирование" используется в отношении ситуаций, в которых требуется вставить объект или часть объекта из исходного изображения в предназначенное изображение. Линия 32, например, наносится пользователем, использующим инструмент для рисования или инструмент лассо в приложении для обработки изображений. Линия рисуется так, что часть темного фона исходного изображения включается в участок, который нужно клонировать. Очень трудно избежать включения этого фона без кропотливой работы пользователя или использования автоматического алгоритма сегментации. Однако такие алгоритмы сегментации являются сложными, отнимающими много времени и трудны в использовании для неопытных пользователей.
Фиг.3b показывает результат клонирования выбранного участка в исходном изображении (фиг.3a) на целевое изображение с использованием способа редактирования Пуассона предшествующего уровня техники, описываемого в нашей упомянутой выше более ранней патентной заявке. Целевое изображение значительно светлее, чем фон в исходном изображении (фиг.3a), и можно увидеть, что клонируемый материал источника обесцвечивается или осветляется неподходящим образом. Кроме того, имеются проблемы со смазыванием контуров или краев объекта в созданном изображении.
Фиг.1 является схематическим представлением высокого уровня устройства для смешивания изображений. Оно содержит блок 10 ввода для приема одного или больше входных изображений и блок 15 вывода для вывода смешанного изображения. Устройство содержит блок 11 объединения изображений, выполненный с возможностью объединения входных изображений (или по меньшей мере части этих изображений), чтобы создавать составное изображение. Процессор 12 либо автоматически определяет границу в составном изображении, либо использует полученный ввод 14 пользователя для помощи в идентификации этой границы. Граница находится между участком в составном изображении, сформированным из одного из исходных изображений, и участком в составном изображении, сформированным из другого из исходных изображений. Также обеспечивается процессор 13 для обработки изображений, который выполнен с возможностью модифицировать составное изображение в соответствии с модифицированным способом редактирования Пуассона, как описано в данном описании. Процессор 12, блок 11 объединения изображений и процессор 13 для обработки изображений могут быть отдельными объектами или могут быть объединены в единую вычислительную систему.
Фиг.2 представляет собой блок-схему высокого уровня способа смешивания первого изображения и второго изображения, предназначенного для формирования создаваемого изображения с использованием устройства по фиг.1. Способ содержит этапы:
• объединения по меньшей мере части первого изображения и по меньшей мере части второго изображения для формирования создаваемого изображения (см. блок 20 на фиг.2);
• идентификации границы в создаваемом изображении, находящейся между участком в создаваемом изображении, сформированным из первого изображения, и участком в создаваемом изображении, сформированным из второго изображения (см. блок 21 на фиг.2);
• модифицировании создаваемого изображения на основе градиента по меньшей мере части любого из первого и второго изображений (см. блок 22 на фиг.2); и в котором упомянутое модифицирование также выполняется на основе одного или больше из элемента сохранения цвета и указания степени контрастности по меньшей мере одного из первого и второго изображений.
Чтобы обратиться к проблеме обесцвечивания, разработан элемент сохранения цвета, как теперь будет описано более подробно. Кроме того, разработано использование указателя степени контрастности по меньшей мере в одном из первого и второго изображений, чтобы снизить смазывание контуров объектов.
Поэтому модифицирован функционал E(u), используемый в чистом редактировании Пуассона, как упомянуто выше, чтобы включить элемент сохранения цвета. Функционал E(u) тогда становится равным:
Тогда этот функционал минимизируется относительно непрерывного u(r), r ∈ S, подчиненного упомянутым выше граничным условиям. Влияние элемента сохранения цвета заключается во введении тенденции для клонируемого материала, чтобы сохранять исходный цвет, и эта тенденция конкурирует с предпочтением согласования с градиентом источника.
Весовой параметр представляет собой введенную λ в представленное выше уравнение. Он управляет компромиссом между тенденцией сохранять цвет источника и тенденцией на согласование с градиентом источника. На практике полезные значения этого весового параметра обычно располагаются между приблизительно 5 пикселями и 200 пикселями.
Фиг.3c показывает результат использования элемента сохранения цвета для модифицирования способа редактирования Пуассона для тех же исходного и целевого изображений, что и на фиг.3a и фиг.3b. Имеется заметное улучшение в цвете объекта, который теперь имеет тенденцию сохраняться. Хотя этот способ полностью осуществим и выгоден во многих ситуациях, обнаружено, что в некоторых ситуациях может оставаться обесцвечивание фона. Например, см. фиг.3c. Установлено, что это обесцвечивание фона происходит из-за того, что элемент градиента функционала E(u) действует вокруг контуров объекта, чтобы сохранять такую же степень контрастности, как в исходном изображении, хотя новый фон целевого объекта требует изменения контрастности. В другом варианте осуществления изобретения мы обращаемся к этой проблеме, используя меру степени контрастности в исходном изображении.
Вводим элемент "хрупкости" в стоимость E, чтобы блокировать ограничивающую связь градиента на контурах объекта. Этот элемент может рассматриваться как снижение напряжения в мембране, где существует высокий контраст в исходном изображении. Это действует как некоторый вид неявного или "мягкого" обнаружения краев. Функционал E(u) теперь имеет модифицированный элемент градиента:
S
где хрупкость, w, представляет собой
w
s
При подчинении граничным условиям, как и прежде. Здесь <...> означает среднее значение по области S; ε - маленькая константа, значение которой является некритическим, но обычно ε = 0,02, только чтобы предотвратить случайное чрезмерное увеличение резкости краев. Этот способ обладает эффектом, заключающимся в том, что (...) падает от 1 к низкому значению везде, где имеются необычно высокие уровни градиента . Это имеет стремление блокировать тенденцию редактирования Пуассона сохранять градиент изображения даже на контурах объекта. Таким образом, это способствует тому, чтобы контраст изображения на границах объекта адаптировался соответствующим образом к новому целевому объекту.
По сравнению с редактированием Пуассона цвета и переднего плана и фона имеют тенденцию более точного воспроизведения, как иллюстрируется на фиг.3d, которая показывает результат смешивания изображений с использованием функционала, упомянутого непосредственно выше, для тех же самых исходного и целевого изображений, что и на фиг.3b и фиг.3c. Другое преимущество состоит в том, что используя параметр λ, возможно управлять степенью, до которой позволяют фону целевого объекта рассеиваться в клонируемой зоне. Этот параметр может быть связан с вводом пользователя так, что пользователь сможет задавать точные значения параметра или использовать скользящее входное управление, например, чтобы увеличивать или уменьшать текущее значение используемого параметра. Таким образом, пользователь сможет использовать метод подбора, чтобы найти свой предпочтительный субъективный баланс между плавностью и точностью цвета. Регулировка пользователем величины λ может быть сделана в реальном времени, как описано более подробно ниже.
В примерах, описанных выше относительно фиг.3, изображение человека клонируется на фон целевого изображения. Изобретение также охватывает смешивание изображений, в котором для формирования составного изображения используются два или больше изображений. Например, фиг.6 показывает составное изображение, сформированное из шести исходных изображений с использованием варианта осуществления настоящего изобретения.
Стыковка изображений направлена на смешивание вместе пар исходных изображений, которые уже являются сходными в наиболее бесшовном из возможных способов. Например, для фотомонтажа, гобелена из изображений или формирования любого подходящего типа составного изображения. Этого можно элегантно достигнуть посредством снижения до минимума функционала несоответствия по границе шва, как описано в работе Кватра (Kwatra) и др. 2003 "Graph cut textures; image and video synthesis using graph cuts." ("Структуры сечений кривых; синтез изображений и видеоизображений с использованием сечений кривых.") ACM Trans. Graph. 22, 3, 227-286. Однако во многих ситуациях все еще требуется смешивать два изображения, которые в общем являются очень разными и для которых хорошая подгонка по границе недоступна. Способы сечения кривых, такие как предложены Кватра (как упомянуто выше), не имеют дело с этим типом ситуации. В таких случаях известный подход состоял в том, чтобы расположить стык близко к границам с высоким контрастом, где это менее заметно для наблюдателей. То есть, в этом случае этап идентификации границы (см. блок 21 на фиг.2) содержит позиционирование, при котором граница располагается близко к границам с высоким контрастом, где это возможно. Это может быть достигнуто с помощью ввода пользователя или вычислений. Например, с помощью модифицированного функционала для этой проблемы, как описано в упомянутой выше статье Кватра. Он вводит зависимость модуля градиента, которая имеет тенденцию направлять стык близко к границам с высоким контрастом. Однако недостаток этого подхода состоит в том, что стык в общем не может полностью следовать по линиям высокого контраста, и он навязчиво виден на остальных частях его длины. Мы распознали эту проблему и установили способ, занимающийся ей. Элемент, который вводим в функционал E(u), чтобы модифицировать создаваемое изображение на основе указания степени контрастности в исходном изображении, позволяет запрещать смешивание вдоль линий с высоким контрастом. То есть наш процесс смешивания дает возможность применять смешивание с особым свойством, когда оно совершается вдоль выдающейся части стыка, и запрещается вдоль линий с высоким контрастом. Использование элемента сохранения цвета, однако, не является существенным для этого способа; то есть элемент сохранения цвета не является необходимым для запрещения смешивания вдоль линий с высоким контрастом, пока имеется возможность для того, чтобы смешивание совершалось в других местоположениях вдоль стыка или границы.
0
1
0
1
Фиг.4 показывает два частично перекрывающих друг друга участка S и S исходного изображения, которые должны быть смешаны вместе для формирования составного изображения. Способы смешивания, описанные выше, теперь применяются "двусторонним образом", поскольку проблема является симметричной в областях исходных изображений. То есть, в случае клонирования изображения во время процесса смешивания требуется модифицировать только клонируемую часть составного изображения (хотя также возможно модифицировать другие части изображения, если это требуется). Однако, в случае смешивания изображений, например, как на фиг.4, модифицируются части составного изображения из каждого исходного изображения. Термин "двусторонним образом" в данном описании используется для указания этого различия. Граница или стык 40 показан на фиг.4 в участке перекрытия, и подобласти исходных участков тогда представляют собой S' и S′, как показано. Граница или стык устанавливается любым подходящим способом, таким как ввод пользователя или автоматическое вычисление. В случае, если используется автоматическое вычисление, для того, чтобы устанавливать края или контуры объекта в исходных изображениях и помещать границу настолько близко к этим краям или контурам, насколько возможно, может использоваться любой подходящий алгоритм.
0
1
0
1
0
1
0
0
1
1
0
1
0
1
0
1
В одном варианте осуществления определяется граница предварительной сегментации, которая следует за контурами объекта в одном или другом исходном изображении, насколько это возможно. Для заданных частично перекрытых изображений I(r) и I(r) по областям S и S целевая область для смешанной пары изображений представляет собой Т=S∪S. Первые исходные участки S′⊂S и S′⊂S, по которым применяется этот способ, определены так, что являются взаимоисключающими (S′∩S=⌀) и исчерпывающими (Т = S′∪S′). Общая граница 40 участков S' и S' тогда может быть создана, например, посредством снижения до минимума любого подходящего зависимого от контраста функционала. Это может быть вычислено, например, с использованием способов сечения кривых, упомянутых выше. Например, фиг.5c показывает типичный результат. Фиг.5a показывает первое исходное изображение, а фиг.5b - второе исходное изображение. Фиг.5c показывает результат смешивания этих двух исходных изображений способом сечения кривых, таким как упомянут выше. Результат является плохим, потому что в составном изображении присутствует выдающийся несовпадающий стык. Если "двустороннее" смешивание Пуассона применяется к участку перекрытия между двумя исходными изображениями, происходит обесцвечивание и смазывание контуров объекта, как иллюстрируется на фиг.5d.
Обращаясь к этим проблемам, используем "двустороннюю" форму функционала E(u), как показано ниже:
0
1
Веса ws и ws определены, как прежде, но теперь по их соответствующим областям изображения. Тогда способ содержит минимизацию E(u) относительно u, при условии непрерывности u(r), r ∈ T, и граничных условиях
Результат точно сохраняет цвета переднего плана и фона, как иллюстрируется на фиг.5e.
Спецификация функционала E(u) была дана выше для ясности в непрерывной области, хотя следует отметить, что минимизация этого функционала может быть выполнена численно через дискретный массив точек, используя любой подходящий известный способ. Например, аппроксимация конечных разностей градиентов дает дискретные формы одностороннего и двустороннего способа, как представлено ниже:
S
pq
p
q
0
1
0
1
p
0
1
pq
0
1
pq
pq
p
q
pq
pq
p
где p ∈ Ω - индексы пикселей в области для E, а N - набор соседних пар пикселей в Ω. В одностороннем случае νp представляет просто пиксели из I и ν = ν-ν. В двустороннем случае область сегментируется как S∪S, и пиксели расположены в области S или S так, что ν представляет соответственно пиксели из I или I. Аналогичным образом, градиенты ν вычисляются по I или I, и единственная проблема заключается в том, как определить ν и w, где pq охватывает с двух сторон границу сегментации. В этих случаях мы оцениваем контраст |I-I| по обоим изображениям и используем изображение с более высоким контрастом для определения ν и w. Наконец, дифференцирование уравнения, представленного непосредственно выше, относительно каждого u дает систему совместных линейных уравнений для оптимальных условий
0
0
которые являются разреженными. Наши результаты получены с помощью разреженного гауссова исключения (MATLAB mldivide), которое обычно выполняется за несколько секунд по интервалу, составляющему приблизительно 30000 пикселей. Для большей эффективности может использоваться многосеточная последовательная верхняя релаксация (ПВР), как известно в технике. Следует отметить, что с ПВР, для вычислительной стоимости, подобной (фактически немного меньшей) стоимости вычисления способа для некоторого значения параметра градиента λ = λ, мы можем получить результаты для целого диапазона значений 0 ≤ λ ≤ λ. Это достигается посредством постоянного увеличения λ по мере протекания ПВР. Это важно, потому что позволяет пользователю манипулировать ползунком пользовательского графического интерфейса для λ в реальном времени.
Термин "компьютер" используется в данном описании по отношению к любому устройству с возможностью обработки таким образом, что оно может выполнять команды. Специалистам в данной области техники должно быть понятно, что такие возможности обработки содержат многие различные устройства, и поэтому термин "компьютер" включает в себя персональные компьютеры, серверы, мобильные телефоны, персональные цифровые ассистенты и многие другие устройства.
Хотя настоящие примеры описаны и проиллюстрированы в данном описании как реализованные в системе смешивания изображений, описанная система обеспечивается в качестве примера, а не ограничения. Как должно быть понятно специалистам в данной области техники, представленные примеры подходят для применения в ряде различных типов систем обработки изображений.
Специалистам в данной области техники должно быть понятно, что запоминающие устройства, используемые для хранения команд программы, могут быть распределены в сети. Например, удаленный компьютер может хранить пример процесса, описанного как программное обеспечение. Локальный или терминальный компьютер может получить доступ к удаленному компьютеру и загрузить часть или все программное обеспечение, чтобы выполнять программу. В качестве альтернативы, локальный компьютер может загружать части программного обеспечения по мере необходимости, или выполнять некоторые команды программного обеспечения на локальном терминале, а некоторые на удаленном компьютере (или компьютерной сети). Специалистам в данной области техники также должно быть понятно, что при использовании обычных методов, известных этим специалистам в данной области техники, все или часть команд программного обеспечения могут быть выполнены специализированной схемой, такой как ПЦС (процессор обработки цифровых сигналов), программируемая логическая матрица или подобное устройство.
Способы, описанные в данном описании, могут быть выполнены с помощью программного обеспечения в машиночитаемой форме на носителе данных. Это допускает, что программное обеспечение может быть ценным, отдельно продаваемым товаром. Предполагается охватить программное обеспечение, которое работает на "неинтеллектуальных" или стандартных аппаратных средствах или управляет ими, чтобы выполнять желаемые функции (и поэтому программное обеспечение по существу определяет функции смесителя изображений и, следовательно, может быть названо смесителем изображений, даже если прежде оно было объединено с его стандартными аппаратными средствами). По аналогичным причинам также предполагается охватить программное обеспечение, которое "описывает" или определяет конфигурацию аппаратных средств, такое как программное обеспечение ЯОАС (языка описания аппаратных средств), которое используется для проектирования кремниевых микросхем, или для конфигурирования универсальных программируемых микросхем, чтобы выполнять требуемые функции.
Любой диапазон или значение устройства, приведенные в данном описании, могут быть расширены или изменены без потери искомого эффекта, как будет очевидно специалистам в данной области техники.
Должно быть понятно, что вышеупомянутое описание предпочтительного варианта осуществления дается только в качестве примера и что специалистами в данной области техники могут быть выполнены различные модификации. Вышеупомянутое описание изобретения, примеры и данные обеспечивают полное описание структуры и использования примерных вариантов осуществления изобретения. Хотя выше были описаны различные варианты осуществления изобретения с некоторой степенью детальности или со ссылкой на один или больше отдельные варианты осуществления, специалисты в данной области техники могут делать многочисленные изменения в раскрытых вариантах осуществления без отклонения от объема или сущности этого изобретения.