Метод формирования SD-изображения сцены по одной фотографии

ОБРАБОТКА ИНФОРМАЦИИ И УПРАВЛЕНИЕ X

УДК 004.932

МЕТОД ФОРМИРОВАНИЯ 3D-ИЗОБРАЖЕНИЯ СЦЕНЫ ПО ОДНОЙ ФОТОГРАФИИ

Н. Н. Красильников,

доктор техн. наук, профессор

Санкт-Петербургский государственный университет аэрокосмического приборостроения

Описан метод формирования 3D-изображения сцены, основанный на аппроксимации ее центральной проекции (2D-изображения) набором плоскостей с последующей декомпозицией сцены на эти плоскости. Для каждой из плоскостей находится аксонометрическая проекция путем использования имеющейся априорной информации об изображенной сцене и карта глубины. Завершающим шагом описываемого метода является «сборка» 3D-изображения сцены объединением аппроксимирующих ее плоскостей и проекция сцены на экран при заданных условиях наблюдения.

Ключевые слова — 3D-изображение, 3D-сканирование, карта глубины.

Введение

При наблюдении трехмерных объектов и сцен, несмотря на то, что в их проекциях на сетчатки глаз координата глубины оказывается утраченной, мы, тем не менее, воспринимаем их объемными. Объясняется это тем, что в этих проекциях, которые представляют собой 2D-изображения, содержится информация, используя которую совместно с априорной информацией, имеющейся у зрителя о наблюдаемых объектах, зрительная кора в той или иной мере восстанавливает утраченную при проецировании информацию о координате глубины. Примерами информации, используемой зрительной корой для определения (оценки) утраченной координаты глубины, являются:

— величина искажений геометрических размеров наблюдаемых объектов, возникающих в результате их центральной проекции на сетчатки глаз;

— перекрытие объектами, близко расположенными к зрителю, объектов, которые расположены от зрителя на больших расстояниях;

— распределение полутеней на криволинейных поверхностях объектов, обусловленное эффектом диффузного отражения света;

— расположение объектов относительно линии горизонта;

— наличие атмосферной дымки и пр.

Эти свойства зрения изучались и использовались в архитектуре и живописи, начиная уже с античных времен. Колонны храма Парфенона,

форма которых намеренно выбрана отличной от цилиндрической, являются примером одного из первых практических применений законов перспективы в архитектуре. Интенсивное развитие живописи в эпоху Возрождения также в значительной степени связано с использованием перечисленных выше свойств зрения.

В настоящее время возрос интерес к 3D-техно-логиям и, в частности, к методам получения трехмерных изображений, что, естественно, проявилось в появлении множества публикаций на эту тему, например [1-7], а затем и в разработке 3D-сканеров, 3D-кинотеатров и 3D-телевидения.

В последних двух случаях речь идет по существу о стереоскопических системах. В связи с тем, что изначально съемка 3D-фильмов является весьма дорогостоящим предприятием, появились попытки разработать методы, позволяющие преобразовывать обычные 2D-контенты в 3D-контенты, основанные на использовании перечисленных выше свойств зрения. Так, в университете Карнеги — Меллона был разработан метод преобразования 2D-изображений в 3D-сце-ну, подробности которого не разглашаются, но известно, что 3D-изображение строится с использованием только вертикальных и горизонтальных поверхностей, обнаруженных на 2D-изобра-жении [8]. Были также разработаны методы, примененные в настоящее время в телевизорах, в которых использованы свойства взаимного перекрытия объектов переднего и последующего планов, а также разница в цвете и контрасте

между изображениями объектов различных планов. Однако качество получаемых при этом изображений невелико. В данной статье рассматривается метод формирования 3D-изображения сцены и составляющих ее объектов, которые можно аппроксимировать плоскостями, по одной 2D-фотографии.

Перспективные преобразования прямых линий

Приведем свойства перспективных преобразований для прямых линий.

1. В общем случае прямая линия на объекте проецируется в прямую линию на изображении центральной проекции, но с неравномерной шкалой. Например, движение точки с постоянной скоростью по прямой линии на объекте отображается ее движением на изображении тоже по прямой линии, но с неравномерной скоростью. Чем больше точка удаляется, тем меньше становится видимая скорость ее движения. Эта неравномерность шкалы приводит к тому, что при перспективном преобразовании не сохраняется соотношение длин и площадей в пространстве и в центральной проекции.

2. Параллельные прямые линии в пространстве изображаются в центральной проекции прямыми линиями, сходящимися в одной точке, так называемой точке схода. Если эти линии параллельны горизонтальной плоскости, то их точка схода располагается на линии горизонта. Если они параллельны наклонной восходящей плоскости, то точка их схода располагается выше линии горизонта. Если же они параллельны наклонной нисходящей плоскости, то их точка схода располагается ниже линии горизонта.

Исключением из этого правила является случай, когда прямые линии в пространстве параллельны плоскости, на которую они проецируются. При этом на изображении эти линии также остаются параллельными и не имеют точки схода, а шкала проекции остается равномерной.

Продолжая рассмотрение, выберем правостороннюю систему координат и обратимся к рис. 1, на котором показана так называемая модель камеры с передней плоскостью изображения. Рассмотрим центральную проекцию двух простейших объектов, изображенных на этом рисунке (линий 1-1а и 2-2а), на плоскость, при этом координатную ось 2 декартовой системы координат совместим с осью камеры, а оси х и у — с плоскостью изображения. На рисунке использованы следующие обозначения: Н — длина линий, одинаковая для обеих линий; Ll — расстояние между линией 1-1а и центром объектива; L2 — расстояние между линией 2-2а и центром объектива;

Рис. 1. Модель камеры с передней плоскостью изображения

f — фокусное расстояние объектива; г0 — расстояние между линиями 1-1а и 2-2а; уп1 — длина проекции линии 1-1а на переднюю плоскость изображения (плоскость проецирования); уп2 — длина проекции линии 2-2а.

Из подобия треугольников 1-1а-0 и 3-0-0 следует, что

уп1/ f = ИЩ,

а из подобия треугольников 2-2а-0 и 4-0-0 следует, что

Уп2/ f =

В общем случае длина проекции уп линии протяженностью H, которая параллельна плоскости проецирования независимо от ее углового положения по отношению к координатным осям x, у и удалена от центра объектива на расстояние L, равна

Уп = И^Ь,

где f/L можно рассматривать как масштабирующий множитель. Отсюда следует, что любая точка объекта с координатами xоб, уо6 отобразится на центральной проекции точкой с координатами xп, уп:

хп хоб f/уп уоб ?'/

Из формулы (3), в частности, следует, что при L = f длина проекции линии равна длине самой проецируемой линии. Решая совместно уравнения (1) и (2), найдем расстояние по глубине между двумя линиями 1-1а и 2-2а

г0 = Ь1 Уп1 - Уп2

уп2

Рассмотрев основные аспекты перспективного преобразования прямых линий, можно перейти к перспективным преобразованиям плоского прямоугольника.

Перспективные преобразования плоского прямоугольника

Рассмотрим теперь задачу определения истинных размеров одного из простейших объектов, которым является плоский прямоугольник, по его центральной проекции. Будем считать, что две его стороны вертикальны и, следовательно, параллельны плоскости проекции, которая перпендикулярна горизонтальной плоскости, а плоскость, в которой он лежит, повернута на некоторый угол ао относительно направления главного луча. В этом случае проекция прямоугольника будет иметь вид трапеции, поскольку размер проекции удаленной стороны вследствие перспективных искажений будет меньше размера ближайшей стороны. Примем также, что нам известны фокусное расстояние объектива f, использованного при фотографировании, расстояние Ll, с которого производилось фотографирование, а также размеры проекций ближайшей и удаленной сторон, соответственно уп1 и уп2, которые определяются по изображению.

Переходя к определению размеров прямоугольника, найдем размер его вертикальных сторон: H = уп^1^, что следует из формулы (1). Для определения размера его горизонтальных сторон, который обозначим Lоб, найдем вначале расстояние по глубине 2о между этими сторонами по формуле (5). Поскольку плоскость прямоугольника составляет с главным лучом угол ао, то глубина представляет собой размер проекции его ширины на вертикальную плоскость, в которой лежит главный луч. Отсюда следует, что

Ьоб = ?о/^ ао

Опуская вследствие громоздкости вычислений рассмотрение случая, когда проецируемой фигурой является плоский многоугольник, стороны которого не обязательно параллельны плоскости, на которую он проецируется, отметим лишь, что методика анализа и в этом случае полностью сохраняется.

Рассмотренный случай, несмотря на свою простоту, важен при решении ряда практических задач, поскольку на практике часто встречаются объекты, оболочки которых могут быть аппроксимированы плоскостями прямоугольной формы. К таким объектам относятся наружные стены зданий, стены интерьеров, предметы мебели, а также ряд других объектов.

Метод формирования 3D-изображения объекта по его двумерной фотографии

Пояснение метода проведем на примере несложного объекта, представляющего собой два

Рис. 2. К пояснению принципа формирования 3D-изображения объекта по его двумерной фотографии: а — вид на объект спереди (его фотография); б — вид сверху; в — две аппроксимирующие плоскости; г — аксонометрические проекции каждой из аппроксимирующих плоскостей; д — карты глубины каждой из двух аппроксимирующих плоскостей

соединенных прямоугольных рекламных щита (рис. 2, а, б). Будем считать, что вертикальные линии прямоугольных щитов параллельны плоскости проецирования, а расстояние между ближайшей точкой объекта, т. е. местом, где щиты соединяются, и центром объектива с фокусным расстоянием f равно Ll.

Суть метода заключается в следующем.

1. Вначале выполняется декомпозиция изображения объекта на две аппроксимирующие плоскости (рис. 2, в).

2. Далее для каждой из аппроксимирующих плоскостей производится пересчет от перспективной проекции к аксонометрической проекции. Для пояснения того, как это делается, обратимся к рис. 3, на котором показана центральная проекция правой плоскости щита, изображенного на рис. 2, в. Из рис. 3 видно, что размер центральной проекции дальней вертикальной гра-

Уп

в!^!

0

Хп

Рис. 3. Центральная проекция прямоугольной плоскости, линии вертикальных границ которой параллельны плоскости изображения

х

ницы прямоугольного щита ув2 - ун2 меньше размера центральной проекции его ближней вертикальной границы ув1 - ун1. Величина этого изменения СОСтаВляет ктп = (Ув2 - Ун2)/(Ув1 - Ун1)-

В такой же мере имеет место уменьшение и горизонтального размера центральной проекции прямоугольного щита, хотя это сразу и не бросается в глаза. Из рис. 3 также следует, что коэффициент изменения координат К линейно изменяется с изменением координаты проекции хп, поскольку уменьшению хп соответствует уменьшение расстояния между рассматриваемой точкой и центром объектива, т. е.

К = Кт1п -

хв2 Хв1

Поэтому при определении координат аксонометрической проекции каждой точки объекта на переднюю плоскость изображения ха и уа необходимо это учесть следующим образом:

уо (ув1 + ун1 )/2; Ха Хв1 + (хп — Хв1 )/К;

Уа = Уо +

В результате этих расчетов находится аксонометрическая проекция объекта в масштабе, который определяется масштабирующим множителем ^Ь1. Координаты хоб0 и уоб0 произвольных точек объекта находятся путем деления координат ха и уа на масштабирующий множитель f/Ь 1. Полученные таким образом аксонометрические проекции каждой из аппроксимирующих плоскостей представлены на рис. 2, г.

3. Затем определяется расстояние по глубине ^0 между вертикальными линиями, ограничивающими прямоугольные аппроксимирующие плоскости, по формуле (5). Другими словами, определяется расстояние по глубине между двумя плоскостями, параллельными передней плоскости изображения, в которых лежат эти линии.

4. После этого необходимо определить координату глубины для каждой точки аппроксимирующей плоскости, т. е. рассчитать карту глубины. С этой целью вначале методом линейной интерполяции находятся координаты глубины вдоль прямых линий, соединяющих вершины аппроксимирующих плоскостей, для которых координаты глубины известны (в рассматриваемом примере, поскольку плоскости вертикальны, для всех точек вертикальных линий координата глубины будет неизменной). Линейная интерполяция оказывается возможной, поскольку в аксонометрической проекции шкала «дальности», в отличие от шкалы «дальности» центральной проекции, равномерная.

5. Далее методом линейной интерполяции вычисляются координаты глубины для всех точек (пикселей) аппроксимирующей плоскости и та-

а) б)

Рис. 4. Изображения объектов, для аппроксимации которых необходимо использовать 3 (а) и 5 (б) плоскостей

ким образом формируются карты глубины каждой из двух аппроксимирующих плоскостей (рис. 2, д). На картах глубины более светлый тон соответствует точкам, находящимся ближе к центру объектива, а более темный — точкам, расположенным дальше.

6. И, наконец, завершающим шагом описываемого метода является «сборка» объекта путем объединения аппроксимирующих его плоскостей.

В зависимости от сложности и количества объектов, изображенных на фотографии, может потребоваться большее число аппроксимирующих плоскостей, чем в рассмотренном примере (рис. 4, а, б).

Найденные аксонометрическая проекция объекта и карта глубины содержат всю информацию о видимой части 3Б-объекта и позволяют выводить его изображение на экран дисплея для рассматривания при различных ракурсах и с различных расстояний. Для получения полного 3Б-изображения объекта, а не только видимой его части, как и в случае традиционных 3Б-скане-ров, возникает необходимость в склейках частей 3Б-изображений, полученных при различных ракурсах съемки. Обусловлено это тем, что ни один непрозрачный физический объект невозможно одновременно видеть со всех сторон.

Представление 3Б-изображения в виде аксонометрической проекции и карты глубины, так называемый 2D+Z-формат, применяют в 3Б-те-левидении (точнее, в стереоскопическом телевидении). Этот формат может быть преобразован в другие форматы 3D-изображений.

Отображение 3Б-изображения на экране дисплея

Покажем теперь, как, располагая аксонометрической проекцией объекта и картой глубины, вывести на экран дисплея центральную проекцию объекта при заданном ракурсе и расстоянии наблюдения. Задача заключается в определении

координат каждой точки формируемого изображения 3D-объeкта, соответствующего новому ракурсу наблюдения этого объекта и новому расстоянию, с которого он наблюдается. Будем считать известными расстояние, с которого была произведена съемка Li, и фокусное расстояние объектива f. Решая задачу, вначале находим координаты объекта, затем осуществляем поворот объекта на заданные углы и, наконец, находим центральную проекцию объекта, видимого с заданного расстояния наблюдения.

Определение декартовых координат x и y точек объекта по его аксонометрической проекции. Как уже было отмечено, декартовы координаты произвольной точки объекта x^, Уодо, соответствующие его исходному положению, находятся путем деления координат xа и уа на масштабирующий множитель f/L 1, т. е.

Xo6O xa Lllf; yoб0 ya ^l/f.

Что касается координаты глубины произвольной точки объекта zобG, то она полностью определяется его картой глубины.

Определение декартовых координат точек объекта, изменившихся в результате его поворота вокруг координатных осей x и y на заданные углы. Поворот объекта вокруг оси z в рассматриваемом случае интереса не представляет, так как его вращение в плоскости проекции не приводит к изменению ракурса наблюдения. Возьмем точку на поверхности объекта с координатами x^, Уоб0, z^o, повернем объект сначала на угол a вокруг оси у и найдем его новые координаты x^,

уоб1, ^б1:

Xo61 = xo6O cosa - zo6O sin a; yoб1 = yoб0;

Zo61 = zo6O cos a + Xo6o sin a.

Допустимое значение угла a ограничивается значениями, при которых изображение повернутого 3D-объeкта еще не включает в себя тех фрагментов, которые при его фотографировании были заслонены самим объектом. Далее, возьмем эту же точку на поверхности объекта после его поворота по азимуту на угол a вокруг оси y и найдем ее новые координаты x^2, Уоб2, z^2 после поворота объекта вокруг оси x на угол места p:

Xo62 Xo61; yoб2 yoб1cosp zo61 sinP;

Zo62 = Уoб1 sinb + Zo61 Cosp.

Подставив значения x^, уоб1, z^ из формулы (1G) в формулу (11), получим

Xo62 = Xo6O cos a - zo6O sin a;

Уoб2 = Уoб0 cosb-zo6O cosasinP-Xo6O sinasinp; (12) Zo62 = Уoб0 sinp + Zo6O cos a cosp + Xo6O sin a cosp.

Рис. 5. Примеры проекций 3D-изображений, полученных описанным методом

Переходя к заключительной операции вычислений, найдем декартовы координаты хпр и упр центральной проекции объекта на экран дисплея. Согласно формуле (4), между искомыми координатами центральной проекции объекта и соответствующими координатами объекта имеют место соотношения

Хпр = хоб2 f|L^> Упр = Уоб2 VЬ,

где Ь — расстояние от центра объектива до точки объекта, координаты которой рассчитываются. Это расстояние равно сумме расстояний: расстояния Ьн между центром объектива и ближайшей к камере точкой объекта и расстояния 2гл от ближайшей точки к центру объектива до рассматриваемой точки, которое определяется из карты глубины, т. е. Ь = Ьн + 2гл.

С учетом изложенного имеем

хпр хоб2~ ' ; Упр Уоб2Т '

Ьн + 2гл Ьн + 2ГЛ

Проекции 3D-изображений (см. рис. 4), полученные описанной выше обработкой 2D-изобра-жений, показаны на рис. 5.

Заключение

Описанный метод может найти свое применение в тех случаях, когда требуется, используя цифровую камеру, получать 3D-изображения отдельных объектов и целых сцен, которые допускают аппроксимацию плоскостями. Это может

быть актуальным, если принять во внимание, что стоимость лазерного 3D-сканера, используемого для этой цели, в сотни раз превышает стоимость недорогой цифровой камеры.

Поскольку в результате применения описанного выше метода из 2D-изображений формируются 3D-изображения, то не составляет труда сделать следующий шаг и из 3D-изображений получать их стереопары. Опуская вследствие ограниченности объема статьи рассмотрение метода формирования стереопары из 3D-изображения, приведем в качестве иллюстрации лишь сами полученные в процессе выполнения данной работы стереоскопические изображения. На сайте [9] показаны анаглифные изображения, сформирован-

Литература

1. Horry Y., Anjyo K., Arai K. Tour into the picture: using a spidery mesh interface to make animation from a single image // ACM SIGGRAPH Proc. 1997. Р. 225-232.

2. Shum H.-Y., Han M., Szeliski R. Interactive construction of 3D models from panoramic mosaics // IEEE Conf. on CVPR, June 1998. Р. 427-433.

3. Horn B. K. P. Height and gradient from shading // Int’l J. of Computer Vision. 1990. Vol. 5. N 1. Р. 37-75.

4. Красильников Н. Н. Метод получения 3D-^o6pa-жений, основанный на диффузном отражении света сканируемыми объектами // Информационно-управляющие системы. 2009. № 6(43). С. 7-11.

5. Красильников Н. Н., Красильникова О. И. Получение трехмерного изображения объекта путем измерения интенсивности диффузного отражения света различными точками его поверхности // Оптический журнал. 2010. Т. 77. № 6. С. 19-24.

ные в конечном итоге из 2D-изображений, которые приведены в тексте настоящей статьи. Анаглифный метод представления стереоскопических изображений для данной демонстрации выбран по причине его доступности. Напомним, что для рассматривания такого рода стереоскопических изображений требуются анаглифные очки, которые в настоящее время чрезвычайно широко распространены и недороги.

Описанный в статье метод может быть также использован как элемент алгоритма, предназначенного для реализации функции преобразования 2D-изображений в стереоскопические изображения, которую начинают применять в современных телевизорах [10].

6. Красильников Н. Н., Красильникова О. И. Исследование погрешностей определения координаты глубины при 3D-сканировании методом, основанном на диффузном отражении света // Инфор-мационно-управляющие системы. 2012. № 3(58). С. 2-8.

7. Красильников Н. Н. Цифровая обработка 2D- и 3D-изображений: учеб. пособие для вузов. — СПб.: БХВ-Петербург, 2011. — 608 с.

8. http://www.techeblog.com/index.php/tech-gadget/ feature-university-researchers-develop-method-to-convert-2d-images-into-3d-scenes-video- (дата обращения: 02.04.2013).

9. http://www.i-us.ru/authors/krasilnikov_nn.

10. http://3dtv-obzor.ru/2d_3d_convertacia (дата обращения: 02.04.2013).