ГЕНЕРИРОВАНИЕ ИЗОБРАЖЕНИЯ ДЛЯ АВТОСТЕРЕОСКОПИЧЕСКОГО ДИСПЛЕЯ
IMAGE GENERATION FOR AUTOSTEREOSCOPIC DISPLAY

ОБЛАСТЬ ТЕХНИКИ, К КОТОРОЙ ОТНОСИТСЯ ИЗОБРЕТЕНИЕ
Изобретение относится к генерированию изображения для автостереоскопического дисплея и, в частности, к генерированию изображения отображения для панели дисплея автостереоскопического дисплея из входного трехмерного изображения.
ПРЕДПОСЫЛКИ СОЗДАНИЯ ИЗОБРЕТЕНИЯ
Трехмерные дисплеи получают растущий интерес, и предпринимаются значительные исследования в отношении того, каким образом обеспечивать трехмерное восприятие зрителю. Трехмерные дисплеи добавляют третье измерение в восприятие от просмотра посредством предоставления двум глазам зрителя разных видов просматриваемой сцены. Это может быть достигнуто посредством того, что пользователь надевает очки, чтобы разделять два вида, которые отображаются. Тем не менее, поскольку это относительно неудобно для пользователя, во многих сценариях желательным является использование стереоскопических дисплеев, которые непосредственно генерируют разные виды и проецируют их на глаза пользователя. Действительно, в течение некоторого времени, разнообразные компании активно развивают автостереоскопические дисплеи, пригодные для визуализации трехмерного ряда изображений. Автостереоскопические устройства могут представлять виды с трехмерным ощущением без необходимости в особом головном уборе и/или очках.
Автостереоскопические дисплеи, как правило, предоставляют разные виды для разных углов просмотра. Таким образом, первое изображение может быть сгенерировано для левого глаза, а второе изображение для правого глаза зрителя. Посредством отображения подходящих изображений, т.е. походящего с точки просмотра левого и правого глаза соответственно, возможно передать трехмерное ощущение зрителю.
Автостереоскопические дисплеи имеют тенденцию к использованию средства, такого как лентикулярные линзы или параллактические барьеры/барьерные маски, чтобы разделять виды и отправлять их в разных направлениях таким образом, что они индивидуально достигают глаз пользователя. Применительно к стерео дисплеям, требуется два вида, но большая часть автостереоскопических дисплеев, как правило, использует, больше видов (например, девять видов). Действительно, в некоторых дисплеях постепенный переход направлений просмотра выполняется через изображение так, что разные части изображения могут быть спроецированы в разных направлениях просмотра. Таким образом, в некоторых более поздних автостереоскопических дисплеях может быть применено более постепенное и непрерывное распределение областей изображения по направлениям просмотра, чем в автостереоскопическом дисплее, визуализирующем фиксированное число законченных видов. Такой автостереоскопический дисплей часто именуется как обеспечивающий фрагментарные виды вместо полных видов. Больше информации о фрагментарных видах можно найти, например, в документе WO 2006/117707.
Для того, чтобы удовлетворять желание в отношении эффектов трехмерного изображения, контент создается таким, чтобы включать в себя данные, которые описывают трехмерные аспекты захваченной сцены. Например, применительно к генерируемой компьютером графике, может быть разработана трехмерная модель и использована, чтобы вычислять изображения с заданной позиции просмотра. Такой подход, например, часто используется для компьютерных игр, которые обеспечивают трехмерный эффект.
В качестве другого примера, видеоконтент, такой как фильмы или телевизионные программы, все больше генерируется таким образом, чтобы включать в себя некоторую трехмерную информацию. Такая информация может быть захвачена, используя предназначенные трехмерные камеры, которые захватывают два одновременных изображения с позиций камеры с небольшим смещением, тем самым непосредственно генерируя стереоизображения, или могут, например, быть захвачены камерами, которые также выполнены с возможностью захвата глубины.
Как правило, автостереоскопические дисплеи создают «конусы» видов, где каждый конус содержит несколько видов, которые соответствуют разным углам просмотра сцены. Разность угла просмотра между смежными (или в некоторых случаях более смещенных) видами генерируется так, чтобы соответствовать разности угла просмотра между правым и левым глазом пользователя. Соответственно, зритель, левый и правый глаз которого видит два соответствующих вида, будет воспринимать трехмерный эффект. Пример такой системы, в которой девять разных видов генерируется в конусе просмотра, иллюстрируется на Фиг. 1.
Многие автостереоскопические дисплеи выполнены с возможностью создания большого количества видов. Например, не являются редкими автостереоскопические дисплеи, которые создают девять видов. Такие дисплеи являются, например, пригодными для сценариев с несколькими зрителями, где несколько зрителей могут смотреть на дисплей одновременно и все воспринимать трехмерный эффект. Также были разработаны дисплеи даже с более высоким числом видов, включая, например, дисплеи, которые могут обеспечивать, например, 28 разных видов. Такие дисплеи часто могут использовать относительно узкие конусы просмотра, что приводит к тому, что глаза зрителя принимают свет от множества видов одновременно. Также, левый и правый глаза будут, как правило, позиционироваться на видах, которые не являются смежными (как в примере на Фиг. 1).
Таким образом, автостереоскопические дисплеи, как правило, не распределяют виды по всему возможному углу просмотра или проекции. В частности, сгенерированные фрагментарные или полные виды, как правило, не распределяются на, например, весь 180° диапазон, или даже меньший диапазон в, например, 90°. Наоборот, представляемые виды, как правило, распределяются по относительно небольшому углу, который известен как конус просмотра. Тогда объединенный угол просмотра дисплея формируется посредством множества повторяющихся конусов просмотра, каждый из которых предоставляет одни и те же виды. Таким образом, конусы просмотра повторяются, чтобы обеспечивать проекцию по всему диапазону угла просмотра автостереоскопического дисплея и, соответственно, индивидуальные виды проецируются во множестве разных конусов просмотра, и в разных направлениях просмотра. Фиг. 2 иллюстрирует пример автостереоскопического дисплея с Фиг. 1, проецирующего множество конусов просмотра (в примере показано три конуса просмотра).
Фиг. 3 иллюстрирует пример формирования пикселя (с тремя цветовыми каналами) из нескольких суб-пикселей. В примере, w является горизонтальным наклоном суб-пикселя, h является вертикальным наклоном суб-пикселя, N является средним количеством суб-пикселей на одноцветное пятно. Лентикулярная линза скошена на s=tanθ, и наклон, измеренный в горизонтальном направлении, является p в единицах наклона суб-пикселя. Внутри пикселя, толстые линии указывают разделение между пятнами разных цветов, а тонкие линии указывают разделение между суб-пикселями. Другой полезной величиной является соотношение сторон суб-пикселя: a=w/h. Тогда N=a/s. Для общей скошенной 1/6 линзы на RGB-полосатом шаблоне, a=1/3 и s=1/6, так что N=2.
Что касается обычных 2D дисплеев, качество изображения имеет первостепенное значение для трехмерного дисплея в большей части приложений, и, в особенности, очень важно для потребительского рынка, как, например, применительно к трехмерным телевизорам или мониторам. Тем не менее, представление разных видов обуславливает дополнительные сложности и потенциальные ухудшения изображения.
Практические автостереоскопические дисплеи могут генерировать относительное большое количество конусов просмотра, соответствующих разным диапазонам угла просмотра. Зрителю, который позиционирован в конусе просмотра (как на Фиг. 1), будут предоставляться разные виды для правого и левого глаза и это может обеспечивать трехмерный эффект. Кроме того, по мере того, как пользователь перемещается, глаза могут переключаться между разными видами в конусе просмотра, тем самым обеспечивая параллакс движения и соответствующий стереоскопический эффект. Тем не менее, поскольку множество видов, как правило, генерируются из входных данных, представляющих собой центральный вид(ы), ухудшение изображения растет применительно к внешним видам, для которых требуется увеличенное несоответствие и, следовательно, сдвиг позиции от исходного изображения. Соответственно, по мере того, как пользователь перемещается в направлении предельных видов по краям конуса просмотра, часто воспринимается ухудшение качества. Таким образом, как правило, когда зритель перемещается в сторону относительно автостереоскопического дисплея, он будет иметь естественное восприятие с помощью дисплея, обеспечивающего 3D восприятие посредством как бинокулярного зрения, так и параллактического эффекта движения. Тем не менее, качество изображения снижается по сторонам.
Конкретная проблема при отображении трехмерных изображений состоит в том, что могут возникать перекрестные помехи между разными видами. Применительно к автостереоскопическим дисплеям, перекрестные помехи, как правило, являются значительной проблемой из-за того, что свет от индивидуальных (суб-) пикселей обладает относительно большой зоной рассеивания. Поскольку смежные (суб-) пиксели, как правило, относятся к разным видам, часто могут восприниматься относительно высокие перекрестные помехи между видами. Таким образом, стереоскопическим исполнениям присуще то, что некоторое количество перекрестных помех присутствует между смежными видами, так как часть света от смежных (суб-) пикселей излучается через линзу в том же самом направлении.
Таким образом, из-за взаимной корреляции между разными видами (с разными несоответствиями и, следовательно, с некоторыми объектами глубины, находящимися на разных позициях), на практике может возникать эффект размытости, который приводит к потере резкости изображения.
Другая проблема состоит в том, что из-за ограниченного угла просмотра у конуса просмотра существует возможность того, что зритель может быть полностью не позиционирован в конусе просмотра, а может, например, располагаться так, что один глаз находится в одном конусе просмотра, а другой глаз находится в соседнем конусе просмотра, как представлено в качестве примера на Фиг. 4. Тем не менее, это может привести к стерео инверсии, при которой правый глаз принимает изображение, сгенерированное для левого глаза, а левый глаз принимает изображение, сгенерированное для правого глаза. Таким образом, по мере того как пользователь перемещается к краю конуса просмотра и переходит к соседнему конусу просмотра одним глазом, возникает стерео инверсия, которая воспринимается как очень беспокоящая и некомфортная для пользователя.
Для преодоления этой проблемы, было предложено модифицировать конусы просмотра так, чтобы они имели больший и более гладкий переход между соседними конусами просмотра. Такой подход описывается более подробно в документе WO 2005/091050. Тем не менее, несмотря на то, что данный подход может смягчать стерео инверсию, он также обладает некоторыми недостатками. Наиболее значительно, он сокращает диапазон просмотра в каждом конусе просмотра, в котором воспринимается полный трехмерный эффект, т.е., сокращает зону наилучшего восприятия.
Таким образом, преимущество будет иметь улучшенный подход для генерирования изображений для автостереоскопических дисплеев, и, в частности, будет иметь преимущество подход, обеспечивающий увеличенную гибкость, улучшенное качество изображения, уменьшенную сложность, сокращенные требования к ресурсам, улучшенную эффективность в отношении перекрестных помех, смягченную стерео инверсию, повышенное удобство для пользователя и/или улучшенную эффективность.
СУЩНОСТЬ ИЗОБРЕТЕНИЯ
Соответственно, изобретение стремится предпочтительно смягчить, ослабить или исключить один или более из упомянутых выше недостатков по отдельности или в любом сочетании.
В соответствии с аспектом изобретения предоставляется устройство для генерирования изображения отображения для панели дисплея автостереоскопического дисплея, при этом автостереоскопический дисплей, содержащий компоновку дисплея, включающую в себя панель дисплея и оптический элемент формирования вида, выполненный с возможностью проецирования изображения отображения во множестве конусов просмотра, при этом устройство, содержащее: источник для предоставления трехмерного представления сцены, которая должна быть отображена; генератор для генерирования изображения отображения из трехмерного представления, при этом генератор выполнен с возможностью для каждого из по меньшей мере некоторых пикселей изображения отображения: определения указания направления точки просмотра сцены, отражающего направление точки просмотра для сцены, в ответ на функцию соотнесения направления, и указания направления проекции конуса просмотра, отражающего направление проекции для пикселя в конусах просмотра, при этом функция соотнесения направления отражает зависимость между направлениями проекции конуса просмотра и направлениями точки просмотра сцены; и определения значения пикселя, соответствующего направлению точки просмотра, из трехмерного представления; процессор для определения характеристики зрителя, указывающей количество текущих зрителей; и адаптер для адаптации функции соотнесения направления в ответ на характеристику зрителя, при этом адаптер выполнен с возможностью адаптации функции соотнесения направления, чтобы уменьшать по меньшей мере одно из следующего: отклонение направления точки просмотра сцены и величину производной функции соотнесения направления для по меньшей мере некоторых направлений проекции конуса просмотра в ответ на характеристику зрителя, указывающую увеличивающееся количество текущих зрителей, при этом отклонение направления точки просмотра сцены отражает отклонение от направления точки просмотра сцены, соответствующего центральному направлению проекции конуса просмотра.
Изобретение может обеспечивать улучшенное трехмерное изображение из автостереоскопического дисплея. В частности, оно может во многих приложениях обеспечивать улучшенное воспринимаемое качество изображения и/или улучшенный 3D эффект для одного или более зрителей. Подход может предоставлять улучшенное восприятие пользователя во многих сценариях. Подход, в частности, может обеспечивать улучшенный динамический компромисс между размытостью, 3D эффектом и риском стерео инверсии.
Подход может во многих вариантах осуществления управлять величиной параллакса и, следовательно, трехмерным эффектом таким образом, что это для по меньшей мере некоторых позиций просмотра уменьшается применительно к увеличивающемуся количеству пользователей. Отклонение направления точки просмотра сцены и/или производная функции соотнесения направления могут быть уменьшены для увеличивающегося количества зрителей, приводя к уменьшенной разности параллаксов между видом левого глаза и правого глаза для по меньшей мере некоторых позиций просмотра. В частности, параллакс для позиций ближе к краю конуса просмотра может быть уменьшен по мере того, как растет количество зрителей. Это может обеспечивать улучшенное восприятие пользователя во многих вариантах осуществления. В частности, риск того, что зритель позиционируется в неоптимальной позиции просмотра, может расти по мере того, как растет количество зрителей, и подход может уменьшать, например, риск или степень стерео инверсии, которая может восприниматься такими зрителями.
Подход может в некоторых сценариях обеспечивать улучшенный и динамический компромисс между трехмерным восприятием, которое может восприниматься в преимущественных позициях просмотра, и трехмерным восприятием, которое может восприниматься в неблагоприятных позициях просмотра по мере того, как меняется вероятность нахождения зрителей в неблагоприятной позиции просмотра.
Трехмерное представление сцены может, например, быть в форме трехмерного изображения сцены и/или трехмерной модели сцены.
Изображение отображения может быть прошитым изображением. Каждый пиксель панели дисплея может в каждом конусе просмотра проецироваться/излучаться/испускаться в направлении проекции из компоновки дисплея. Относительное направление проекции для пикселя может быть одинаковым в каждом конусе просмотра (например, по отношению к краю/переходу или центру конуса просмотра).
Каждый пиксель может посредством функции соотнесения направления быть ассоциирован с одним направлением точки просмотра, отражающим направление точки просмотра сцены, которое значение пикселя для пикселя генерируется чтобы отражать/ соответствовать.
Направления могут, в частности, быть угловыми направлениями. Например, функция соотнесения направления может соотносить углы проекции конуса просмотра и углы точки просмотра сцены. Во многих сценариях углы могут быть определены в плоскости, которая, в частности, может быть горизонтальной плоскостью для автостереоскопического дисплея при использовании.
Функция соотнесения направления может быть основана на непосредственных направленных (например, угол) значениях для направлений проекции угла просмотра или может обеспечивать соотнесение по косвенным указаниям. Например, для первого пикселя направление проекции конуса просмотра может непосредственно быть параметром/значением направления (например, угла) или может быть параметром/значением, которое зависит от, или отражает направление, в котором излучается пиксель. Например, указание направления проекции конуса просмотра для пикселя может быть позицией того пикселя, например, на изображении отображения/панели дисплея или на изображении просмотра до прошивки, чтобы генерировать панель дисплея.
Функция соотнесения направления может предоставлять непосредственные направленные (например, угол) значения для направления точки просмотра сцены или может предоставлять соотнесение с косвенными указаниями. Например, для первого пикселя, нормальное значение несоответствия или значение масштабирования несоответствия, отражающее/соответствующее направлению точки просмотра.
Понятие пиксель включает в себя понятие суб-пиксель такой как, например, суб-пиксель цветового канала.
Функция соотнесения направления может во многих сценариях отражать/описывать/определять зависимость между направлением/углом, в котором заданный пиксель проецируется из автостереоскопического дисплея, и направлением, в котором сцена «видна» для того пикселя.
Характеристика зрителя указывает количество текущих зрителей.
Это может обеспечивать улучшенную эффективность во многих вариантах осуществления. В частности, во многих вариантах осуществления это обеспечивает улучшенный динамический компромисс между размытостью, 3D эффектом и риском стерео инверсии, и это может во многих сценариях обеспечить соответствующее распределение данного компромисса по текущим зрителям.
В соответствии с опциональным признаком изобретения, адаптер выполнен с возможностью адаптации функции соотнесения направления, чтобы уменьшать отклонение направления точки просмотра сцены для по меньшей мере некоторых направлений проекции конуса просмотра в ответ на характеристику зрителя, указывающую увеличивающееся количество текущих зрителей.
Это может обеспечивать улучшенную эффективность во многих вариантах осуществления. В частности, это может во многих вариантах осуществления обеспечивать улучшенный динамический компромисс между размытостью, 3D эффектом, и риском стерео инверсии. В частности, это может смягчать нежелательные эффекты не-центральных интервалов конуса просмотра, когда более вероятно, что зрители будут присутствовать в соответствующих зонах.
В некоторых вариантах осуществления адаптер может быть выполнен с возможностью адаптации функции соотнесения направления, чтобы увеличивать отклонение направления точки просмотра сцены для по меньшей мере некоторых направлений проекции конуса просмотра в ответ на характеристику зрителя, указывающую уменьшающееся количество текущих зрителей.
В соответствии с опциональным признаком изобретения, адаптер выполнен с возможностью уменьшения производной функции соотнесения направления для по меньшей мере некоторых направлений проекции конуса просмотра для по меньшей мере некоторых направлений проекции конуса просмотра в ответ на характеристику пользователя, указывающую увеличивающееся количество текущих зрителей.
Это может обеспечивать улучшенную эффективность во многих вариантах осуществления. В частности, во многих вариантах осуществления это может обеспечить улучшенный динамический компромисс между размытостью, 3D эффектом и риском стерео инверсии.
В некоторых вариантах осуществления, адаптер может быть выполнен с возможностью адаптации функции соотнесения направления, чтобы увеличивать производную функции соотнесения направления для по меньшей мере некоторых направлений проекции конуса просмотра для по меньшей мере некоторых направлений проекции конуса просмотра в ответ на характеристику зрителя, указывающую уменьшающееся количество текущих зрителей.
В соответствии с опциональным признаком изобретения адаптер выполнен с возможностью адаптации функции соотнесения направления, чтобы обеспечивать уменьшенный интервал направлений проекции конуса просмотра, для которых производная функции соотнесения направления имеет тот же самый знак, как и производная функции соотнесения направления для центрального направления проекции конуса просмотра в ответ на характеристику зрителя, указывающую увеличивающееся количество текущих зрителей.
Это может обеспечивать улучшенную эффективность во многих вариантах осуществления. В частности, во многих вариантах осуществления это может обеспечить улучшенный динамический компромисс между размытостью, 3D эффектом и риском стерео инверсии. В частности, это может смягчать нежелательные эффекты не-центральных интервалов конуса просмотра, когда более вероятно, что зрители будут присутствовать в соответствующих зонах.
В некоторых вариантах осуществления, адаптер может быть выполнен с возможностью адаптации функции соотнесения направления, чтобы обеспечивать увеличенный интервал направлений проекции конуса просмотра, для которых производная функции соотнесения направления имеет тот же самый знак, как и производная функции соотнесения направления для центрального направления проекции конуса просмотра в ответ на характеристику зрителя, указывающую уменьшающееся количество текущих зрителей.
В соответствии с опциональным признаком изобретения, адаптер выполнен с возможностью адаптации функции соотнесения направления, чтобы уменьшать величину производной функции соотнесения направления в направлении проекции края конуса просмотра в ответ на характеристику зрителя, указывающую увеличивающееся количество текущих зрителей.
Это может обеспечивать улучшенную эффективность во многих вариантах осуществления. В частности, во многих вариантах осуществления это может обеспечить улучшенный динамический компромисс между размытостью, 3D эффектом и риском стерео инверсии. В частности, это может смягчать нежелательные эффекты не-центральных интервалов конуса просмотра, когда более вероятно, что зрители будут присутствовать в соответствующих зонах.
В некоторых вариантах осуществления, адаптер может быть выполнен с возможностью адаптации функции соотнесения направления, чтобы увеличивать величину производной функции соотнесения направления в направлении проекции края конуса просмотра в ответ на характеристику зрителя, указывающую уменьшающееся количество текущих зрителей.
В соответствии с опциональным признаком изобретения, характеристика зрителя указывает позицию по меньшей мере одного зрителя.
Это может обеспечивать улучшенную эффективность во многих вариантах осуществления. В частности, во многих вариантах осуществления это может обеспечить улучшенный динамический компромисс между размытостью, 3D эффектом и риском стерео инверсии. Позиция может быть позицией относительно компоновки дисплея или автостереоскопического дисплея.
В соответствии с опциональным признаком изобретения, адаптер выполнен с возможностью адаптации функции соотнесения направления, чтобы уменьшать отклонение направления точки просмотра сцены для по меньшей мере некоторых направлений проекции конуса просмотра в ответ на увеличивающееся расстояние между позицией зрителя, указываемой характеристикой зрителя, и центральным направлением проекции конуса просмотра.
Это может обеспечивать улучшенную эффективность во многих вариантах осуществления. В частности, во многих вариантах осуществления это может обеспечить улучшенный динамический компромисс между размытостью, 3D эффектом и риском стерео инверсии. В частности, это может смягчать нежелательные эффекты не-центральных интервалов конуса просмотра, когда более вероятно, что зритель будет присутствовать в соответствующих зонах.
Эквивалентно, адаптер может быть выполнен с возможностью адаптации функции соотнесения направления, чтобы увеличивать отклонение направления точки просмотра сцены для по меньшей мере некоторых направлений проекции конуса просмотра в ответ на уменьшающееся расстояние между позицией зрителя, указываемой характеристикой зрителя, и центральным направлением проекции конуса просмотра.
В соответствии с опциональным признаком изобретения адаптер выполнен с возможностью адаптации функции соотнесения направления, чтобы уменьшать отклонение направления точки просмотра сцены для по меньшей мере некоторых направлений проекции конуса просмотра в ответ на характеристику зрителя, указывающую увеличивающееся перемещение зрителя.
Это может обеспечивать улучшенную эффективность во многих вариантах осуществления. В частности, во многих вариантах осуществления это может обеспечить улучшенный динамический компромисс между размытостью, 3D эффектом и риском стерео инверсии. В частности, это может смягчать нежелательные эффекты не-центральных интервалов конуса просмотра, когда более вероятно, что зритель может по меньшей мере временно, присутствовать в соответствующих зонах.
Эквивалентно, адаптер может быть выполнен с возможностью адаптации функции соотнесения направления, чтобы уменьшать отклонение направления точки просмотра сцены для по меньшей мере некоторых направлений проекции конуса просмотра в ответ на характеристику зрителя, указывающую увеличивающееся перемещение зрителя.
Перемещение зрителя может быть мерой изменения позиции зрителя (по времени). В частности, перемещение зрителя может отражать изменение позиции для зрителя в течение интервала времени. В некоторых вариантах осуществления перемещение зрителя может быть указанием свойства скорости для одного или более зрителей, таким как, например, среднее или максимальное перемещение зрителя. В некоторых вариантах осуществления перемещение зрителя может быть указанием направления перемещения для одного или более зрителей.
В соответствии с опциональным признаком изобретения адаптер выполнен с возможностью адаптации функции соотнесения направления, чтобы адаптировать изображение отображения, чтобы оно соответствовало стерео изображению, если характеристика зрителя указывает на то, что количество зрителей меньше пороговой величины.
Это может обеспечивать улучшенное восприятие пользователя во многих вариантах осуществления.
В соответствии с опциональным признаком изобретения, адаптер выполнен с возможностью адаптации функции соотнесения направления, чтобы адаптировать изображение отображения, чтобы обеспечивать множество суб-конусов просмотра в каждом конусе просмотра из множества конусов просмотра, если характеристика зрителя указывает на то, что количество зрителей превышает пороговую величину.
Это может обеспечивать улучшенное восприятие пользователя во многих вариантах осуществления.
В соответствии с опциональным признаком изобретения, трехмерное представление сцены является входным трехмерным изображением и генератор выполнен с возможностью определения значения пикселя, соответствующего направлению точки просмотра, посредством применения преобразования направления просмотра к входному трехмерному изображению.
Это может обеспечивать улучшенную и/или облегченную работу во многих вариантах осуществления. Изобретение может во многих приложениях обеспечивать улучшенную визуализацию трехмерного изображения на автостереоскопическом дисплее.
Трехмерное изображение может быть любым представлением трехмерной сцены и, в частности, может быть любыми данными, предоставляющими визуальную информацию и информацию глубины. Трехмерное изображение может, например, быть двумя или более изображениями, соответствующими разным точкам просмотра сцены. Трехмерное изображение может, например, быть двумя 2D изображениями, соответствующими виду левого глаза и виду правого глаза. В некоторых сценариях трехмерное изображение может быть представлено более чем двумя видами, такими как, например, 2D изображениями для 9 или 28 видов автостереоскопического дисплея. В некотором сценарии, информация глубины (например, предоставляемая в качестве данных несоответствия или рассогласования) может быть предоставлена как часть трехмерного изображения. В некоторых вариантах осуществления, трехмерное изображение может, например, быть предоставлено в качестве одного изображения вместе с ассоциированной информацией глубины. В некотором сценарии, трехмерное изображение может быть предоставлено в качестве 2D изображения с заданного направления просмотра вместе с данными окклюзии и данными глубины. Например, трехмерное изображение может быть предоставлено в качестве представления Z-стека и ассоциированной карты глубины.
В соответствии с опциональным признаком изобретения, функция соотнесения направления содержит функцию соотнесения несоответствия, которая соотносит несоответствие входного трехмерного изображения с несоответствием изображения отображения, и преобразование направления просмотра содержит применение пиксельного сдвига к пикселям входного трехмерного изображения, чтобы генерировать пиксели для изображения отображения, при этом пиксельный сдвиг зависит от функции соотнесения несоответствия.
Это может обеспечивать улучшенную и/или облеченную работу во многих вариантах осуществления. Изобретение может во многих приложениях обеспечивать улучшенную визуализацию трехмерного изображения на автостереоскопическом дисплее.
В соответствии с аспектом изобретения, автостереоскопический дисплей, содержащий: компоновку дисплея, включающую в себя панель дисплея и оптический элемент формирования вида, выполненный с возможностью проецирования изображения отображения во множестве конусов просмотра; источник для предоставления трехмерного представления сцены, которая должна быть отображена; генератор для генерирования изображения отображения из трехмерного представления, при этом генератор выполненный с возможностью для каждого из по меньшей мере некоторых пикселей изображения отображения: определения указания направления точки просмотра сцены, отражающего направление точки просмотра сцены для сцены в ответ на функцию соотнесения направления, и указания направления проекции конуса просмотра, отражающего направление проекции для пикселя в конусах просмотра, при этом функция соотнесения направления отражает зависимость между направлениями проекции конуса просмотра и направлениями точки просмотра сцены; и определения значения пикселя, соответствующего направлению точки просмотра из трехмерного представления; процессор для определения характеристики зрителя, указывающей количество текущих зрителей; и адаптер для адаптации функции соотнесения направления в ответ на характеристику зрителя; при этом адаптер выполнен с возможностью адаптации функции соотнесения направления, чтобы уменьшать по меньшей мере одно из следующего: отклонение направления точки просмотра сцены и величину производной функции соотнесения направления для по меньшей мере некоторых направлений проекции конуса просмотра в ответ на характеристику зрителя, указывающую увеличивающееся количество текущих зрителей, при этом отклонение направления точки просмотра сцены отражает отклонение от направления точки просмотра сцены, соответствующего центральному направлению проекции конуса просмотра.
В соответствии с аспектом изобретения предоставляется способ для генерирования изображения отображения для панели дисплея автостереоскопического дисплея, при этом автостереоскопический дисплей содержащий компоновку дисплея, включающую в себя панель дисплея и оптический элемент формирования вида, выполненный с возможностью проецирования изображения отображения во множестве конусов просмотра; способ, содержащий этапы, на которых: предоставляют трехмерное представление сцены, которая должна быть отображена; генерируют изображение отображения из трехмерного представления, при этом этап генерирования содержит этапы, на которых, для каждого из по меньшей мере некоторых пикселей изображения отображения: определяют указание направления точки просмотра сцены, отражающее направление точки просмотра для сцены в ответ на функцию соотнесения направления, и указание направления проекции конуса просмотра, отражающее направление проекции для пикселя в конусах просмотра, при этом функция соотнесения направления отражает зависимость между направлениями проекции конуса просмотра и направлениями точки просмотра сцены; и определяют значение пикселя, соответствующее направлению точки просмотра из трехмерного представления; определяют характеристику зрителя, указывающую количество текущих зрителей; и адаптируют функцию соотнесения направления в ответ на характеристику зрителя; при этом этап, на котором адаптируют, включает в себя этап, на котором адаптируют функцию соотнесения направления, чтобы уменьшить по меньшей мере одно из следующего: отклонение направления точки просмотра сцены и величину производной функции соотнесения направления для по меньшей мере некоторых направлений проекции конуса просмотра в ответ на характеристику зрителя, указывающую увеличивающееся количество текущих зрителей, при этом отклонение направления точки просмотра сцены отражает отклонение от направления точки просмотра сцены, соответствующего центральному направлению проекции конуса просмотра.
Эти и прочие аспекты, признаки и преимущества изобретения будут очевидны из и объяснены со ссылкой на вариант(ы) осуществления, описываемый далее.
КРАТКОЕ ОПИСАНИЕ ЧЕРТЕЖЕЙ
Варианты осуществления изобретения будут описаны только в качестве примера со ссылкой на чертежи, на которых:
Фиг. 1 иллюстрирует пример видов, генерируемых из автостереоскопического дисплея;
Фиг. 2 иллюстрирует пример конусов просмотра, генерируемых из автостереоскопического дисплея;
Фиг. 3 иллюстрирует пример лентикулярного экрана, который накладывается на панель дисплея автостереоскопического дисплея;
Фиг. 4 иллюстрирует пример пользователя, воспринимающего стерео инверсию между конусами просмотра, генерируемыми из автостереоскопического дисплея;
Фиг. 5 иллюстрирует схематический вид в перспективе элементов устройства автостереоскопического дисплея;
Фиг. 6 иллюстрирует вид в поперечном сечении элементов устройства автостереоскопического дисплея;
Фиг. 7 иллюстрирует пример конусов просмотра, генерируемых из автостереоскопического дисплея;
Фиг. 8 иллюстрирует пример дисплейной системы в соответствии с некоторыми вариантами осуществления изобретения;
Фиг. 9 иллюстрирует пример функции соотнесения направления для дисплейной системы в соответствии с некоторыми вариантами осуществления изобретения;
Фиг. 10 иллюстрирует пример соотнесения углов проекции конуса просмотра и углов точки просмотра сцены дисплейной системой в соответствии с некоторыми вариантами осуществления изобретения;
Фиг. 11-16 иллюстрирует примеры функций соотнесения направления для дисплейной системы в соответствии с некоторыми вариантами осуществления изобретения.
ПОДРОБНОЕ ОПИСАНИЕ НЕКОТОРЫХ ВАРИАНТОВ ОСУЩЕСТВЛЕНИЯ ИЗОБРЕТЕНИЯ
Компоновка 501 автостереоскопического дисплея с Фиг. 5 и 6 содержит панель 503 дисплея. Компоновка 501 дисплея может содержать источник 507 света, например, когда дисплей является дисплеем LCD типа, но это необязательно, например, для дисплеев OLED типа.
Панель 503 дисплея содержит большое количество пикселей, возбуждение которых может осуществляться индивидуально, чтобы обеспечивать заданный вывод света. В некоторых вариантах осуществления управление выводом света может осуществляться посредством того, что панель 503 дисплея модулирует (как правило включает добавочное сопротивление) источник света (как например, панель LCD модулирующая подсветку (которая сама по себе может быть непостоянной). В других вариантах осуществления индивидуальный пиксель панели 503 дисплея может быть элементом генерирующим и излучающим свет, который сам по себе генерирует свет.
Пиксель может быть любым адресуемым элементом панели 503 дисплея, который может быть использован, чтобы изменять вывод света из дисплея. Раз так, то понятие пиксель также может относиться к изменяющим или управляющим светом элементам, которые оказывают воздействие только, например, на один цветовой канал (также иногда именуемый как «суб-пиксель»). В некоторых вариантах осуществления, пиксель может быть сформирован двумя или более управляющими светом элементами, которые возбуждаются вместе.
Компоновка 501 дисплея также содержит оптический элемент 509 формирования вида, в примере в форме лентикулярного листа, размещенного на стороне отображения панели 503 дисплея. Оптический элемент 509 формирования вида выполняет функцию формирования вида. Оптический элемент 509 формирования вида содержит строку лентикулярных линз 511, проходящих параллельно друг другу, из которых только одна показана с преувеличенными размерами для большей ясности. Лентикулярные линзы 511 выступают в качестве элементов формирования вида, чтобы выполнять функцию формирования вида. Лентикулярные линзы Фиг. 5 имеют выпуклую часть, обращенную от панели дисплея. Также существует возможность формирования лентикулярных линз с их выпуклой стороной, обращенной к панели дисплея.
Лентикулярные линзы 511 могут быть в форме выпуклых цилиндрических элементов, и они выступают в качестве средств направления вывода света, чтобы предоставлять разные изображения, или виды из панели 503 дисплея глазам пользователя, расположенным перед компоновкой 501 дисплея. Таким образом, разные пиксели элемента отображения проецируются в разных направлениях из дисплея. Эффект направления света лентикулярными линзами 511 приводит к тому, что пиксели панелей дисплея проецируются или излучаются из дисплея в диапазоне направлений. В частности, изображение панели 503 дисплея проецируется в интервале направлений (углов) с помощью разных пикселей, излучаемых в разных направлениях (углах). Кроме того, изображение панели 503 дисплея повторяется во множестве интервалов и, в частности, каждый индивидуальный пиксель проецируется во множестве направлений с, как правило, периодическим смещением (соответствующим угловой частоте повторения интервалов, в которых проецируется изображение отображения). Таким образом, изображение панели 503 дисплея проецируется во множестве разных конусов просмотра, при этом каждый обеспечивает одно и то же распределение угла проекций пикселя.
Таким образом, генерируется множество конусов просмотра, при этом каждый конус просмотра содержит интервал направлений/углов проекции из компоновки 501 дисплея. Каждый конус просмотра содержит проекцию изображения отображения панели 503 дисплея, при этом изображение отображения распределяется по направлениям/углам проекции каждого конуса просмотра. В системе конусы просмотра являются повторениями друг друга, т.е. распределение изображения отображения по углам проекции конуса просмотра (углам проекции конуса просмотра) является одним и тем же для всех конусов просмотра.
Каждый из пикселей панели 503 дисплея посредством оптического элемента 509 формирования вида проецируется под особым углом проекции конуса просмотра (в каждом конусе просмотра и, следовательно, под множеством углов проекции дисплея в целом). В зависимости от конкретного исполнения компоновки 501 дисплея, пиксели панели дисплея могут быть разделены на группы пикселей, где все пиксели в одной группе проецируются под одним и тем же углом проекции конуса просмотра. Например, в некоторых дисплеях все пиксели вертикального столбца проецируются в одном и том же горизонтальном угловом направлении. В других вариантах осуществления каждый пиксель может проецироваться под уникальным углом проекции.
Фиг. 7 иллюстрирует пример генерирования множества конусов просмотра из автостереоскопического дисплея. В примере, каждый интервал указывает полный конус с линиями, указывающими переходы конуса. В примере, каждый интервал угла конуса (ширина конуса/расстояния между двумя переходами конуса) приводятся к единице таким образом, что первичный конус соответствует u'∈[-½, ½]. Центры конуса просмотра, т.е., центральный угол проекции конуса просмотра соответствует u≡0 (mod 1) и, как правило, где достигается максимальный параллакс. Переходы конуса просмотра соответствуют u≡1/2(mod 1).
В данном примере, диапазон углов u проекции отображения таким образом разделен на множество конусов просмотра, при этом каждый содержит интервал [-½, ½] углов проекции конуса просмотра
В автостереоскопическом дисплее отличие в направлениях проекции для разных пикселей используется, чтобы предоставлять разные вводы для глаз зрителя, тем самым обеспечивая 3D эффект. Во многих вариантах осуществления, интервал угла делится на фиксированное количество видов, как например 9, 15 или даже 28 видов. Каждый вид генерируется, чтобы соответствовать разным точкам просмотра сцены и, соответственно, зритель, глаза которого принимают два разных вида, будет воспринимать сцену с помощью левого и правого глаза с незначительно разными точками просмотра. Таким образом, воспринимается трехмерное изображение сцены. Сходным образом, зритель, перемещающийся между разными видами, будет воспринимать параллактический эффект и будет соответственно воспринимать 3D эффект.
В таком примере каждый вид представляет все изображение сцены и конус просмотра разделен на относительно небольшое количество фиксированных видов (например, 9-28 полных видов). Тем не менее, в последнее время был предложен более постепенный подход, где каждый пиксель может быть визуализирован, чтобы соответствовать незначительно отличному углу, т.е. вместо того, чтобы полные изображения генерировались, чтобы соответствовать одной точке просмотра, только часть изображения может быть визуализирована для заданной точки просмотра и, следовательно, изображение, воспринимаемое каждым глазом, может быть сформировано частями, соответствующими незначительно отличным точкам просмотра. Действительно, для каждого пикселя возможно, чтобы он визуализировался таким образом, чтобы соответствовать незначительно отличной точке просмотра и изображение, воспринимаемое зрителем, может быть сформировано пикселями, которые все соответствуют незначительно отличным точкам просмотра. Тем не менее, смещение точки просмотра между изображениями и пикселями, воспринимаемыми левым и правым глазами, по-прежнему сохраняется должного размера, чтобы обеспечивать требуемый 3D эффект (как стереоскопический, так и параллактический эффект), и на практике было обнаружено, что вариация точек просмотра для разных частей изображения, воспринимаемых одним глазом, не ухудшает воспринимаемое качество изображения при условии, что отличие достаточно низкое.
Нижеследующее описание будет сфокусировано на примере, где автостереоскопический дисплей генерирует конус просмотра, соответствующий фиксированному количеству (в частности девяти) разных видов, при этом каждый вид содержит полное изображение, генерируемое таким образом, чтобы соответствовать одной точке просмотра сцены. Тем не менее, следует иметь в виду, что описываемый подход в равной степени применим к примерам, где могут быть использованы частичные виды изображения, включая подходы, где каждый пиксель визуализируется таким образом, чтобы соответствовать отличной точке просмотра.
Фиг. 8 иллюстрирует автостереоскопический дисплей в соответствии с некоторыми вариантами осуществления изобретения. Автостереоскопический дисплей содержит компоновку 501 автостереоскопического дисплея, такую как та, что описана со ссылкой на Фиг. 5 и 6. В дополнение, автостереоскопический дисплей содержит задающее устройство 801 дисплея, которое выполнено с возможностью генерирования изображения отображения для панели 503 дисплея компоновки 501 дисплея у автостереоскопического дисплея.
Во многих вариантах осуществления, задающее устройство 801 дисплея может содержаться в самом автостереоскопическом дисплее, тогда как в других вариантах осуществления может содержаться в отдельном от автостереоскопического дисплея блоке. Действительно, в некоторых вариантах осуществления, задающее устройство 801 дисплея может, например, генерировать изображения отображения, которые сохраняются для дальнейшего использования. Например, изображения отображения могут быть сохранены на подходящем носителе, из которого автостереоскопический дисплей может извлекать изображения и непосредственно предоставлять их панели 503 дисплея.
Задающее устройство 801 дисплея выполнено с возможностью генерирования изображения отображения из трехмерного представления сцены, которая должна быть отображена. Таким образом, предоставляются данные, которые предоставляют 3D описание сцены. Задающее устройство 801 дисплея выполнено с возможностью обработки этих данных, чтобы генерировать изображение отображения, которое, когда отображается панелью 503 дисплея, приводит к проекции набора конусов просмотра, при этом каждый из них содержит трехмерную визуализацию сцены. В частности, разные углы проекции конуса просмотра будут представлять разные точки просмотра для сцены.
Нижеследующее описание будет сфокусировано на примере, где данные, предоставляющие трехмерное представление сцены, находятся в форме трехмерного изображения. Данное входное трехмерное изображение затем обрабатывается, как будет описано, чтобы генерировать соответствующее 3D представление сцены, когда изображение отображения визуализируется панелью 503 дисплея. В частности, как будет описано, будут вычислены соответствующие точки просмотра сцены для углов проекции конуса просмотра, и будут вычислены соответствующие значения пикселя для панели 503 дисплея посредством применения соответствующего преобразования точки просмотра к входному трехмерному изображению.
Тем не менее, в других вариантах осуществления, могут быть использованы другие формы трехмерного представления. В частности, трехмерное представление может быть в форме трехмерной модели сцены. Данная модель может быть оценена для разных точек просмотра, и, таким образом, соответствующие значения пикселя для панели 503 дисплея могут в таких вариантах осуществления быть определены посредством оценки трехмерной модели на основании определенной точки просмотра сцены.
В конкретном примере Фиг. 8, задающее устройство 801 дисплея тем не менее выполнено с возможностью генерирования изображения отображения на основании входного трехмерного изображения, которое описывает/представляет трехмерную сцену в подходящем формате.
Соответственно, задающее устройство 801 дисплея содержит источник для трехмерного представления сцены. В конкретном примере задающее устройство 801 дисплея содержит приемник 803 изображения, который принимает входное трехмерное изображение. Входное трехмерное изображение может, например, быть набором из N изображений, соответствующих непосредственно N разным видам сцены, представленной входным трехмерным изображением, т.е., может быть предоставлено N изображений, которые отражают N разных точек просмотра сцены. В качестве конкретного примера, входное трехмерное изображение может быть стерео изображением с одним изображением для правого глаза и одним изображением для левого глаза. В качестве другого примера, входное трехмерное изображение может быть одним изображением с ассоциированной картой глубины (например, предоставляющей значение несоответствия или глубины для каждого пикселя одного изображения). В качестве еще одного, другого примера, входное трехмерное изображение может быть Z-стеком с ассоциированной картой глубины. Таким образом, входное трехмерное изображение может, как правило, быть любыми данными, предоставляющими (одновременно) визуальную информацию и информацию глубины для сцены, представляемой входным трехмерным изображением.
Входное трехмерное изображение может быть принято от любого подходящего внутреннего или внешнего источника, как например, от локальной памяти, от запоминающих носителей информации, от удаленного сетевого сервера, от радиовещания, и т.д. В некоторых вариантах осуществления входное трехмерное изображение может быть одним стационарным изображением. В других вариантах осуществления входное трехмерное изображение может быть одним изображением (одним кадром) трехмерной видеопоследовательности.
Приемник 803 изображения связан с генератором 805 изображения, которому подается входное трехмерное изображение. Генератор 805 изображения связан с компоновкой 501 дисплея, и в частности, с панелью 503 дисплея компоновки 501 автостереоскопического дисплея. Генератор 805 изображения выполнен с возможностью генерирования изображения отображения для панели 503 дисплея таким образом, что, когда оно отображается на панели дисплея, этот приводит к проекции конусов просмотра, содержащих изображения, определенные изображением отображения.
Генератор 805 изображения, таким образом, выполнен с возможностью генерирования изображения отображения для панели 503 дисплея, которое приводит к проекции требуемых видов из автостереоскопического дисплея.
Например, если N видов должно быть спроецировано в каждом конусе просмотра, изображение отображения генерируется, чтобы приводить к проекции N видов. Это может быть достигнуто в соответствии с принципом деления интервала направления проекции конуса просмотра на N последовательных суб-интервалов, при этом каждый организован, чтобы проецировать одно изображение вида. Панель 503 дисплея затем делится на N разных групп пикселя, при этом каждая группа соответствует одному из N последовательных суб-интервалов, т.е. одному из видов. Для каждой из суб-групп, изображение генерируется генератором 805 изображения, соответствующее требуемой точке просмотра для конкретного изображения вида. Изображение отображения затем генерируется посредством объединения индивидуальных изображений вида в объединенное изображение отображения посредством соотнесения пикселей изображений вида с пикселями изображения отображения, которые проецируются в соответствующем суб-интервале. Результирующее изображение, как правило, именуется прошитым изображением.
Таким образом, во многих вариантах осуществления, генератор 805 изображения может генерировать прошитое изображение посредством перемежения подходящих столбцов пикселя из индивидуальных изображений вида для того, чтобы генерировать изображение, которое может быть визуализировано непосредственно панелью 503 дисплея, позволяя слою 509 формирования вида генерировать разные виды.
Для четкости и краткости, нижеследующее описание будет сфокусировано на одной горизонтальной линии и направления проекции будут представлены конкретными углами проекции. Соответственно, ссылки на угол проекции в нижеследующем могут рассматриваться как предоставляющие сокращенную ссылку на направления проекции. Сходным образом, ссылки на углы точки просмотра (сцены) или углы просмотра (сцены) могут рассматриваться как представления направлений точки просмотра (сцены) или направления просмотра (сцены).
Таким образом, в системе компоновка 501 дисплея проецирует изображения в интервале угла проекции дисплея, который относительно большой (часто приемлемые углы просмотра превышают 100° для автостереоскопического дисплея). Тем не менее, данный интервал разделен на некоторое количество повторяющихся интервалов так, что каждый предоставляет одно и то же представление, т.е. он разделен на множество конусов просмотра. Каждый из этих конусов просмотра содержит интервал или диапазон углов проекции.
В конкретном примере каждый конус просмотра может иметь ширину в 10°. Таким образом, полный интервал углов проекции дисплея разделен на некоторое количество поддиапазонов или суб-интервалов углов проекции конуса просмотра. Каждый конус просмотра предоставляет одно и то же представление изображения, т.е. изображение отображения визуализируется в каждом конусе просмотра (распределенное по углам проекции конуса просмотра).
Соответственно, генератор 805 изображения выполнен с возможностью генерирования изображения отображения таким образом, что проецируемое изображение распределяется по углам проекции конуса просмотра таким образом, что пользователь, позиционированный в конусе просмотра, будет воспринимать подходящую трехмерную визуализацию сцены. Для того чтобы добиться этого, генератор 805 изображения генерирует значения пикселя для панели 503 дисплея так, что части изображения, которые проецируются под разными углами проекции конуса просмотра отражают вид сцены, соответствующий этим углам, т.е., таким образом, что точка просмотра, представляемая светом управления пикселя под заданным углом проекции конуса просмотра, соответствует тому углу.
Чтобы сделать это, генератор 805 изображения включает в себя соотнесение, которое связывает углы проекции конуса просмотра с (как правило, виртуальными) углами точки просмотра сцены. Таким образом, генерирование у генератора 805 изображения основано на соотнесение между углами проекции конуса просмотра и углами точки просмотра сцены. Генератор 805 изображения включает в себя функцию соотнесения направления, которая обеспечивает такое соотнесение.
В примере Фиг. 8 задающее устройство 801 дисплея соответственно содержит блок 807 данных соотнесения, который предоставляет функцию соотнесения направления генератору 805 изображения. Например, блок 807 данных соотнесения может быть памятью или хранилищем, которое хранит данные, определяющие подходящую одну или более функции соотнесения направления, которые должны быть использованы генератором 805 изображения. В других вариантах осуществления блок 807 данных соотнесения может быть блоком обработки, который может вычислять подходящую функцию соотнесения направления, например, посредством выбора соответствующих значений параметра.
Пример часто используемого соотнесения иллюстрируется на Фиг. 9. В данном примере, ось x представляет собой углы проекции конуса просмотра, а ось y представляет собой угол v точки просмотра сцены, где угол V точки просмотра сцены также приведен к интервалу [-0,5;0,5]. В примере присутствует прямая линейная зависимость между ними, т.е. функция соотнесения направления является прямым линейным соотнесением. В примере значения были приведены и, следовательно, градиент линейного соотнесения равен одному. Следует иметь в виду, что точное не приведенное соотнесение зависит от конкретного предполагаемого 3D эффекта.
В частности, генератор 805 изображения может при определении пикселя панели 503 дисплея переходить к определению указания направления точки просмотра сцены, которое отражает направление просмотра для сцены. Направление точки просмотра сцены может быть определено в ответ на функцию соотнесения направления, которая в качестве ввода имеет указание направления проекции конуса просмотра, которое отражает направление проекции для пикселя в конусах просмотра. Мера искажения обеспечивает соотнесение между направлениями проекции конуса просмотра и направлением точки просмотра сцены.
В частности, генератор 805 изображения переходит сначала к определению указания угла проекции конуса просмотра для заданного первого пикселя. Данное указание может быть любым параметром, который зависит от угла проекции конуса просмотра и, в частности, может быть значением, которое имеет прямое соответствие с углом проекции конуса просмотра. В частности, угол проекции для заданного пикселя зависит от физических характеристик компоновки 501 дисплея и, соответственно, существует прямое соответствии между позицией пикселя и углом проекции конуса просмотра. Таким образом, во многих вариантах осуществления, позиция пикселя может непосредственно быть использована в качестве указания направления проекции конуса просмотра. В других вариантах осуществления, могут быть использованы другие указания угла проекции конуса просмотра. Например, в некоторых вариантах осуществления, может быть непосредственно определен и использован угол проекции конуса просмотра. В еще одних, других вариантах осуществления, номинальное значение несоответствия для заданной номинальной глубины может быть использовано в качестве указания угла проекции конуса просмотра.
Поскольку угол проекции конуса просмотра для заданного пикселя зависит от конкретной геометрии компоновки 501 дисплея, функция соотнесения направления, как правило, разрабатывается во время изготовления, чтобы отражать зависимость между указанием угла проекции конуса просмотра и углом проекции конуса просмотра. Например, зависимость между позицией пикселя панели 503 дисплея и углом проекции конуса просмотра зависит от геометрии компонента 501 дисплея и, соответственно, как правило, определяется во время изготовления/проектирования компоновки 501 дисплея.
Функция соотнесения направления обеспечивает соотнесение между входной переменной, предоставляющей указание угла проекции конуса просмотра и выходной переменной, отражающей соответствующий угол точки просмотра сцены. Таким образом, функция соотнесения направления предоставляет соотнесение для пикселя компонента 501 дисплея между углом в конусах просмотра, под которыми пиксели проецируются или излучаются из дисплея, и углом просмотра сцены, для которой генерируется значение пикселя.
В примере на Фиг. 9 функция соотнесения направления обеспечивает прямое линейное соотнесение. Например, 10° интервал угла проецируемого конуса просмотра может быть непосредственно соотнесен с 10° интервалом угла для точки просмотра сцены. Тем не менее, следует иметь в виду, что в других вариантах осуществления соотнесение может быть между разными (угловыми) диапазонами. Часто, автостереоскопические дисплеи имеют тенденцию к тому, чтобы обладать меньшей глубиной, чем стереоскопические дисплеи и часто зритель может воспринимать гипостерео 3D эффект.
Фиг. 10 иллюстрирует пример, где пользователь позиционирован в конусе просмотра, и левый и правый глаз позиционированы в разных угловых позициях, т.е. при разных углах проекции конуса просмотра. В частности, левый глаз принимает и воспринимает пиксели панели 503 дисплея, которые проецируются по направлению 1001, а правый глаз принимает и воспринимает пиксели панели 503 дисплея, которые проецируются по направлению 1003. Первый набор пикселей, воспринимаемый левым глазом, является тем, который имеет угол проекции конуса просмотра, соответствующий направлению 1001. Тем не менее, функция соотнесения направления связывает данный угол с углом 1005 точки просмотра сцены, который соответствует позиции (виртуального) зрителя, просматривающего виртуальную сцену, которая отображается. Таким образом, при генерировании значений пикселя для первого набора пикселей, генератор 805 изображения сгенерировал их, чтобы они соответствовали зрителю вдоль угла 1005 точки просмотра. Таким образом, первый набор пикселей обеспечивает изображение (или часть изображения), соответствующее тому, которое воспринимается левым глазом зрителя, позиционированного под определенным углом точки просмотра сцены. Сходным образом, значения пикселя для второго набора пикселей, воспринимаемых правым глазом, генерируется так, чтобы соответствовать углу 1007 точки просмотра сцены, т.е. чтобы соответствовать тому, что воспринимается правым глазом виртуального зрителя. Таким образом, реальный человек 1009, просматривающий автостереоскопический дисплей, воспринимает изображения левого и правого глаза, которые вычислены так, чтобы соответствовать соответствующим изображениям левого и правого глаза виртуального зрителя.
Если зритель автостереоскопического дисплея перемещается в конусе просмотра, углы проекции конуса просмотра, достигающие правого и левого глаз, будут меняться, соответствуя изменениям изображений левого и правого глаза виртуального зрителя, если он перемещается. Таким образом, обеспечивается как стереоскопический, так и параллактический трехмерный эффект.
Функция соотнесения направления обеспечивает соотнесение из угла проекции конуса просмотра к углу точки просмотра сцены для пикселей панели 503 отображения. Соотнесение может, как упомянуто, быть основано на фактических значениях угла, или, как правило, быть основано на параметрах, которые указывают это, как например, на основании позиций пикселей.
Таким образом, как только генератор 805 изображения определил угол точки просмотра сцены для заданного пикселя на основании указания угла проекции конуса просмотра для пикселя (такого как позиция), генератор 805 изображения может переходить к генерированию значения пикселя, соответствующего углу точки просмотра сцены. Таким образом, генератор 805 изображения генерирует значения пикселя для панели 503 дисплея, чтобы они соответствовали углам точки просмотра сцены, определенным для индивидуальных пикселей, на основании функции соотнесений направления (по углу проекции конуса просмотра).
В некоторых примерах, как например, на Фиг. 10, генерирование значения пикселя может быть посредством оценки трехмерной модели сцены на основании угла точки просмотра сцены для пикселя. Специалист в соответствующей области техники будет осведомлен о многих подходах для определения значений пикселя на основании трехмерной модели и угла точки просмотра сцены и это для краткости не будет дополнительно описано.
В некоторых вариантах осуществления представление трехмерной сцены осуществляется посредством трехмерного изображения. Например, может быть предоставлено двумерное изображение с картой глубины или несоответствия. В таком случае, значения пикселя для заданного определенного угла точки просмотра сцены могут быть определены посредством преобразования направления просмотра во входное трехмерное изображение. Например, точка просмотра сцены, представленная двумерным изображением, может быть установлена, чтобы соответствовать углу точки просмотра сцены, который соотнесен с центральным направлением проекции конуса просмотра, т.е. чтобы соответствовать середине конуса просмотра. Соответственно, для центрального угла проекции конуса просмотра и соответствующего центрального угла точки просмотра сцены, значения пикселя генерируются непосредственно как значения пикселя входного изображения. В результате автостереоскопический дисплей проецирует центральное изображение конуса просмотра, которое соответствует двумерному изображению.
При определении значения пикселя для пикселя с другим углом проекции конуса просмотра, и, следовательно, другим углом точки просмотра сцены, чем угол точки просмотра принятого двумерного изображения, генератор 805 изображения может определять значение пикселя посредством сдвига пикселей двумерного изображения на величину, соответствующую отличию по углу точки просмотра сцены между центральным углом точки просмотра сцены и определенным углом точки просмотра сцены. В частности, может быть определено несоответствие для угла точки просмотра сцены, с последующим значением пикселя, определенным как то, что смещено от текущей позиции на соответствующую величину. Следует иметь в виду, что пиксельный сдвиг может быть основан на переборе по пикселям входного двумерного изображения и обнаружении соответствующих сдвигов их для того, чтобы заполнять изображение отображения, или может эквивалентно быть основан на переборе по пикселям панели 503 дисплея и применении соответствующих сдвигов, чтобы генерировать значения пикселя из соответствующих смещенных пикселей входного двумерного изображения. Следует иметь в виду, что могут быть использованы подходы обратной окклюзии (заполнение отверстия), такие как, например, основанные на интерполяции.
В качестве конкретного примера, горизонтальный сдвиг может быть определен как:
Δx=f(u)d(x),
где f(u) является функцией соотнесения направления, u является переменной, отражающей угол проекции конуса просмотра, и d(x) является входным значением несоответствия изображения. Таким образом, в данном примере, выходное значение Δx несоответствия генерируется из входного значения d(x) несоответствия и соответственно функция соотнесения направления может в конкретном примере быть функцией масштабирования несоответствия, которая осуществляется соотнесение из входного несоответствия для пикселя к выходному несоответствию для пикселя.
Следует иметь в виду, что специалист в соответствующей области техники будет осведомлен о многих разных подходах для выполнения преобразования точки просмотра для трехмерных изображений, и, в целом, для генерирования значений пикселя, соответствующих конкретным направлениям точки просмотра, и что любой такой подходящий подход может быть использован без отступления от изобретения.
С помощью примера функции соотнесения направления на Фиг. 9 однородная проекция просмотра обеспечивается по конусу просмотра и зритель будет принимать, по существу, один и тот же трехмерный эффект независимо от того, где он позиционирован в конусе просмотра. Сходным образом, однородный параллактический эффект обеспечивается по конусу просмотра.
Тем не менее, подход также обладает некоторыми недостатками. Действительно, как иллюстрируется Фиг. 11, левый и правый глаза (указанные посредством L и R) не только принимают и воспринимают свет под одним углом проекции конуса просмотра, а скорее принимают свет по множеству направлений (как правило, короткому диапазону). Любая разница между ними будет вызывать ухудшение изображения в форме размытости. В частности, разность в смещениях несоответствия между разными углами просмотра для объектов вне-экрана будет вносить размытость. Часть размытости будет вызываться перекрестными помехами дисплея между разными видами (или разным углом проекции конуса просмотра). Размытость зависит от отличий между изображениями/светом, проецируемым в разных направлениях. Таким образом, размытость, как правило, увеличивается с увеличением отличий несоответствия/угла точки просмотра сцены.
Кроме того, когда пользователь позиционирован в переходе конуса (при этом глаза в разных конусах просмотра), возникает стерео инверсия. Это может быть воспринято как крайне раздражающее зрителя и в особенности пользователя, который перемещается из одного конуса просмотра в другой.
Для того, чтобы решить эти проблемы, в документе WO 2005/091050 было предложено, что вместо использования линейного соотнесения на Фиг. 9 и 11, может быть использовано соотнесение по синусоидальной волне, как иллюстрируется на Фиг. 12. В таком подходе по-прежнему может возникать стерео инверсия на переходе конуса, но величина данной стерео инверсии может быть значительно уменьшена. В частности, очень сильное инверсное несоответствие, возникающее для пользователя на переходе конуса, может быть уменьшено до относительно небольшого инверсного несоответствия. Кроме того, может быть достигнуто постепенное проявление и изменение стерео инверсии. Эти признаки очень существенно уменьшают раздражающий эффект для пользователя. Кроме того, несоответствия и, следовательно, отличия между разными видами могут быть уменьшены, приводя к уменьшенной размытости, вызываемой объектами вне-экрана.
Тем не менее, тогда как такое соотнесение может смягчать некоторые эффекты линейного (пилообразного) соотнесения, оно также уменьшает диапазон, в котором обеспечивается полный 3D эффект. Например, несмотря на то, что может быть уменьшена стерео инверсия, диапазон, в котором она происходит, может быть значительно увеличен. В дополнение, генерируется неоднородный конус просмотра, и, следовательно, 3D восприятие и воспринимаемое качество изображения могут варьироваться между разными позициями.
Система на Фиг. 8 выполнена с возможностью обеспечения гибкой адаптации функции соотнесения направления таким образом, что проецируемые изображения из автостереоскопического дисплея могут гибко и динамически адаптироваться, чтобы обеспечивать улучшенный компромисс между преимуществами и недостатками разных функций соотнесения направления.
В частности, задающее устройство 801 дисплея содержит процессор 809 просмотра для определения характеристики зрителя, который выполнен с возможностью определения указания характеристик сценария просмотра. В частности, процессор 809 просмотра генерирует указание количества текущих зрителей и/или позицию одного или более текущих зрителей.
Следует иметь в виду, что специалист в соответствующей области техники будет осведомлен о разнообразных подходах и методиках для определения таких характеристик просмотра и что любой подходящий подход может быть использован без отступления от изобретения.
Например, процессор 809 просмотра может принимать изображения от видеокамеры и выполнять обнаружение лица, чтобы определять количество и (например, угловую) позицию зрителей. В качестве другого примера, процессор 809 просмотра может выполнять отслеживание глаз. В качестве другого примера, камера регистрации глубины может быть использована, чтобы обнаруживать объекты в среде просмотра (также именуемое отслеживанием скелета).
Процессор 809 просмотра связан с адаптером 811, который выполнен с возможностью адаптации функции соотнесения направления в ответ на характеристику зрителя. Таким образом, задающее устройство 801 дисплея может динамически адаптировать функцию соотнесения направления, чтобы отражать текущий сценарий просмотра, и, в частности, текущее количество пользователей. Это может по существу улучшать восприятие от просмотра во многих сценариях.
Следует иметь в виду, что много разных подходов для адаптации функции соотнесения направления может быть применено в разных вариантах осуществления.
Например, в некоторых вариантах осуществления, адаптер 811 может быть выполнен с возможностью выбора из множества функций соотнесения направления в зависимости от характеристики зрителя. Например, блок 807 данных соотнесения может быть выполнен в виде памяти, хранящей множество предварительно определенных функций соотнесения направления. Адаптер 811 может быть выполнен с возможностью выбора одной из этих предварительно определенных функций соотнесения направления в зависимости от характеристики зрителя, т.е. предварительно определенная функция соотнесения направления выбирается на основании текущего количества зрителей.
В качестве конкретного примера первая предварительно определенная функция соотнесения направления может быть сохранена для одного присутствующего зрителя, вторая предварительно определенная функция соотнесения направления для двух присутствующих зрителей, третья предварительно определенная функция соотнесения направления для от трех до пяти присутствующих зрителей, и четвертая предварительно определенная функция соотнесения направления может быть сохранена для более чем пяти присутствующих зрителей. Характеристика просмотра может указывать сколько зрителей присутствует в настоящий момент, и адаптер 811 может управлять блоком 807 данных соотнесения, чтобы предоставлять соответствующую предварительно определенную функцию соотнесения направления генератору 805 изображения.
В системе Фиг. 8 адаптер 811 выполнен с возможностью адаптации направления функции соотнесения таким образом, что по меньшей мере для некоторых углов/направления проекции конуса просмотра трехмерный эффект уменьшается применительно к увеличивающемуся количеству зрителей.
В частности, в некоторых вариантах осуществления величина производной функции соотнесения направления может быть уменьшена для по меньшей мере некоторых значений угла проекции конуса просмотра. Таким образом, локальное изменение точки просмотра сцены для меняющегося угла проекции конуса просмотра может быть уменьшено, приводя к уменьшенному параллаксу, который генерируется/воспринимается зрителем. Таким образом, (абсолютное значение) градиент функции соотнесения направления может быть уменьшен для по меньшей мере некоторых углов проекции конуса просмотра по мере того, как увеличивается количество зрителей. В таких вариантах осуществления функция соотнесения направления может, таким образом, становиться более сглаженной с меньшей локальной вариацией по мере того, как увеличивается количество зрителей.
В некоторых вариантах осуществления уменьшение трехмерного эффекта может быть достигнуто адаптером 811, выполненным с возможностью модификации функции соотнесения направления таким образом, что отклонение от направления точки просмотра сцены, соответствующего центральному направлению проекции конуса просмотра, уменьшается для по меньшей мере некоторых значений угла проекции конуса просмотра. По мере того, как увеличивается количество пользователей, отклонение направления точки просмотра сцены (т.е. отклонение угла/направления точки просмотра сцены от центра конуса) уменьшается для по меньшей мере некоторых значений.
Таким образом, оба подхода могут быть направлены на уменьшение степени параллакса, возникающего от приложения функции соотнесения направления по мере того, как увеличивается количество зрителей. Адаптер 811 может уменьшать градиент/абсолютные значения генерируемого угла точки просмотра сцены по мере того, как увеличивается количество зрителей, тем самым обеспечивая, например, менее агрессивный трехмерный эффект. Это может уменьшать трехмерный эффект для зрителя в идеальной позиции, но также может уменьшать нежелательные эффекты (например, размытость или стерео инверсию) для зрителей в более невыгодной позиции применительно к трехмерному просмотру. Настоящий подход в виде обеспечения динамической адаптации на основании количества зрителей обеспечивает динамический улучшенный компромисс, который приводит к улучшенному восприятию пользователя во многих приложениях.
Следует иметь в виду, что во многих вариантах осуществления, адаптер 811 может быть выполнен с возможностью модификации функции соотнесения направления для увеличивающихся зрителей таким образом, что как отклонение направления точки просмотра сцены уменьшается для по меньшей мере некоторых значений угла проекции конуса просмотра, так и величина производной функции соотнесения направления уменьшается для по меньшей мере некоторых значений угла проекции конуса просмотра. Действительно, следует иметь в виду, что, как правило, функция соотнесения направления модифицируется для увеличивающегося количества зрителей таким образом, что трехмерный эффект уменьшается посредством функции соотнесения направления, модифицированной чтобы уменьшать как отклонение от центра (для по меньшей мере некоторых значений угла проекции конуса просмотра), так и уменьшая градиент функции соотнесения направления (для по меньшей мере некоторых значений).
В некоторых вариантах осуществления, функция соотнесения направления может непрерывно адаптироваться посредством модификации непрерывного параметра. Конкретное преимущество такого подхода состоит в том, что он позволяет облегчить временную фильтрацию низких частот, чтобы смягчить сильные видимые изменения из-за изменений функции соотнесения направления/формы конуса.
Фиг. 13 и 14 иллюстрируют два конкретных примера функций соотнесения направления, которые могут непрерывно адаптироваться посредством адаптации параметра α∈[0,1]. Как иллюстрируется, фигуры могут быть адаптированы, чтобы обеспечивать более сглаженное или грубое соотнесение с помощью α=0, соответствующего наименее сглаженной, и α=1 более сглаженной форме функции соотнесения направления.
Пример Фиг. 13 соответствует функции соотнесения направления, которая может быть адаптирована между пилообразной и треугольной функцией в соответствии со следующим:
Во втором примере (Фиг. 14), форма конуса меняется между пилообразным соотнесением (α→0) и синусным соотнесением (α=1) в соответствии с
В обоих случаях , соответствующая равному минимальному параллаксу в то время, как , что соответствует наибольшему отрицательному уклону и, следовательно, силе перехода конуса, находится под влиянием α. Для α→0 данный уклон достигает -∞, а для α=1 уклон составляет лишь -1.
В этих примерах, функция соотнесения направления может соответственно быть модифицирована таким образом, что отклонение угла точки просмотра сцены от центрального угла точки просмотра сцены уменьшается для некоторых углов проекции конуса просмотра. Поскольку центральный угол точки просмотра сцены (соответствующий центральному углу проекции конуса просмотра для конусов просмотра) в примерах равен нулю, это соответствует уменьшению величины угла точки просмотра сцены для по меньшей мере некоторых значений углов проекции конуса просмотра. В частности, углы точки просмотра сцены в двух краевых интервалах конусов просмотра уменьшаются по отношению к непосредственному линейному соотнесению (т.е. в сравнении с пилообразным).
В частности, по мере того, как α увеличивается, углы точки просмотра сцены на краевых интервалах уменьшаются. Как следствие, виды, которые генерируются по краям конуса просмотра, будут отклоняться меньше от центрального вида, и действительно к переходам конуса будут стремиться приблизиться к данному центральному виду. Это обеспечивает гибкую адаптацию, которая обеспечивает улучшенный компромисс между конфликтующими желаниями и предпочтениями.
Действительно, применительно ко второму примеру, функция соотнесения направления может варьироваться от обеспечения однородного вида по всему конусу просмотра, но с потенциально высоким уровнем размытости и сильной стерео инверсией до обеспечения конуса просмотра, который является неоднородным и обладает уменьшенным угловым интервалом, в котором обеспечивается сильный 3D эффект, но который также обладает по существу меньшей размытостью и много более мягкой стерео инверсией.
Например, применительно к соотнесению по синусоидальной волне, разные восприятия могут быть обеспечены в разных зонах конуса просмотра, как иллюстрируется на Фиг. 15. В примере, зона конуса просмотра, указанная стрелкой 1501, будет иметь тенденцию к обеспечению сильного 3D эффекта с высоким параллаксом, но также с потенциально значительной размытостью. Интервал вокруг 1503 будет иметь тенденцию к обеспечению низкого (или отсутствие) 3D эффекта, но также обеспечивает узкий уровень размытости. Интервал вокруг 1505 обеспечивает стерео инверсию, но на уровне, который, как правило, терпимый (много меньше по отношению к максимальной стерео инверсии для линейного соотнесения).
Как может быть видно, в примере на Фиг. 14, отклонение направления точки просмотра сцены уменьшается в двух краевых интервалах кривой посредством увеличения параметра α. Тем не менее, это приводит не только к тому, что уменьшается отклонение направления точки просмотра сцены (т.е., отклонение по отношению к центру), но также приводит к тому, что величина производной функции соотнесения направления уменьшается по краям конуса. В частности, может быть достигнут уменьшенный эффект стерео инверсии.
Характеристика зрителя указывает количество текущих зрителей, и адаптер 811 может быть выполнен с возможностью адаптации функции соотнесения направления в ответ на количество текущих зрителей.
Количество текущих зрителей может, например, быть определено посредством процессора 809 просмотра в качестве количества лиц, обнаруженных на изображении, которое принимается от видеокамеры, направленной в зону просмотра.
Адаптация функции соотнесения направления к количеству зрителей может обеспечивать улучшенное восприятие пользователя во многих ситуациях.
Например, когда у лентикулярного автостереоскопического дисплея так много зрителей, что они формируют более одного ряда, зрителям сзади становится сложно найти хорошую позицию в конусе просмотра. В результате, эти зрители будут, как правило, перемещаться к краям конуса просмотра. Это противоположно сценарию, когда присутствует только несколько или в действительности только один зритель. В данном случае, зритель будет пытаться позиционироваться в центре конуса просмотра (или автостереоскопический дисплей может быть адаптивным дисплеем, который направляет конус просмотра на зрителя). Таким образом, по мере того, как присутствует больше пользователей, более вероятно, что больший интервал конуса просмотра непрерывно используется группой зрителей, и более вероятно, что могут присутствовать зрители, которые позиционированы дальше от центра конуса просмотра.
Тем не менее, это также повышает риск того, что пользователи временно даже перемещаются дальше к границе конуса просмотра, или даже перемещаются через переход/границу конуса просмотра.
В конкретном примере, система может соответственно быть выполнена с возможностью адаптации функции соотнесения направления и задействованных компромиссов в зависимости от количества пользователей, и, следовательно, в зависимости от вероятного распределения пользователей в конусе просмотра.
Таким образом подход может использовать то, что размер зоны наилучшего восприятия конуса просмотра, исходя из приемлемой размытости, стерео параллакса и 3D инверсии, зависит от функции соотнесения направления (которая также может именоваться неявно как форма конуса). Применительно к линейному соотнесению (пилообразное соотнесение), область со стерео параллаксом и низкой размытостью большая, но велика и сила 3D инверсии и размытость между зонами наилучшего восприятия. Применительно к сглаженному конусу (такому как применительно к соотнесению по синусоидальной волне), полезная область меньше, но размытость и 3D инверсия много меньше. Адаптер 811 может в примере адаптировать функцию соотнесения направления между этими экстремальными значениями и может, например, также обеспечивать полу-сглаженный конус/соотнесение, свойства которого находятся между двумя экстремальными значениями.
Во многих примерах, предпочтительной опцией для сценария с небольшой группой полу-статичных зрителей, может быть, конечно, полу-сглаженный конус. Это, как правило, может предотвращать сильное отвлечение внимания, когда человек единично перемещается за пределы центра конуса просмотра, при этом по-прежнему обеспечивает относительно большую зону наилучшего восприятия с сильным 3D эффектом.
Тем не менее, с увеличивающимся количеством зрителей на зону наилучшего восприятия, некоторые зрители могут быть вынуждены оставаться в части вне центра конуса просмотра. Эти пользователи будут страдать от размытых сторон конуса у полу-сглаженного конуса (из-за относительно высокого наклона), как впрочем, и возможно относительно сильной стерео инверсии. Для преодоления этого, адаптер 811 может модифицировать функцию соотнесения направления по мере того, как увеличивается обнаруженное количество зрителей.
В некоторых вариантах осуществления, адаптер 811 может быть выполнен с возможностью увеличения сглаженности функции соотнесения направления, когда количество зрителей увеличивается. Таким образом, в частности, адаптер 811 может быть выполнен с возможностью увеличения значения α примеров функции соотнесения направления на Фиг. 13 и 14. В данном примере, функция соотнесения направления/форма конуса сглаживается, приводя к тому, что пользователи вне центра теряют некоторый стерео параллакс (и, следовательно, 3D восприятие), но также менее страдают от размытости и менее вероятно испытывают сильные эффекты стерео инверсии, если они временно перемещаются. Таким образом, в подходе, 3D эффект для по меньшей мере некоторых позиций зрителя уменьшается применительно к присутствию увеличивающегося количества зрителей.
В частности, как упомянуто ранее, адаптер 811 может быть выполнен с возможностью адаптации функции соотнесения направления, чтобы уменьшать отклонение направления точки просмотра сцены для по меньшей мере некоторых направлений проекции конуса просмотра, когда характеристика зрителя указывает увеличивающееся количество текущих зрителей. Отклонение направления точки просмотра сцены отражает отклонение от центрального направления точки просмотра сцены, т.е. в конкретном примере оно отражает разность между углом точки просмотра сцены и центральным углом точки просмотра сцены (угол точки просмотра сцены для центра конусов просмотра). В примере центральный угол точки просмотра сцены равен нулю и, следовательно, адаптер 811 может быть выполнен с возможностью уменьшения значения величины углов точки просмотра в по меньшей мере некоторых интервалах углов проекции конуса просмотра.
В частности, величина углов точки просмотра сцены уменьшается на краевых интервалах конусов просмотра, когда количество зрителей увеличивается.
В качестве примера когда процессор 809 просмотра обнаруживает, что присутствует три зрителя, адаптер 811 может выбирать значение для параметра α равное 0,5. Соответствующая функция соотнесения направления на Фиг. 13 или 14 может быть соответственно использована, чтобы обеспечивать разумный компромисс между описанными ранее разными эффектами.
Если процессор 809 просмотра теперь переходит к обнаружению того, что количество текущих зрителей увеличилось до пяти зрителей, адаптер 811 может переходить к увеличению значения α с 0,5 до 0,9. Это приводит к более сглаженной функции соотнесения направления и, в частности, приводит к величине угла точки просмотра сцены, уменьшенной по краевым интервалам. Например, для примера Фиг. 13, величина угла точки просмотра сцены (и, следовательно, отклонение от центрального угла точки просмотра сцены равного нулю) уменьшается для углов проекции конуса просмотра в интервалах [-0,5;-0,3] и [0,3;0,5]. Для примера на Фиг. 14, величина угла точки просмотра сцены (и, следовательно, отклонение от центрального угла точки просмотра сцены равного нулю) уменьшается для углов проекции конуса просмотра в интервалах [-0,5;-0,15] и [0,15;0,5]. В примере, величина угла точки просмотра сцены уменьшается в данном интервале, и конечно также уменьшается величина производной функции соотнесения направления. Таким образом, в интервале, вместо того, чтобы угол точки просмотра сцены увеличивался в той же степени, что и центр конуса, производная уменьшается так, что происходит меньшее изменение угла точки просмотра сцены для заданного изменения угла проекции конуса просмотра.
Если процессор 809 просмотра теперь обнаруживает, что количество зрителей уменьшается до двух зрителей, адаптер 811 может, например, переходить к уменьшению переменной α до 0,1. Это приводит к тому, что углы точки просмотра сцены увеличиваются в интервалах [-0,5;-0,3] и [0,3;0,5] для примера на Фиг. 13 и в интервалах [-0,5;-0,15] и [0,15;0,5] для примера на Фиг. 14. Соответственно, для Фиг. 14 производная функции соотнесения направления увеличивается по мере того, как уменьшается количество зрителей.
Если процессор 809 просмотра затем обнаруживает, что количество зрителей увеличивается до тех зрителей, адаптер 811 может, например, переходит к установке переменной α вновь равной 0,5. Это приводит к тому, что углы точки просмотра сцены уменьшаются в интервалах [-0,5;-0,4] и [0,4;0,5] для примера на Фиг. 13 и в интервалах [-0,5;-0,2] и [0,2;0,5] для примера на Фиг. 14. Кроме того, изменение функции соотнесения направления на Фиг. 14 также приводит к тому, что производная функции соотнесения направления уменьшается в данном интервале по мере того, как увеличивается количество зрителей.
В некоторых вариантах осуществления адаптер 811 может быть выполнен с возможностью адаптации функции соотнесения направления, чтобы обеспечивать уменьшенный интервал направлений проекции конуса просмотра, для которых производная функции соотнесения направления имеет тот же самый знак, как и производная функции соотнесения направления для центрального направления проекции конуса просмотра, в ответ на характеристику зрителя, указывающую увеличивающееся количество текущих зрителей.
Таким образом, интервал, в котором не возникает стерео инверсии может быть адаптирован на основании количества текущих зрителей, и, в частности, интервал может быть уменьшен для большего числа зрителей.
В системе Фиг. 8, это также может быть достигнуто посредством увеличения значения α для увеличивающегося количества зрителей. Например, применительно к примеру на Фиг. 13, изменение значения α с 0,5 до 0,9 приводит к тому, что переход производной/наклона функции соотнесения направления перемещается из -0,4 в -0,3 и из 0,4 в 0,3. Таким образом, интервал, в котором наклон функции соотнесения направления является точно таким же, как для центрального угла проекции конуса просмотра, уменьшается с [-0,4;0,4] до [-0,3;0,3]. Сходным образом, когда количество зрителей уменьшается до 2, интервал может быть увеличен до [-0,45;0,45].
Таким образом, следует иметь в виду, что ранее предоставленное описание также предоставляет пример адаптера 811, адаптирующего интервал, в котором не возникает стерео инверсии.
В некоторых вариантах осуществления, адаптер 811 выполнен с возможностью в частности адаптации функции соотнесения направления, чтобы уменьшать величину производной функции соотнесения направления в направлении проекции края конуса просмотра в ответ на характеристику зрителя, указывающую увеличивающееся количество текущих зрителей. Пример данного подхода был описан со ссылкой на Фиг. 14, которая четко иллюстрирует интервалы, в которых производная ниже для α=0,1, чем для α=0,5 (и для α=0,5, чем для α=0,9). По мере того, как α увеличивается для увеличивающегося количества пользователей, производная функции соотнесения направления уменьшается к краям конуса, тем самым уменьшая, например, силу возможной стерео инверсии.
Таким образом, в некоторых вариантах осуществления (инверсия) параллакс на переходах конуса может быть уменьшен для увеличившегося количества зрителей.
Например, на Фиг. 14 может быть четко видно, что величина производной/наклона функции соотнесения направления уменьшается по мере того, как α меняется с 0,1 на 0,9. Таким образом, описанный ранее пример также предоставляет пример адаптера 811, модифицирующего производную функции соотнесения направления на переходах конуса в зависимости от количества пользователей.
Подход увеличения сглаженности функции соотнесения направления для увеличивающегося количества текущих зрителей может приводить к тому, что пользователи вне центра (которые более вероятно существуют, когда присутствует много зрителей) теряют некоторый параллакс/3D эффект, но вместо этого они могут меньше страдать от размытости и иметь меньший риск стерео инверсии. Это может быть преимуществом во многих сценариях.
Следует иметь в виду, что несмотря на то, что примеры выше фокусируются на изменении функции соотнесения направления по краям конуса, и тогда как это может быть, в частности, преимущественным во многих вариантах осуществления, описанный подход не ограничивается такими приложениями. Например, в некоторых вариантах осуществления, функция соотнесения направления может быть пилообразной функцией (т.е., она может быть просто линейной пропорциональной зависимостью в интервале конуса) с градиентом, который зависит от характеристики зрителя, и, в частности, с градиентом, уменьшающимся для увеличивающегося количества пользователей.
В некоторых вариантах осуществления, адаптер 811 может быть выполнен с возможностью адаптации функции соотнесения направления, чтобы обеспечивать уменьшенный интервал направлений проекции конуса просмотра, для которых производная функции соотнесения направления имеет тот же самый знак, как и производная функции соотнесения направления для центрального направления проекции конуса просмотра в ответ на характеристику зрителя, указывающую уменьшающееся количество текущих зрителей.
Таким образом, интервал, в котором не возникает стерео инверсии, может быть адаптирован на основании количества текущих зрителей, и, в частности, интервал может быть уменьшен для меньшего числа пользователей.
В системе на Фиг. 8, это также может быть достигнуто посредством увеличения значения α для уменьшающегося количества зрителей. Например, изменение значения α с 0,5 до 0,9 приводит к тому, что переход производной/наклона функции соотнесения направления перемещается из -0,4 в -0,4 и из 0,3 в 0,4. Таким образом, интервал, в котором наклон функции соотнесения направления является точно таким же, как для центрального угла проекции конуса просмотра, уменьшается с [-0,4;0,4] до [-0,3;0,3]. Сходным образом, когда количество зрителей уменьшается до 2, интервал может быть увеличен до [-0,45;0,45].
Соответственно, следует иметь в виду, что предоставленное ранее описание также предоставляет пример адаптера 811, адаптирующего интервал, в котором не возникает стерео инверсии.
В некоторых вариантах осуществления, адаптер 811 выполнен с возможностью адаптации функции соотнесения направления, чтобы уменьшать величину производной функции соотнесения направления для угла проекции перехода конуса просмотра в ответ на характеристику зрителя, указывающую увеличивающееся количество текущих зрителей.
Таким образом, в некоторых вариантах осуществления, (инверсия) параллакс на переходах конуса может быть уменьшен для увеличившегося количества зрителей.
Данный эффект может, как ранее описано в системе на Фиг. 8, быть достигнут посредством модифицирования значения α. Например, на Фиг. 13 может быть четко видно, что величина производной/наклона функции соотнесения направления уменьшается по мере того, как α меняется с 0,1 до 0,9. Таким образом, описанный ранее пример предоставляет пример адаптера 811, модифицирующего производную функции соотнесения направления на переходах конуса в зависимости от количества пользователей.
В некоторых вариантах осуществления, характеристика зрителя может быть дополнительно указывающей позицию по меньшей мере одного зрителя. Например, процессор 809 просмотра может обнаруживать позицию человека, наиболее удаленную к краю конуса просмотра. Например, изображение может быть захвачено видеокамерой и оценено процессором 809 просмотра для того, чтобы обнаружить лица на изображении. Позиция лица, наиболее удаленного к стороне изображения, затем может быть использована в качестве указания позиции зрителя, наиболее близкой к переходу конуса.
Во многих вариантах осуществления, адаптер 811 может быть выполнен с возможностью увеличения сглаженности функции соотнесения направления, чем дальше позиция зрителя от центра конуса просмотра.
В частности, процессор 809 просмотра может генерировать указание позиции зрителя, которое, в частности, может быть позицией зрителя, наиболее близкой к переходу конуса. Затем адаптер 811 может быть выполнен с возможностью определения указания расстояния от центра конуса просмотра до позиции, и увеличения сглаженности, чем больше данное расстояние.
Таким образом, в некоторых вариантах осуществления, адаптер 811 может быть выполнен с возможностью адаптации функции соотнесения направления, чтобы уменьшать отклонение направления точки просмотра сцены для по меньшей мере некоторых направлений проекции конуса просмотра в ответ на увеличение расстояния между позицией зрителя, указываемой характеристикой зрителя, и центральным углом проекции конуса просмотра, где отклонение направления точки просмотра сцены отражает отклонение от центрального направления точки просмотра сцены конуса.
Адаптер 811 может, например, адаптировать параметр α, чтобы управлять сглаженностью кривой. В частности, значение α может быть увеличено со значения 0,1, когда адаптер 811 определяет, что расстояние до центра близко к нулю, на значение 0,9, когда адаптер 811 определяет, что зритель близок к переходу конуса.
Данный подход может смягчать стерео инверсию и уменьшать размытость ценой 3D эффекта для пользователей по краям конусов просмотра.
В других вариантах осуществления адаптер 811 может быть выполнен с возможностью уменьшения сглаженности функции соотнесения направления, чем дальше позиция зрителя от центра конуса просмотра.
Например, адаптер 811 может адаптировать параметр α, чтобы он был уменьшен со значения 0,9, когда адаптер 811 определяет, что расстояние до центра близко к нулю, до значения 0,1, когда адаптер 811 определяет, что зритель находится далеко от центра. Такой подход будет иметь тенденцию к увеличению предоставления 3D эффекта зрителям к краю конусов просмотра, но за счет увеличенной размытости и увеличенного риска значительной стерео инверсии.
В некоторых вариантах осуществления, адаптер 811 может дополнительно быть выполнен с возможностью адаптации функции соотнесения направления на основании указания перемещения зрителя. Таким образом, процессор 809 просмотра может быть выполнен с возможностью генерирования указания текущего перемещения зрителя. Это, например, может быть достигнуто посредством обнаружения того, насколько и как быстро лица, обнаруженные на изображениях видеокамеры, перемещаются.
В таких вариантах осуществления адаптер 811 может быть выполнен с возможностью увеличения сглаженности функции соотнесения направления в ответ на обнаружение увеличивающегося перемещения зрителя. В частности, адаптер 811 может быть выполнен с возможностью уменьшения отклонения направления точки просмотра сцены для по меньшей мере некоторых направлений проекции конуса просмотра в ответ на характеристику зрителя, указывающую увеличивающееся перемещение зрителя (где отклонение направления точки просмотра сцены отражает отклонение от центрального направления точки просмотра сцены).
Перемещение зрителя может, например, быть величиной перемещения, направлением перемещения, или скоростью перемещения. Например, адаптер 811 может отслеживать зрителей, перемещающихся на изображениях, генерируемых камерой (например, могут быть обнаружены и отслежены лица). В некоторых вариантах осуществления адаптер 811 может просто определять степень перемещения в изображении, такую как, например, среднюю или максимальную скорость перемещения для объекта изображения, соответствующего лицу. Затем он может быть выполнен с возможностью уменьшения степени параллакса (например, посредством увеличения значения α) для увеличивающегося среднего или максимального перемещения поскольку это может увеличить риск того, что зритель воспринимает стерео инверсию. Например, если, скажем, два лица являются неподвижными на изображении, это может отражать сценарий зрителя, при котором два человека сидят и смотрят на дисплей. Вероятность их перемещения относительно низкая и, вследствие этого, может быть предоставлена высокая степень стерео эффекта (α может быть установлено в низкое значение). Тем не менее, если оба лицевые объекты изображения перемещаются быстро на изображении, это вероятно отражает то, что зрители перемещаются в среде зрителя, соответствующей высокому риску того, что зритель перемещается в позицию, где может быть воспринята стерео инверсия. Вследствие этого, когда средняя или максимальная скорость перемещения увеличивается, величина отклонения направления точки просмотра сцены (и/или производной функции соотнесения направления) может быть увеличена для, как правило, концевых интервалов конуса.
Сходным образом, адаптер 811 может, например, быть выполнен с возможностью проведения различия между перемещением в направлении к центру конуса или в направлении к краю конуса. Значение, например, параметра α может быть уменьшено в первом случае и увеличено во втором.
В качестве другого примера, адаптер 811 может учитывать амплитуду перемещения, например, как измеренную посредством расстояния от центра конуса (например, измеренную как разность от объекта изображения до центра захваченного изображения). Чем дальше от центра конуса происходит перемещение, тем более оно может оказывать влияние на адаптацию функции соотнесения направления. В качестве особого примера, отклонение направления точки просмотра сцены может быть уменьшено, если степень перемещения лицевых объектов изображения больше, чем заданное расстояние от центра, т.е. превышает пороговую величину.
В некоторых вариантах осуществления адаптер 811 может быть выполнен с возможностью адаптации функции соотнесения направления, чтобы обеспечивать уменьшенный интервал направлений проекции конуса просмотра, для которого производная функции соотнесения направления имеет тот же самый знак, как и производная функции соотнесения направления для центрального направления проекции конуса просмотра в ответ на характеристику зрителя, указывающую увеличивающееся перемещение зрителя.
В некоторых вариантах осуществления адаптер 811 может быть выполнен с возможностью адаптации функции соотнесения направления, чтобы уменьшать величину производной функции соотнесения направления для, как правило, краевого отношения проекции конуса просмотра в ответ на характеристику зрителя, указывающую увеличивающееся перемещение зрителя.
Как описано ранее, такие адаптации функции соотнесения направления могут в системе на Фиг. 8 быть достигнуты посредством модифицирования параметра α. В частности, адаптер 811 может быть выполнен с возможностью увеличения α для характеристики просмотра, указывающей увеличивающееся перемещение пользователя.
Такой подход может обеспечивать улучшенное восприятие пользователя во многих вариантах осуществления. Действительно, как упомянуто, концепция сглаженных функций соотнесения направления полезна для уменьшения дискомфорта от стерео инверсии и значительной размытости объектов вне экрана рядом с переходами конуса просмотра. Тем не менее, это может быть более преимущественным и важным, когда зрители перемещаются по отношению к дисплею. Полу-статичные пользователи могут получать больше пользы от менее сглаженной формы конуса из-за улучшенного стерео параллакса и уменьшать вероятность стерео инверсии.
Адаптация функции соотнесения направления чтобы обеспечивать более сглаженный конус, когда присутствует высокая степень перемещения зрителя, в частности, обладает преимуществом, так как эффект качания при прохождении мимо дисплея со сглаженным конусом в данном случае имеет тенденцию не вызывать (сильного) дискомфорта, тогда как резкие переходы конуса у менее сглаженного конуса, вероятно, вызывают больший дискомфорт или, по меньшей мере отвлекают.
В некоторых вариантах осуществления адаптер 811 может быть выполнен с возможностью адаптации функции соотнесения направления, чтобы адаптировать изображение отображения, чтобы оно соответствовало стерео изображению, если характеристика зрителя указывает на то, что количество зрителей меньше пороговой величины, и, в частности, если количество зрителей составляет 1.
Таким образом, в некоторых вариантах осуществления, адаптер 811 может переключаться с генерирования относительно большого количества видов на генерирование только двух видов, когда присутствует только один пользователь. Таким образом, адаптер 811 может в данном случае перекачаться на представление стерео изображения.
Адаптер 811 может в данном случае адаптивно переключать работу автостереоскопического дисплея, чтобы предоставлять стерео изображение (стерео-на-нескольких видах). В результате, размытость может быть уменьшена, при этом по-прежнему обеспечивая высокую величину параллакса.
В некоторых вариантах осуществления, адаптер может быть выполнен с возможностью адаптации функции соотнесения направления, чтобы адаптировать изображение отображения, чтобы обеспечивать множество суб-конусов просмотра в каждом конусе просмотра из множества конусов просмотра, если характеристика зрителя указывает на то, что количество зрителей превышает пороговую величину.
При просмотре автостереоскопического дисплея, зрители спереди будут иметь тенденцию к позиционированию себя к центру конуса просмотра. Это часто оставляет только незначительное пространство по ту или иную сторону от центра конуса для пользователей, которые находятся дальше позади. В некоторых вариантах осуществления, адаптер 811 может в данном случае модифицировать функцию соотнесения направления так, что компоновка 501 дисплея в конечном итоге эффективно проецирует множество суб-конусов просмотра в заданном конусе. Пример такой функции соотнесения направления иллюстрируется на Фиг. 16.
В частности, базовая функция f(u) соотнесения/функции формы конуса, как описано ранее, могут быть модифицированы, чтобы содержать несколько версий применяемого соотнесения. Например, если требуется M суб-конусов, это может быть достигнуто посредством модифицирования базовой функции f(u) соотнесения направления в соответствии с:
g: u->f(Mu)
Таким образом, функция соотнесения направления может быть сгенерирована, чтобы содержать множество повторений одной и той же неповторяющейся функции соотнесения направления в каждом конусе просмотра.
Следует иметь в виду, что вышеприведенное описание для ясности описало варианты осуществления изобретения со ссылкой на разные функциональные схемы, блоки и процессоры. Тем не менее, будет очевидно, что любое подходящее распределение функциональности между разными функциональными схемами, блоками или процессорами может быть использовано без отступления от изобретения. Например, функциональность, иллюстрируемая как выполняемая отдельными процессорами или контроллерами, может быть выполнена одним и тем же процессором или контроллерами. Следовательно, ссылки на конкретные функциональные блоки или схемы должны рассматриваться только как ссылки на подходящие средства для обеспечения описанной функциональности, а не указывающие строгую логическую или физическую структуру, или организацию.
Изобретение может быть реализовано в любой подходящей форме, включая аппаратное обеспечение, программное обеспечение, встроенное программное обеспечение или любое их сочетание. Изобретение может опционально быть реализовано по меньшей мере частично в качестве компьютерного программного обеспечения, выполняемого на одном или более процессорах данных и/или цифровых сигнальных процессорах. Элементы и компоненты варианта осуществления изобретения могут быть физически, функционально и логически реализованы любым подходящим образом. Действительно, функциональность может быть реализована в одном блоке, во множестве блоков или как часть других функциональных блоков. Раз так, то изобретение может быть реализовано в одном блоке или может быть физически и функционально распределено между разными блоками, схемами и процессорами.
Несмотря на то, что настоящее изобретение было описано в связи с некоторыми вариантами осуществления, не подразумевается, что оно ограничено конкретной формой, изложенной в данном документе. Наоборот, объем настоящего изобретения ограничивается только сопроводительной формулой изобретения. Дополнительно, несмотря на то, что может показаться, что признак описан в связи с конкретными вариантами осуществления, специалисту в соответствующей области будет понятно, что разнообразные признаки описанных вариантов осуществления могут быть объединены в соответствии с изобретением. В формуле изобретения, понятие «содержащий» не исключает присутствия других элементов или этапов.
Кроме того, несмотря на то, что перечислены индивидуально, множество средств, элементов, схем или этапов способа могут быть реализованы посредством, например, одной схемы, блока или процессора. Дополнительно, несмотря на то, что индивидуальные признаки могут быть включены в разные пункты формулы изобретения, они возможно могут быть преимущественно объединены, и включение в другие пункты формулы изобретения не предполагает, что невозможно и/или не является преимущественным сочетание признаков. Также включение признаков в одну категорию формулы изобретения не предполагает ограничения данной категорией, а наоборот, указывает на то, что признаки в равной степени применимы к другим категориям формулы изобретения при необходимости. Кроме того, очередность признаков в формуле изобретения не предполагает какой-либо конкретной очередности, в которой признаки должны работать и, в частности, очередность индивидуальных этапов в пункте формулы изобретения для способа не предполагает того, что этапы должны выполняться в данной очередности. Наоборот, этапы могут быть выполнены в любой подходящей очередности. В дополнение, ссылки на единственное число не исключают множество. Таким образом формы единственного числа, «первый», «второй» и т.д. не исключают множества. Ссылочные обозначения в формуле изобретения, предоставленные лишь в качестве поясняющего примера, не должны толковаться в качестве ограничивающих объем формулы изобретения каким-либо образом.