МНОГОУРОВНЕВОЕ СЖАТИЕ ВИДЕОИЗОБРАЖЕНИЯ С РАСШИРЕННЫМ ДИНАМИЧЕСКИМ ДИАПАЗОНОМ, ВИЗУАЛЬНЫМ ДИНАМИЧЕСКИМ ДИАПАЗОНОМ И ШИРОКОЙ ЦВЕТОВОЙ ГАММОЙ
MULTILAYER COMPRESSION OF VIDEO WITH EXTENDED DYNAMIC RANGE, VISUAL DYNAMIC RANGE AND WIDE COLOUR GAMMA

ПЕРЕКРЕСТНАЯ ССЫЛКА НА РОДСТВЕННУЮ ЗАЯВКУ
[0001] Данная заявка заявляет приоритет предварительной заявки на патент США №61/159964, поданной 13 марта 2009 г., описание которой ссылкой полностью включается в настоящее описание.
ОБЛАСТЬ ТЕХНИЧЕСКОГО ПРИМЕНЕНИЯ
[0002] Данное раскрытие в целом относится к видеотехнике и, в частности, к кодированию, обработке и/или сжатию видеоизображения.
ПРЕДПОСЫЛКИ ИЗОБРЕТЕНИЯ
[0003] Изображения, отображаемые современными видеодисплеями, такими как CRT-, LCD- и плазменные дисплеи, стремятся к тому, чтобы иметь определенную цветовую гамму и динамический диапазон в пределах области узкого динамического диапазона (LDR).
[0004] Термин «динамический диапазон» для любого изображения может относиться к диапазону характеристик изображения (например, яркости, светимости) или отношению самого сильного критерия, или интенсивности, данной характеристики изображения к самому слабому критерию, или интенсивности, этой характеристики. В некоторых случаях самым слабым критерием характеристики изображения может являться шум. В некоторых случаях характеристикой изображения может являться светимость, цвет, комбинация светимости и цвета или функция светимости и/или цвета.
Динамическим диапазоном также может именоваться соотношение между максимально яркими и максимально тусклыми, но не черными, пикселами на изображении. Это соотношение может мало отличаться от контрастности, которой может именоваться соотношение между самыми яркими и черными (например, выключенными) пикселами. Зрительная система человека способна распознавать до десяти порядков величины полного динамического диапазона, и может содержать одновременно видимый динамическим диапазоном в, около 5-6 порядков величины. Видеодисплеи могут иметь динамический диапазон в 2-3 порядка величины.
[0005] Цветовой гаммой может именоваться пространство всех цветов, которые могут захватываться или отображаться конкретным устройством. Видео- и компьютерные дисплеи могут представлять цвета внутри треугольника, вершины которого представляют собой цветность красного, зеленого и синего первичных цветов на любой из цветовых диаграмм согласно стандарту CIE.
КРАТКОЕ ОПИСАНИЕ ГРАФИЧЕСКИХ МАТЕРИАЛОВ
[0006] ФИГ.1А - диаграмма с примером проведения различий между расширенным динамическим диапазоном (HDR), узким динамическим диапазоном (LDR) и визуальным динамическим диапазоном (VDR).
[0007] ФИГ.1В - диаграмма для этапов изготовления и распространения на примере кинокартины.
[0008] ФИГ.2 - диаграмма примера преобразования координат R'G'B' с гамма-коррекцией в VDR-формат.
[0009] ФИГ.3 - диаграмма примера глобального тонального отображения.
[0010] ФИГ.4 - примеры изображений, иллюстрирующие потерю деталей для высокой и низкой светимости при тональном отображении HDR в LDR.
[0011] ФИГ.5 - пример параметризованного семейства операторов тонального отображения.
[0012] ФИГ.6 - пример совместимого кодека.
[0013] ФИГ.7 - блок-схема примера совместимого кодека.
[0014] ФИГ.8 - пример архитектуры глобального тонального отображения.
[0015] ФИГ.9 - пример архитектуры локального тонального отображения.
[0016] ФИГ.10 - пример параметризованного обратного тонального отображения второго порядка.
[0017] ФИГ.11 - пример обработки остаточного сигнала.
[0018] ФИГ.12А - пример изображения с тонально отображенным HDR.
[0019] ФИГ.12В - пример остаточного изображения, полученного посредством раскрытых технологий.
[0020] ФИГ.13 - пример системы.
[0021] Сходные ссылочные позиции и обозначения на разных иллюстрациях указывают на сходные элементы.
ОПИСАНИЕ ИЛЛЮСТРАТИВНЫХ ВАРИАНТОВ ОСУЩЕСТВЛЕНИЯ ИЗОБРЕТЕНИЯ
[0022] Здесь описываются иллюстративные варианты осуществления изобретения, относящиеся к сжатию видеоизображения и кодированию видеоизображения. В нижеследующем описании для разъяснения излагается множество конкретных подробностей с целью обеспечения исчерпывающего понимания различных вариантов осуществления изобретения. Однако, как станет ясно, эти варианты осуществления изобретения могут быть использованы на практике без этих конкретных подробностей. В других случаях конструкции и устройства показываются в виде блок-схем во избежание не являющегося необходимым затруднения понимания других особенностей. Подробности одного или больше вариантов осуществления изобретения изложены в сопроводительных графических материалах и приведенном ниже описании. Другие особенности, цели и аспекты станут ясны из описания и иллюстраций, а также из формулы изобретения.
ОБЩИЙ ОБЗОР
5
6
[0023] Некоторые варианты осуществления раскрываемых технологий включают способ кодирования видеоизображения. Способ включает генерирование видеокодером кодированного видеопотока, где кодированный видеопоток имеет динамический диапазон в 5-6 порядков величины (10-10) светимости.
[0024] Эти и другие варианты осуществления изобретения могут, необязательно, включать одну или больше из перечисленных ниже особенностей. Генерирование кодированного видеопотока может включать генерирование кодированного видеопотока в формате визуального динамического диапазона (VDR) для видеоизображения, где VDR-формат может охватывать диапазон светимости и визуальную цветовую гамму (VCG), которые зрительная система человека может воспринимать одновременно. VCG может включать все цвета, которые одновременно может воспринимать зрительная система человека, где диапазон светимости может включать динамический диапазон восприятия светимости человеческим глазом, а VCG может включать широкую цветовую гамму (WCG). VDR-формат видеоизображения может содержать 32 бит на пиксел, где 32 бит на пиксел могут включать 12 бит светимости и по 10 бит на каждый цветовой канал.
[0025] В других общих аспектах технология включает способ кодирования видеопотока видеокодером с использованием 32 бит на пиксел, где 32 бит на пиксел включают 12 бит светимости и по 10 бит на каждый цветовой канал.
D
D
2
[0026] Эти и другие варианты осуществления изобретения могут, необязательно, включать одну или больше следующих особенностей. Кодированный видеопоток может включать данные для видеоизображения, имеющего визуальный динамический диапазон (VDR). Динамический диапазон VDR может составлять 5-6 порядков величины светимости. Динамический диапазон VDR может включать динамический диапазон восприятия светимости человеческим глазом. VDR может конфигурироваться для форматов видеоизображения, включая форматы захвата, распространения и потребления, или широкой цветовой гаммы (WCG). VDR может быть представлен в цветовых координатах XYZ согласно стандарту CIE, координатах гамма-кодирования, логарифмического кодирования, или менее чем единицей едва заметного различия (JND). Способ может включать вычисление логарифмической светимости L с фиксированной точкой из физической светимости Y в кд/м с использованием параметра S масштаба и параметра В смещения. Согласно способу, вычисление логарифмической светимости L с фиксированной точкой может включать вычисление
D
2
L=[S(logY+B)]
и
2
Способ может включать использование параметра В смещения для определения диапазона полной светимости в кд/м. Способ может включать определение динамического диапазона DR с использованием параметра S масштаба и количества бит N. Определение динамического диапазона DR может включать определение
D
D
D
Способ может включать вычисление координат (u', v') для цветовых каналов путем определения проективного преобразования на цветовых координатах XYZ. Способ может включать преобразование координат R'G'B' с гамма-коррекцией в VDR. Процесс преобразования координат R'G'B' с гамма-коррекцией может включать: конверсию координат R'G'B' с гамма-коррекцией для генерирования координат RGB путем отмены гамма-коррекции; выполнение матричного преобразования на координатах RGB для генерирования цветовых координат XYZ; конверсию цветовой координаты Y в логарифмическую светимость L с фиксированной точкой с использованием логарифмической функции и первичного квантования; и конверсию цветовых координат Х и Z в цветовые координаты u' и v' путем проективного преобразования и вторичного квантования. Способ может включать выбор динамического диапазона на основе диапазона светимости и цветов, которые зрительная система человека может распознавать одновременно. Кодированный видеопоток может включать данные для видеоизображения, имеющего визуальный динамический диапазон (VDR), в котором динамический диапазон VDR-видеоизображения имеет 5-6 порядков величины светимости.
[0027] В других аспектах технология включает способ сжатия видеоизображения с визуальным динамическим диапазоном (VDR). Способ включает прием многоуровневым кодеком битового потока с узким динамическим диапазоном (LDR) и битового потока VDR, где многоуровневый кодек включает, по меньшей мере, один кодер, первый декодер и второй декодер. Способ включает обработку битового потока LDR в базовом слое, где обработка битового потока LDR включает, по меньшей мере, одну операцию в первом декодере. Способ включает обработку битового потока VDR в слое расширения, где обработка битового потока VDR включает, по меньшей мере, одну операцию во втором декодере, и битовый поток VDR включает информацию, которая игнорируется первым декодером.
[0028] Эти и другие варианты осуществления изобретения могут, необязательно, включать одну или больше из нижеследующих особенностей. VDR-видеоизображение может представлять собой видеоизображение 32 бит на пиксел, где 32 бит на пиксел могут включать 12 бит светимости и по 10 бит на каждый из двух цветовых каналов. Динамический диапазон VDR-видеоизображения может содержать 5-6 порядков величины светимости, где динамический диапазон VDR-видеоизображения больше, чем динамический диапазон LDR-видеоизображения, и где динамический диапазон VDR-видеоизображения меньше, чем динамический диапазон видеоизображения с расширенным динамическим диапазоном (HDR). Многоуровневый кодек может включать тип кодера, который совместим с форматом Н.264 или форматом AVC. Кодек может представлять собой кодек без дрейфа. Способ может включать вставку в битовый поток VDR данных для одной или больше деталей оригинального изображения, которые были потеряны в результате создания битового потока LDR из оригинального изображения.
[0029] Способ может включать применение к данным с узким динамическим диапазоном по меньшей мере одной операции деконтурирования, обратного тонального отображения деконтурированных данных с узким динамическим диапазоном, генерирующего остаточный сигнал посредством данных с расширенным динамическим диапазоном или данных с визуальным динамическим диапазоном, и обработку этого остаточного сигнала. Остаточный сигнал может включать разность между изображением с расширенным динамическим диапазоном и предсказанием на основе изображения с узким динамическим диапазоном, или разность между изображением с визуальным динамическим диапазоном и предсказанием на основе изображения с узким динамическим диапазоном.
[0030] В других аспектах технология включает способ кодирования и декодирования в кодеке. Способ включает генерирование сжатого битового потока в кодере кодека, где генерирование сжатого битового потока включает: прием кодером входного потока изображения с узким динамическим диапазоном (LDR); кодирование и декодирование входного потока LDR-изображения для получения первого внутреннего битового потока LDR и декодированного потока LDR-изображения; и преобразование декодированного потока LDR-изображения в пространство визуального динамического диапазона (VDR) с использованием блока преобразования внутри кодера.
D
D
D
[0031] Эти и другие варианты осуществления изобретения могут, необязательно, включать одну или больше нижеследующих особенностей. Сжатый битовый поток может включать информацию с узким динамическим диапазоном (LDR) в базовом слое сжатого битового потока и информацию с визуальным динамическим диапазоном (VDR) - в слое расширения сжатого битового потока. VDR-видеоизображение может включать 32 бит на пиксел, где 32 бит на пиксел могут включать 12 бит светимости и по 10 бит на каждый из двух цветовых каналов. Динамический диапазон VDR-видеоизображения может включать 5-6 порядков величины светимости. Динамический диапазон VDR-видеоизображения может быть больше, чем динамический диапазон LDR-видеоизображения, и динамический диапазон VDR-видеоизображения может быть меньше, чем динамический диапазон видеоизображения с расширенным динамическим диапазоном (HDR). Преобразование может включать генерирование логарифмической светимости L с фиксированной точкой и цветовых координат (u', v'). Генерирование сжатого битового потока в кодере также может включать подавление артефактов квантования в преобразованном LDR посредством блока деконтурирования для получения первого деконтурированного битового потока LDR. Преобразование декодированного потока LDR-изображения в пространство визуального динамического диапазона (VDR) с использованием блока преобразования в кодере может включать: выполнение анализа тонального отображения (ТМ) на первом деконтурированном битовом потоке LDR для генерирования параметров тонального отображения; выполнение обратного тонального отображения (ITM) на первом деконтурированном битовом потоке LDR; и генерирование остаточного сигнала, который зависит от результата обратного тонального отображения входного битового потока с визуальным динамическим диапазоном (VDR). Способ также может включать: обработку остаточного сигнала; кодирование обработанного остаточного сигнала; получение первого остаточного битового потока; прием блоком форматтера первого остаточного битового потока, первого внутреннего битового потока LDR и параметров тонального отображения; и получение на выходе кодера сжатого битового потока. Способ может включать кодирование параметров тонального отображения в блоке кодирования тонального отображения. Способ может включать генерирование выходного битового потока VDR в декодере кодека, который декодирует сжатый битовый поток. Генерирование декодером выходного битового потока VDR может включать: прием декодером сжатого битового потока; синтаксический анализ сжатого битового потока во второй битовый поток LDR, битовый поток тонального отображения и второй внутренний остаточный битовый поток; декодирование второго внутреннего битового потока LDR; и преобразование декодированного второго внутреннего битового потока LDR в пространство визуального динамического диапазона (VDR) в декодере путем использования блока преобразования внутри декодера. Генерирование декодером выходного битового потока VDR может включать: подавление артефактов квантования в преобразованном декодированном втором битовом потоке LDR посредством блока деконтурирования для получения второго деконтурированного битового потока LDR; выполнение анализа обратного тонального отображения на втором деконтурированном битовом потоке LDR и битовом потоке тонального отображения; декодирование и обработку второго остаточного битового потока; и генерирование декодером выходного битового потока, который зависит от декодированного и обработанного второго остаточного битового потока и от результата анализа обратного тонального отображения. Анализ обратного тонального отображения может включать вычисления с использованием параметров тонального отображения. Любое тональное отображение, или обратное тональное отображение, выполняемое в кодеке, может включать функцию параметризованного оператора глобального тонального отображения, функцию параметризованного оператора локального тонального отображения, функцию параметризованного оператора обратного глобального тонального отображения или функцию параметризованного оператора обратного локального тонального отображения. Любой параметризованный оператор локального тонального отображения или параметризованный оператор обратного локального тонального отображения может включать функцию с множеством кривых второго порядка. Остаточный сигнал может включать размер, который приводит к невидимому остаточному изображению. Генерирование в кодере сжатого битового потока также может включать: понижающую дискретизацию остаточного сигнала; и сжатие подвергнутого понижающей дискретизации остаточного сигнала. Кодек может представлять собой кодек без дрейфа. VDR-видеоизображение может включать динамический диапазон с диапазоном в 5-6 порядков величины светимости видеоизображения.
[0032] В другом аспекте технология включает способ обработки видеоизображения, который включает, в устройстве кодирования видеоизображения, декодирование первого видеопотока, имеющего первый динамический диапазон, для получения первого декодированного потока. Способ включает применение оператора обратного тонального отображения к декодированному первому потоку для предсказания второго видеопотока, где второй видеопоток имеет второй динамический диапазон более широкий, чем первый динамический диапазон, и получение из второго видеопотока выходного видеопотока.
[0033] Эти и другие варианты осуществления изобретения могут, необязательно, включать одну или больше следующих особенностей. Первый динамический диапазон может представлять собой видеоизображение с узким динамическим диапазоном (LDR), второй динамический диапазон может представлять собой видеоизображение с визуальным динамическим диапазоном (VDR). Оператор обратного тонального отображения может включать оператор глобального тонального отображения. Обратное глобальное тональное отображение может включать преобразование LDR-светимости в VDR-светимость, которое включает общее преобразование для множества пикселов видеоданных изображения. Способ может включать вычисление вектора параметров для обратного глобального тонального отображения. Вычисление вектора параметров может включать вычисление оценки методом наименьших квадратов или оценки метрики погрешности для подбора полиномиальной функции. Оператор обратного тонального отображения может являться монотонным. Оператор обратного тонального отображения может включать оператор обратного локального тонального отображения, где оператор обратного локального тонального отображения может включать преобразование, включающее отображение LDR-светимости в VDR-светимость, и это преобразование может быть варьируемым для множества пикселов видеоданных изображения. Оператор обратного локального тонального отображения может включать параметры для локальных изменений. Оператор обратного локального тонального отображения может включать функцию, которая содержит множество кривых второго порядка. Оператор обратного локального тонального отображения может включать параметры, которые соответствуют операциям увеличения контрастности или уменьшения контрастности, или сходны с этими операциями. Динамический диапазон VDR-видеоизображения может составлять 5-6 порядков величины светимости, а динамический диапазон LDR может составлять 2-3 порядка величины светимости. Динамический диапазон VDR-видеоизображения меньше, чем динамический диапазон видеоизображения с расширенным динамическим диапазоном (HDR). Динамический диапазон видеоизображения с расширенным динамическим диапазоном (HDR) может составлять 10-14 порядков величины светимости. Способ может включать вычисление остаточного сигнала, где остаточный сигнал может представлять собой разность между изображением с расширенным динамическим диапазоном и предсказанием на основе изображения с узким динамическим диапазоном, или разность между изображением с визуальным динамическим диапазоном и предсказанием на основе изображения с узким динамическим диапазоном. Размер остаточного сигнала может быть нулевым, и тогда изображение, получаемое из остаточного сигнала, представляет собой невидимое изображение. Размер остаточного сигнала может быть приблизительно нулевым, и тогда изображение, получаемое из остаточного сигнала, представляет собой невидимое изображение или в значительной степени невидимое изображение. Способ может включать операции с данными VDR-видеоизображения в слое расширения и операции с данными LDR-видеоизображения в базовом слое.
[0034] В другом аспекте технология включает способ предсказания динамического диапазона видеоизображения. Способ включает, посредством устройства обработки видеоизображения, предсказание первого динамического диапазона видеоизображения путем применения оператора обратного глобального тонального отображения к изображению, включающему второй динамический диапазон, или предсказание третьего динамического диапазона видеоизображения путем применения оператора обратного глобального тонального отображения к изображению, включающему второй динамический диапазон. Способ включает получение выходного видеоизображения, включающего первый динамический диапазон и третий динамический диапазон.
[0035] Эти и другие варианты осуществления изобретения могут, необязательно, включать одну или больше следующих особенностей. Первый динамический диапазон видеоизображения может представлять собой расширенный динамический диапазон (HDR), второй динамический диапазон видеоизображения может представлять собой узкий динамический диапазон (LDR), и третий динамический диапазон видеоизображения может представлять собой визуальный динамический диапазон (VDR). Динамический диапазон HDR-видеоизображения может составлять 10-14 порядков величины светимости, динамический диапазон VDR-видеоизображения может составлять 5-6 порядков величины светимости, и динамический диапазон LDR-видеоизображения может составлять 2-3 порядка величины светимости. Обратное глобальное тональное отображение может представлять собой преобразование LDR-светимости в HDR-светимость, которое может включать общее преобразование для множества пикселов изображения. Способ может включать вычисление вектора параметров для обратного глобального тонального отображения, где вычисление вектора параметров может включать вычисление оценки методом наименьших квадратов или оценки метрики погрешности для подбора полиномиальной функции. Оператор обратного тонального отображения может включать оператор обратного локального тонального отображения, где оператор обратного локального тонального отображения может содержать преобразование, включающее отображение LDR-светимости в HDR-светимость. Преобразование может быть варьируемым для множества пикселов изображения. Способ может включать определение параметра для каждого из этих пикселов. Способ может включать генерирование изображения параметров с использованием параметров для каждого пиксела. Оператор обратного локального тонального отображения может включать параметры для локальных изменений. Оператор обратного локального тонального отображения может включать параметризованный оператор обратного локального тонального отображения, включающий, по меньшей мере, одну функцию, содержащую множество кривых второго порядка. Оператор обратного локального тонального отображения, или оператор обратного глобального тонального отображения, может включать параметры, соответствующие операциям увеличения контрастности или уменьшения контрастности или сходные с этими операциями. Способ может включать получение остаточного сигнала, где остаточный сигнал может представлять собой разность между изображением с расширенным динамическим диапазоном и предсказанием на основе изображения с узким динамическим диапазоном, или разность между изображением с визуальным динамическим диапазоном и предсказанием на основе изображения с узким динамическим диапазоном. Размер остаточного сигнала может быть нулевым, и тогда изображение, получаемое из остаточного сигнала, представляет собой невидимое изображение. Размер остаточного сигнала может быть приблизительно нулевым, и тогда изображение, получаемое из остаточного сигнала, представляет собой невидимое изображение или в значительной степени невидимое изображение. Оператор тонального отображения, соответствующий оператору обратного локального тонального отображения, или оператору обратного глобального тонального отображения, может являться монотонным, и оператор обратного локального тонального отображения, или оператор обратного глобального тонального отображения, может являться параметризованным. Третий динамический диапазон видеоизображения может представлять собой визуальный динамический диапазон (VDR) видеоизображения, где динамический диапазон VDR-видеоизображения может составлять 5-6 порядков величины светимости.
[0036] В других аспектах технология включает способ выполнения остаточной обработки видеоданных в кодеке, который включает кодер и декодер. Посредством кодера, способ включает фильтрацию нижних частот входного остаточного сигнала, понижающую дискретизацию фильтрованного остаточного сигнала, кодирование подвергнутого понижающей дискретизации остаточного сигнала и получение выходного остаточного битового потока. Посредством декодера, способ включает декодирование выходного остаточного битового потока, повышающую дискретизацию декодированного остаточного битового потока, реконструкцию частотного диапазона в подвергнутом повышающей дискретизации остаточном битовом потоке и получение выходного остаточного сигнала.
[0037] Эти и другие варианты осуществления изобретения могут, необязательно, включать одну или больше следующих особенностей. Видеоданные могут включать VDR-видеоизображение, где VDR-видеоизображение может содержать 32 бит на пиксел, и 32 бит на пиксел могут включать 12 бит светимости и по 10 бит на каждый из двух цветовых каналов. Динамический диапазон VDR-видеоизображения может составлять 5-6 порядков величины светимости, где динамический диапазон VDR-видеоизображения больше, чем динамический диапазон LDR-видеоизображения, и динамический диапазон VDR-видеоизображения меньше, чем динамический диапазон видеоизображения с расширенным динамическим диапазоном (HDR). Способ может включать прием входного остаточного сигнала или передачу выходного остаточного сигнала внутри слоя расширения битового видеопотока. Кодек может являться кодеком без дрейфа. Остаточный сигнал может быть результатом действия параметризованного оператора обратного тонального отображения. Параметризованный оператор обратного тонального отображения может включать первый нелинейный участок высокой светимости, второй нелинейный участок низкой светимости и линейный участок между первым и вторым нелинейными участками.
[0038] Любой из способов и технологий, описанных в данном описании, также может реализовываться в системе из одного или больше компонентов, в аппарате или устройстве, машине, компьютерном программном продукте, программном обеспечении, аппаратном обеспечении или в любой их комбинации. Например, компьютерный программный продукт может кодироваться на машиночитаемом носителе и может включать машинные команды, приводящие к выполнению устройством обработки данных (например, процессором данных) одной или больше операций для любого из описанных в данном описании способов.
[0039] Технологии с менее видимыми остаточными изображениями могут представлять собой технологии с более высокой эффективностью кодирования и сжатия. Для иллюстрации того, как эти технологии могут реализовываться, будет проиллюстрировано и описано несколько иллюстративных вариантов осуществления изобретения.
РАСШИРЕННЫЙ ДИНАМИЧЕСКИЙ ДИАПАЗОН (HDR), УЗКИЙ ДИНАМИЧЕСКИЙ ДИАПАЗОН (LDR) И ВИЗУАЛЬНЫЙ ДИНАМИЧЕСКИЙ ДИАПАЗОН (VDR)
[0040] Различные способы, которые используются для захвата, отображения и представления изображений и видеоизображений, могут иметь различные динамические диапазоны. Например, фотографические негативы могут иметь относительно широкий динамический диапазон по сравнению с динамическим диапазоном фотографических снимков. Сходным образом, телевизионные и компьютерные мониторы могут иметь относительно узкий динамический диапазон по сравнению с фотографическими негативами. Формирование изображений с расширенным динамическим диапазоном может обеспечить улучшенное качество изображений и точность передачи информации.
[0041] Изображения с расширенным динамическим диапазоном (HDR) (например, изображения, «направленные на объекты съемки») стремятся к тому, чтобы вместить весь динамический диапазон, имеющийся в оригинальном объекте съемки. С другой стороны, изображения с узким динамическим диапазоном (LDR) (например, изображения, «направленные на вывод», или изображения, «направленные на демонстрацию») имеют значительно менее широкий динамический диапазон и могут показываться, например, на 8-битных дисплеях (например, на LDR-дисплеях).
[0042] Существует большое количество приложений, в особенности сжатия, для распространения и демонстрации, которые в наибольшей степени пригодны для динамического диапазона, находящегося между HDR и LDR. Эти приложения могут использовать визуальный динамический диапазон (VDR). VDR может охватывать светимость и цвет, которые зрительная система человека может воспринимать одновременно. VDR-системы могут включать системы формирования изображений, которые функционируют в видимых пределах восприятия зрительной системы человека и, в некоторых случаях, могут охватывать всю светимость и цвета, которые зрительная система человека может воспринимать одновременно. VDR может представлять собой идеальный целевой динамический диапазон для распространения и потребления движущихся изображений.
[0043] На ФИГ.1А изображена диаграмма с примером проведения различий между динамическими диапазонами для расширенного динамического диапазона (HDR) 103, узкого динамического диапазона (LDR) 101 и визуального динамического диапазона (VDR) 102. Диаграмма на ФИГ.1А сопоставляет диапазоны 100, включающие полный диапазон видимой светимости (например, HDR), с диапазоном светимости, которая является видимой одновременно, и диапазоном 8-битного дисплея с гамма-отображением (например, LDR). Одновременно видимый динамический диапазон может представлять собой динамический диапазон для VDR. Динамический диапазон для VDR может быть меньше, чем динамический диапазон для HDR, но больше, чем динамический диапазон для LDR. В некоторых случаях, VDR может иметь диапазон HDR за вычетом диапазона, связанного с адаптацией.
5
[0044] Количественно динамический диапазон HDR может составлять, приблизительно, 10-14 порядков величины, динамический диапазон VDR может составлять, приблизительно, 5-6 порядков величины и динамический диапазон LDR может составлять, приблизительно, 2-3 порядка величины. Человеческий глаз обычно может воспринимать динамический диапазон светимости, приблизительно около 5 порядков величины (10), что сходно с VDR-диапазоном. HDR может иметь динамический диапазон за пределами того, который человеческий глаз способен воспринимать одномоментно.
[0045] Требования к динамическому диапазону для форматов захвата, распространения и потребления могут варьироваться между HDR и VDR. Формирование HDR-изображений может включать захват и отображение изображений с полным динамическим диапазоном и цветовым спектром, которые являются видимыми для человеческого глаза. Главным образом, HDR может представлять собой формат захвата. VDR, помимо того, что он является потенциальным форматом захвата, также может быть пригоден для форматов распространения и потребления. Например, VDR-формат может допускать сжатие и широкое распространение изображений с расширенным динамическим диапазоном как через широковещательную сеть (например, беспроводную, кабельную и спутниковую), упакованные носители (например, диски DVD, Blu-Ray, другие носители данных), так и/или посредством загрузок через Интернет. VDR-формат также позволяет беспрепятственно осуществлять перевод изображений с расширенным динамическим диапазоном и широкой цветовой гаммой в текущие и перспективные дисплеи и их форматы изображений.
[0046] Некоторые варианты осуществления сжатия, связанные с VDR, могут включать совместимое сжатие. Совместимое сжатие может включать создание сжатого цифрового потока, который проявляется как действующий для существующих устройств форматы MPEG-2 или MPEG-4/AVC (Н.264) (например, проявляется как действующий формат типа MPEG), а также несет информацию для получения изображений с расширенным динамическим диапазоном и широкой цветовой гаммой на устройствах, обладающих такой способностью. Сжатие может включать все, что зрительная система человека могла бы воспринимать, и, в некоторых вариантах осуществления изобретения, может представлять собой последний переход, требуемый в отношении динамического диапазона и возможных цветов, для достижения этих результатов.
[0047] На ФИГ.1В изображена диаграмма этапов 105 производства и распространения на примере кинокартины. На этапе 106 производства данных HDR-изображения оригинальный объект съемки захватывается цифровой HDR-камерой 120 или пленочной камерой, а затем подвергается цифровому сканированию 130. Реальный захват событий в реальном времени может комбинироваться с компьютерной анимацией (CGI) 140 в процессе завершающего этапа обработки. Реальный захват и завершающий этап обработки могут происходить в области HDR. После окончания завершающего этапа обработки выходной сигнал может быть полностью представлен как поток 160 VDR-изображения, из которого может быть получен поток 165 LDR-изображения. На этапе 108 распространения поток 160 VDR-изображения, или поток 165 LDR-изображения, может распространяться по цифровым кинотеатрам 170, на цифровых носителях, таких как оптические диски 180, или через широковещательные сети 190 (например, через широковещательные сети с беспроводной доставкой или доставкой через Интернет).
[0048] Любой динамический диапазон за переделами VDR может быть невидимым без дополнительной обработки (например, тонального отображения). VDR может включать динамический диапазон отклика сетчатки человеческого глаза. VDR может предусматривать разумный целевой динамический диапазон для дисплеев.
[0049] VDR может включать полную цветовую гамму. VDR может рассматриваться как формат широкой цветовой гаммы (WCG). В некоторых вариантах осуществления изобретения WCG-формат можно рассматривать как цветовую гамму, которая является более широкой, чем цветовой стандарт цифрового телевидения, который может в значительной мере соответствовать стандарту рекомендации 709 Международного союза телекоммуникаций (ITU Rec. 709). В одном из примеров VDR, VDR может отбражаться чрезвычайно эффективно: почти до ¼JND (едва заметного различия) по светимости и цвету при 32 бит на пиксел. VDR может использовать 32 бит на пиксел для того, чтобы вместить 12 бит светимости и по 10 бит на каждый из двух цветовых каналов. Количество бит, используемое для светимости, должно быть больше количества бит, используемого для каждого из цветовых каналов, поскольку человеческий глаз может быть более чувствителен к восприятию светимости, чем к восприятию цвета. 32 бит на пиксел может быть применимо в компьютерах для обработки и передачи информации (например, в 32- и 64-битных машинах). В отношении эффективности количество бит на пиксел для VDR может быть меньше, чем количество бит, используемое в цифровой кинематографии, где может использоваться 36 бит на пиксел.
[0050] В некоторых вариантах осуществления изобретения данные VDR могут отображаться посредством цветовых координат XYZ согласно стандарту CIE (например, координат в цветовом пространстве (XYZ), которые могут представлять элементарные стимулы в трехкомпонентной аддитивной цветовой модели, которая совпадает с образцом цвета), преобразовываемых в область, которая до квантования в цифровые значения довольно однородна для восприятия. Процесс преобразования может начинаться с координат R'G'B' с гамма-коррекцией, где координаты R'G'B' могут в первую очередь преобразовываться в область линейного света, RGB, путем обращения/отмены гамма-коррекции. Результирующие RGB-координаты могут преобразовываться в цветовые координаты XYZ путем матричного преобразования. Преобразования, применяемые к AYZ-координатам, могут представлять собой параметризованное обобщение формата кодирования LogLuv. XYZ-координаты могут преобразовываться в представление светимости log(Y) с координатами (u',v') для цвета. Данные логарифмической светимости могут быть однородными для восприятия на высоких уровнях адаптации, в то время как гамма-кодированная светимость может быть почти однородной для восприятия на низких уровнях адаптации. Соответственно, гамма-кодирование может быть более эффективным для темного окружения, как, например, в театрах. Однако для диапазона светимости в большинстве приложений логарифмическое кодирование способно обеспечить лучшие результаты, чем гамма-кодирование. И хотя логарифмическое кодирование на низких уровнях освещенности может не являться более эффективным, чем гамма-кодирование, это компенсируется способностью логарифмического кодирования позволять увеличивать или уменьшать полную яркость изображения без внесения полосатость (например, различимых ступеней в плавном градиенте), которая может возникать при использовании гамма-кодированных изображений. В некоторых вариантах осуществления изобретения способность логарифмического кодирования позволять увеличивать или уменьшать полную яркость изображения может быть важной для управления отображением в различных условиях просмотра.
D
2
Для VDR логарифмическая светимость L с фиксированной точкой может быть вычислена из физической светимости Y в кд/м с использованием параметра S масштаба и смещения В, что выражается уравнениями 1 и 2:
[0051] В уравнении 2, связывающем нулевое цифровое значение с нулевой светимостью, результат может быть сходным с результатом кодирования LogLuv. Параметр S масштаба может определять относительное разрешение для светимости, что выражается уравнением 3:
[0052] В одном из вариантов осуществления изобретения, если S=256 - масштабный коэффициент, используемый в LogLuv, то разрешение составляет 0,27%, что является близким к традиционному 1% JND. Количество бит N для логарифмической светимости наряду с параметром S масштаба может определять динамический диапазон DR:
[0053] Если S=256, то результирующий динамический диапазон зависит от количества бит N светимости, как и в иллюстративных динамических диапазонах в таблице 1.
Таблица 1
N
DR@ S=256(-1/4 JND)
14
1,8×10<sup>19</sup>
13
4,3×10<sup>9</sup>
12
6,5×10<sup>4</sup>
6
6
[0054] Масштабный коэффициент S может позволять настраивать данный формат для его соответствия различным требованиям. Например, может быть выдвинуто требование динамического диапазона 10. При уменьшении S от 256 до 205, динамический диапазон для N=12 становится равным 1,03×10 с разрешением 0,33%, или, приблизительно, 1/3JND.
2
min
max
[0055] Параметр В смещения может использоваться для определения диапазона полной светимости в кд/м. Например, если N=12, S=256 и B=6, то минимальная светимость Y и максимальная светимость Y будут равны, соответственно, 0,0157 и 1022,6.
D
min
L=1 ⇒ Y=0,0157
D
max
N
L=2-1 ⇒ Y=1022,6
min
min
-B
[0056] Поскольку 1,5/S может быть малым значением, аппроксимацией Y минимальной светимости может являться Y≅2.
[0057] Цветовая часть VDR может использовать координаты (u',v'), определяемые при помощи проективного преобразования (например, преобразования, используемого в проективной геометрии) на цветовых координатах XYZ:
где обратное преобразование может быть выражено как
[0058] Представление цвета с фиксированной точкой, использующее Мбит, где M≥8, может быть выражено как
[0059] Коэффициент 410 в уравнении 7 может использоваться для отображения диапазона (u', v'), который может, приблизительно, составлять [0, 0,62], в [0, 255] и может в полном объеме использовать целочисленный диапазон 8 бит. При 8 бит на каждый компонент цветовое разрешение не превышает единицу JND.
D
D
D
[0060] На ФИГ.2 изображена диаграмма примера преобразований 200 из координат 205 R'G'B' с гамма-коррекцией в VDR-формат. В изображенном примере преобразования 200 используются для конверсии координат 205 R'G'B' с гамма-коррекцией в цветовые координаты 225 XYZ, а затем в координаты в VDR-формате. Координаты 205 R'G'B' с гамма-коррекцией в первую очередь преобразовываются в линейный свет, генерируя координаты RGB 215, путем отмены/обращения гамма-коррекции (210). Матричное преобразование (220) выполняется на RGB-координатах 215, генерируя цветовые координаты 225 XYZ. Цветовая координата У преобразовывается в логарифмическую светимость L 235 с фиксированной точкой с использованием логарифмической функции и квантования (230). Цвет в цветовых координатах XYZ преобразовывается в координаты u' 245 и v' 255 с использованием проективного преобразования и квантования (240).
D
D
D
[0061] В одном из примеров, где N=12 для L, и М=10 для координат (u', v') при 32 бит на пиксел, полный диапазон VDR может быть охвачен, приблизительно, при 1/4-1/3 JND. HDR-формат достигается с двумя дополнительными битами логарифмической светимости.
[0062] Эффективность представления VDR может являться результатом более полного разделения светимости и цвета, чем в разделение в пространствах XYZ или YCrCb. Координаты Cr (например, синий минус яркость, (B-Y)) и Cb (например, красный минус яркость, (R-Y)), а также цветовые координаты Х и Z могут коррелироваться с яркостью и требовать столько же бит для отображения, сколько требует HDR.
[0063] Один или больше из приведенных ниже вариантов осуществления изобретения могут быть применимы к HDR- и/или VDR-системам даже в том случае, когда в примере упоминается только одна из систем, HDR или VDR. Например, термин «VDR/HDR» может обозначать то, что содержимое с расширенным динамическим диапазоном может представлять собой как VDR, так и HDR. В некоторых вариантах осуществления изобретения при кодировании HDR-видеоизображения, или VDR-видеоизображения, может использоваться информация, полученная из LDR-видеоизображения. Например, изображение с расширенным динамическим диапазоном может быть предсказано на основе изображения с узким динамическим диапазоном. В некоторых случаях, остаточный сигнал (например, разность между предсказанным изображением с расширенным динамическим диапазоном и изображением с узким динамическим диапазоном) может быть значительно уменьшен, что приводит к увеличению эффективности кодирования.
ТОНАЛЬНОЕ ОТОБРАЖЕНИЕ: УМЕНЬШЕНИЕ ДИНАМИЧЕСКОГО ДИАПАЗОНА HDR И VDR
D
D
D
[0064] «Тональное отображение» может влечь за собой отображение одного набора цветов в другой набор цветов, и может использоваться для уменьшения динамического диапазона HDR- и VDR-изображений. В некоторых случаях тональное отображение может уменьшать динамический диапазон светимости, но оставляет неизменной цветность каждого пиксела. В этих ситуациях тональное отображение может модифицировать L, но оставляет неизменными (u', v').
[0065] Существует, по меньшей мере, два типа операторов тонального отображения: операторы глобального тонального отображения и операторы локального тонального отображения. Глобальное тональное отображение может относиться к преобразованию, которое включает одно и то же преобразование для всех пикселов. Глобальное тональное отображение может включать преобразование из HDR- или VDR-светимости в LDR-светимость. Локальное тональное отображение может содержать преобразование, которое включает преобразование, способное варьироваться для разных пикселов. Локальное тональное отображение также может содержать преобразование из HDR- или VDR-светимости в LDR-светимость. Глобальное тональное отображение, локальное тональное отображение или их комбинация может использоваться для отображения HDR- или VDR-светимости в VDR-светимость.
[0066] Например, в одном из вариантов осуществления глобального тонального отображения все пикселы HDR-типа (или VDR-типа) с определенным значением светимости, например, L1, могут отображаться в такую же светимость, например, L2. В другом примере, в одном из вариантов осуществления локального тонального отображения светимость для указанных пикселов HDR-типа (или VDR-типа) может иметь значение светимости L1, однако отображенные LDR-светимости не являются такими же (например, не все отображенные LDR-светимости могут иметь значение светимости L2).
[0067] Операторы глобального тонального отображения могут быть более упрощенными, чем операторы локального тонального отображения. В глобальном тональном отображении, например, может иметься одна общая функция для всех пикселов, которая отображает HDR- или VDR-светимость в LDR-светимость:
где TM[] - функция, реализующая взаимно однозначное отображение. Оператор глобального тонального отображения может иметь «S»-образную форму.
HDR
LDR
[0068] На ФИГ.3 изображена диаграмма примера глобального тонального отображения 300. Кривая 320 оператора глобального тонального отображения нанесена на график зависимости log(Y) 310 от log(V) 305. Кривая 320 оператора глобального тонального отображения в целом имеет «S»-образную форму. Кривую оператора глобального тонального отображения можно сопоставить с единичной формой 315 (например, прямолинейной, наклонной линией; линейной). Кривая 320 оператора глобального тонального отображения также имеет три участка: линейный, или близкий к линейному, участок 335 для светимости, полностью находящейся в пределах динамического диапазона LDR, и участки 325, 345 - для нелинейных преобразований, соответственно, при очень высокой и очень низкой светимостях. Тональное изображение, показанное на ФИГ.3, представляет собой пример и может чрезмерно упрощать некоторые практически используемые (например, в реальном мире) операторы тонального отображения, по меньшей мере, потому что некоторые из практически используемых операторов тонального отображения могут несколько отличаться от строго линейного преобразования вблизи значений светимости в среднем диапазоне.
[0069] На участке 325 высокие значения светимости отклоняются от единичного наклона 315 в сторону уменьшения, в то время как на участке 345 низкие значения светимости отклоняются от единичного наклона 315 в сторону увеличения. Отклонения оператора 320 тонального отражения от единичного наклона 315 могут вносить вклад в уменьшение полного динамического диапазона. В результате сжатие на нелинейных участках светимости, на участках 325, 345, может устранять детали в светлых и/или темных областях. Например, когда LDR-изображение, полученное в результате тонального отображения, квантуется 8 битами, сжатие на краях светимости может устранять детали в очень ярких и очень темных областях.
[0070] На ФИГ.4 изображены примеры изображений 400, предназначенные для иллюстрации потерь деталей для высокой и низкой светимости при тональном отображении HDR в LDR. Каждая строка содержит тонально отображенное LDR-изображение 410, масштабированную версию этого LDR-изображения 420, HDR-изображение 430, масштабированное для приблизительного соответствия масштабированному LDR-изображению 420, и масштабный коэффициент, использованный для масштабирования LDR-изображения 410 в масштабированное LDR-изображение 420. Первая строка 450 используется для иллюстрации потери деталей при высокой светимости, вторая строка 460 используется для иллюстрации потери деталей при низкой светимости. В первой строке 450 на LDR-изображении 452 показана относительно яркая часть изображения. Когда масштаб изображения 452 понижается до 1/10, давая изображение 454, яркое небо содержит меньше деталей. Однако когда HDR-версия 430 масштабируется до приблизительного совпадения с масштабированной LDR-версией 420, как показано ссылочной позицией 456, детали в облаках остаются видимыми. Таким образом, первая строка 450 показывает, что детали в яркой области изображения могут теряться при тональном отображении.
[0071] И наоборот, вторая строка 460 показывает потерю деталей при низкой светимости. LDR-изображение 462 показывает относительно тусклую область изображения лодки и толпу людей на берегу. Когда LDR-изображение 462 масштабируется в 14 раз, получается изображение 464, на котором присутствует намного меньше видимых деталей в толпе людей. Однако когда соответствующая HDR-версия масштабируется до приблизительного совпадения с масштабированной LDR-версией, результирующее изображение 466 обнаруживает намного больше деталей в толпе. Таким образом, тональное отображение может устранять детали в областях изображения с высокой и низкой светимостью.
[0072] Использование тонального отображения может означать не просто добавление дополнительных бит для светимости или RGB. Например, добавление большего количества бит может показать детали в более темных областях изображения, но не в более ярких областях изображения. Например, как показано на ФИГ.3, добавление большего количества бит может быть эквивалентно функции тонального отображения, которая является единичной функцией плюс фиксированный коэффициент масштабирования. Например, переход от 8 бит к 12 бит может представлять собой единичную функцию плюс коэффициент масштабирования 16. Однако простое добавление большего количества бит может не содержать сжатия при высокой светимости 325 или при низкой светимости 345, которое характеризовало бы тональное отображение.
[0073] Наряду с операторами глобального тонального отображения, в которых отображение из расширенного в узкий динамический диапазон одинаково для всех пикселов, может существовать множество операторов локального тонального отображения, где это отображение может варьироваться от пиксела к пикселу. Операторы локального тонального отображения можно рассматривать в терминах семейства кривых тонального отображения, как показано на ФИГ.5.
HDR
LDR
[0074] На ФИГ.5 изображен пример параметризованного семейства операторов тонального отображения. Семейство кривых 565, 575, 580, 585 тонального отображения нанесено на график зависимости log(Y) 310 от log(Y) 305 с параметром µ. Кривые 575, 580, 585 операторов тонального отображения имеют «S»-образную форму тогда, когда µ≠0 (например, когда параметр µ не создает единичный наклон для оператора тонального отображения). На ФИГ.5 кривые 575, 580, 585 оператора тонального отображения имеют «S»-образную форму тогда, когда µ=0,5, µ=1,0, µ=1,5. Каждый член семейства кривых операторов тонального отображения, т.е. одно значение µ, может соответствовать оператору глобального тонального отображения.
[0075] На ФИГ.5 также показаны аналогичные концепции «увеличения контрастности» 520 и «уменьшения контрастности» 510 из фотографической практики. В фотографии «увеличение контрастности» и «уменьшение контрастности» может использоваться для манипуляций с экспозицией одной или больше областей на фотографическом снимке, где уменьшение контрастности уменьшает экспозицию для областей, которые необходимо сделать более тусклыми, а увеличение контрастности увеличивает экспозицию для областей, которые необходимо сделать более яркими.
12
2,5
6
2,5
[0076] В некоторых вариантах осуществления изобретения операторы тонального отображения, не являющиеся глобальными, могут рассматриваться как локальные операторы в том смысле, что тональное отображение может каким-либо образом варьироваться от пиксела к пикселу независимо от того, какого типа математические операции используются для представления подробностей отображения. В целом, более сложные операторы тонального отображения (например, операторы локального тонального отображения) могут использоваться тогда, когда необходимо большое уменьшение динамического диапазона (например, от динамического диапазона 10 до 10). Если динамический диапазон узок (например, VDR - от 10 до 10), оператор тонального отображения может представлять собой глобальный оператор. Если оператор глобального тонального отображения не является адекватным, то может оказаться удовлетворительным относительно простой оператор тонального отображения, который имитирует увеличение контрастности и уменьшение контрастности в традиционной фотографической практике. Один из примеров простого оператора тонального отображения может включать оператор тонального отображения Рейнхарда.
[0077] Таким образом, LDR-изображения можно рассматривать как тонально отображенные HDR- или VDR-изображения. В этом случае HDR- или VDR-изображения могут сохранять детали выше и ниже динамического диапазона, доступного для LDR-видеоизображений. Следовательно, один из способов обеспечения совместимого сжатия VDR/HDR-данных (например, генерирующий сжатый битовый поток, который является совместимым LDR-кодерами и/или LDR-декодерами), может включать кодирование и декодирование повторной вставки деталей, потерянных при создании LDR-данных. Соответственно, один из способов обеспечения сжатия VDR/HDR-данных может включать кодирование информации, которая может быть использована для генерирования VDR/HDR-данных посредством обратного тонального отображения LDR-данных, и включение этой кодированной информации в кодированные LDR-данные.
[0078] В некоторых вариантах осуществления изобретения VDR/HDR может генерироваться, по меньшей мере, первично, из обратного глобального тонального отображения. В вариантах осуществления изобретения, где VDR/HDR может генерироваться из обратного глобального тонального отображения, может выполняться анализ тонального отображения. В некоторых вариантах осуществления изобретения обратное глобальное тональное отображение может применяться к декодированному и преобразованному LDR для создания устройства предсказывания для VDR/HDR. В некоторых вариантах осуществления изобретения для VDR/HDR может определяться, обрабатываться и декодироваться остаточный сигнал (например, сигнал коррекции). Информация о VDR/HDR может включать информацию для слоя расширения.
[0079] В некоторых вариантах осуществления изобретения LDR-изображение может являться частью оператора тонального отображения, который применяется к VDR/HDR. В некоторых из этих вариантов при попытке перехода от LDR к VDR/HDR большое изменение в величине динамического диапазона может потребовать использования локального тонального отображения. В некоторых вариантах глобальное тональное отображение может включать изображение полностью (например, кривая «S»), а локальное тональное отображение может включать локальные изменения, где локальные изменения могут быть параметризованы. В этих вариантах осуществления изобретения также можно рассматривать квантование и кодирование коррекции ошибок.
ОБРАТНОЕ ТОНАЛЬНОЕ ОТОБРАЖЕНИЕ ДЛЯ ПРЕДСКАЗАНИЯ
[0080] Поскольку LDR может быть получен путем тонального отображения HDR и/или VDR, применение оператора обратного тонального отображения к LDR-изображению может давать приближение целевого HDR- и/или VDR-изображения. В одном из примеров, если функция LDR-светимости на пикселе
изображения,
, выражается как
где
и
- светимости изображения для LDR, и VDR, и ТМ[] - общий оператор тонального отображения, то
-1
где ТМ[] - обобщенный оператор обратного тонального отображения.
-1
[0081] Из-за более грубого квантования в LDR-изображении и вероятности того, что обратное тональное отображение точно неизвестно, должна включаться коррекция, которая называется «остаточным сигналом»
. Остаточный сигнал
может прибавляться к ТМ[] для увеличения точность результирующего HDR- и/или VDR-изображения, что выражается уравнением 11:
[0082] Некоторые варианты осуществления изобретения включают способы увеличения точности данной операции обратного тонального отображения. При увеличении точности обратного тонального преобразования можно уменьшить остаточный сигнал
.
[0083] В некоторых вариантах осуществления изобретения оригинальный оператор тонального отображения является глобальным и известным, и тогда его инверсия может использоваться и непосредственно применяться к изображениям с LDR-светимостью. Если глобальный оператор тонального отображения неизвестен, может допускаться оценка этого оператора способами статистической оценки путем уравновешивания количества переменных, или неизвестных параметров, описывающих обратное тональное отображение с той точностью, с которой эти переменные, или неизвестные параметры, могут быть определены.
ПРИМЕР КОДЕКА
[0084] На ФИГ.6 изображен пример совместимого кодека 600. Кодек 600 включает VDR/HDR-кодер 620, LDR-декодер 630 и VDR/HDR-декодер 640. VDR/HDR-кодер 620 может принимать поток 605 VDR/HDR-изображения и соответствующий поток 610 LDR-изображения и формировать из потока 605 VDR/HDR-изображения и соответствующего потока 610 LDR-изображения совместимый битовый поток 615. Битовый поток 615 может содержать две составляющие. Первая составляющая может интерпретироваться и декодироваться LDR-декодерами 630, давая выходной поток 645 LDR-изображения, соответствующий входному потоку 610 LDR-изображения. Вторая составляющая может включать информацию, которая позволяет генерировать поток VDR-изображения (или HDR-изображения) из совместимого битового потока 615. Вторая составляющая упаковывается таким образом, чтобы информация о VDR/HDR могла игнорироваться стандартным LDR-декодером 630. Такие архитектуры кодирования можно назвать «многоуровневыми кодеками». В этом случае кодированный LDR из первой составляющей может образовывать основной слой, а дополнительная информация о VDR/HDR для второй составляющей может представлять собой слой расширения. Информация из первой и второй составляющих может декодироваться VDR/HDR-декодером 640, давая выходной поток 650 VDR-изображения (или HDR-изображения), соответствующий входному потоку 605 VDR/HDR. Совместимый кодек может относиться к кодекам, которые способны генерировать сжатый битовый поток, совместимый с существующими стандартными LDR-декодерами. Некоторые типы совместимых кодеков могут включать совместимые кодеки JPEG HDR-типа для статичных изображений и совместимые кодеки MPEG HDR-типа - для последовательностей изображений, таких как видеоизображения или цифровая кинематография. В кодеках JPEG HDR-типа и MPEG HDR-типа LDR и остаточный сигнал являются коррелированными. Этот эффект может быть заметен путем визуального сопоставления LDR и двух остаточных сигналов, где оригинальное изображение в остаточном сигнале может быть видимо в различной степени. Когда LDR и остаточный сигнал являются коррелированными, одна и та же информация может кодироваться дважды: одно кодирование - в LDR, и второе кодирование - в слой расширения HDR (или VDR) (в различной степени). Двойное кодирование одной и той же информации касается и JPEG HDR, и MPEG HDR.
ПОВЫШЕННАЯ ЭФФЕКТИВНОСТЬ КОДИРОВАНИЯ В VDR-, HDR- И WCG-ВИДЕОИЗОБРАЖЕНИЯХ
[0085] Описанные и показанные в данном описании варианты осуществления изобретения могут повышать эффективность кодирования для совместимого кодирования видеоизображения с расширенным динамическим диапазоном, такого как VDR- или HDR-видеоизображение, наряду с кодированием видеоизображения с узким динамическим диапазоном, такого как сжатый битовый поток LDR. Предсказание для HDR- или VDR-изображения может улучшаться путем модификации обратного тонального отображения, которое используется для предсказания HDR- или VDR-изображения из соответствующих им LDR-изображений.
[0086] Некоторые варианты осуществления изобретения могут использовать представление HDR или VDR, которое использует логарифмическое представление для светимости в HDR- или VDR-изображении. Технология логарифмической светимости допускает низкую сложность без уменьшения эффективности кодирования.
[0087] Некоторые варианты осуществления изобретения могут предусматривать технологии применения к LDR операций деконтурирования перед обратным тональным отображением с целью подавления артефактов квантования в LDR.
[0088] Некоторые варианты осуществления изобретения могут использовать для операции глобального тонального отображения с целью предсказания HDR или VDR из LDR общую параметризованную формулировку. Эти варианты могут допускать форсирование таких целевых свойств тонального отображения, как монотонность, и, в то же время, минимизировать статистическую погрешность при оценке тонального отображения. Например, путем задания параметризованных форм для тонального отображения с некоторым количеством параметров (например, с менее чем 255 параметрами) статистическая надежность этих параметров может быть сделана более устойчивой, и результате может генерироваться небольшой остаточный сигнал (или остаточный сигнал может не генерироваться).
[0089] Некоторые варианты осуществления изобретения могут использовать параметризованное обратное локальное тональное отображение, которое может включать сжатие изображения параметров.
[0090] Некоторые варианты осуществления изобретения могут использовать для LDR и остаточного сигнала кодеки без дрейфа.
[0091] Некоторые варианты осуществления изобретения могут перед сжатием подвергать остаточный сигнал понижающей дискретизации.
[0092] Некоторые варианты осуществления изобретения могут содержать совместимый кодер, который может включать операции выравнивания цвета и светимости в LDR и HDR, анализ тонального отображения, вычисления остаточного сигнала и сжатия остаточного сигнала.
ИНФРАСТРУКТУРА КОДЕКА
[0093] На ФИГ.7 изображена блок-схема с примером кодека 700, который может использоваться, например, для реализации кодека 600. Кодек 700 содержит верхнюю часть кодера 744 и нижнюю часть декодера 748. В некоторых случаях кодер 744 и декодер 748 делят между собой множество общих функций, и декодер может в некоторых особенностях зеркально отображать кодер. Ниже описывается процесс кодирования, а затем - процесс декодирования.
ОБЩИЙ ОБЗОР КОДЕКА 700
D
D
D
D
D
T
T
[0094] В кодере 744 входной поток 704 LDR-изображения кодируется и декодируется в блоке 708 кодера и декодера, и результирующий LDR 710, декодированный поток LDR-изображения, преобразовывается в пространство VDR/HDR в блоке 712 преобразования. В ходе преобразования генерируется светимость L и (u', v') - координатное представление LDR, который обозначается как LDR714. Блок 718 «деконтурирования» может использоваться для подавления некоторых артефактов квантования в LDR 714, генерируя LDR* 720 (например, более чистый поток LDR-изображения) для отправки в блок 722 анализа тонального отображения (ТМ) и блок 728 обратного тонального отображения (ITM). Блок 722 анализа тонального отображения выполняет анализ LDR* и входного потока 702 VDR/HDR-изображения с целью определения параметров 724 тонального отображения для обратного тонального отображения LDR*. Параметры 724 ТМ направляются в блок 728 ITM, который использует параметры 724 ТМ на LDR*, генерируя в качестве выходного сигнала предсказываемую часть 726 изображения (например, макроблок или кадр). Входной поток 702 VDR/HDR-изображения и выходной сигнал блока 728 ITM входят в блок вычитателя 730 для генерирования остаточного сигнала 732. Остаточный битовый поток 742 генерируется из блока 734 обработки и кодирования остаточного сигнала, который обрабатывает и кодирует остаточный сигнал 732. Битовый поток 740 тонального отображения генерируется путем кодирования параметров 724 тонального отображения в блоке 736 кодирования ТМ. Блок 745 форматтера принимает кодированный битовый поток 738 LDR из блока 708 кодера и декодера, битовый поток 740 ТМ из блока 736 кодирования ТМ и остаточный битовый поток 742 из блока 734 обработки и кодирования остаточного сигнала. Блок 745 форматтера форматирует эти отличающиеся битовые потоки в сжатый битовый поток 750.
D
D
D
D
D
T
T
[0095] В декодере блок 752 синтаксического анализатора принимает совместимый битовый поток 750 из блока 745 форматтера. Блок 752 синтаксического анализатора отправляет битовый поток 754 LDR в блок 782 LDR-декодера, битовый поток 780 ТМ - в блок 756 декодирования ТМ, и остаточный битовый поток 758 - в блок 798 декодирования и обработки остаточного сигнала в декодере. Блок 782 LDR-декодера генерирует LDR 784, декодированный поток LDR-изображения, который преобразовывается в цветовое пространство VDR/HDR в блоке 788 преобразования. В ходе преобразования генерируется светимость L и (u', v') - координатное представление LDR, который обозначается как LDR 790. Блок 791 «деконтурирования» подавляет некоторые артефакты квантования в LDR 790, генерируя LDR* 792, предназначенный для отправки в блок 793 обратного тонального отображения (ITM). Блок 756 декодирования ТМ выводит параметры 724 ТМ в блок 793 обратного тонального отображения (ITM). Выходные сигналы блока 793 ITM и блока 798 декодирования и обработки остаточного сигнала направляются в блок 794 сумматора, и из блока 794 сумматора генерируется выходной VDR/HDR-сигнал 795. Ниже описаны некоторые особенности кодека 700.
ПРИМЕР ФУНКЦИОНИРОВАНИЯ КОДЕКА 700
[0096] Ниже описываются некоторые особенности блоков кодера 744. Для надлежащего декодирования кодированного битового потока некоторые особенности блоков декодера 748 могут быть зеркально подобными блокам кодера 744.
D
D
D
[0097] Процесс кодирования может начинаться с кодирования входного битового потока 704 LDR для генерирования кодированного битового потока LDR и следующего сразу вслед за ним декодирования этого потока для генерирования LDR 710. В некоторых вариантах осуществления изобретения при кодировании может принудительно обеспечиваться «точное соответствие». «Точное соответствие» может означать то, что подблок кодера LDR (например, блок 708 кодера и декодера) в полном кодере 744 и подблок декодера LDR (например, блок 782 декодера LDR) в полном декодере 748 являются в точности одинаковыми. В отсутствие точного соответствия поток декодированного изображения LDR 710 в кодере и аналогичный поток LDR 784 в декодере могут не являться одинаковыми. Отсутствие точного соответствия может приводить к видимым ошибкам на результирующем конечном изображении. Кодек с точным соответствием может называться «кодеком без дрейфа». Другие варианты осуществления изобретения, однако, могут использовать кодеки без требования точного соответствия, как, например, MPEG-2 и MPEG-4 part 2. MPEG-4 part 10 (например, H.264/AVC), например, может принудительно обеспечивать точное соответствие, и поэтому может использоваться для блока 708 кодера и декодера и/или блока 782 декодера, а также задавать битовую точность декодера. В некоторых вариантах осуществления изобретения кодеки H.264/AVC могут использоваться для систем, которые генерируют базовый слой (например, содержащий информацию об LDR) и слой расширения (например, содержащий дополнительную информацию для отображения VDR/HDR).
D
D
D
D
D
D
D
D
D
D
D
T
[0098] В вариантах осуществления блока 712 преобразования поток изображения LDR 710 может конвертироваться в цветовое пространство VDR/HDR. В некоторых вариантах осуществления изобретения VDR/HDR-изображения могут отображаться с использованием цветового пространства L и (u', v'), как описывается с отсылкой к ФИГ.2. Для случая, когда LDR-изображения являются R'G'B'-изображениями с гамма-кодированием, пример преобразования по ФИГ.2 может использоваться как часть блока 712 преобразования по ФИГ.7. В одном из вариантов осуществления блока 712 преобразования, гамма-коррекция может быть отменена для генерирования линейных координат RGB. Координаты RGB могут преобразовываться посредством известной матрицы, генерируя цветовые координаты XYZ согласно стандарту CIE. Цветовые координаты XYZ согласно стандарту CIE могут преобразовываться в цветовое пространство L и (u', v'). Отображение LDR посредством L и (u', v') может быть представлено как LDR714.
T
T
D
T
[0099] В некоторых вариантах осуществления изобретения блок 718 деконтурирования может иметь конструкцию, предназначенную для подавления некоторых артефактов квантования, которые могут присутствовать в LDR 714. Артефакты квантования могут возникать из-за 8-битного квантования LDR 714 в сравнении с 12-битным квантованием L для VDR и 14-битным квантованием HDR. Функция уменьшения может выполняться с использованием, например, двухсторонней фильтрации. В некоторых вариантах осуществления изобретения блок 718 деконтурирования является необязательным, поскольку ошибки квантования также могут исправляться посредством остаточного сигнала. В некоторых кодеках, использующих блок деконтурирования, может увеличиваться эффективность кодирования. Выходной сигнал блока 720 деконтурирования, или, когда блок деконтурирования отсутствует, LDR 714, направляется в блок анализа тонального отображения, который использует входной сигнал и VDR/HDR-данные 702 для моделирования обратного тонального отображения между данными 702 LDR- и VDR/HDR.
ТОНАЛЬНОЕ ОТОБРАЖЕНИЕ
[00100] Для этого анализа существует, по меньшей мере, два типа моделей: один тип - для глобального тонального отображения, и второй тип - для локального тонального отображения. В некоторых вариантах осуществления изобретения кодер может в первую очередь выполнять анализ глобального тонального отображения, а затем, в случае необходимости, выполнять анализ локального тонального отображения. В некоторых вариантах осуществления изобретения может использоваться один из типов тонального отображения, и битовый поток 740 ТМ может включать сигнал, предназначенный для идентификации того, какой из двух типов используется.
[00101] Для анализа глобального тонального отображения в первую очередь выбирается функциональная форма отображения между LDR и VDR/HDR. Эта функциональная форма может включать любое количество параметров.
[00102] На ФИГ.8 изображен пример архитектуры глобального тонального отображения 800. ФИГ.8 включает общую форму анализа глобального обратного тонального отображения. Блок 820 оценки параметров принимает входной сигнал LDR* 810, входной сигнал 805 VDR/HDR и функциональную форму 815, генерируя вектор параметров
825, который отображает параметры конкретной функции обратного тонального отображения для входных сигналов. В одном из примеров в качестве функциональной формы используется полином в выражении уравнения 12:
D
D
D
[00103] Вектор параметров
включает специфические для данного набора входных сигналов полиномиальные коэффициенты.
представляет L для VDR/HDR, и
представляет L для LDR. В некоторых вариантах осуществления изобретения при использовании значений L для LDR и VDR/HDR для всех пикселов на изображении для определения коэффициентов полиномиальной формы для заданного набора входных сигналов может использоваться оценка методом наименьших квадратов или другим методом оценки метрики погрешности (например, может выполняться вычисление оценки 820 параметров для оптимального приближения полинома).
[00104] Параметризованные формы тонального отображения и его обращения могут предусматривать усовершенствования функции реконструкции, по меньшей мере, в отношении монотонности и снижения уровня шума. В большинстве приложений функции тонального отображения пригодны для использования в случае, если они являются монотонными, поскольку если
увеличивается (или уменьшается), то
также должен увеличиваться (или уменьшаться). Функции тонального отображения для их применения в большинстве приложений также должны быть гладкими. В противном случае тональное отображение может вносить нежелательные искажения в остаточный сигнал.
[00105] На ФИГ.9 изображен пример архитектуры локального тонального отображения. ФИГ.9 включает блок 920 определения, по меньшей мере, одного параметра для каждого пиксела. Блок 920 принимает входной сигнал 910 LDR*, входной сигнал VDR/HDR 905 и функциональную форму 915 для генерирования изображения параметров
925, где
может отображать положение пиксела на изображении. В некоторых вариантах осуществления изобретения анализ в случае локального тонального отображения может быть сходным с глобальным тональным отображением. Например, могут иметь место заранее определяемая функциональная форма 915 и вычисление одного или больше параметров этой функциональной формы. Одно из отличий локального тонального отображения от глобального тонального отображения заключается в том, что в локальном тональном отображении функциональная форма может отображать семейство кривых тонального отображения, параметризованное, например, посредством одного общего параметра. Например, параметризованное семейство, аналогичное показанному на ФИГ.5, должно отображаться семейством кривых второго порядка, что выражается уравнением 13, которое может использоваться в качестве функциональной формы для локального тонального отображения:
[00106] Для каждого пиксела блок 920 может определять соответствующее значение µ и генерировать изображение параметров
, которое отображает значение µ для пиксела в положении
.
[00107] На ФИГ.10 изображен пример параметризованного обратного тонального отображения 1000 второго порядка. Пример параметризованного обратного тонального отображения 1000 второго порядка может использоваться для функциональной формы. Семейство кривых второго порядка 1015-1040 наносится на график зависимости
1010 от
1005. Когда µ=0, отображение является единичным, а когда µ увеличивается, отображение становится в большей степени S-образным. Таким образом, µ может отображать степень увеличения контрастности или уменьшения контрастности для отдельного пиксела.
[00108] В некоторых вариантах осуществления изобретения для достижения лучшего представления полного обратного тонального отображения может использоваться любая из общих функций F[] и G[], что выражается уравнением 14:
[00109] Функции F[] и G[] также могут оцениваться из LDR- и VDR/HDR-изображений путем анализа тонального отображения по нескольким небольшим пространственным областям способом, который аналогичен способу, выполняемому для всего изображения при глобальном тональном отображении.
[00110] Как описывалось выше, блок 920 может выполнять нахождение µ в зависимости от положения пиксела
, генерируя изображение параметров
925. В зависимости от выбранной функциональной формы изображение параметров может быть гладким и высокосжимаемым.
[00111] В некоторых вариантах осуществления изобретения изображение параметров может быть кусочно-постоянным по набору прямоугольных блоков. Эта модель может быть очень эффективной, поскольку эффекты локального тонального отображения часто ограничены относительно небольшими участками изображения. Для сжатия полей движения могут использоваться различные способы сжатия изображения параметров.
[00112] В некоторых вариантах осуществления изобретения после определения параметров тонального отображения выполняется (например, в блоке 728 ITM по ФИГ.7) обратное тональное отображение. Некоторые варианты осуществления обратного тонального отображения могут применять глобальное, или параметризованное локальное, обратное тональное отображение к LDR*, генерируя предсказание для VDR/HDR-изображения. Предсказание может вычитаться (например, в блоке 730 вычитателя по ФИГ.7) из входного сигнала VDR/HDR, генерируя остаточный сигнал 732 и точное предсказание.
[00113] В некоторых вариантах осуществления изобретения можно избежать погрешностей, связанных с функцией реконструкции. Кроме того, в некоторых вариантах осуществления изобретения остаточные сигналы могут быть очень малыми (например, обычно нулевыми, за исключением областей очень высокой или очень низкой светимости, где влияние тонального отображения может быть наибольшим), что может предусматривать пониженную, или минимальную, обработку и/или кодирование остаточного сигнала. Поскольку остаточные сигналы могут быть нулевыми или близкими к нулю, в слое расширения может содержаться небольшое количество информации, и поэтому количество служебной информации для этих вариантов осуществления изобретения может быть небольшим.
D
D
D
D
D
D
[00114] Для цветовых каналов (u', v') LDR и VDR может вычитаться, генерируя остаточный сигнал. Остаточный сигнал может быть ненулевым тогда, когда цвет VDR/HDR находится за пределами гаммы LDR. Поскольку большинство цветов, находящихся в природе, находится внутри или поблизости от LDR-гаммы, остаточный сигнал (u', v') может быть нулевым для подавляющего большинства пикселов. В некоторых случаях, несмотря на то, что канал логарифмической светимости может требовать обратного тонального отображения для генерирования хорошей оценки логарифмической светимости HDR или VDR, цветовые каналы (u', v') могут не содержать этого требования.
[00115] На ФИГ.11 изображен пример обработки остаточного сигнала. Обработка остаточного сигнала может использоваться, например, для реализации блоков 734 и 798 обработки остаточного сигнала. Обработка остаточного сигнала показана для кодека, который содержит кодер 1130 с входным остаточным сигналом 1103, проходящий через несколько процессов 1105, 1110, 1115 для вывода битового потока 1120 остаточного сигнала, и декодер 1135, который содержит входной битовый поток 1120 остаточного сигнала, проходящий через несколько процессов 1140, 1145, 1150, генерируя декодированный остаточный сигнал 1104. В кодере 1130 входной остаточный сигнал 1103 подвергается фильтрации 1105 нижних частот, понижающей дискретизации 1110 (например, в два раза в горизонтальном и вертикальном направлениях) и кодируется 1115, генерируя остаточный битовый поток 1120. В декодере 1135 остаточный битовый поток 1120 может декодироваться 1140, подвергаться повышающей дискретизации 1145, и верхние частоты, удаленные путем фильтрации 1105 нижних частот, могут реконструироваться 1150, генерируя декодированный остаточный сигнал 1104. В некоторых вариантах осуществления изобретения остаточный битовый поток может представлять собой одинаковый остаточный битовый поток 1120 для кодера и декодера; однако декодированный остаточный сигнал 1104 может отличаться от оригинального входного остаточного сигнала 1103, подвергаемого кодированию, поскольку кодирование может представлять собой кодирование с потерями. Соответственно, остаточный битовый поток 742 в кодере 744 по ФИГ.7 может являться таким же остаточным битовым потоком 758 для декодера, а остаточный сигнал в декодере 748 может отличаться от остаточного сигнала 732 в кодере.
[00116] При желании в декодере могут использоваться способы реконструкции высокочастотной информации в остаточном сигнале, как те, что используются в JPEG HDR, как показано на ФИГ.11. В некоторых вариантах осуществления изобретения остаточный сигнал, подвергнутый понижающей дискретизации, может кодироваться 1115 тем же, кодером, что и кодер, используемый для LDR708. Кодер может представлять собой кодер типа H.264/AVC (Advanced Video Codec) (например, MPEG-4Part 10, MPEG-4 AVC) или его эквивалент. Некоторые кодеры для этих вариантов осуществления изобретения могут называться кодерами «AVC VDR».
[00117] Возвращаясь к ФИГ.7, выходной сигнал обработки может включать три битовых потока: один битовый поток - для кодирования 738 LDR, один битовый поток - для информации 740 тонального отображения, и один битовый поток - для сжатого остаточного сигнала 742. Как показано на ФИГ.7, эти битовые потоки могут форматироваться образом, специфичным для способа кодирования LDR, используемого для генерирования сжатого битового потока 750. H.264/AVC и, в той же мере, другие кодеки могут предусматривать механизмы передачи этой избыточной информации, которую можно назвать «метаданными».
[00118] Когда такой же битовый поток 750 представляется в декодер, как показано на ФИГ.7 и 11, декодер может зеркально отображать процесс кодирования без какой-либо необходимости в анализе тонального отображения, поскольку анализ тонального отображения уже выполнен кодером.
ИЛЛЮСТРАТИВНЫЕ ИЗОБРАЖЕНИЯ
[00119] Некоторые видимые результаты раскрытой технологии могут быть проиллюстрированы примером с остаточным изображением, полученным с использованием предложенных технологий (например, в соответствии с ФИГ.4-11 и связанным с ними описанием). В этом примере тонально отображенное изображение показано на ФИГ.12А, и остаточное изображение, полученное с использованием предложенных технологий (показано на ФИГ.12В). Технологии с менее видимыми остаточными изображениями могут отображать технологии с большей эффективностью кодирования и большим сжатием.
6,5
[00120] На ФИГ.12А изображен пример тонально отображенного HDR-изображения 1205. Изображение 1205 показывает кадр из последовательности HDR-изображений захода солнца 1207. Динамический диапазон изображения может находиться в пределах диапазона LDR-светимости, за исключением захода 1207 заходящего солнца и его зеркальных отражений 1208 в воде. Изображение 1205 имеет динамический диапазон 10, а закат 1207 и зеркальные отражения 1208 для изображения 1205 являются тонально отображенными.
[00121] На ФИГ.12В приведен пример остаточного изображения 1220. Остаточное изображение 1220 может генерироваться в соответствии с таким кодеком, как кодек 700. Например, остаточное изображение 1220 может генерироваться в соответствии с раскрытой технологией (например, в соответствии с ФИГ.4-11 и связанным с ними описанием). В данном примере использовано глобальное тональное отображение с функцией обратного тонального отображения в форме полинома четвертого порядка. В данном остаточном изображении 1220 заходящее солнце отчасти видимо, зеркальные отражения отчасти видимы, но являются намного более тусклыми, а остальное изображение невидимо или видимо довольно нечетко, существенно ниже порогов квантования, используемых для кодирования LDR. При использовании раскрытых технологий для кодирования с остаточным изображением 1220 по ФИГ.12В может потребоваться меньшее количество информации. Соответственно, количество служебной информации, необходимой для данных об остаточном изображении 1220 по ФИГ.12В в битовом потоке невелико.
ИЛЛЮСТРАТИВНЫЕ СИСТЕМЫ
[00122] На ФИГ.13 изображена система, которая может использовать любую из описанных в данном описании технологий (или любую комбинацию технологий). Технологии могут использоваться на одном или нескольких компьютерах 1305А, 1305В. Один или больше способов (например, алгоритмов и/или процессов) могут реализовываться, привязываться, использоваться и/или содержать данные, преобразованные компьютерами и/или видеодисплеем 1320, аппаратурой передачи и обработки и системами управления с обратной отработкой. Описываемые в данном описании компьютеры могут относиться к компьютерам любого типа, как к компьютерам общего назначения, так и некоторым компьютерам специального назначения, таким как рабочие станции. Компьютер 1305В может представлять собой компьютер, например, на основе процессоров Intel или AMD, с установленной на нем операционной системой Windows XP™, Vista™ или Linux™, или может представлять собой компьютер Macintosh. Вариант осуществления изобретения может относиться, например, к карманным компьютерам, таким как PDA 1315, мобильным телефонам 1310 или ноутбукам 1305А. Также компьютер может относиться к машинам или деталям машин для записи или приема изображений 1325, 1330, 1335, обработки, хранения 1340 и распространения данных, в частности видеоданных.
[00123] Любая комбинация описанных в данном описании вариантов осуществления изобретения может являться частью видеосистемы или ее компонентов. Любая комбинация вариантов осуществления изобретения может являться частью видеокодера, как в примере видеокодера и/или видеодекодера по ФИГ.7. Любая комбинация вариантов осуществления изобретения может быть реализована в аппаратном обеспечении и/или программном обеспечении. Например, любой из вариантов осуществления изобретения может быть реализован как компьютерная программа. В некоторых случаях варианты осуществления изобретения могут быть направлены на конкретные типы данных, такие как видеоданные.
[00124] Компьютерные и/или графические программы могут быть написаны на С, Python, Java, Brew или любом другом языке программирования. Программы могут быть резидентными на носителе информации, например, магнитном или оптическом, например, на жестком диске компьютера, сменном диске или носителе, как, например, на карте памяти или карте SD, или в сетевой системе хранения данных (NAS) на основе проводной или беспроводной сети или Bluetooth, или в любой другой фиксированной или сменной среде. Программы также могут запускаться по сети 1350, например, сервером или другой машиной, отправляющей к локальной машине информацию, позволяющую локальной машине выполнять операции, описанные в данном описании. Сеть может включать сеть с выделенной зоной хранения данных (SAN).
[00125] Несмотря на то, что выше подробно описано лишь несколько вариантов осуществления изобретения, возможны и другие варианты. Следует учитывать, что варианты осуществления изобретения могут охватывать эквиваленты и замены для одного или больше иллюстративных технологий, описанных в данном описании. Настоящее описание описывает конкретные примеры для достижения более общей цели другим способом. Это описание следует понимать как отображающее иллюстративные варианты осуществления изобретения, а нижеследующая формула изобретения предназначена для охвата любых эквивалентов, модификаций или альтернативных вариантов.
[00126] Варианты осуществления предмета изобретения и функциональные операции, описанные в данном описании, могут реализовываться в цифровой электронной схеме или в компьютерном программном обеспечении, встроенном программном обеспечении или аппаратном обеспечении, включая конструкции, раскрытые в данном описании, и их структурные эквиваленты или комбинации одного или больше из них. Варианты осуществления предмета изобретения, описанные в данном описании, могут быть реализованы как один или больше программных продуктов, например, один или больше модулей компьютерных команд УП, закодированных на машиночитаемом носителе для исполнения устройством обработки данных или управления его работой. Машиночитаемый носитель может представлять собой машиночитаемое устройство хранения данных 1340, машиночитаемую подложку, запоминающее устройство, смесь веществ, влияющую на машиночитаемую передачу и обработку информации, или любую комбинацию одного или больше из них. Термин «устройство обработки данных» охватывает все аппараты, устройства и машины для обработки данных, включая, например, программируемый процессор, компьютер или множество процессоров или компьютеров. Устройство может включать, в дополнение к аппаратному обеспечению, код, который создает условия выполнения программы для компьютерной программы, о которой идет речь, например, код, который составляет встроенное программное обеспечение процессора, стек протоколов, графическую систему, систему управления базами данных, операционную систему или комбинацию одной или больше из них.
[00127] Компьютерная программа (также известная как программа, программное обеспечение, приложение, сценарий или код) может быть написана в любой форме языка программирования, включая компилируемые или интерпретируемые языки, и может развертываться в любой форме, включая как отдельную программу, так и модуль, компонент, подпрограмму или другой элемент, пригодный для использования в вычислительной среде. Компьютерная программа необязательно соответствует файлу в файловой системе. Программа может храниться в части файла, которая содержит другие программы или данные (например, один или больше сценариев, которые хранятся в документе языка разметки), в едином файле, посвященном программе, о которой идет речь, или в ряде координированных файлов (например, файлов, которые хранят один или больше модулей, подпрограмм или участков кода). Компьютерная программа может развертываться для выполнения на одном компьютере или на нескольких компьютерах, которые расположены в одном месте или распределены по множеству мест и взаимосвязаны через сеть связи.
[00128] Процессы, логические схемы и фигуры, описанные и изображенные в данном описании могут выполняться одним или больше программируемыми процессорами, исполняющими одну или больше компьютерных программ для выполнения функций путем операций с входными данными и генерирования выходных данных. Процессоры и логические схемы также могут выполняться логической схемой специального назначения, а устройство может быть реализовано как логическая схема специального назначения, как, например, FPGA (вентильная матрица с эксплуатационным программированием) или другое программируемое логическое устройство (PLD), такое как микроконтроллер или ASIC (специализированная интегральная микросхема).
[00129] Процессоры, пригодные для исполнения компьютерной программы, включают, например, микропроцессоры общего и специального назначения, или любые другие процессоры цифрового компьютера любого типа. В целом, процессор может принимать команды и данные из памяти только для чтения или памяти с произвольным доступом, или из обоих типов памяти. Существенными элементами компьютера являются: процессор, предназначенный для выполнения команд, и одно или несколько запоминающих устройств, предназначенных для хранения команд и данных. В целом, компьютер также может включать, или быть оперативно связанным для получения данных или передачи данных, или обеих операций, с одним или больше устройствами массовой памяти, предназначенными для хранения данных, например, магнитными устройствами, магнитооптическими дисками или оптическими дисками. Однако компьютер необязательно должен содержать такие устройства. Более того, компьютер может внедряться в другое устройство, например, в мобильный телефон, персональный цифровой секретарь (PDA), мобильный аудиоплеер, приемник системы глобального позиционирования (GPS). Машиночитаемый носитель, пригодный для хранения компьютерных команд УП и данных, включает все типы энергонезависимой памяти, носителей и запоминающих устройств, включая, например, полупроводниковые запоминающие устройства, например, EPROM, EEPROM и устройства флеш-памяти; магнитные диски, например, внутренние жесткие диски или сменные диски; магнитооптические диски; и диски CD, DVD и Blu-ray™ (BD). Процессор и память могут дополняться логической схемой специального назначения или интегрироваться в такую схему.
[00130] Для обеспечения взаимодействия с пользователем некоторые варианты осуществления предмета изобретения, описанные в данном описании, могут быть реализованы на компьютере, имеющем дисплей, например, монитор 1320 с электронно-лучевой трубкой (CRT), жидкокристаллическим дисплеем (LCD) или плазменным дисплеем, для демонстрации информации пользователю, а также клавиатуру и селектор, например, координатно-указательное устройство, мышь, шаровой манипулятор, посредством которого пользователь может обеспечить входные данные в компьютер. Для обеспечения взаимодействия с пользователем также могут использоваться и другие устройства; например, обратная связь с пользователем может обеспечиваться любой формой сенсорной обратной связи, например, визуальной обратной связью, слуховой обратной связью или осязательной обратной связью; и входные данные от пользователя могут быть получены в любой форме, включая акустическую, речевую или осязательную.
[00131] Некоторые варианты осуществления предмета изобретения, описанные в данном описании, могут быть реализованы в вычислительной системе, которая включает компонент серверной системы управления базами данных, как, например, сервер базы данных или компонент межплатформенного программного обеспечения, например, сервер приложений, компонент программ пользовательского интерфейса, например, компьютер клиента, содержащий графический интерфейс пользователя или Web-браузер, через который пользователь может взаимодействовать с вариантом осуществления предмета изобретения, описанного в данном описании, или любую комбинацию одного или больше компонентов серверной системы управления базами данных, межплатформенного программного обеспечения или программ пользовательского интерфейса. Компоненты системы могут быть взаимосвязаны посредством любой формы или носителя цифровой связи, например, сети связи. Примеры сетей связи включают локальную вычислительную сеть («LAN») и глобальную сеть («WAN»), например, Интернет.
[00132] Вычислительная система может включать клиенты и сервера. Клиент и сервер обычно удалены друг от друга и, как правило, взаимодействуют через сеть связи. Взаимосвязь клиента и сервера возникает посредством компьютерных программ, запускаемых на соответствующих компьютерах и имеющих взаимосвязь клиент-сервер друг относительно друга.
[00133] Несмотря на то, что данное раскрытие содержит множество специфических деталей, их не следует истолковывать как ограничения или как пункты формулы изобретения, но скорее как описания особенностей, специфических для конкретных вариантов осуществления изобретения. Некоторые особенности, описанные в данном описании в контексте отдельных вариантов осуществления изобретения, также могут быть реализованы в комбинации в едином варианте осуществления изобретения. И наоборот, различные особенности, которые описаны в контексте единого варианта осуществления изобретения, также могут быть реализованы в нескольких вариантах осуществления изобретения по отдельности или в любой подходящей субкомбинации. Кроме того, несмотря на то, что особенности могут быть описаны выше как действующие в определенных субкомбинациях и даже изначально заявлены как таковые, одна или больше особенностей из заявленной комбинации в некоторых случаях могут исключаться из комбинации, а заявленная комбинация может быть направлена на субкомбинацию или изменение субкомбинации.
[00134] Аналогично, несмотря на то, что операции изображены на иллюстрациях, в определенном порядке, это не следует истолковывать как требование того, чтобы для достижения желаемых результатов эти операции выполнялись в определенном показанном порядке или последовательно, или чтобы выполнялись все проиллюстрированные операции. В некоторых обстоятельствах может оказаться предпочтительной многозадачность или параллельная обработка. Кроме того, разделение различных компонентов системы в вышеописанных вариантах осуществления изобретения не следует понимать как требующее такого же разделения во всех вариантах осуществления изобретения, а также следует понимать, что описанные программные компоненты и системы в целом могут интегрироваться в единый программный или аппаратный продукт или упаковываться в несколько программных или аппаратных продуктов.
[00135] Термин «алгоритм» может относиться к этапам, способам, процессам, схемам, процедурам, операциям, программам, направляющим, технологиям, последовательностям и/или набору описываемых в данном описании правил или команд. Например, алгоритм может представлять собой набор команд обработки видеоизображения для аппаратного и/или программного видеопроцессора. Раскрытые алгоритмы (как, например, в иллюстративных фигурах и функциональных блоках) могут относиться и/или привязываться к видеоизображению и могут генерироваться, реализовываться, связываться и/или использоваться в системах, относящихся к видеосистемам, и/или любых устройствах, машинах, аппаратном обеспечении и/или изделиях для преобразования, обработки, сжатия, хранения, передачи, приема, тестирования, калибровки, демонстрации и/или любого усовершенствования, в любой комбинации, видеоданных.
[00136] Технологии и системы, описанные в данном описании, могут комбинироваться с мультимедийными приложениями, такими как звуковые, графические, текстовые и связанные с ними данные, или привязываться к ним. Один или больше вариантов осуществления различных типов формульных выражений, представленных в данном раскрытии, могут учитывать различные характеристики демонстрации, обработки и/или искажений. В некоторых аспектах решение о выборе способов кодирования может частично или полностью приниматься на основе сложности, и/или канала режимов, и/или метрик искажений. Как описывается в данном описании, способы и системы могут адаптивно регулировать кодирование, основываясь на сложности. Различные варианты осуществления изобретения в данном описании могут применять Н.264, AVC и любые другие способы кодирования изображений.
НУМЕРОВАННЫЕ ИЛЛЮСТРАТИВНЫЕ ВАРИАНТЫ ОСУЩЕСТВЛЕНИЯ ИЗОБРЕТЕНИЯ
[00137] Вариант осуществления настоящего изобретения может относиться к одному или нескольким нумерованным иллюстративным вариантам осуществления изобретения, которые перечислены ниже.
1. Способ, который включает:
генерирование видеокодером кодированного видеопотока, где кодированный видеопоток включает динамический диапазон в 5-6 порядков величины светимости.
2. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где генерирование кодированного видеопотока включает генерирование кодированного видеопотока в формате визуального динамического диапазона (VDR) видеоизображения, где формат VDR охватывает диапазон светимости и визуальную цветовую гамму (VCG), которые зрительная система человека может воспринимать одновременно.
3. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где VCG включает все цвета, которые зрительная система человека может воспринимать одновременно, где диапазон светимости включает динамический диапазон восприятия светимости человеческим глазом, и где VCG включает широкую цветовую гамму (WCG).
4. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где формат VCG для видеоизображения включает 32 бит на пиксел, где 32 бит на пиксел включают 12 бит светимости и по 10 бит на каждый из двух цветовых каналов.
5. Способ, которыйвключает:
кодирование видеопотока посредством видеокодера, использующего 32 бит на пиксел, где 32 бит на пиксел включают 12 бит светимости и по 10 бит на каждый из двух цветовых каналов.
6. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где кодированный видеопоток включает данные для видеоизображения, имеющего визуальный динамический диапазон (VDR).
7. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где динамический диапазон VDR включает 5-6 порядков величины светимости.
8. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где динамический диапазон VDR включает динамический диапазон восприятия светимости человеческим глазом.
9. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где VDR сконфигурирован для форматов видеоизображения, включающих форматы захвата, распространения, потребления, или широкой цветовой гаммы (WCG).
10. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где VDR отображается посредством любой из единиц: менее чем единицы едва заметного различия (JND), цветовых координат XYZ согласно стандарту CIE, гамма-кодирования или логарифмического кодирования.
D
2
11. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, который также включает вычисление логарифмической светимости L с фиксированной точкой из физической светимости Y в кд/см с использованием параметра S масштаба и параметра В смещения.
D
12. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где вычисление логарифмической светимости L с фиксированной точкой включает вычисление
D
2
L=[S(logY+B)]
и
2
13. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, который также включает использование параметра В смещения для определения диапазона полной светимости в кд/см.
14. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, который также включает определение динамического диапазона DR с использованием параметра S масштаба и количества бит N.
15. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где динамический диапазон DR включает определение
16. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, который также включает вычисление координат (u',v') цветовых каналов путем определения проективного преобразования на цветовых координатах XYZ.
17. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, который также включает преобразование координат R'G'B' с гамма-коррекцией в VDR, и преобразование координат R'G'B' с гамма-коррекцией включает:
конверсию координат R'G'B' с гамма-коррекцией для генерирования координат RGB путем отмены гамма-коррекции;
выполнение матричного преобразования координат RGB для генерирования цветовых координат XYZ;
D
конверсию цветовой координаты Y в логарифмическую светимость L с фиксированной точкой с использованием логарифмической функции и первичного квантования; и
D
D
конверсию цветовых координат Х и Z в цветовые координаты u' и v' в результате проективного преобразования и вторичного квантования.
18. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, который также включает выбор динамического диапазона на основе диапазона светимости и цветов, которые зрительная система человека может воспринимать одновременно.
19. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где кодированный видеопоток включает данные для видеоизображения, имеющего визуальный динамический диапазон (VDR), где динамический диапазон VDR-видеоизображения составляет 5-6 порядков величины светимости.
20. Способ сжатия видеоизображения с визуальным динамическим диапазоном (VDR), где способ включает:
прием многоуровневым кодеком битового потока с узким динамическим диапазоном (LDR) и битового потока VDR, где многоуровневый кодек включает, по меньшей мере, один кодер, первый декодер и второй декодер;
обработку битового потока LDR в базовом слое, где обработка битового потока LDR включает, по меньшей мере, одну операцию в первом декодере; и
обработку битового потока VDR в слое расширения, где обработка битового потока VDR включает, по меньшей мере, одну операцию во втором декодере, где битовый поток VDR включает информацию, которая игнорируется первым декодером.
21. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где VDR-видеоизображение включает 32 бит на пиксел, где 32 бит на пиксел включают 12 бит светимости и по 10 бит на каждый из двух цветовых каналов, где динамический диапазон VDR-видеоизображения включает 5-6 порядков величины светимости, где динамический диапазон VDR-видеоизображения больше, чем динамический диапазон LDR-видеоизображения, и где динамический диапазон VDR-видеоизображения меньше, чем динамический диапазон видеоизображения с расширенным динамическим диапазоном (HDR).
22. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где многоуровневый кодек включает тип кодера, совместимый с форматом Н.264 или форматом AVC.
23. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где кодек включает кодек без дрейфа.
24. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, который также включает вставку в битовый поток VDR данных для одной или больше деталей оригинального изображения, которые были потеряны в результате создания битового потока LDR из оригинального изображения.
25. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где динамический диапазон VDR-видеоизображения составляет 5-6 порядков величины светимости.
26. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, который также включает:
применение, по меньшей мере, одной операции деконтурирования к данным с узким динамическим диапазоном;
обратное тональное отображение деконтурированных данных с узким динамическим диапазоном;
генерирование остаточного сигнала, содержащего данные с расширенным динамическим диапазоном или визуальным динамическим диапазоном; и
обработку остаточного сигнала,
где остаточный сигнал включает разность между изображением с расширенным динамическим диапазоном и предсказанием на основе изображения с узким динамическим диапазоном, или разность между изображением с визуальным динамическим диапазоном и предсказанием на основе изображения с узким динамическим диапазоном.
27. Способ, описанный в отношении кодирования и декодирования в кодекс, где способ включает:
генерирование сжатого битового потока в кодере кодека, где генерирование сжатого битового потока включает:
прием кодером входного потока изображения с узким динамическим диапазоном (LDR);
кодирование и декодирование входного потока LDR-изображения для генерирования первого внутреннего битового потока LDR и декодированного потока LDR-изображения; и
преобразование декодированного потока LDR-изображения в пространство визуального динамического диапазона (VDR) с использованием блока преобразования внутри кодера.
28. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, который также включает:
где сжатый битовый поток включает информацию узкого динамического диапазона (LDR) в базовом слое сжатого битового потока и информацию визуального динамического диапазона (VDR) - в слое расширения сжатого битового потока.
29. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где VDR-видеоизображение включает 32 бит на пиксел, где 32 бит на пиксел включают 12 бит светимости и по 10 бит на каждый из двух цветовых каналов, где динамический диапазон VDR-видеоизображения включает 5-6 порядков величины светимости, где динамический диапазон VDR-видеоизображения больше, чем динамический диапазон LDR-видеоизображения, и где динамический диапазон VDR-видеоизображения меньше, чем динамический диапазон видеоизображения с расширенным динамическим диапазоном (HDR).
D
D
D
30. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где преобразование включает генерирование логарифмической светимости L с фиксированной точкой и цветовых  координат (u', v').
31. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где генерирование сжатого битового потока в кодере также включает подавление артефактов квантования в преобразованном LDR посредством блока деконтурирования для генерирования первого деконтурированного битового потока LDR.
32. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где преобразование декодированного потока LDR-видеоизображения в пространство визуального динамического диапазона (VDR) при использовании блока преобразования внутри кодера включает:
выполнение анализа тонального отображения (ТМ) на первом деконтурированном битовом потоке LDR для генерирования параметров тонального отображения;
выполнение обратного тонального отображения (ITM) на первом деконтурированном битовом потоке LDR; и
генерирование остаточного сигнала, который зависит от результата обратного тонального отображения и входного битового потока визуального динамического диапазона (VDR).
33. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, который также включает:
обработку остаточного сигнала;
кодирование обработанного остаточного сигнала;
генерирование первого остаточного битового потока;
прием первого остаточного битового потока, первого внутреннего битового потока LDR и параметров тонального отображения блоком форматтера; и
генерирование сжатого битового потока на выходе кодера.
34. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, который также включает кодирование параметров тонального отображения в блоке кодирования тонального отображения.
35. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, который также включает генерирование выходного битового потока VDR декодером кодека, который декодирует сжатый битовый поток.
36. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где генерирование выходного битового потока VDR декодера включает:
прием сжатого битового потока декодером;
синтаксический анализ сжатого битового потока во второй битовый поток LDR, битовый поток тонального отображения и второй внутренний остаточный битовый поток;
декодирование второго внутреннего битового потока LDR; и
преобразование декодированного второго внутреннего битового потока LDR в пространство визуального динамического диапазона (VDR) в декодере путем использования блока преобразования внутри декодера.
37. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где генерирование выходного битового потока VDR из декодера включает:
подавление артефактов квантования в преобразованном декодированном LDR посредством блока деконтурирования для генерирования второго деконтурированного битового потока LDR;
выполнение анализа обратного тонального отображения на втором деконтурированном битовом потоке LDR и битовом потоке тонального отображения, где анализ обратного тонального отображения включает вычисления на основе параметров тонального отображения;
декодирование и обработку второго остаточного битового потока; и
генерирование в декодере выходного битового потока VDR, который зависит от декодированного и обработанного второго остаточного битового потока и от результата анализа обратного тонального отображения.
38. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где любое тональное отображение или обратное тональное отображение, выполняемое в кодеке, включает функцию параметризованного оператора глобального тонального отображения, функцию параметризованного оператора локального тонального отображения, функцию параметризованного оператора обратного глобального тонального отображения или функцию параметризованного оператора обратного локального тонального отображения.
39. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где любой из параметризованных операторов локального тонального отображения или параметризованных операторов обратного локального тонального отображения включает функцию с множеством кривых второго порядка.
40. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где остаточный сигнал включает размер, который приводит к невидимому остаточному изображению.
41. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где генерирование в кодере сжатого битового потока также включает:
понижающую дискретизацию остаточного сигнала; и
сжатие подвергнутого понижающей дискретизации остаточного сигнала.
42. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где кодек включает кодек без дрейфа.
43. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где VDR-видеоизображение включает динамический диапазон, содержащий 5-6 порядков величины светимости видеоизображения.
44. Способ обработки видеоизображения, который включает:
посредством устройства кодирования видеоизображения декодирование первого видеопотока, имеющего первый динамический диапазон, для генерирования первого декодированного потока; и
применение оператора обратного тонального отображения к декодированному первому потоку при предсказании второго видеопотока, где второй видеопоток имеет второй динамический диапазон, более широкий, чем первый динамический диапазон; и
генерирование выходного видеопотока из второго видеопотока.
45. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где первый динамический диапазон включает видеоизображение с узким динамическим диапазоном (LDR), и второй динамический диапазон включает видеоизображение с визуальным динамическим диапазоном (VDR).
46. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где оператор обратного тонального отображения включает оператор глобального тонального отображения.
47. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где обратное тональное отображение включает преобразование LDR-светимости в VDR-светимость, которое включает общее преобразование для множества пикселов видеоданных изображения.
48. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, который также включает вычисление вектора параметров для обратного глобального тонального отображения.
49. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где вычисление вектора параметров включает вычисление оценки методом наименьших квадратов или оценки метрики погрешности для подбора полиномиальной функции.
50. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где оператор обратного тонального отображения является монотонным.
51. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где оператор обратного тонального отображения включает оператор обратного локального тонального отображения, где оператор обратного локального тонального отображения включает преобразование, которое включает отображение LDR-светимости в VDR-светимость, где преобразование варьируется для множества пикселов видеоданных изображения.
52. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где оператор обратного локального тонального отображения включает параметры для локальных изменений.
53. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где оператор обратного локального тонального отображения включает функцию, которая включает множество кривых второго порядка.
54. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где оператор обратного локального тонального отображения включает параметры, соответствующие операциям увеличения контрастности и уменьшения контрастности.
55. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где динамический диапазон VDR-видеоизображения включает 5-6 порядков величины светимости, и динамический диапазон LDR включает 2-3 порядка величины светимости, где динамический диапазон VDR-видеоизображения меньше, чем динамический диапазон видеоизображения с расширенным динамическим диапазоном (HDR), где динамический диапазон видеоизображения с расширенным динамическим диапазоном (HDR) включает 10-14 порядков величины светимости.
56. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, который также включает вычисление остаточного сигнала, где остаточный сигнал включает разность между изображением с расширенным динамическим диапазоном и предсказанием на основе изображения с узким динамическим диапазоном или разность между изображением с визуальным динамическим диапазоном и предсказанием на основе изображения с узким динамическим диапазоном.
57. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где размер остаточного сигнала является нулевым, и, таким образом, изображение, полученное из остаточного сигнала, включает невидимое изображение.
58. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где размер остаточного сигнала является приблизительно нулевым, и, таким образом, изображение, полученное из остаточного сигнала, включает невидимое изображение.
59. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, который также включает:
обработку данных VDR-видеоизображения в слое расширения; и
обработку данных LDR-видеоизображения в базовом слое.
60. Способ, описанный в отношении предсказания динамического диапазона видеоизображения, где способ включает:
посредством устройства обработки видеоизображения предсказание первого динамического диапазона для видеоизображения путем применения оператора обратного глобального тонального отображения к изображению, включающему второй динамический диапазон; или
посредством устройства обработки видеоизображения предсказание третьего динамического диапазона видеоизображения путем применения оператора обратного глобального тонального отображения к изображению, включающему второй динамический диапазон; и
предсказание выходного видеоизображения, включающего первый динамический диапазон или третий динамический диапазон.
61. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где первый динамический диапазон видеоизображения включает расширенный динамический диапазон (HDR), второй динамический диапазон видеоизображения включает узкий динамический диапазон (LDR) и третий динамический диапазон видеоизображения включает визуальный динамический диапазон (VDR).
62. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где динамический диапазон HDR-видеоизображения включает 10-14 порядков величины светимости, динамический диапазон VDR-видеоизображения включает 5-6 порядков величины светимости и динамический диапазон LDR-видеоизображения включает 2-3 порядка величины светимости.
63. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где обратное глобальное тональное отображение включает преобразование LDR-светимости в HDR-светимость, которое включает общее преобразование для множества пикселов изображения.
64. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, который также включает вычисление вектора параметров для обратного глобального тонального отображения, где вычисление вектора параметров включает вычисление оценки методом наименьших квадратов или оценки метрики погрешности для подбора полиномиальной функции.
65. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где оператор обратного тонального отображения включает оператор локального тонального отображения, где оператор локального тонального отображения включает преобразование, включающее отображение LDR-светимости в HDR-светимость, где преобразование варьируется для множества пикселов изображения.
66. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, который также включает определение параметра для каждого пиксела из множества пикселов.
67. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, который также включает генерирование изображения параметров с использованием параметров для каждого пиксела из множества пикселов.
68. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где оператор обратного локального тонального отображения включает параметры для локальных изменений.
69. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где оператор обратного локального тонального отображения включает параметризованный оператор обратного локального тонального отображения, включающий, по меньшей мере, одну функцию, содержащую множество кривых второго порядка.
70. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где оператор обратного локального тонального отображения или оператор глобального тонального отображения включает параметры, соответствующие операциям увеличения контрастности и уменьшения контрастности.
71. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, который также включает генерирование остаточного сигнала, где остаточный сигнал включает разность между изображением с расширенным динамическим диапазоном и предсказанием на основе изображения с узким динамическим диапазоном или разность между изображением с визуальным динамическим диапазоном и предсказанием на основе изображения с узким динамическим диапазоном.
72. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где размер остаточного сигнала является нулевым, и, таким образом, изображение, полученное из остаточного сигнала, включает невидимое изображение.
73. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где размер остаточного сигнала является приблизительно нулевым, и, таким образом, изображение, полученное из остаточного сигнала, включает невидимое изображение.
74. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где оператор тонального отображения, соответствующий оператору обратного локального тонального отображения или оператору обратного глобального тонального отображения, является монотонным, и где оператор обратного локального тонального отображения или оператор обратного глобального тонального отображения является параметризованным.
75. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где третий динамический диапазон видеоизображения включает визуальный динамический диапазон (VDR) видеоизображения, и где динамический диапазон VDR-видеоизображения составляет 5-6 порядков величины светимости.
76. Способ выполнения остаточной обработки видеоданных в кодеке, включающем кодер и декодер, где способ включает:
в кодере:
фильтрацию нижних частот входного остаточного сигнала;
понижающую дискретизацию фильтрованного остаточного сигнала;
кодирование подвергнутого понижающей дискретизации остаточного сигнала; и
генерирование выходного остаточного битового потока; и,
в декодере:
декодирование выходного остаточного битового потока;
повышающую дискретизацию декодированного остаточного битового потока;
реконструкцию частотного диапазона подвергнутого повышающей дискретизации остаточного битового потока; и
генерирование выходного остаточного сигнала.
77. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где видеоданные включают VDR-видеоизображение, где VDR-видеоизображение включает 32 бит на пиксел, где 32 бит на пиксел включают 12 бит светимости и по 10 бит на каждый из двух цветовых каналов, где динамический диапазон VDR-видеоизображения включает 5-6 порядков величины светимости, где динамический диапазон VDR-видеоизображения больше, чем динамический диапазон LDR-видеоизображения, и где динамический диапазон VDR-видеоизображения меньше, чем динамический диапазон видеоизображения с расширенным динамическим диапазоном (HDR).
78. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, который также включает прием входного остаточного сигнала или передачу выходного остаточного сигнала в слое расширения битового потока видеоизображения, и где кодек включает кодек без дрейфа.
79. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где остаточный сигнал является результатом действия параметризованного оператора обратного тонального отображения.
80. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где параметризованный оператор обратного тонального отображения включает первый нелинейный участок высокой светимости, второй нелинейный участок низкой светимости и линейный участок между первым и вторым нелинейными участками.
81. Компьютерный программный продукт, закодированный на машиночитаемом носителе, включающий команды для выполнения устройством обработки данных операций кодирования видеоизображения, где операции включают:
5
6
генерирование видеокодером кодированного видеопотока, где кодированный видеопоток включает динамический диапазон в 5-6 порядков (10-10) величины светимости.
82. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где команды для генерирования кодированного видеопотока включают операции генерирования кодированного видеопотока в формате визуального динамического диапазона (VDR) видеоизображения, где формат VDR охватывает диапазон светимости и визуальную цветовую гаму (VCG), которые зрительная система человека может воспринимать одновременно.
83. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где VCG включает все цвета, которые зрительная система человека может воспринимать одновременно, где диапазон светимости включает динамический диапазон восприятия светимости человеческим глазом, и где VCG включает широкую цветовую гамму (WCG).
84. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где формат VDR видеоизображения включает 32 бит на пиксел, где 32 бит на пиксел включают 12 бит светимости и по 10 бит на каждый из двух цветовых каналов.
85. Компьютерный программный продукт, закодированный на машиночитаемом носителе, включающий команды для выполнения устройством обработки данных операций кодирования видеоизображения, где операции включают:
кодирование видеопотока видеокодером с использованием 32 бит на пиксел, где 32 бит на пиксел включают 12 бит светимости и по 10 бит на каждый из двух цветовых каналов.
86. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где кодированный видеопоток включает данные видеоизображения, имеющего визуальный динамический диапазон (VDR).
87. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где динамический диапазон VDR-видеоизображения включает 5-6 порядков величины светимости.
88. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где динамический диапазон VDR-видеоизображения включает динамический диапазон восприятия светимости человеческим глазом.
89. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где VDR сконфигурирован для форматов видеоизображения, включающих форматы захвата, распространения и потребления или широкой цветовой гаммы (WCG).
90. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где VDR представляется посредством любой из единиц: менее чем единицы едва заметного различия (JND), цветовых координат XYZ согласно стандарту CIE, гамма-кодирования или логарифмического кодирования.
D
2
91. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, который также включает команды для вычисления логарифмической светимости L с фиксированной точкой из физической светимости в кд/м с использованием параметра S масштаба и параметра В смещения.
D
92. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где вычисление логарифмической светимости L с фиксированной точкой включает вычисление
D
2
L=[S(logY+B)] и
2
93. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, который также включает команды для использования параметра В смещения для определения диапазона полной светимости в кд/м.
94. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, который также включает команды для определения динамического диапазона DR с использованием параметра S масштаба и количества бит N.
95. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где динамический диапазон DR включает определение
96. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, который также включает команды для вычисления координат (u', v') для цветовых каналов путем определения проективного преобразования на цветовых координатах XYZ.
97. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, который также включает команды для операций преобразования координат R'G'B' с гамма-коррекцией в VDR, где операции преобразования координат R'G'B' с гамма-коррекцией в VDR включают:
конверсию координат R'G'B' с гамма-коррекцией для генерирования координат RGB путем отмены гамма-коррекции;
выполнение матричного преобразования координат RGB для генерирования цветовых координат XYZ;
D
конверсию цветовой координаты Y в логарифмическую светимость L  с фиксированной точкой с использованием логарифмической функции и первичного квантования; и
D
D
конверсию цветовых координат Х и Z в цветовые координаты u' и v' в результате проективного преобразования и вторичного квантования.
98. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, который также включает выбор динамического диапазона на основе диапазона светимости и цветов, которые зрительная система человека может воспринимать одновременно.
99. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где кодированный видеопоток включает данные для видеоизображения, имеющего визуальный динамический диапазон (VDR), где динамический диапазон VDR-видеоизображения включает 5-6 порядков величины светимости.
100. Компьютерный программный продукт, закодированный на машиночитаемом носителе, включающий команды для выполнения устройством обработки данных операций сжатия визуального динамического диапазона (VDR), где операции включают:
прием многоуровневым кодеком битового потока узкого динамического диапазона (LDR) и битового потока VDR, где многоуровневый кодек включает, по меньшей мере, один кодер, первый декодер и второй декодер;
обработку битового потока LDR в базовом слое, где обработка битового потока LDR включает, по меньшей мере, одну операцию в первом декодере; и
обработку битового потока VDR в слое расширения, где обработка битового потока VDR включает, по меньшей мере, одну операцию во втором декодере, где битовый поток VDR включает информацию, которая игнорируется первым декодером.
101. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где VDR-видеоизображение включает 32 бит на пиксел, где 32 бит на пиксел включают 12 бит светимости и по 10 бит на каждый из двух цветовых каналов, где динамический диапазон VDR-видеоизображения включает 5-6 порядков величины светимости, где динамический диапазон VDR-видеоизображения больше, чем динамический диапазон LDR-видеоизображения, и где динамический диапазон VDR-видеоизображения меньше, чем динамический диапазон видеоизображения с расширенным динамическим диапазоном (HDR).
102. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где многоуровневый кодек включает тип кодера, совместимый с форматом Н.264 или с форматом AVC.
103. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где многоуровневый кодек включает кодек без дрейфа.
104. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, который также включает команды для вставки в битовый поток VDR данных об одной или больше деталях оригинального изображения, потерянных в результате создания битового потока LDR из оригинального изображения.
105. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где динамический диапазон VDR-видеоизображения содержит 5-6 порядков величины светимости.
106. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где команды включают операции, которые включают:
применение, по меньшей мере, одной операции деконтурирования к данным с узким динамическим диапазоном;
обратное тональное отображение деконтурированных данных с узким динамическим диапазоном;
генерирование остаточного сигнала посредством данных с расширенным динамическим диапазоном или данных с визуальным динамическим диапазоном; и
обработку остаточного сигнала,
где остаточный сигнал включает разность между изображением с расширенным динамическим диапазоном и предсказанием на основе изображения с узким динамическим диапазоном или разность между изображением с визуальным динамическим диапазоном и предсказанием на основе изображения с узким динамическим диапазоном.
107. Компьютерный программный продукт, закодированный на машиночитаемом носителе, включающий команды для выполнения устройством обработки данных операций кодирования и декодирования видеоданных в кодеке, где операции включают:
генерирование сжатого битового потока в кодере кодека, где генерирование сжатого битового потока включает:
прием кодером изображения с узким динамическим диапазоном (LDR);
кодирование и декодирование входного потока LDR-изображения для генерирования первого внутреннего битового потока и декодированного потока LDR-изображения; и
преобразование декодированного потока LDR-изображения в пространство визуального динамического диапазона (VDR) путем использования блока преобразования внутри кодера.
108. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где сжатый битовый поток включает информацию низкого динамического диапазона (LDR) в базовом слое сжатого битового потока и информацию с визуальным динамическим диапазоном - в слое расширения сжатого битового потока.
109. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где VDR-видеоизображение включает 32 бит на пиксел, где 32 бит на пиксел включают 12 бит светимости и по 10 бит на каждый из двух цветовых каналов, где динамический диапазон VDR-видеоизображения включает 5-6 порядков величины светимости, где динамический диапазон VDR-видеоизображения больше, чем динамический диапазон LDR-видеоизображения, и где динамический диапазон VDR-видеоизображения меньше, чем динамический диапазон видеоизображения с расширенным динамическим диапазоном (HDR).
D
D
D
110. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где команды для операций преобразования включают генерирование логарифмической светимости L с фиксированной точкой и цветовых координат (u', v').
111. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где команды для генерирования сжатого битового потока в кодере также включают операции подавления артефактов квантования в преобразованном LDR посредством блока деконтурирования, генерирующего первый деконтурированный битовый поток LDR.
112. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где команды для преобразования декодированного потока LDR-изображения в пространство визуального динамического диапазона (VDR) путем использования блока преобразования в кодере включают следующие операции:
выполнение анализа тонального отображения (ТМ) на первом деконтурированном битовом потоке LDR для генерирования параметров тонального отображения;
выполнение обратного тонального отображения (ITM) на первом деконтурированном битовом потоке LDR; и
генерирование остаточного сигнала, который зависит от результата обратного тонального отображения и входного битового потока визуального динамического диапазона (VDR).
113. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, который также включает команды для операций, которые включают:
обработку остаточного сигнала;
кодирование обработанного остаточного сигнала;
генерирование первого остаточного битового потока;
прием блоком форматтера первого остаточного битового потока, первого внутреннего битового потока LDR и параметров тонального отображения; и
генерирование сжатого битового потока и выходного сигнала кодера.
114. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, который также включает команды для операций кодирования параметров тонального отображения в блоке кодирования тонального отображения.
115. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, который также включает команды для операций генерирования выходного битового потока VDR в декодере кодека, который декодирует сжатый битовый поток.
116. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где команды для генерирования выходного битового потока VDR из декодера включают следующие операции:
прием сжатого битового потока декодером;
синтаксический анализ сжатого битового потока во второй битовый поток LDR, битовый поток тонального отображения и второй внутренний остаточный битовый поток;
декодирование второго внутреннего битового потока LDR; и
преобразование декодированного второго битового потока LDR в пространство визуального динамического диапазона (VDR) в декодере с использованием блока преобразования внутри декодера.
117. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где команды для генерирования выходного битового потока VDR из декодера включают операции, которые включают:
подавление артефактов квантования в преобразованном декодированном втором LDR посредством блока деконтурирования, генерирующего второй деконтурированный битовый поток LDR;
выполнение анализа обратного тонального отображения на втором деконтурированном битовом потоке LDR и битовом потоке тонального отображения, где анализ обратного тонального отображения включает вычисления на основе параметров тонального отображения;
декодирование и обработку второго остаточного битового потока; и
генерирование в декодере выходного битового потока VDR, который зависит от декодированного и обработанного другого остаточного битового потока и от результата анализа обратного тонального отображения.
118. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где любое тональное отображение или обратное тональное отображение, выполняемое в кодеке, включает функцию параметризованного оператора глобального тонального отображения, функцию параметризованного оператора локального тонального отображения, функцию параметризованного оператора обратного глобального тонального отображения или функцию параметризованного оператора обратного локального тонального отображения.
119. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где любой из параметризованных операторов локального тонального отображения или параметризованных операторов обратного локального тонального отображения включает функцию с множеством кривых второго порядка.
120. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где остаточный сигнал включает размер, который приводит к невидимому остаточному изображению.
121. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где команды для генерирования в кодере сжатого битового потока также включают операции, которые включают:
понижающую дискретизацию остаточного сигнала; и
сжатие подвергнутого понижающей дискретизации остаточного сигнала.
122. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где многоуровневый кодек включает кодек без дрейфа.
123. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где VDR-видеоизображение включает динамический диапазон, содержащий 5-6 порядков величины светимости видеоизображения.
124. Компьютерный программный продукт, закодированный на машиночитаемом носителе, включающий команды для выполнения устройством обработки данных операций по обработке видеоизображения, где операции включают:
посредством устройства кодирования видеоизображения декодирование первого видеопотока, имеющего первый динамический диапазон для генерирования первого декодированного видеопотока;
применение оператора обратного тонального отображения к первому декодированному видеопотоку при предсказании второго видеопотока, где второй видеопоток имеет второй динамический диапазон, более широкий, чем первый динамический диапазон; и
генерирование выходного видеопотока из второго видеопотока.
125. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где первый динамический диапазон включает видеоизображение с узким динамическим диапазоном (LDR), и второй динамический диапазон включает видеоизображение с визуальным динамическим диапазоном (VDR).
126. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где оператор обратного тонального отображения включает оператор глобального тонального отображения.
127. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где обратное глобальное тональное отображение включает преобразование LDR-светимости в VDR-светимость, которое включает общее преобразование для множества пикселов видеоданных изображения.
128. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, который также включает команды для операций, включающих вычисление вектора параметров для обратного глобального тонального отображения.
129. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где команды для вычисления вектора параметров включают операции по вычислению оценки методом наименьших квадратов или оценки метрики погрешности для подбора полиномиальной функции.
130. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где оператор обратного тонального отображения является монотонным.
131. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где оператор обратного тонального отображения включает преобразование, включающее отображение LDR-светимости в VDR-светимость, где преобразование варьируется для множества пикселов видеоданных изображения.
132. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где оператор обратного локального тонального отображения включает параметры для локальных изменений.
133. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где оператор обратного локального тонального отображения включает функцию, включающую множество кривых второго порядка.
134. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где оператор обратного тонального отображения включает параметры, соответствующие операциям увеличения контрастности и уменьшения контрастности.
135. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где динамический диапазон VDR-видеоизображения включает 5-6 порядков величины светимости, и динамический диапазон LDR включает 2-3 порядка величины светимости, где динамический диапазон VDR-видеоизображения меньше, чем динамический диапазон видеоизображения с расширенным динамическим диапазоном (HDR), где динамический диапазон видеоизображения с расширенным динамическим диапазоном (HDR) включает 10-14 порядков величины светимости.
136. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, который также включает команды для вычисления остаточного сигнала, где остаточный сигнал включает разность между изображением с расширенным динамическим диапазоном и предсказанием на основе изображения с узким динамическим диапазоном или разность между изображением с визуальным динамическим диапазоном и предсказанием на основе изображения с узким динамическим диапазоном.
137. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, который также включает команды для вычисления остаточного сигнала, где размер остаточного сигнала является нулевым, и, таким образом, изображение, полученное из остаточного сигнала, включает невидимое изображение.
138. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, который также включает команды для вычисления остаточного сигнала, где размер остаточного сигнала является приблизительно нулевым, и, таким образом, изображение, полученное из остаточного сигнала, включает невидимое изображение.
139. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, который также включает команды для операций, включающих:
обработку данных VDR-видеоизображения в слое расширения; и
обработку данных LDR-видеоизображения в базовом слое.
140. Компьютерный программный продукт, вещественно закодированный на машиночитаемом носителе, включающий команды для выполнения устройством обработки данных одного или больше предсказаний динамических диапазонов видеоизображения, где операции включают:
посредством устройства обработки видеоизображения предсказание первого динамического диапазона видеоизображения путем применения оператора обратного глобального тонального отображения к изображению, включающему второй динамический диапазон; или
посредством устройства обработки видеоизображения предсказание третьего динамического диапазона видеоизображения путем применения оператора обратного глобального тонального отображения к изображению, включающему второй динамический диапазон; и
генерирование выходного видеоизображения, включающего первый динамический диапазон или третий динамический диапазон.
141. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где первый динамический диапазон видеоизображения включает расширенный динамический диапазон (HDR), второй динамический диапазон видеоизображения включает узкий динамический диапазон (LDR) и третий динамический диапазон видеоизображения включает визуальный динамический диапазон (VDR).
142. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где динамический диапазон HDR-видеоизображения включает 10-14 порядков величины светимости, динамический диапазон VDR-видеоизображения включает 5-6 порядков величины светимости и динамический диапазон LDR-видеоизображения включает 2-3 порядка величины светимости.
143. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где обратное глобальное тональное отображение включает преобразование LDR-светимости в HDR-светимость, которое включает общее преобразование для множества пикселов изображения.
144. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, который также включает команды для операций, включающих вычисление вектора параметров для обратного глобального тонального отображения, где операции вычисления вектора параметров включают вычисление оценки методом наименьших квадратов или оценки метрики погрешности для подбора полиномиальной функции.
145. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где оператор обратного тонального отображения включает оператор обратного локального тонального отображения, где оператор обратного локального тонального отображения включает преобразование LDR-светимости в HDR-светимость, где преобразование варьируется для множества пикселов изображения.
146. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, который также включает команды для операций, включающих определение параметра для каждого пиксела из множества пикселов.
147. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, который также включает команды для операций, включающих генерирование изображения параметров с использованием определенного параметра для каждого пиксела из множества пикселов.
148. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где оператор обратного локального тонального отображения включает параметры для локальных изменений.
149. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где оператор обратного локального тонального отображения включает параметризованный оператор обратного локального тонального отображения, включающий, по меньшей мере, одну функцию, содержащую множество кривых второго порядка.
150. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где оператор обратного локального тонального отображения или оператор обратного глобального тонального отображения включает параметры, соответствующие операциям увеличения контрастности и уменьшения контрастности.
151. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, который также включает команды для операций, включающих генерирование остаточного сигнала, где остаточный сигнал включает разность между изображением с расширенным динамическим диапазоном и предсказанием на основе изображения с узким динамическим диапазоном или разность между изображением с визуальным динамическим диапазоном и предсказанием на основе изображения с узким динамическим диапазоном
152. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где размер остаточного сигнала является нулевым, и, таким образом, изображение, полученное из остаточного сигнала, включает невидимое изображение.
153. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где размер остаточного сигнала является приблизительно нулевым, и, таким образом, изображение, полученное из остаточного сигнала, включает невидимое изображение.
154. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где оператор тонального отображения, соответствующий оператору обратного локального тонального отображения или оператору обратного глобального тонального отображения, является монотонным, и где оператор обратного локального тонального отображения или оператор обратного глобального тонального отображения является параметризованным.
155. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где третий динамический диапазон видеоизображения включает визуальный динамический диапазон (VDR) видеоизображения, и где динамический диапазон VDR-видеоизображения содержит 5-6 порядков величины светимости.
156. Компьютерный программный продукт, вещественно закодированный на машиночитаемом носителе, включающий команды для выполнения устройством обработки данных остаточной обработки видеоданных в кодеке, включающем кодер и декодер, где операции включают:
в кодере:
фильтрацию нижних частот входного остаточного сигнала;
понижающую дискретизацию фильтрованного остаточного сигнала;
кодирование подвергнутого понижающей дискретизации остаточного сигнала; и
генерирование выходного остаточного битового потока; и
в декодере:
декодирование выходного остаточного битового потока;
повышающую дискретизацию декодированного остаточного битового потока;
реконструкцию частотного диапазона в подвергнутом повышающей дискретизации остаточном битовом потоке; и
генерирование выходного остаточного сигнала.
157. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где видеоданные включают VDR-видеоизображение, где VDR-видеоизображение включает 32 бит на пиксел, где 32 бит на пиксел включают 12 бит светимости и по 10 бит на каждый из двух цветовых каналов, где динамический диапазон VDR-видеоизображения включает 5-6 порядков величины светимости, где динамический диапазон VDR-видеоизображения больше, чем динамический диапазон LDR-видеоизображения, и где динамический диапазон VDR-видеоизображения меньше, чем динамический диапазон видеоизображения с расширенным динамическим диапазоном (HDR).
158. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где команды также включают операции приема входного остаточного сигнала или передачи выходного остаточного сигнала внутри слоя расширения битового потока видеоизображения, и где кодек включает кодек без дрейфа.
159. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где остаточный сигнал является результатом действия параметризованного оператора обратного тонального отображения.
160. Компьютерный программный продукт, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения, где параметризованный оператор обратного тонального отображения включает первый нелинейный участок высокой светимости, второй нелинейный участок низкой светимости и линейный участок между первым и вторым нелинейными участками.
161. Система, которая включает:
5
6
видеокодер, предназначенный для генерирования кодированного видеопотока, где кодированный видеопоток включает динамический диапазон в 5-6 порядков величины (10-10) светимости.
162. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где кодированный видеопоток включает формат видеоизображения с визуальным динамическим диапазоном (VDR), где VDR-формат охватывает диапазон светимости и визуальную цветовую гамму (VCG), которые зрительная система человека может воспринимать одновременно.
163. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где VCG включает все цвета, которые зрительная система человека может воспринимать одновременно, где диапазон светимости включает динамический диапазон восприятия светимости человеческим глазом, и где VCG включает широкую цветовую гамму (WCG).
164. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где VDR-формат видеоизображения включает 32 бит на пиксел, где 32 бит на пиксел включают 12 бит светимости и по 10 бит на каждый из двух цветовых каналов.
165. Система, которая включает:
видеокодек для кодирования видеопотока с использованием 32 бит на пиксел, где 32 бит на пиксел включают 12 бит светимости и по 10 бит на каждый из двух цветовых каналов.
166. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где кодированный видеопоток включает данные для видеоизображения, имеющего визуальный динамический диапазон (VDR).
167. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где динамический диапазон VDR включает 5-6 порядков величины светимости.
168. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где динамический диапазон VDR включает динамический диапазон восприятия светимости человеческим глазом.
169. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где VDR сконфигурирован для форматов видеоизображения, включающих форматы захвата, распространения и потребления или широкой цветовой гаммы (WCG).
170. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где VDR представляется посредством любой из единиц: менее чем единицы едва заметного различия (JND), цветовых координат XYZ согласно стандарту CIE, гамма-кодирования или логарифмического кодирования.
D
2
171. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где видеокодек сконфигурирован для вычисления логарифмической светимости L с фиксированной точкой из физической светимости в кд/м с использованием параметра S масштаба и параметра В смещения.
D
172. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где видеокодек сконфигурирован для вычисления логарифмической светимости L с фиксированной точкой, включая вычисление
D
2
L=[S(logY+B)]
и
2
173. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где видеокодек сконфигурирован для использования параметра В смещения для определения диапазона полной светимости в кд/м.
174. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где система сконфигурирована для определения динамического диапазона DR с использование параметра S масштаба и количества бит N.
175. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где динамический диапазон DR включает
176. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где видеокодек сконфигурирован для вычисления координат (u', v') цветовых каналов путем определения проективного преобразования на цветовых координатах XYZ.
177. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где видеокодек сконфигурирован для преобразования координат R'G'B' с гамма-коррекцией в VDR, где преобразование видеокодеком координат R'G'B' с гамма-коррекцией включает процессы, которые включают:
преобразование координат R'G'B' с гамма-коррекцией для генерирования координат RGB путем отмены гамма-коррекции;
выполнение матричного преобразования координат RGB для генерирования цветовых координат XYZ;
D
преобразование цветовой координаты Y в логарифмическую светимость L с фиксированной точкой с использованием логарифмической функции и первичного квантования; и
D
D
преобразование цветовых координат Х и Z в цветовые координаты u' и v' посредством проективного преобразования и вторичного квантования.
178. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где видеокодек сконфигурирован для выбора динамического диапазона на основе диапазона светимости и цветов, которые зрительная система человека может воспринимать одновременно.
179. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где кодированный видеопоток включает данные видеоизображения, имеющего визуальный динамический диапазон (VDR), где динамический диапазон VDR-видеоизображения включает 5-6 порядков величины светимости.
180. Система для сжатия визуального динамического диапазона (VDR), где система включает:
многоуровневый кодек, предназначенный для приема битового потока узкого динамического диапазона (LDR) и битового потока визуального динамического диапазона (VDR), где многоуровневый кодек включает, по меньшей мере, один кодер, первый декодер и второй декодер;
где многоуровневый кодек сконфигурирован для обработки битового потока LDR в базовом слое, где обработка, связанная с битовым потоком LDR, включает, по меньшей мере, одну операцию в первом декодере; и
где многоуровневый кодек сконфигурирован для обработки битового потока VDR в слое расширения, где процессы, связанные с битовым потоком VDR, включают, по меньшей мере, одну операцию во втором декодере, где битовый поток VDR включает информацию, которая игнорируется первым декодером.
181. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где VDR-видеоизображение включает 32 бит на пиксел, где 32 бит на пиксел включают 12 бит светимости и по 10 бит на каждый из двух цветовых каналов, где динамический диапазон VDR-видеоизображения включает 5-6 порядков величины светимости, где динамический диапазон VDR-видеоизображения больше, чем динамический диапазон LDR-видеоизображения, и где динамический диапазон VDR-видеоизображения меньше, чем динамический диапазон видеоизображения с расширенным динамическим диапазоном (HDR).
182. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где многоуровневый кодек включает тип кодера, который совместим с форматом Н.264 или форматом AVC.
183. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где многоуровневый кодек включает кодек без дрейфа.
184. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где многоуровневый кодек сконфигурирован для вставки в битовый поток VDR данных для одной или больше деталей оригинального изображения, потерянных в результате создания битового потока LDR из оригинального изображения.
5
6
185. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где динамический диапазон VDR-видеоизображения включает 5-6 порядков величины (10-10) светимости.
186. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где многоуровневый кодек сконфигурирован для процессов вычисления, которые включают:
применение, по меньшей мере, одной операции деконтурирования к данным с узким динамическим диапазоном;
обратное тональное отображение деконтурированных данных с узким динамическим диапазоном;
генерирование остаточного сигнала посредством данных с узким динамическим диапазоном или данных с визуальным динамическим диапазоном; и
обработку остаточного сигнала,
где остаточный сигнал включает разность между изображением с расширенным динамическим диапазоном и предсказанием на основе изображения с узким динамическим диапазоном или разность между изображением с визуальным динамическим диапазоном и предсказанием на основе изображения с узким динамическим диапазоном.
187. Система кодирования и декодирования в кодеке, где система включает:
кодек, включающий кодер и декодер,
где кодер кодека сконфигурирован для генерирования сжатого битового потока путем обработки данных, которая включает:
прием кодером потока изображения с узким динамическим диапазоном (LDR); и
кодирование и декодирование входного потока LDR-изображения для генерирования первого внутреннего битового потока LDR и декодированного битового потока LDR, и
где кодек сконфигурирован для преобразования декодированного потока LDR-изображения в пространство визуального динамического диапазона (VDR) путем использования блока преобразования внутри кодера.
188. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, которая также включает:
где сжатый битовый поток включает информацию об узком динамическом диапазоне (LDR) внутри базового слоя сжатого битового потока и информацию о визуальном динамическом диапазоне (VDR) - внутри слоя расширения сжатого битового потока.
189. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где VDR-видеоизображение включает 32 бит на пиксел, где 32 бит на пиксел включают 12 бит светимости и по 10 бит на каждый из двух цветовых каналов, где динамический диапазон VDR-видеоизображения включает 5-6 порядков величины светимости, где динамический диапазон VDR-видеоизображения больше, чем динамический диапазон LDR-видеоизображения, и где динамический диапазон VDR-видеоизображения меньше, чем динамический диапазон видеоизображения с расширенным динамическим диапазоном (HDR).
D
D
D
190. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где преобразование включает логарифмическую светимость L с фиксированной точкой и цветовые координаты (u', v').
191. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где кодер включает блок декодера, где кодер сконфигурирован для подавления артефактов квантования в преобразованном LDR посредством блока деконтурирования для получения первого деконтурированного битового потока LDR.
192. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где кодер сконфигурирован для:
выполнения анализа тонального отображения (ТМ) на первом деконтурированном битовом потоке LDR для генерирования параметров тонального отображения;
выполнения обратного тонального отображения (ITM) на первом деконтурированном битовом потоке LDR; и
генерирования остаточного сигнала, который зависит от результата обратного тонального отображения и входного битового потока визуального динамического диапазона (VDR).
193. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где кодер включает блок обработки и кодирования остаточного сигнала, предназначенный для обработки остаточного сигнала,
кодирования обработанного остаточного сигнала, а также генерирования первого остаточного битового потока;
где кодер включает блок форматтера, предназначенный для приема первого остаточного битового потока, первого внутреннего битового потока LDR и параметров тонального отображения; и
где кодер сконфигурирован для генерирования сжатого битового потока на выходе кодера.
194. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где кодер включает блок кодирования тонального отображения, предназначенный для кодирования параметров тонального отображения.
195. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где декодер в кодекс декодирует сжатый битовый поток и генерирует выходной битовый поток VDR на выходе декодера.
196. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где декодер сконфигурирован для приема декодером сжатого битового потока,
где декодер включает блок синтаксического анализа сжатого битового потока на второй битовый поток LDR, битовый поток тонального отображения и второй внутренний остаточный битовый поток,
где декодер включает блок декодера LDR, предназначенный для декодирования второго внутреннего битового потока LDR, и
где декодер включает блок преобразования, предназначенный для преобразования декодированного второго внутреннего битового потока LDR в декодере в пространство визуального динамического диапазона (VDR).
197. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где декодер включает блок деконтурирования, предназначенный для подавления артефактов квантования в преобразованном декодированном втором LDR для генерирования второго деконтурированного битового потока LDR;
где декодер сконфигурирован для выполнения анализа обратного тонального преобразования на втором деконтурированном битовом потоке LDR и битовом потоке тонального отображения, где анализ обратного тонального отображения включает вычисления посредством параметров тонального отображения;
где декодер сконфигурирован для декодирования и обработки второго остаточного битового потока; и
где декодер сконфигурирован для генерирования выходного битового потока VDR на выходе декодера, где выходной битовый поток VDR зависит от декодированного и обработанного второго остаточного битового потока и является результатом анализа обратного тонального отображения.
198. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где любые операции тонального отображения или обратного тонального отображения, выполняемые кодеком, включают функцию параметризованного оператора глобального тонального отображения, функцию параметризованного оператора локального тонального отображения, функцию параметризованного оператора обратного глобального тонального отображения или функцию параметризованного оператора обратного локального тонального отображения.
199. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где любой из параметризованных операторов локального тонального отображения или параметризованных операторов обратного локального тонального отображения включает функцию с множеством кривых второго порядка.
200. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где остаточный сигнал включает размер, который приводит к невидимому остаточному изображению.
201. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где кодер сконфигурирован для выполнения понижающей дискретизации остаточного сигнала.
202. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где кодек включает кодек без дрейфа.
203. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где VDR видеоизображения включает динамический диапазон, содержащий 5-6 порядков величины светимости видеоизображения.
204. Система обработки видеоизображения, которая включает:
устройство обработки видеоизображения, включающее кодер и декодер, где устройство обработки видеоизображения сконфигурировано для декодирования первого видеопотока, имеющего первый динамический диапазон с целью генерирования первого декодированного потока,
где устройство обработки видеоизображения сконфигурировано для применения оператора обратного тонального отображения к декодированному первому потоку с целью предсказания второго видеопотока, где второй видеопоток имеет второй динамический диапазон, более широкий, чем первый динамический диапазон; и
где устройство обработки видеоизображения сконфигурировано для генерирования выходного видеопотока из второго видеопотока.
205. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где первый динамический диапазон включает видеоизображение с узким динамическим диапазоном (LDR), и второй динамический диапазон включает видеоизображение с визуальным динамическим диапазоном (VDR).
206. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где оператор обратного тонального отображения включает оператор глобального тонального отображения.
207. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где устройство обработки видеоизображения включает блок преобразования, где обратное глобальное тональное отображение включает преобразование LDR-светимости в VDR-светимость, которое включает общее преобразование для множества пикселов видеоданных изображения.
208. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где устройство обработки видеоизображения включает блок обработки параметров, предназначенный для вычисления вектора параметров для обратного глобального тонального отображения.
209. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где устройство обработки видеоизображения включает блок обработки параметров, предназначенный для вычисления оценки методом наименьших квадратов или оценки метрики погрешности для подбора полиномиальной функции.
210. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где оператор обратного тонального отображения, используемый в устройстве обработки видеоизображения, является монотонным.
211. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где оператор обратного тонального отображения включает оператор обратного локального тонального отображения, где оператор обратного локального тонального отображения включает преобразование, включающее отображение LDR-светимости в VDR-светимость, где преобразование варьируется для множества пикселов видеоданных изображения.
212. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где оператор обратного локального тонального отображения включает параметры для локальных изменений.
213. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где оператор обратного локального тонального отображения включает функцию, включающую множество кривых второго порядка.
214. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где оператор обратного тонального отображения включает параметры, соответствующие операциям увеличения контрастности и уменьшения контрастности.
215. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где динамический диапазон видеоизображения с расширенным динамическим диапазоном (HDR) включает 10-14 порядков величины светимости, динамический диапазон VDR-видеоизображения включает 5-6 порядков величины светимости и динамический диапазон LDR-видеоизображения включает 2-3 порядка величины светимости.
216. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где устройство обработки видеоизображения сконфигурировано обработки данных VDR-видеоизображения в слое расширения; и
где устройство обработки видеоизображения сконфигурировано для обработки данных LDR-видеоизображения в базовом слое.
217. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где устройство обработки видеоизображения сконфигурировано для вычисления остаточного сигнала, где остаточный сигнал включает разность между изображением с расширенным динамическим диапазоном и предсказанием на основе изображения с узким динамическим диапазоном или разность между изображением с визуальным динамическим диапазоном и предсказанием на основе изображения с узким динамическим диапазоном.
218. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где размер остаточного сигнала является нулевым, и, таким образом, изображение, полученное из остаточного сигнала, включает невидимое изображение.
219. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где размер остаточного сигнала является приблизительно нулевым, и, таким образом, изображение, полученное из остаточного сигнала, включает невидимое изображение.
220. Система предсказания динамического диапазона видеоизображения, где система включает:
устройство обработки видеоизображения, которое включает блок параметров видеоизображения, который использует параметры отображения динамического диапазона видеоизображения,
где устройство обработки видеоизображения сконфигурировано для предсказания одного или больше динамических диапазонов видеоизображения, включая предсказания:
первого динамического диапазона видеоизображения путем применения оператора обратного глобального тонального отображения к изображению, включающему второй динамический диапазон; или
третьего динамического диапазона видеоизображения путем применения оператора обратного глобального тонального отображения к изображению, включающему второй динамический диапазон, или к изображению, включающему третий динамический диапазон; и
где устройство обработки видеоизображения сконфигурировано для генерирования выходного видеоизображения, включающего, по меньшей мере, один из динамических диапазонов, первый динамический диапазон или третий динамический диапазон.
221. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где первый динамический диапазон видеоизображения включает расширенный динамический диапазон (HDR), второй динамический диапазон видеоизображения включает узкий динамический диапазон (LSR), и третий динамический диапазон видеоизображения включает визуальный динамический диапазон (VDR).
222. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где динамический диапазон HDR-видеоизображения включает 10-14 порядков величины светимости, динамический диапазон VDR-видеоизображения включает 5-6 порядков величины светимости, и динамический диапазон LDR-видеоизображения включает 2-3 порядка величины светимости.
223. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где блок параметров видеоизображения сконфигурирован для преобразования светимости, связанной с динамическими диапазонами, где оператор обратного тонального отображения включает оператор обратного локального тонального отображения, где оператор обратного локального тонального отображения включает преобразование, включающее отображение LDR-светимости в VDR-светимость, и где преобразование варьируется для множества пикселов изображения.
224. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где блок параметров видеоизображения сконфигурирован для преобразования светимости, связанной с динамическими диапазонами, где оператор обратного глобального тонального отображения включает преобразование LDR-светимости в VDR-светимость, которое включает общее преобразование для множества пикселов видеоданных изображения.
225. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где блок параметров видеоизображения сконфигурирован для вычисления вектора параметров обратного глобального тонального отображения, где вычисление вектора параметров включает вычисление оценки методом наименьших квадратов или оценки метрики погрешности для подбора полиномиальной функции.
226. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где блок параметров видеоизображения сконфигурирован для определения параметра для каждого пиксела из множества пикселов.
227. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где блок параметров видеоизображения сконфигурирован для генерирования изображения параметров с использованием параметра для каждого пиксела из множества пикселов.
228. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где оператор обратного локального тонального отображения включает параметры для локальных изменений.
229. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где оператор обратного локального тонального отображения включает параметризованный оператор обратного локального тонального отображения, включающий, по меньшей мере, одну функцию, содержащую множество кривых второго порядка.
230. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где оператор обратного локального тонального отображения или оператор обратного глобального тонального отображения включает параметры, соответствующие операциям увеличения контрастности или уменьшения контрастности.
231. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где блок параметров видеоизображения сконфигурирован для генерирования остаточного сигнала, где остаточный сигнал включает разность между изображением с расширенным динамическим диапазоном и предсказанием на основе изображения с узким динамическим диапазоном или разность между изображением с визуальным динамическим диапазоном и предсказанием на основе изображения с узким динамическим диапазоном.
232. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где размер остаточного сигнала является нулевым, и, таким образом, изображение, полученное из остаточного сигнала, включает невидимое изображение.
233. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где размер остаточного сигнала является приблизительно нулевым, и, таким образом, изображение, полученное из остаточного сигнала, включает невидимое изображение.
234. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где оператор тонального отображения, соответствующий оператору обратного локального тонального отображения или оператору обратного глобального тонального отображения, является монотонным, и где оператор обратного локального тонального отображения или оператор обратного глобального тонального отображения является параметризованным.
5
6
235. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где третий динамический диапазон видеоизображения представляет собой визуальный динамический диапазон (VDR) видеоизображения, и где динамический диапазон VDR-видеоизображения содержит 5-6 порядков величины (10-10) светимости.
236. Система для выполнения остаточной обработки видеоданных в кодеке, которая включает:
в кодере:
фильтр, предназначенный для фильтрации низких частот входного остаточного сигнала;
блок понижающей дискретизации, предназначенный для понижающей дискретизации фильтрованного остаточного сигнала;
блок кодирования, предназначенный для кодирования подвергнутого понижающей дискретизации остаточного сигнала; и
выход кодера, предназначенный для вывода остаточного битового потока к декодеру; и
в декодере:
блок декодирования, предназначенный для приема остаточного битового потока и декодирования выходного остаточного битового потока;
блок повышающей дискретизации, предназначенный для повышающей дискретизации декодированного остаточного битового потока;
блок реконструкции, предназначенный для реконструкции частотного диапазона в подвергнутом повышающей дискретизации остаточном битовом потоке; и
выход декодера, предназначенный для вывода выходного остаточного сигнала.
237. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где видеоданные включают VDR-видеоизображение, где VDR-видеоизображение включает 32 бит на пиксел, где 32 бит на пиксел включают 12 бит светимости и по 10 бит на каждый из двух цветовых каналов, где динамический диапазон VDR-видеоизображения включает 5-6 порядков величины светимости, где динамический диапазон VDR-видеоизображения больше, чем динамический диапазон LDR-видеоизображения, и где динамический диапазон VDR-видеоизображения меньше, чем динамический диапазон видеоизображения с расширенным динамическим диапазоном (HDR).
238. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где кодек сконфигурирован для приема входного остаточного сигнала или передачи остаточного сигнала внутри слоя расширения битового потока видеоизображения, и где кодек включает кодек без дрейфа.
239. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где остаточный сигнал является результатом действия параметризованного оператора обратного тонального отображения.
240. Система, описанная в отношении нумерованного иллюстративного варианта осуществления изобретения, где параметризованный оператор обратного тонального отображения включает первый нелинейный участок с высокой светимостью, второй нелинейный участок с низкой светимостью и линейный участок между первым и вторым нелинейными участками. Нижеследующие иллюстративные варианты осуществления изобретения пронумерованы алфавитно-цифровым способом. Однако некоторое изменение символов нумерации не подразумевает и не предполагает никакого отличия в отношении любого относительного представления о важности. Например, иллюстративные варианты осуществления изобретения, пронумерованные выше как 1-240, и иллюстративные варианты осуществления изобретения, пронумерованные ниже алфавитно-цифровым способом как 1А-22А, все и каждое по отдельности излагают один или больше иллюстративных вариантов осуществления настоящего изобретения.
1А. Способ, который включает:
генерирование видеокодером кодированного видеопотока, где кодированный видеопоток включает динамический диапазон больше трех (3) порядков величины светимости.
2А. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения 1А, где генерирование кодированного видеопотока включает генерирование кодированного видеопотока в формате визуального динамического диапазона (VDR) видеоизображения, где VDR-формат охватывает диапазон светимости и визуальную цветовую гамму (VCG), которые зрительная система человека может воспринимать одновременно.
3А. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения 2А, где генерирование кодированного видеопотока включает сжатие видеоизображения с визуальным динамическим диапазоном (VDR);
где сжатие VDR-видеоизображения включает:
прием многоуровневым кодеком потока изображения с узким динамическим диапазоном (LDR) и потока VDR-изображения, где многоуровневый кодек включает, по меньшей мере, один декодер, первый кодер и второй кодер;
обработку потока LDR-изображения в базовом слое, где обработка LDR-изображения включает, по меньшей мере, одну операцию в первом кодере; и
обработку потока VDR-изображения в слое расширения, где обработка VDR-изображения включает, по меньшей мере, одну операцию во втором кодере.
4А. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения 3А, который также включает вставку в поток VDR-изображения данных для одной или больше деталей оригинального изображения, которые были потеряны в результате создания потока LDR-изображения из оригинального изображения.
5А. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения 3А, который также включает:
применение, по меньшей мере, одной операции деконтурирования к данным с узким динамическим диапазоном;
обратное тональное отображение деконтурированных данных с узким динамическим диапазоном;
генерирование остаточного сигнала посредством данных с расширенным динамическим диапазоном или данных с визуальным динамическим диапазоном; и
обработку остаточного сигнала,
где остаточный сигнал включает разность между изображением с расширенным динамическим диапазоном и предсказанием на основе изображения с узким динамическим диапазоном или разность между изображением с визуальным динамическим диапазоном и предсказанием на основе изображения с узким динамическим диапазоном.
6А. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения 1А, где генерирование кодированного видеопотока включает кодирование и декодирование видеоинформации кодеком;
где кодирование и декодирование видеоинформации кодеком включает:
прием кодером потока изображения с узким динамическим диапазоном (LDR);
кодирование и декодирование входного потока LDR-изображения для генерирования, соответственно, сжатого кодированного первого внутреннего битового потока LDR и декодированного потока LDR-изображения; и
преобразование декодированного потока LDR-изображения в пространство визуального динамического диапазона (VDR) блоком преобразования кодера.
7А. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения 6А,
где сжатый кодированный битовый поток LDR включает информацию с узким динамическим диапазоном (LDR) внутри базового слоя сжатого кодированного битового потока и информацию с визуальным динамическим диапазоном (VDR) - внутри слоя расширения сжатого кодированного битового потока.
8A. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения 7А, где генерирование кодером сжатого битового потока также включает подавление артефактов квантования в преобразованном LDR посредством блока деконтурирования кодера для генерирования первого деконтурированного потока LDR-изображения.
9А. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения 8A, где преобразование декодированного потока LDR-изображения в пространство визуального динамического диапазона (VDR) посредством блока преобразования кодера включает:
выполнение анализа тонального отображения (ТМ) между первым деконтурированным потоком LDR-изображения и потоком VDR-изображения для генерирования параметров тонального отображения;
выполнение обратного тонального отображения (ITM) на первом деконтурированном потоке LDR-изображения; и
генерирование остаточного сигнала, который зависит от результата обратного тонального отображения и входного битового потока изображения с визуальным динамическим диапазоном (VDR).
10А. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения 9А, который также включает генерирование выходного потока VDR-изображения из декодера кодека, который декодирует сжатый кодированный битовый поток, где генерирование выходного битового потока VDR из декодера включает следующие этапы:
прием декодером сжатого кодированного битового потока;
синтаксический анализ сжатого кодированного битового потока во второй поток LDR-изображения, поток тонального отображения изображения и второй внутренний остаточный битовый поток;
декодирование второго внутреннего остаточного битового потока LDR; и
преобразование декодированного второго внутреннего потока LDR-изображения в пространство визуального динамического диапазона (VDR) в декодере посредством блока преобразования декодера.
11А. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения 10А, где генерирование выходного потока VDR-изображения из декодера включает:
генерирование в декодере выходного потока VDR-изображения, который зависит от потока декодированного и обработанного остаточного изображения и от результата обратного тонального отображения декодированного потока LDR-изображения;
где один или больше анализов тонального отображения или операций обратного тонального отображения выполняются кодеком, включающим функции одного или больше операторов:
параметризованного оператора глобального тонального отображения;
параметризованного оператора локального тонального отображения;
параметризованного оператора обратного глобального тонального отображения; или
параметризованного оператора обратного локального тонального отображения.
12А. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения 11А, где генерирование кодированного видеопотока включает обработку видеоинформации;
где обработка видеоинформации включает:
посредством устройства кодирования видеоизображения декодирование первого потока изображения, имеющего первый динамический диапазон, для генерирования первого декодированного битового потока; и
применение оператора обратного тонального отображения к декодированному первому битовому потоку для предсказания второго потока изображения, где второй поток изображения имеет второй динамический диапазон, более широкий, чем первый динамический диапазон; и
генерирование выходного потока изображения из второго потока изображения.
13А. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения 12А, где первый динамический диапазон включает узкий динамический диапазон (LDR), и второй динамический диапазон включает визуальный динамический диапазон (VDR).
14А. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения 12А, где оператор обратного тонального отображения включает одну или больше следующих функций:
монотонный оператор обратного тонального отображения;
оператор обратного локального тонального отображения;
функцию, которая включает множество кривых второго порядка; или
один или больше параметров, который соответствуют одной или больше операциям увеличения контрастности или уменьшения контрастности.
15А. Способ, описанный в отношении нумерованного иллюстративного варианта осуществления изобретения 13А, который также включает вычисление остаточного сигнала;
где остаточный сигнал включает, по меньшей мере, одну из следующих разностей:
разность между изображением с расширенным динамическим диапазоном и предсказанием на основе изображения с узким динамическим диапазоном; или
разность между изображением с визуальным динамическим диапазоном и предсказанием на основе изображения с узким динамическим диапазоном.
16А. Система, которая включает:
средства для генерирования кодером кодированного видеопотока, где кодированный видеопоток включает динамический диапазон больше трех (3) порядков величины светимости.
17А. Устройство для кодирования видеоинформации, которое включает:
один или больше процессоров; и
машиночитаемый носитель, включающий команды, которые при осуществлении или выполнении процессорами приводят, управляют, программируют или конфигурируют устройство кодирования для генерирования кодированного видеопотока, где кодированный видеопоток включает динамический диапазон больше трех (3) порядков величины светимости.
18А. Устройство для декодирования видеоинформации, которое включает:
один или больше процессоров; и
машиночитаемый носитель, включающий команды, которые при осуществлении или выполнении процессорами приводят, управляют, программируют или конфигурируют устройство декодирования для обработки видеокодером кодированного видеопотока, где кодированный видеопоток включает динамический диапазон больше трех (3) порядков величины светимости.
19А. Вычислительная система, которая включает:
один или больше процессоров; и
машиночитаемый носитель, включающий команды, которые при осуществлении или выполнении процессорами приводят, управляют, программируют или конфигурируют вычислительную систему для осуществления или выполнения одного или больше следующих аспектов:
видеокодера, который генерирует кодированный видеопоток, где кодированный видеопоток включает динамический диапазон больше трех (3) порядков величины светимости;
видеодекодера, который обрабатывает кодированный видеопоток, который включает динамический диапазон больше трех (3) порядков величины светимости; или
процесс генерирования видеокодером кодированного видеопотока, где кодированный видеопоток включает динамический диапазон больше трех (3) порядков величины светимости.
20А. Применение компьютерной системы, которое включает:
генерирование видеокодером кодированного видеопотока, где кодированный видеопоток включает динамический диапазон больше трех (3) порядков величины светимости.
21А. Продукт - машиночитаемый носитель, включающий закодированные на нем команды, которые при осуществлении или выполнении одним или больше процессорами приводят, управляют или программируют процессоры для вызова, управления, выполнения, осуществления, программирования или конфигурирования одного или больше следующих аспектов:
процесса генерирования видеокодером кодированного видеопотока, где кодированный видеопоток включает динамический диапазон больше трех (3) порядков величины светимости;
способа, описанного в отношении одного или больше иллюстративных вариантов осуществления изобретения 1А-15А или 22А;
применения компьютерной системы, описанного в отношении иллюстративного варианта осуществления изобретения 20А;
системы, описанной в отношении одного или больше иллюстративных вариантов осуществления изобретения 16А или 19А; или
устройства, описанного в отношении одного или больше иллюстративных вариантов осуществления изобретения 17А или 18А.
22А. Способы, системы, устройства или машиночитаемый носитель, описанные в отношении одного или больше иллюстративных вариантов осуществления изобретения 2А или 16А-20А включительно, где динамический диапазон включает от пяти (5) до шести (6) порядков величины светимости.
[00138] Описанные в данном описании концепции также могут быть распространены и применены для многомерного видеоизображения, такого как трехмерное видеоизображение. Описаны конкретные иллюстративные варианты осуществления раскрытия. Некоторые варианты осуществления настоящего изобретения определены, описаны и/или перечислены в пределах объема пунктов нижеследующей формулы изобретения или их эквивалентов.