УСТРОЙСТВО ПЕРЕДАЧИ ДАННЫХ СТЕРЕОСКОПИЧЕСКОГО ИЗОБРАЖЕНИЯ, СПОСОБ ПЕРЕДАЧИ ДАННЫХ СТЕРЕОСКОПИЧЕСКОГО ИЗОБРАЖЕНИЯ И УСТРОЙСТВО ДЛЯ ПРИЁМА ДАННЫХ СТЕРЕОСКОПИЧЕСКОГО ИЗОБРАЖЕНИЯ
STEREOSCOPIC IMAGE DATA TRANSMISSION DEVICE, STEREOSCOPIC IMAGE DATA TRANSMISSION METHOD AND DEVICE FOR RECEIVING STEREOSCOPIC IMAGE DATA

Область техники, к которой относится изобретение
Изобретение относится к устройству передачи данных стереоскопического изображения, способу передачи данных стереоскопического изображения и устройству для приема данных стереоскопического изображения и, в частности, относится к устройству передачи данных стереоскопического изображения и тому подобному, способным соответствующим образом осуществлять отображение наложенной информации, такой как информация скрытых субтитров, информация субтитров, графическая информация, текстовая информация и так далее.
Уровень техники
Например, в PTL 1 представлен способ передачи с использованием каналов телевизионного вещания для данных стереоскопического изображения. В данном случае передаются данные стереоскопического изображения, включающие в себя данные изображения для левого глаза и данные изображения для правого глаза, и отображение стереоскопических изображений осуществляется на телевизионном приемнике с использованием бинокулярного рассогласования (диспаратности).
Фиг.54 иллюстрирует соотношение позиций отображения левого и правого изображений объекта(объектов) на экране и позицию воспроизведения стереоскопического изображения при отображении стереоскопического изображения с использованием бинокулярной диспаратности. Например, с объектом А, который отображается левым изображением La, отображенным со смещением к правой стороне, и правым изображением Ra, смещенным к левой стороне, левая и правая линии вида пересекаются у ближней стороны плоскости экрана, так что позиция воспроизведения стереоскопического изображения находится у ближней стороны плоскости экрана.
Также, например, с объектом B, который отображается левым изображением Lb и правым изображением Rb, отображенными в такой же позиции, левая и правая линии вида пересекаются в плоскости экрана, так что позиция воспроизведения стереоскопического изображения находится в плоскости экрана. Кроме того, например, с объектом C, который отображается левым изображением Lc, отображенным со смещением к левой стороне, и правым изображением Re, смещенным к правой стороне, левая и правая линии вида пересекаются у дальней стороны плоскости экрана, так что позиция воспроизведения стереоскопического изображения находится у дальней стороны плоскости экрана.
Список ссылок
Патентная литература
PTL 1: нерассмотренная заявка на патент Японии №2005-6114
Сущность изобретения
Техническая проблема
Как было описано выше, при отображении стереоскопических изображений зритель обычно распознает проекцию стереоскопического изображения, используя бинокулярную диспаратность. Ожидается, что налагаемая информация, подлежащая наложению на изображение, например, такая как информация скрытых субтитров, информация субтитров, графическая информация, текстовая информация и так далее, также будет подлежать визуализации вместе с отображением стереоскопического изображения не только с двухмерным чувством пространства, но и с трехмерным ощущением глубины.
Например, в случае, когда субтитры, которые являются скрытой информацией или информацией субтитров, подлежат отображению наложением (совмещаемое наложение), если субтитры не отображаются перед ближайшим объектом внутри изображения, как используется в пространстве перспективы, зритель может почувствовать конфликт перспективы. Кроме того, в случае, если другая графическая информация или текстовая информация отображены на изображении путем наложения, также ожидается подвергнуть их корректировке диспаратности в соответствии с перспективой каждого объекта внутри изображения и поддержанию сопоставимости перспективы.
Цель настоящего изобретения состоит в осуществлении поддержания сопоставимости перспективы между объектами внутри изображения в отношении отображения налагаемой информации, такой как информация скрытых субтитров, информация субтитров, графическая информация, текстовая информация и так далее.
Решение проблемы
Идеей настоящего изобретения является устройство передачи данных стереоскопического изображения, включающее в себя:
кодирующий блок, выполненный для осуществления кодирования в отношении данных стереоскопического изображения, включающих в себя данные изображения для левого глаза и данные изображения для правого глаза, чтобы получить закодированные видеоданные;
блок генерации данных налагаемой информации, выполненный для генерации данных налагаемой информации, подлежащей наложению на изображение данных изображения для левого глаза и данных изображения для правого глаза;
блок вывода информации диспаратности, выполненный для вывода информации диспаратности для предоставления диспаратности в налагаемую информацию, подлежащую наложению на изображение данных изображения для левого глаза и данных изображения для правого глаза; и
блок передачи, выполненный для передачи закодированных видеоданных, полученных от кодирующего блока, данных налагаемой информации, созданных в блоке генерации данных налагаемой информации, и информации диспаратности, выведенной из блока вывода информации диспаратности.
В данном изобретении кодирование осуществляется кодирующим блоком, так что данные стереоскопического изображения, включающие в себя данные изображения для левого глаза и данные изображения для правого глаза, кодируются и получаются закодированные видеоданные. Например, кодирование в соответствии со способом кодирования, таким как MPEG2, Н.264 AVC или VC-1 или тому подобным, осуществляется кодирующим блоком на данных стереоскопического изображения, включающих в себя данные изображения для левого глаза и данные изображения для правого глаза.
Кроме того, данные налагаемой информации, подлежащей наложению на изображение данных изображения для левого глаза и данных изображения для правого глаза, создаются в блоке генерации данных налагаемой информации. Следует отметить, что налагаемая информация означает информацию, подлежащую отображению наложенной на изображение, такую как информация скрытых субтитров для отображения субтитров, информация субтитров, графическая информация для отображения графики, такой как логотипы и тому подобное, электронные программы передач (EPG), текстовая информация для отображения телетекста и так далее.
Кроме того, информация диспаратности, которая предоставляет диспаратность в налагаемую информацию, подлежащую наложению на изображение данных изображения для левого глаза и данных изображения для правого глаза, выводится блоком вывода информации диспаратности. Например, идентификатор добавляется к каждым данным налагаемой информации, созданным в блоке генерации данных налагаемой информации, и информация диспаратности каждых данных налагаемой информации, выведенных из блока генерации данных налагаемой информации, добавляет в них идентификатор, соответствующий идентификатору, представленному в соответствующих данных налагаемой информации. Посредством такого добавления идентификаторов в каждые данные налагаемой информации и информацию диспаратности данные налагаемой информации и информация диспаратности могут быть сопоставлены. Термин «идентификатор, соответствующий» означает тот же идентификатор или сопоставленный идентификатор.
Например, блок вывода информации диспаратности включает в себя блок определения информации диспаратности для определения информации диспаратности в соответствии с содержанием изображения данных изображения для левого глаза и данных изображения для правого глаза, для каждых данных налагаемой информации, созданных в блоке генерации данных налагаемой информации, и выводит информацию диспаратности, определенную в блоке определения информации диспаратности. В данном случае, например, блок определения информации диспаратности включает в себя блок обнаружения информации диспаратности, выполненный для обнаружения информации диспаратности одного из изображений для левого глаза и правого глаза в отношении другого во множестве позиций внутри изображения на основе данных изображения для левого глаза и данных изображения для правого глаза, и определяет из множества информации диспаратности, обнаруженного в блоке обнаружения информации диспаратности, информацию диспаратности, обнаруженную в позиции обнаружения, соответствующей позиции наложения, для каждой налагаемой информации.
Кроме того, например, блок вывода информации диспаратности включает в себя блок установки информации диспаратности, выполненный для установки информации диспаратности каждых налагаемых данных, созданных в блоке генерации налагаемых данных, и выводит информацию диспаратности, установленную в блоке установки информации диспаратности. В блоке установки информации диспаратности установка информации диспаратности осуществляется для каждых налагаемых данных посредством обработки по заранее заданной программе или, например, ручных операций пользователя. Например, различная информация диспаратности устанавливается в соответствии с позицией наложения, или обычная информация диспаратности устанавливается безотносительно к позиции наложения, или информация диспаратности устанавливается по-разному в зависимости от типа налагаемой информации. Далее, тип налагаемой информации является, например, такими типами, как информация скрытых субтитров, информация субтитров, графическая информация, текстовая информация и так далее. Также тип наложения является, например, типами, сгруппированными по позиции наложения, длительности времени наложения и так далее.
Кроме того, например, блок вывода информации диспаратности включает в себя блок определения информации диспаратности для определения информации диспаратности в соответствии с содержанием изображения данных изображения для левого глаза и данных изображения для правого глаза, для каждых данных налагаемой информации, созданных в блоке генерации данных налагаемой информации, и блок установки информации диспаратности, выполненный для установки информации диспаратности каждых налагаемых данных, созданных в блоке генерации налагаемых данных, с информацией диспаратности, определенной в блоке определения информации диспаратности, и информацией диспаратности, определенной в блоке установки информации диспаратности, которая выводится выборочно.
Кроме того, блок передачи передает закодированные видеоданные, полученные от кодирующего блока, данные налагаемой информации, созданные в блоке генерации данных налагаемой информации, и информацию диспаратности, выведенную из блока вывода информации диспаратности. Например, информация диспаратности, выведенная из блока вывода информации диспаратности, включается в область пользовательских данных заголовочной части элементарного видеопотока, который включает в себя закодированные видеоданные, полученные в кодирующем блоке в части полезных данных. Также, например, одна или обе из информации, указывающей позицию наложения налагаемой информации, и информации, указывающей время отображения налагаемой информации, добавляются в информацию диспаратности и передаются. Добавление информации, указывающей позицию наложения и время отображения, в информацию диспаратности, и ее передача означают, что эти информации, например, не должны быть добавлены в данные налагаемой информации и переданы.
Таким образом, в отношении настоящего изобретения, данные налагаемой информации и информация диспаратности передаются вместе с закодированными видеоданными, полученными путем кодирования данных стереоскопического изображения, включающих в себя данные изображения для левого глаза и данные изображения для правого глаза. Соответственно, на приемной стороне налагаемая информация, подлежащая корректировке диспаратности в соответствии с перспективой объектов внутри изображения, может быть использована в качестве такой же налагаемой информации (информация скрытых субтитров, информация субтитров, графическая информация, текстовая информация и так далее), как информация, наложенная на изображение для левого глаза и изображение для правого глаза, и сопоставимость перспективы может поддерживаться между объектами в изображении при отображении налагаемой информации.
Также идеей настоящего изобретения является устройство для приема данных стереоскопического изображения, включающее в себя:
- блок приема, выполненный для приема закодированных видеоданных, полученных путем кодирования данных стереоскопического изображения, включающих в себя данные изображения для левого глаза и данные изображения для правого глаза, данных налагаемой информации, подлежащих наложению на изображение данных изображения для левого глаза и данных изображения для правого глаза, и информации диспаратности для предоставления диспаратности в налагаемую информацию, подлежащую наложению на изображение данных изображения для левого глаза и данных изображения для правого глаза;
- декодирующий блок, выполненный для осуществления декодирования в отношении закодированных видеоданных, полученных в блоке приема, чтобы получить данные стереоскопического изображения; и
- блок обработки данных изображения, выполненный для предоставления диспаратности в ту же налагаемую информацию, что и налагаемая информация данных налагаемой информации, полученных в блоке приема, подлежащая наложению на изображение данных изображения для левого глаза и данных изображения для правого глаза, включенных в данные стереоскопического изображения, полученные в декодирующем блоке на основе информации диспаратности, полученной в блоке приема, получая таким образом данные изображения для левого глаза, на которые была наложена налагаемая информация, и данные изображения для правого глаза, на которые была наложена налагаемая информация.
В настоящем изобретении налагаемые данные и информация диспаратности передаются вместе с закодированными видеоданными, полученными путем кодирования данных стереоскопического изображения, включающих в себя данные изображения для левого глаза и данные изображения для правого глаза. Декодирующий блок декодирует закодированные видеоданные, полученные в блоке приема, чтобы получить данные стереоскопического изображения, включающие в себя данные изображения для левого глаза и данные изображения для правого глаза.
Кроме того, блок обработки данных изображения получает данные изображения для левого глаза с наложенной налагаемой информацией и данные изображения для правого глаза с наложенной налагаемой информацией на основе данных изображения для левого глаза, включенных в данные стереоскопического изображения, полученных в декодирующем блоке, и данных налагаемой информации, полученных в блоке приема. В этом случае в налагаемое изображение предоставлена диспаратность, подлежащая наложению на изображение данных изображения для левого глаза и данных изображения для правого глаза на основе информации диспаратности, полученной в блоке приема. Соответственно, сопоставимость перспективы может поддерживаться между объектами в изображении при отображении налагаемой информации, такой как информация скрытых субтитров, информация субтитров, графическая информация, текстовая информация и так далее.
Полезные эффекты изобретения
В соответствии с настоящим изобретением на стороне приема данных стереоскопического изображения налагаемая информация, подлежащая корректировке диспаратности в соответствии с перспективой объектов внутри изображения, может быть использована в качестве такой же налагаемой информации, как информация, наложенная на изображение для левого глаза и изображение для правого глаза, и сопоставимость перспективы может поддерживаться между объектами в изображении при отображении налагаемой информации, такой как информация скрытых субтитров, информация субтитров, графическая информация, текстовая информация и так далее.
Краткое описание чертежей
Фиг.1 является блок-схемой, иллюстрирующей пример выполнения системы отображения стереоскопического изображения, служащей в качестве варианта осуществления настоящего изобретения.
Фиг.2 является блок-схемой, иллюстрирующей пример выполнения блока генерации данных передачи в вещательной станции.
Фиг.3 является диаграммой, иллюстрирующей данные изображения в пиксельном формате 1920 ×1080.
Фиг.4 является диаграммой для описания способа «верх-низ», способа «бок о бок» и способа «чередование кадров», которые являются способами передачи данных стереоскопического изображения (данных 3D изображения).
Фиг.5 является диаграммой для описания примера обнаружения вектора диспаратности изображения для правого глаза, соответствующего изображению для левого глаза.
Фиг.6 является диаграммой для описания получения вектора диспаратности с использованием способа поблочного сравнения.
Фиг.7 является диаграммой для описания примера вектора VV диспаратности в заранее заданной позиции внутри изображения, подлежащего обнаружению в блоке обнаружения векторов диспаратности.
Фиг.8 является диаграммой, иллюстрирующей содержание передачи вектора диспаратности.
Фиг.9 является диаграммой, иллюстрирующей пример блока обнаружения диспаратности и содержания передачи вектора диспаратности в данном случае.
Фиг.10 является диаграммой, описывающей пример расчета времени для обнаружения и передачи вектора диспаратности.
Фиг.11 является диаграммой, описывающей пример расчета времени для обнаружения и передачи вектора диспаратности.
Фиг.12 является диаграммой, иллюстрирующей пример потока каждых данных, подлежащих мультиплексированию в блоке генерации данных передачи.
Фиг.13 является блок-схемой, иллюстрирующей другой пример выполнения блока генерации данных передачи в вещательной станции.
Фиг.14 является диаграммой для описания позиций наложения и так далее графической информации для левого глаза и графической информации для правого глаза в случае, когда способ передачи является первым способом передачи (способ «верх-низ»).
Фиг.15 является диаграммой для описания способа генерации графической информации для левого глаза и графической информации для правого глаза в случае, когда способ передачи является первым способом передачи (способ «верх-низ»).
Фиг.16 является диаграммой для описания способа генерации графической информации для левого глаза и графической информации для правого глаза в случае, когда способ передачи является вторым способом передачи (способ «бок о бок»).
Фиг.17 является диаграммой для описания способа генерации графической информации для левого глаза и графической информации для правого глаза в случае, когда способ передачи является вторым способом передачи (способ «бок о бок»).
Фиг.18 является блок-схемой, иллюстрирующей другой пример выполнения блока генерации данных передачи в вещательной станции.
Фиг.19 является блок-схемой, иллюстрирующей другой пример выполнения блока генерации данных передачи в вещательной станции.
Фиг.20 является диаграммой для описания информации о «Местоположении» и «Размере области».
Фиг.21 является блок-схемой, иллюстрирующей пример выполнения блока данных Z для вывода информации диспаратности для каждой налагаемой информации.
Фиг.22 является диаграммой, схематически иллюстрирующей пример выполнения элементарного видеопотока.
Фиг.23 является диаграммой, иллюстрирующей пример выполнения пользовательских данных в форматах кодирования MPEG2, Н.264 AVC и VC-1.
Фиг.24 является диаграммой, иллюстрирующей пример выполнения «user_structure», включающего информацию диспаратности (вектор диспаратности).
Фиг.25 является блок-схемой, иллюстрирующей другой пример выполнения блока генерации данных передачи в вещательной станции.
Фиг.26 является блок-схемой, иллюстрирующей другой пример выполнения блока генерации данных передачи в вещательной станций.
Фиг.27 является диаграммой, иллюстрирующей позиции наложения и так далее графической информации для левого глаза и графической информации для правого глаза в случае, когда способ передачи является вторым способом передачи (способ «бок о бок»),
Фиг.28 является диаграммой, иллюстрирующей состояние, в котором графическое изображение, состоящее из графических данных, подлежащих передаче с помощью обычного способа, извлеченное из данных двоичного потока, наложено, как это сделано в отношении изображения для левого глаза и изображения для правого глаза.
Фиг.29 является диаграммой, иллюстрирующей векторы диспаратности (векторы ракурса) в трех позициях объектов в ближайшие моменты времени Т0, T1, T2 и Т3.
Фиг.30 является диаграммой, иллюстрирующей пример отображения субтитров (графической информации) на изображении, фоне, объекте крупного плана и перспективе субтитров.
Фиг.31 является диаграммой, иллюстрирующей пример отображения субтитров (графической информации) на изображении и графическую информацию LGI для левого глаза и графическую информацию RGI для правого глаза для отображения субтитров.
Фиг.32 является диаграммой для описания того, что из векторов диспаратности, обнаруженных в различных позициях внутри изображения, вектор диспаратности, соответствующий его позиции наложения, используется в качестве вектора диспаратности.
Фиг.33 является диаграммой, иллюстрирующей, что есть объекты A, B и C внутри изображения, и текстовая информация, указывающая комментарии каждого объекта, наложена на смежную позицию каждого из этих объектов.
Фиг.34 является блок-схемой, иллюстрирующей пример выполнения телеприставки, составляющей систему отображения стереоскопического изображения.
Фиг.35 является блок-схемой, иллюстрирующей пример выполнения блока обработки двоичного потока, составляющего телеприставку.
Фиг.36 является диаграммой, иллюстрирующей пример управления выходом на акустическую систему в случае, когда относительно вектора VV1 диспаратности видеообъект с левой стороны по отношению к телевизионному дисплею больше.
Фиг.37 является блок-схемой, иллюстрирующей другой пример выполнения блока обработки двоичного потока, составляющего телеприставку.
Фиг.38 является блок-схемой, иллюстрирующей другой пример выполнения блока обработки двоичного потока, составляющего телеприставку.
Фиг.39 является блок-схемой, иллюстрирующей другой пример выполнения блока обработки двоичного потока, составляющего телеприставку.
Фиг.40 является блок-схемой, иллюстрирующей другой пример выполнения блока обработки двоичного потока, составляющего телеприставку.
Фиг.41 является блок-схемой, иллюстрирующей другой пример выполнения блока обработки двоичного потока, составляющего телеприставку.
Фиг.42 является блок-схемой, иллюстрирующей пример выполнения телевизионного приемника, составляющего систему отображения стереоскопического изображения.
Фиг.43 является блок-схемой, иллюстрирующей пример выполнения блока передачи HDMI (истока HDMI) и блока приема HDMI (стока HDMI).
Фиг.44 является блок-схемой, иллюстрирующей пример выполнения передатчика HDMI, составляющего блок передачи HDMI, и приемника HDMI, составляющего блок приема HDMI.
Фиг.45 является диаграммой, иллюстрирующей пример выполнения данных передачи TMDS (в случае, когда передаются данные изображения с шириной × длиной, составляющей 1920×1080 пикселов).
Фиг.46 является диаграммой, иллюстрирующей совмещение вывода (тип А) терминала HDMI, к которому подсоединены кабели HDMI устройства истока и устройства стока.
Фиг.47 является диаграммой, иллюстрирующей пример данных передачи TMDS с помощью первого способа передачи (способа «верх-низ»).
Фиг.48 является диаграммой, иллюстрирующей пример данных передачи TMDS с помощью второго способа передачи (способа «бок о бок»).
Фиг.49 является диаграммой, иллюстрирующей пример данных передачи TMDS с помощью третьего способа передачи (способа «чередования кадров»).
Фиг.50 является диаграммой для описания способа «чередования кадров» с HDMI 1,4 (новый HDMI) и способа «чередования кадров» с HDMI 1.3 (устаревший HDMI).
Фиг.51 является блок-схемой, иллюстрирующей другой пример выполнения блока обработки двоичного потока, составляющего телеприставку.
Фиг.52 является блок-схемой, иллюстрирующей другой пример выполнения блока обработки двоичного потока, составляющего телеприставку.
Фиг.53 является блок-схемой, иллюстрирующей другой пример выполнения системы отображения стереоскопического изображения.
Фиг.54 является диаграммой, иллюстрирующей взаимоотношение между позициями отображения левого и правого изображений объекта на экране и воспроизводящей позицией его стереоскопического изображения с отображением стереоскопических изображений с использованием бинокулярной диспаратности.
Подробное описание изобретения
В дальнейшем будет описан режим для воплощения настоящего изобретения (далее называемый «вариантом осуществления»). Следует отметить, что описание будет сделано в следующей последовательности:
1. Вариант осуществления
2. Усовершенствование
1. Вариант осуществления
Пример выполнения системы отображения стереоскопического изображения
Фиг.1 иллюстрирует пример выполнения системы 10 передачи-приема стереоскопических изображений, служащей в качестве варианта осуществления. Эта система 10 передачи-приема стереоскопических изображений включает в себя вещательную станцию 100, телеприставку (STB) 200 и телевизионный приемник 300.
Телеприставка 200 и телевизионный приемник 300 соединены посредством кабеля 400 HDMI (мультимедийный интерфейс высокой четкости). Телеприставка 200 снабжена терминалом 202 HDMI. Телевизионный приемник 300 снабжен терминалом 302 HDMI. Один конец кабеля 400 HDMI присоединен к терминалу 202 HDMI телеприставки 200, а другой конец кабеля 400 HDMI присоединен к терминалу 302 HDMI телевизионного приемника 300.
Описание вещательной станции
Вещательная станция 100 передает данные двоичного потока путем его переноса на вещательных волнах. Эти данные двоичного потока включают в себя данные стереоскопического изображения, включающие в себя данные изображения для левого глаза и данные изображения для правого глаза, аудиоданные, данные налагаемой информации, дополнительно информацию диспаратности (вектор диспаратности) и так далее. Здесь данные налагаемой информации включают в себя данные скрытых субтитров, данные субтитров, графические данные, текстовые данные и так далее.
Пример выполнения блока генерации данных передачи
Фиг.2 иллюстрирует пример выполнения блока 110 генерации данных передачи для создания описанных выше данных двоичного потока в вещательной станции 100. Этот пример выполнения является примером, в котором вектор диспаратности передается как числовая информация. Этот блок 110 генерации данных передачи включает в себя камеры 111L и 111R, блок 112 видеокадрирования, видеокодер 113, блок 114 обнаружения векторов диспаратности и кодер 115 векторов диспаратности. Также данный блок 110 генерации данных передачи включает в себя микрофон 116 и аудиокодер 117. Кроме того, блок 110 генерации данных передачи включает в себя блок 118 генерации субтитров и графики, кодер 119 субтитров и графики, блок 120 генерации текста, кодер 121 текста и мультиплексор 122.
Камера 111L создает изображение для левого глаза, чтобы получить данные изображения для левого глаза для отображения стереоскопического изображения. Камера 111R создает изображение для правого глаза, чтобы получить данные изображения для правого глаза для отображения стереоскопического изображения. Блок 112 видеокадрирования обрабатывает данные изображения для левого глаза, полученные в камере 111L, и данные изображения для правого глаза, полученные в камере 111R, до состояния в соответствии со способом передачи.
Пример способа передачи данных стереоскопического изображения
Далее, следующие с первого по третий способы будут упомянуты в качестве способов передачи данных стереоскопического изображения (данных 3D изображений), но могут являться способом передачи, отличным от них. Здесь, как показано на фиг.3, описание будет сделано в отношении случая, когда каждый блок данных изображения левого глаза (L) и правого глаза (R) является данными изображений с установленным разрешением, например, пиксельным форматом 1920×1080 пикселов, для примера.
Первый способ передачи является способом «верх-низ» и, как показано на фиг.4 (а), является способом для передачи пиксельных данных изображения для левого глаза в первой половине вертикального направления и для передачи пиксельных данных изображения для левого глаза во второй половине вертикального направления. В этом случае линии данных изображения для левого глаза и данных изображения для правого глаза утончены до ½, так что вертикальное разрешение снижено наполовину по отношению к исходному сигналу.
Второй способ передачи является способом «бок о бок» и, как показано на фиг.4 (b), является способом для передачи пиксельных данных изображения для левого глаза в первой половине горизонтального направления и для передачи пиксельных данных изображения для левого глаза во второй половине горизонтального направления. В данном случае с каждым блоком данных изображения для левого глаза и данных изображения для правого глаза пиксельные данные в горизонтальном направлении утончены до ½, так что горизонтальное разрешение снижено наполовину по отношению к текущему сигналу.
Третий способ передачи является способом «чередования кадров» и, как показано на фиг.4 (с), является способом для передачи данных изображения для левого глаза и данных изображения для правого глаза путем их последовательного переключения для каждого поля.
Возвращаясь к фиг.2, видеокодер 113 подвергает данные стереоскопического изображения, обработанные в блоке 112 видеокадрирования, кодированию, такому как MPEG4-AVC, MPEG2, VC-1 или тому подобному, для получения закодированных видеоданных. Также видеокодер 113 включает в себя устройство 113а форматирования потоков на последующей стадии. В соответствии с этим устройством 113а форматирования потоков создается элементарный видеопоток, часть полезных данных которого включает в себя данные видеопотока.
Блок 114 обнаружения векторов диспаратности обнаруживает, на основе данных изображения для левого глаза и данных изображения для правого глаза, вектор диспаратности, который является другой информацией диспаратности по отношению к одному изображению для левого глаза и изображению для правого глаза в заранее заданной позиции внутри изображения. Здесь заранее заданная позиция внутри изображения представляет собой все позиции пикселов, типичную позицию каждой области, состоящую из множества пикселов, или типичную позицию области, где из налагаемой информации здесь наложена графическая информация или текстовая информация или тому подобное.
Обнаружение вектора диспаратности
Будет описан пример обнаружения вектора диспаратности. Здесь будет сделано описание в отношении случая, когда вектор диспаратности изображения для правого глаза обнаружен по отношению к изображению для левого глаза. Как показано на фиг.5, изображение для левого глаза будет взято в качестве изображения обнаружения, а изображение для правого глаза будет взято в качестве опорного изображения. В данном примере будут обнаружены векторы диспаратности в позициях (xi, yi) и (xj, yj).
Описание будет сделано в отношении случая, когда вектор диспаратности обнаружен в позиции (xi, yi), например. В данном случае пиксельный блок Bi (блок обнаружения диспаратности), например, 8х8 или 16×16, с пиксельной позицией (xi, yi) в качестве верхней левой установлен для изображения для левого глаза. Далее, в отношении изображения для правого глаза, ищется пиксельный блок, совмещенный с пиксельным блоком Bi.
В данном случае диапазон поиска с позицией (xi, yi) в качестве центра установлен для изображения для правого глаза, и блок сравнения, например, размером 8х8 или 16×16, который аналогичен описанному выше пиксельному блоку Bi, последовательно устанавливается в отношении каждого пиксела в диапазоне поиска, последовательно становясь рассматриваемым пикселом. Получается суммирование абсолютного значения разности для каждого соответствующего пиксела между пиксельным блоком Bi и блоком сравнения, последовательно установленным. Здесь, как показано на фиг.6, если установлено, что пиксельное значение пиксельного блока Bi составляет L (x, у), а пиксельное значение блока сравнения составляет R (х, у), суммирование абсолютного значения разности между пиксельным блоком Bi и некоторым блоком сравнения представлено как Σ|L(x, у)-R(x, y)|.
Когда n пикселов включены в диапазон поиска, установленный для изображения для правого глаза, в конечном счете получаются  n суммирований S1-Sn, из которых выбирается минимальная сумма Smin. После этого позиция (xi', yi') верхнего левого пиксела получается из блока сравнения, из которого была получена сумма Smin. Таким образом, вектор диспаратности в позиции (xi, yi) обнаружен как (xi'-xi, yi'-yi). Хотя подробное описание будет также опущено в отношении вектора диспаратности в позиции (xj, yj), пиксельный блок Bj размером, например, 8х8 или 16×16 с позицией пиксела (xj, yj) в качестве верхнего левого устанавливается для изображения для левого глаза, и обнаружение осуществляется в рамках этого же процесса.
Фиг.7 (а) иллюстрирует пример вектора VV диспаратности в заранее заданной позиции внутри изображения, подлежащего обнаружению в блоке 114 обнаружения векторов диспаратности. Это означает, что, как показано на фиг.7 (b), в отношении заранее заданной позиции внутри данного изображения, при сдвиге изображения для левого глаза (изображения обнаружения) на вектор VV диспаратности, изображение для правого глаза (опорное наложение) оказывается покрытым.
Возвращаясь к фиг.2, кодер 115 векторов диспаратности создает элементарный поток вектора диспаратности, включающий в себя в себя вектор диспаратности, обнаруженный в блоке 114 обнаружения векторов диспаратности, и так далее. Здесь элементарный поток вектора диспаратности включает в себя следующее содержание. В частности, идентификатор (ID_block), информация вертикальной позиции (Vertical_Position), информация горизонтальной позиции (HorizontalJPosition) и вектор диспаратности (View_Vector) установлены как один блок. Далее, этот один блок повторяется число N раз, которое представляет собой количество блоков обнаружения диспаратности. Фиг.8 иллюстрирует содержание передачи вектора диспаратности. Вектор диспаратности включает в себя компонент вертикального направления (View_Vector_Vertical) и компонент горизонтального направления (View_Vector_Horizontal).
Следует отметить, что вертикальная и горизонтальная позиции блока обнаружения диспаратности становятся величинами смещения в вертикальном направлении и горизонтальном направлении от начала вверху слева изображения к пикселу вверху слева блока. Причиной, почему идентификатор блока обнаружения диспаратности добавлен к передаче каждого вектора диспаратности, является соединение с комбинацией налагаемой информации, такой как информация субтитров, графическая информация, текстовая информация или тому подобное, подлежащей наложению и отображению на изображении.
Например, как показано на фиг.9 (а), когда существуют блоки A-F обнаружения диспаратности, содержание передачи включает в себя, как показано на фиг.9 (b), идентификаторы блоков A-F обнаружения диспаратности, информацию вертикальной и горизонтальной позиций и вектор диспаратности. Например, на фиг.9 (b), в отношении блока А обнаружения диспаратности ID2 обозначает идентификатор блока А обнаружения диспаратности, (Hа, Va) обозначает информацию вертикальной и горизонтальной позиций блока А обнаружения диспаратности и вектор диспаратности обозначает вектор блока А обнаружения диспаратности.
Теперь будет описан расчет времени для обнаружения и передачи вектора диспаратности. В отношении данного расчета времени, например, могут быть представлены последующие с первого по четвертый примеры.
На основании первого примера, как показано на фиг.10 (а), расчет времени синхронизирован с кодированием картинки. В данном случае вектор диспаратности передается в приращениях картинок. Приращения картинок являются самыми тонкими приращениями во время передачи вектора диспаратности. На основании второго примера, как показано на фиг.10 (b), расчет времени синхронизирован со сценой видео. В данном случае вектор диспаратности передается в приращениях сцен.
На основании третьего примера, как показано на фиг.10 (с), расчет времени синхронизирован с 1-картинкой (внутренней картинкой) или GOP (группой картинок) закодированного видео. На основании четвертого примера, как показано на фиг.11, расчет времени синхронизирован с расчетом времени начала отображения, таким как информация субтитров, графическая информация, текстовая информация или тому подобным, подлежащим наложению и отображению на изображении.
Возвращаясь к фиг.2, микрофон 116 обнаруживает аудио, соответствующее изображениям, созданным камерами 111L и 111 R, для получения аудиоданных. Аудиокодер 117 подвергает аудиоданные, полученные в микрофоне 116, кодированию, такому как MPEG-2 Audio AAC или тому подобному, чтобы создать элементарный аудиопоток.
Блок 118 генерации субтитров и графики создает данные (данные субтитров и данные графики) информации субтитров и графической информации, подлежащей наложению на изображение. Информация субтитров является, например, субтитрами. Также, графическая информация является, например, логотипом или тому подобным. Данные субтитров и графические данные снабжены непоказываемой информацией смещения, обозначающей позицию наложения на изображение.
Эта непоказываемая информация смещения обозначает, например, значения смещения в вертикальном направлении и горизонтальном направлении от начала вверху слева изображения к пикселу вверху слева позиции наложения информации субтитров или графической информации. Следует отметить, что стандарт передачи данных заголовков в качестве растровых данных стандартизирован и используется как DVB_Subtitling с использованием DVB, который является европейским стандартом цифрового вещания.
Кодер 119 субтитров и графики вводит данные (данные субтитров и графические данные) информации субтитров и графической информации, созданные в блоке 118 генерации субтитров и графики. Далее этот кодер 119 субтитров и графики создает элементарный поток с этими данными, которые включаются в часть полезных данных.
Блок 120 генерации текста создает данные (текстовые данные) текстовой информации, подлежащей наложению на изображение. Текстовая информация является, например, электронной программой передач, содержанием текстового вещания или тому подобным. Эти текстовые данные снабжены непоказываемой информацией смещения, обозначающей позицию наложения на изображение аналогично описанным выше графическим данным. Эта непоказываемая информация смещения обозначает значения смещения в вертикальном направлении и горизонтальном направлении от начала вверху слева изображения к пикселу вверху слева позиции наложения текстовой информации. Следует отметить, что примеры передачи текстовой информации включают в себя EPG, используемый в качестве резервирования программ, и CC_data (Скрытые) цифровой глобальной спецификации ATSC США.
Кодер 121 текста вводит текстовые данные, созданные в блоке 120 генерации текста. Далее кодер 121 текста создает элементарный поток с этими данными, которые включаются в часть полезных данных.
Мультиплексор 122 мультиплексирует пакетированные элементарные потоки, выведенные из кодеров 113, 115, 117, 119 и 121. Далее мультиплексор 122 выводит данные BSD двоичного потока (транспортный поток), служащие в качестве данных передачи.
Работа блока 110 генерации данных передачи, изображенного на фиг.2, будет описана приближенно. С помощью камеры 111L создается изображение для левого глаза. Данные изображения для левого глаза для отображения стереоскопического изображения, полученные в камере 111L, подаются на блок 112 видеокадрирования. Также с помощью камеры 111R создается изображение для правого глаза. Данные изображения для правого глаза для отображения стереоскопического изображения, полученные в камере 111R, подаются на блок 112 видеокадрирования. С помощью блока 112 видео кадрирования данные изображения для левого глаза и данные изображения для правого глаза обрабатываются до состояния в соответствии со способом передачи, и получаются данные стереоскопического изображения (см. фиг.4 (а)-(с)).
Данные стереоскопического изображения, полученные в блоке 112 видеокадрирования, подаются в видеокодер 113. С помощью видеокодера 113 данные стереоскопического изображения подвергаются кодированию, такому как MPEG4-AVC, MPEG2, VC-1 или тому подобному, и создается элементарный видеопоток, включающий в себя закодированные видеоданные. Этот элементарный видеопоток подается на мультиплексор 122.
Также данные изображения для левого глаза и данные изображения для правого глаза, полученные в камерах 111L и 111R, подаются в блок 114 обнаружения векторов диспаратности через блок 112 видеокадрирования. С помощью этого блока 114 обнаружения векторов диспаратности, на основе данных изображения для левого глаза и данных изображения для правого глаза, блок обнаружения диспаратности устанавливается в заранее заданную позицию внутри изображения, и обнаруживается вектор диспаратности, который является другой информацией диспаратности по отношению к одному из изображения для левого глаза и изображения для правого глаза.
Вектор диспаратности в заранее заданной позиции внутри изображения, обнаруженный в блоке 114 обнаружения векторов диспаратности, подается в кодер 115 векторов диспаратности. В данном случае идентификатор блока обнаружения диспаратности, информация вертикальной позиции блока обнаружения диспаратности, информация горизонтальной позиции блока обнаружения диспаратности и вектор диспаратности представлены одним блоком. С помощью кодера 115 векторов диспаратности создается элементарный поток векторов диспаратности, включающий в себя содержание передачи вектора диспаратности (см. фиг.8). Этот элементарный поток векторов диспаратности подается на мультиплексор 122.
Кроме того, с помощью микрофона 116 обнаруживается аудио, соответствующее изображениям, полученным камерами 111L и 111R. Аудиоданные, полученные в этом микрофоне 116, подаются на аудиокодер 117. С помощью этого аудиокодера 117 аудиоданные подвергаются кодированию, такому как MPEG-2 Audio AAC или тому подобному, и создается элементарный аудиопоток, включающий в себя закодированные аудиоданные. Этот элементарный аудиопоток подается на мультиплексор 122.
Также с помощью блока 118 генерации субтитров и графики создаются данные информации субтитров и графической информации (данные субтитров и графические данные), подлежащие наложению на изображение. Эти данные (растровые данные) подаются на кодер 119 субтитров и графики. Данные субтитров и графики снабжены не показываемой информацией смещения, обозначающей позицию наложения на изображение. С помощью кодера 119 субтитров и графики эти графические данные подвергаются заранее заданному кодированию, и создается элементарный поток, включающий в себя закодированные данные. Этот элементарный поток подается на мультиплексор 122.
Также с помощью блока 120 генерации текста создаются данные текстовой информации (текстовые данные), подлежащие наложению на изображение. Эти текстовые данные подаются на кодер 121 текста. Эти текстовые данные снабжены не показываемой информацией смещения, обозначающей позицию наложения на изображение, аналогично описанным выше графическим данным. С помощью кодера 121 текста эти текстовые данные подвергаются заранее заданному кодированию, и создается элементарный поток, включающий в себя закодированные данные. Этот элементарный поток подается на мультиплексор 122.
С помощью мультиплексора 122 пакет элементарного потока, поданный от каждого кодера, мультиплексируется, и получаются данные BSD двоичного потока (транспортный поток), служащие в качестве данных передачи,
Фиг.12 иллюстрирует пример потока каждых данных, подлежащих мультиплексированию в блоке 110 генерации данных передачи, показанном на фиг.2. Следует отметить, что этот пример иллюстрирует случай, когда вектор диспаратности обнаружен и передан в приращениях сцен видео (см. фиг.10 (b)). Следует отметить, что пакет каждого потока снабжен меткой времени для синхронизированного отображения, и приемная сторона может управлять расчетом времени наложения в отношении изображения, такого как информация субтитров, графическая информация, текстовая информация или тому подобное.
Другой пример выполнения блока генерации данных передачи
Следует отметить, что описанный выше блок 110 генерации данных передачи, показанный на фиг.2, выполнен для передачи содержания передачи вектора диспаратности (см. фиг.8) на приемную сторону в качестве независимого элементарного потока. Однако также можно полагать передавать содержание передачи вектора диспаратности путем размещения в другом потоке. Например, содержание передачи вектора диспаратности передается путем размещения в потоке видео в качестве пользовательских данных. Также, например, содержание передачи вектора диспаратности передается путем размещения в потоке субтитров, графики или текста.
Фиг.13 иллюстрирует пример выполнения блока 110А генерации данных передачи. Этот пример является также примером, в котором вектор диспаратности передается в качестве числовой информации. Этот блок 110А генерации данных передачи выполнен для передачи содержания передачи вектора диспаратности путем размещения в потоке видео в качестве пользовательских данных. На фиг.13 части, соответствующие фиг.2, обозначены теми же ссылочными позициями, и их подробное описание будет опущено.
С помощью этого блока 110А генерации данных передачи вектор диспаратности в заранее заданной позиции внутри изображения, обнаруженный в блоке 114 обнаружения векторов диспаратности, подается на устройство 113а форматирования потоков в видеокодере 113. В данном случае идентификатор блока обнаружения диспаратности, информация вертикальной позиции блока обнаружения диспаратности, информация горизонтальной позиции блока обнаружения диспаратности и вектор диспаратности представлены одним блоком. С помощью устройства 113a форматирования потоков содержание передачи вектора диспаратности (см. фиг.8) размещается в видеопотоке в качестве пользовательских данных.
Хотя подробное описание будет опущено, блок 110А генерации данных передачи, изображенный на фиг.13, в остальном выполнен аналогично блоку 110 генерации данных передачи, изображенному на фиг.2, и работает аналогичным образом.
Другой пример выполнения блока генерации данных передачи
Также блок 110 генерации данных передачи, изображенный на фиг.2, и блок генерации данных передачи, изображенный на фиг.13, передают вектор диспаратности в качестве числовой информации (см. фиг.8). Однако вместо передачи вектора диспаратности в качестве числовой информации вектор диспаратности передается информацией диспаратности, отраженной заранее в данных налагаемой информации (например, информации субтитров, графической информации, текстовой информации и так далее), подлежащей наложению на изображение на стороне передачи.
Например, в случае отражения информации диспаратности в данных графической информации на стороне передачи создаются графические данные, соответствующие как графической информации для левого глаза, подлежащей наложению на изображение для левого глаза, так и графической информации для правого глаза, подлежащей наложению на изображение для правого глаза. В данном случае графическая информация для левого глаза и графическая информация для правого глаза являются одной и той же графической информацией. Однако с позиции отображения внутри изображения, например, графическая информация для правого глаза устанавливается таким образом, чтобы быть сдвинутой в горизонтальном направлении на значение, эквивалентное компоненту горизонтального направления вектора диспаратности, соответствующего его позиции отображения, по сравнению с графической информацией для левого глаза.
Например, что касается вектора диспаратности среди векторов диспаратности, обнаруженного в различных позициях внутри изображения, то используется вектор диспаратности, соответствующий его позиции наложения. Также, например, что касается вектора диспаратности среди векторов диспаратности, обнаруженного в различных позициях внутри изображения, то используется вектор диспаратности в позиции, подлежащей распознаванию в качестве ближайшей в отношении перспективы. Следует отметить, что, хотя подробное описание будет опущено, то же относится к случаю, когда информация диспаратности отражена в данных информации субтитров или графической информации.
Фиг.14 (а) иллюстрирует наложенную позицию графической информации для левого глаза и графической информации для правого глаза в случае, когда способ передачи является описанным выше первым способом передачи (способ «верх-низ»). Эта графическая информация для левого глаза и графическая информация для правого глаза является одной и той же информацией. Однако графическая информация RGI для правого глаза, подлежащая наложению на изображение IR для правого глаза, поставлена в позицию, сдвинутую в горизонтальном направлении на компонент VVT горизонтального направления вектора диспаратности, по отношению к графической информации LGI для левого глаза, подлежащей наложению на изображение IL для левого глаза.
Графические данные создаются, как изображено на фиг.14 (а), таким образом, что каждый блок графической информации LGI и RGI наложен на каждое из изображений IL и IR. Таким образом, зритель может видеть, как изображено на фиг.14 (b), каждый блок графической информации LGI и RGI вместе с изображениями IL и IR с использованием диспаратности, а также может распознавать перспективу в отношении графической информации.
Например, графические данные каждого блока графической информации LGI и RGI, как показано на фиг.15 (а), созданы в качестве данных одной области. В данном случае данные частей, отличные от каждого блока графической информации LGI и RGI, должны создаваться в качестве прозрачных данных. Также, например, графические данные каждого блока графической информации LGI и RGI, как показано на фиг.15 (b), созданы в качестве данных отдельной области.
Фиг.16 (а) иллюстрирует наложенную позицию графической информации для левого глаза и графической информации для правого глаза в случае, когда способ передачи является описанным выше вторым способом передачи (способ «бок о бок»). Эта графическая информация для левого глаза и графическая информация для правого глаза является одной и той же информацией. Однако графическая информация RGI для правого глаза, подлежащая наложению на изображение IR для правого глаза, поставлена в позицию, сдвинутую в горизонтальном направлении на компонент VVT горизонтального направления вектора диспаратности по отношению к графической информации LGI для левого глаза, подлежащей наложению на изображение IL для левого глаза. Следует отметить, что IT является не показываемым значением смещения.
Графические данные создаются, как изображено на фиг.16 (а), таким образом, что графическая информация LGI и RGI наложена на изображения IL и IR соответственно. Таким образом, зритель может видеть, как изображено на фиг.16 (b), каждый блок графической информации LGI и RGI вместе с каждым из изображений IL и IR с использованием диспаратности, а также может распознавать перспективу в отношении графической информации.
Например, графические данные каждого блока графической информации LGI и RGI, как показано на фиг.17, созданы в качестве данных одной области. В этом случае данные частей, отличные от каждого блока графической информации LGI и RGI, должны создаваться в качестве прозрачных данных.
Фиг.18 иллюстрирует пример выполнения блока 110В генерации данных передачи. Этот блок 110В генерации данных передачи выполнен для передачи информации диспаратности путем отражения в данных информации субтитров, графической информации и текстовой информации. На этой фиг.18 части, соответствующие фиг.2, обозначены теми же ссылочными позициями, и их подробное описание будет опущено.
Что касается этого блока 110В генерации данных передачи, блок 124 обработки субтитров и графики вставлен между блоком 118 генерации субтитров и графики и кодером 119 субтитров и графики. Также что касается этого блока 110 В генерации данных передачи, блок 125 обработки текста вставлен между блоком 120 генерации текста и кодером 121 текста. Далее вектор диспаратности в заранее заданной позиции внутри изображения, обнаруженный блоком 114 обнаружения векторов диспаратности, подается на блок 124 обработки субтитров и графики и блок 125 обработки текста.
С помощью блока 124 обработки субтитров и графики генерируются данные для информации LGI и RGI субтитров и графической левого глаза и правого глаза, подлежащей наложению на изображение IL для левого глаза и изображение IR для правого глаза, и в данном случае генерируются на основе данных субтитров и графических данных, созданных в блоке 118 генерации субтитров и графики. Информация субтитров и графическая информация для левого глаза и правого глаза является одной и той же информацией. Однако в отношении позиции наложения внутри изображения, например, информация субтитров и графическая информация для правого глаза установлена таким образом, чтобы быть сдвинутой в горизонтальном направлении на компонент WT горизонтального направления вектора диспаратности в отношении информации субтитров для левого глаза (см. фиг.14 (а) и фиг.16 (а)).
Таким образом, данные субтитров и графические данные, созданные в блоке 124 обработки субтитров и графики, подаются на кодер 119 субтитров и графики. Следует отметить, что данные субтитров и графические данные добавлены с не показываемой информацией смещения, обозначающей позицию наложения на изображении. Кодер 119 субтитров и графики создает элементарные потоки данных субтитров и графических данных, созданных в блоке 124 обработки субтитров и графики.
Также с помощью блока 125 обработки текста, на основе текстовых данных, созданных в блоке 120 генерации текста, генерируются данные текстовой информации для левого глаза, подлежащей наложению на изображение для левого глаза, и данные текстовой информации для правого глаза, подлежащей наложению на изображение для правого глаза. В данном случае текстовая информация для левого глаза и текстовая информация для правого глаза являются одной и той же текстовой информацией, но в отношении позиции наложения внутри изображения, например, текстовая информация для правого глаза установлена таким образом, чтобы быть сдвинутой в горизонтальном направлении на компонент WT горизонтального направления вектора диспаратности в отношении текстовой информации для левого глаза.
Таким образом текстовые данные, созданные в блоке 125 обработки текста, подаются в кодер 121 текста. Следует отметить, что текстовые данные добавлены с не показываемой информацией смещения, обозначающей позицию наложения на изображении. С помощью кодера 121 текста создается элементарный поток текстовых данных, созданных в блоке обработки текста.
Хотя подробное описание будет опущено, блок 110В генерации данных передачи, изображенный на фиг.18, в остальном выполнен аналогично блоку 110 генерации данных передачи, изображенному на фиг.2, и работает аналогичным образом.
Другой пример выполнения блока генерации данных передачи
Блок 110 генерации данных передачи, изображенный на фиг.2, имеет выполнение для передачи содержания передачи (см. фиг.8) на основе вектора диспаратности, обнаруженного в блоке 114 обнаружения векторов диспаратности, на приемную сторону в том виде, в каком он есть, без сопоставления с каждыми из данных налагаемой информации. Однако также может быть задумано передавать информацию диспаратности, сопоставленную с каждыми данными налагаемой информации.
Фиг.19 иллюстрирует пример выполнения блока 110С генерации данных передачи. Этот блок 110С генерации данных передачи выполнен для передачи информации диспаратности, сопоставленной с каждыми данными налагаемой информации. На этой фиг.19 части, соответствующие фиг.2, обозначены теми же ссылочными позициями, и их подробное описание будет опущено. Блок 110С генерации данных передачи включает в себя контроллер 126, кодер 127 СС (скрытых субтитров) и блок 128 данных Z.
Кодер 127 СС является кодером, удовлетворяющим СЕА-708, и выводит данные СС (данные информации скрытых субтитров) для осуществления подходящего отображения скрытых титров. Контроллер 126 управляет кодером 127 СС. Например, набор информации «Region_ID (WindowID)», «Location (AnchorID)» и «Region size (SetPenAttribute)» подается с контроллера 126 в кодер 127 СС.
Теперь информация «Location (AnchorID)» обозначает, в какой позиции изображения (картинки) отображать субтитры скрытых титров, обозначенных посредством «Region_ID (WindowID)», как показано на фиг.20. Также информация «Region size (SetPenAttribute)» обозначает размер области, в которой подлежит осуществлению отображение субтитров скрытых титров, обозначенных посредством «Region_ID (WindowID)», как показано на фиг.20.
Блок 128 данных Z выводит информацию диспаратности (вектор диспаратности), сопоставленную с каждыми данными налагаемой информации. Другими словами, в отношении информации скрытых субтитров блок 128 данных Z выводит информацию диспаратности, сопоставленную с каждым WindowID (идентификатором окна), включенным в данные СС, выведенные из кодера 127 СС. Также в отношении налагаемой информации, такой как информация субтитров, графическая информация, текстовая информация и так далее, блок 128 данных Z выводит информацию диспаратности, сопоставленную с каждыми данными налагаемой информации.
Фиг.21 иллюстрирует пример выполнения блока 128 данных Z. Блок 128 данных Z выводит информацию диспаратности для каждого Region_id (идентификатора области), определенного контроллером 126. Теперь будет сделано описание в отношении Region_id. Region_id является идентификатором для сопоставления между каждой налагаемой информацией, такой как информация скрытых субтитров, информация субтитров, графическая информация, текстовая информация и так далее, и информацией диспаратности.
Например, числа от 0 до 7 в Region_id отведены для идентификации информации диспаратности, соответствующей Window от 0 до 7 данных СС, оговоренных в СЕА-708. Также в Region_id числа от 8 до 15 зарезервированы для последующего расширения. Также в Region_id числа от 16 и далее отведены для идентификации информации диспаратности, сопоставленной с налагаемой информацией, отличной от информации скрытых субтитров (информации субтитров, графической информации, текстовой информации и так далее).
Следует отметить, что данные субтитров и графические данные, созданные в блоке 118 генерации субтитров и графики, и текстовые данные, созданные в блоке 120 генерации текста, снабжены идентификатором, соответствующим описанному выше Region_id. Идентификатор, соответствующий Region_id, подразумевает идентификатор, который аналогичен Region_id или идентификатору, сопоставимому с Region_id. Соответственно, на приемной стороне могут быть сопоставлены каждая налагаемая информация, такая как информация субтитров, графическая информация, текстовая информация, и информация диспаратности, подлежащая использованию в отношении налагаемой информации.
Блок 128 данных Z выводит информацию диспаратности для каждого Region_id, как было описано выше. Блок 128 данных Z выборочно выводит определенный вектор диспаратности или устанавливает вектор диспаратности в качестве информации диспаратности путем переключения управления контроллера 126 посредством операций пользователя, например. Определенный вектор диспаратности является вектором диспаратности на основе различных векторов диспаратности, обнаруженных в блоке 114 обнаружения векторов диспаратности. Установленный вектор диспаратности является вектором диспаратности, установленным посредством обработки по заранее заданной программе или ручных операций пользователя, например.
Сначала будет описан случай вывода установленного вектора диспаратности в качестве информации диспаратности. В данном случае набор информации «Region_ID (WindowID)», «Location (AnchorID)» и «Region size (SetPenAttribute)» подается с контроллера 126 на блок 128 данных Z в отношении информации скрытых субтитров. Также набор информации «Region_ID (WindowID)», «Location (AnchorID)» и «Region size (SetPenAttribute)» подается с контроллера 126 на блок 128 данных Z в отношении каждой налагаемой информации, такой как информация субтитров, графическая информация, текстовая информация и так далее.
Также различные, в данном случае N, векторы диспаратности DvO-DvN введены из блока 114 обнаружения векторов диспаратности в блок 128 данных Z. N векторов диспаратности DvO-DvN являются векторами диспаратности, обнаруженными в N позициях внутри изображения блоком 114 обнаружения векторов диспаратности на основе данных изображения для левого глаза и данных изображения для правого глаза.
Блок 128 данных Z извлекает векторы диспаратности, относящиеся к области отображения налагаемой информации, определенной информацией «Location» («Местоположение») и «Region size» («Размер области»), из N векторов диспаратности DvO-DvN для каждого Region_id. Например, в случае, когда есть один или множество векторов диспаратности, позиции обнаружения которых находятся внутри области отображения, эти векторы диспаратности выбирают в качестве векторов диспаратности, относящихся к области отображения. Также в случае, когда нет одного или нескольких векторов диспаратности, позиции обнаружения которых находятся внутри области отображения, один или несколько векторов диспаратности, расположенных рядом с областью отображения, выбирают в качестве векторов диспаратности, относящихся к области отображения. В примере, показанном на чертеже, Dv2-Dvn выбраны в качестве векторов диспаратности, относящихся к области отображения.
Блок 128 данных Z далее выбирает из векторов диспаратности, относящихся к области отображения, один с наибольшим значением со знаком, например, и принимает его за установленный вектор DzD диспаратности. Как было описано выше, вектор диспаратности состоит из компонента вертикального направления (View_Vector_Vertical) и компонента горизонтального направления (View_Vector_Horizontal), но здесь используется только компонент горизонтального направления, например, в качестве значения со знаком. Причиной является то, что на приемной стороне осуществляется обработка, в которой налагаемая информация, такая как информация скрытых субтитров, подлежащая наложению на изображение для левого глаза и изображение для правого глаза, сдвинута в горизонтальном направлении на основе информации диспаратности, и компонент горизонтального направления является важным.
Следует отметить, что информация, указывающая позицию наложения, и информация, указывающая время отображения, добавлена контроллером 126 в установленный вектор DzD диспаратности, определенный для каждого Region_id, как было описано выше, для информации, соответствующей другой налагаемой информации, помимо информации скрытых субтитров. Информация, указывающая позицию наложения, является информацией позиции вертикального направления (VerticalJPosition) и информацией позиции горизонтального направления (Horizontal_Position), например. Также информация, указывающая время отображения, является информацией числа кадров (Duration_Counter), соответствующей времени длительности отображения, например. В случае информации скрытых субтитров данные управления позиции наложения и времени отображения включаются в данные скрытых субтитров, так что эта информация не должна отправляться отдельно.
Далее описание будет сделано в отношении случая, когда выводится набор векторов диспаратности в качестве информации диспаратности. В данном случае контроллер 126 устанавливает вектор диспаратности для каждого Region_id посредством обработки по заранее заданной программе или ручных операций пользователя. Например, различные векторы диспаратности устанавливаются в соответствии с позицией наложения налагаемой информации, или обычная информация диспаратности устанавливается безотносительно к позиции наложения, или различная информация диспаратности устанавливается для каждого типа налагаемой информации. Блок 128 данных Z берет вектор диспаратности каждого Region_id, установленный таким образом, в качестве установленного вектора DzD' диспаратности. Теперь, тип налагаемой информации является, например, такими типами, как информация скрытых субтитров, информация субтитров, графическая информация, текстовая информация и так далее. Также тип наложения является, например, типами, сгруппированными по позиции наложения, длительности времени наложения и так далее.
Следует отметить, что для векторов диспаратности, установленных для каждого Region_id контроллером 126, по существу нужно установить только компонент горизонтального направления. Это так, поскольку на приемной стороне осуществляется обработка, в которой налагаемая информация, такая как информация скрытых субтитров, подлежащая наложению на изображение для левого глаза и изображение для правого глаза, сдвинута в горизонтальном направлении на основе информации диспаратности, и компонент горизонтального направления является важным. Также для установленного вектора DzD' диспаратности информация, указывающая позицию наложения, и информация, указывающая время отображения, добавлена контроллером 126 для информации, соответствующей другой налагаемой информации, помимо информации скрытых субтитров, аналогично установленному вектору DzD диспаратности, описанному выше.
Возвращаясь к фиг.19, данные СС, выведенные из кодера 127 СС, и информация диспаратности, выведенная из блока 128 данных Z (включая DzD/DzD' и информацию позиции наложения и информацию времени отображения как необходимые), устанавливаются в устройство 113а форматирования потоков видеокодера 113. В устройстве 113а форматирования потоков данные СС и информация диспаратности размещаются в элементарном видеопотоке в качестве пользовательских данных.
Фиг.22 схематически иллюстрирует пример выполнения элементарного видеопотока (Video Elementary Stream). Элементарный видеопоток имеет часть заголовка последовательности, включающую в себя параметры в приращениях последовательностей в ее верху. Вслед за частью заголовка последовательности расположен заголовок картинки, включающий в себя параметры в приращениях картинок и пользовательские данные. Вслед за заголовочной частью картинки находится часть полезных данных, включающая в себя данные картинки. После этого заголовочная часть картинки и часть полезных данных располагаются повторяющимися.
Данные СС и информация диспаратности размещены в области пользовательских данных заголовочной части картинки, как было описано выше. Фиг.23 иллюстрирует пример выполнения пользовательских данных. Фиг.23 (а) иллюстрирует конфигурацию пользовательских данных в случае, когда кодирующим форматом является MPEG2. Фиг.23 (b) иллюстрирует конфигурацию пользовательских данных в случае, когда кодирующим форматом является Н.264 AVC (MPEG4-AVC). Далее фиг.23 (с) иллюстрирует конфигурацию пользовательских данных в случае, когда кодирующим форматом является VC-1.
Хотя подробное описание будет опущено, конфигурация пользовательских данных примерно одинакова для каждого формата. Другими словами, первым расположен код, который указывает начало пользовательских данных, вслед за которыми расположен идентификатор «userjdentifier», указывающий тип данных, и далее за ним расположен «user_structure», который представляет собой основной массив данных.
Фиг.24 иллюстрирует пример выполнения «user_structure». «Data_Length» иллюстрирует размер данных этого «user_structure». «Page_id» относится к образной информации субтитров и является идентификатором для идентификации страницы «user_structure», хотя существуют случаи использования для идентификации языка субтитров как идентификатора группы данных. «Number_of_ViewBlocksN» обозначает, что информация диспаратности и тому подобное из N Region_id включены в этот «user_structure».
«ID_Block(i)>>представляет Region_id(i). «2D_object_position_flag» является флажком, обозначающим, обращаться или нет к информации позиции наложения (информации позиции отображения для налагаемой информации для 2D), включенной в качестве информации для ID_Block(i). В случае когда этот флажок установлен, к информации позиции наложения обращаются. В данном случае информация для ID_Block(i) включает в себя информацию позиции наложения («Vertical_Position» и «HorizontalJPosition»). «Vertical_Position» обозначает позицию в вертикальном направлении налагаемой информации для 2D. «Horizontal_Position» обозначает позицию в горизонтальном направлении налагаемой информации для 2D.
Данные управления позиции наложения включены в данные СС, выведенные из кодера 127 СС, описанного выше. Соответственно, в случае, когда ID_Block(i) адресуется к информации скрытых субтитров, 2D_object_position_flag не установлен. Также информация позиции наложения («Vertical_Position» и «HorizontalJPosition») не включена в качестве информации ID_Block(i).
«3D_disparity_flag» обозначает, включена или нет информация диспаратности (вектор диспаратности) в качестве информации ID_Block(i). В случае когда этот флажок установлен, это означает, что информация диспаратности включена. (View_Vector_Vertical) обозначает компонент вертикального направления вектора диспаратности. (View_Vector_Horizontal) обозначает компонент горизонтального направления вектора диспаратности. Следует отметить, что в этом примере включены и (View_Vector_Vertical), и (View_Vector_HorizontaI). Однако в случае использования только компонента горизонтального направления может быть включен только (View_Vector_Horizontal).
«Status_Count_flag» является флажком, обозначающим, обращаться или нет к информации времени отображения налагаемой информации в качестве информации ID_Block(i). В случае, когда этот флажок установлен, это означает, что нужно обращаться к информации времени отображения. В данном случае информация, обозначающая число кадров, соответствующее длительности отображения «Duration_Counter», например, включена в качестве информации ID_Block(i). Отображение налагаемой информации начинается отметкой времени системного слоя на приемной стороне, когда отображение налагаемой информации (включая эффекты информации диспаратности) перезапущено после того, как истекает число кадров, соответствующее длительности отображения. Соответственно, нет необходимости повторно посылать ту же информацию для каждой картинки.
Данные управления времени отображения включены в данные СС, выведенные из кодера 127 СС, описанного выше. Соответственно, в случае когда ID_Block(i) адресуется к информации скрытых субтитров, «Status_Count_flag» не установлен, и «Duration_Counter» не включен в качестве информации ID_Block(i).
Хотя подробное описание будет опущено, блок 110С генерации данных передачи, изображенный на фиг.19, в остальном выполнен аналогично блоку 110 генерации данных передачи, изображенному на фиг.2, и работает аналогичным образом.
Другой пример выполнения блока генерации данных передачи
Блок 110С генерации данных передачи, изображенный на фиг.19, передал информацию диспаратности с блока 128 данных Z, размещенную в элементарном видеопотоке, в качестве пользовательских данных. Однако также может быть задумано передать информацию диспаратности с блока 128 данных Z на приемную сторону в качестве независимого элементарного потока.
Фиг.25 иллюстрирует пример выполнения блока 110D генерации данных передачи. На фиг.25 части, соответствующие фиг.19, обозначены теми же ссылочными позициями, и их подробное описание будет опущено. Блок 110D генерации данных передачи имеет кодер 129 информации диспаратности. Информация диспаратности, выведенная с блока 128 данных Z (включая DzD/DzD' и информацию позиции наложения, и информацию времени отображения как необходимые) для каждого Region_id, посылается на кодер 129 информации диспаратности.
Элементарный поток информации диспаратности, включающий в себя информацию диспаратности, создается в кодере 129 информации диспаратности. Элементарный поток информации диспаратности подается на мультиплексор 122. Мультиплексор 122 мультиплексирует пакеты элементарного потока, поданные от кодеров, включающих в себя кодер 129 информации диспаратности, тем самым получая данные двоичного потока (транспортный поток) BSD, служащие в качестве данных передачи.
Хотя подробное описание будет опущено, блок 110D генерации данных передачи, изображенный на фиг.25, в остальном выполнен аналогично блоку 110 генерации данных передачи, изображенному на фиг.19, и работает аналогичным образом.
Другой пример выполнения блока генерации данных передачи
Блок 110В генерации данных передачи, изображенный на фиг.18, манипулирует информацией субтитров, графической информацией и текстовой информацией. Может быть задумана конфигурация для последующего манипулирования скрытой информацией с такой же конфигурацией, как у блока 110В генерации данных передачи, показанного на этой фиг.18.
Фиг.26 иллюстрирует пример выполнения блока 110Е генерации данных передачи. Этот пример описывает конфигурацию отражения информации диспаратности в данных налагаемой информации (например, информации скрытых субтитров, информации субтитров, графической информации, текстовой информации и так далее), подлежащей наложению на изображение и передаче вместо передачи векторов диспаратности как числовой информации. На этой фиг.26 части, соответствующие фиг.18 и фиг.19, обозначены теми же ссылочными позициями, и их подробное описание будет опущено.
В блоке генерации данных передачи на фиг.26 блок 130 обработки данных СС вставлен между кодером 127 СС и устройством 113а форматирования потоков. Вектор диспаратности в заранее заданной позиции внутри изображения, обнаруженный блоком 114 обнаружения векторов диспаратности, подается на блок 130 обработки данных СС.
В блоке 130 обработки данных СС создаются данные информации скрытых субтитров для левого глаза, подлежащей наложению на изображение для левого глаза, и данные информации скрытых субтитров для правого глаза, подлежащей наложению на изображение для правого глаза, на основе данных СС, созданных в кодере 127 СС. В данном случае информация скрытых субтитров для левого глаза и информация скрытых субтитров для правого глаза являются одной и той же информацией. Однако позиция наложения информации скрытых субтитров для правого глаза внутри изображения сдвинута в горизонтальном направлении на значение, эквивалентное компоненту WT горизонтального направления вектора диспаратности, например.
Таким образом, данные СС после обработки в блоке 130 обработки данных СС подаются в устройство 113a форматирования потоков. В устройстве 113a форматирования потоков данные СС из блока 130 обработки данных СС размещаются в элементарном видеопотоке в качестве пользовательских данных.
Хотя подробное описание будет опущено, блок 110Е генерации данных передачи, изображенный на фиг.26, в остальном выполнен аналогично блоку 110В генерации данных передачи, изображенному на фиг.18, и работает аналогичным образом.
Описание телеприставки
Возвращаясь к фиг.1, телеприставка 200 принимает данные двоичного потока (транспортные данные), переданные по каналам телевизионного вещания от вещательной станции 100. Эти данные двоичного потока включают в себя данные стереоскопического изображения, включающие в себя данные изображения для левого глаза и данные изображения для правого глаза, аудиоданные, данные налагаемой информации и далее информацию диспаратности (вектор диспаратности). Здесь, например, примеры данных налагаемой информации включают в себя данные скрытых субтитров, данные субтитров, графические данные, текстовые данные и так далее.
Телеприставка 200 включает в себя блок 201 обработки двоичного потока. Этот блок 201 обработки двоичного потока извлекает данные стереоскопического изображения, аудиоданные, данные налагаемой информации, вектор диспаратности и тому подобное из данных двоичного потока. Этот блок 201 обработки двоичного потока использует данные стереоскопического изображения, данные налагаемой информации (данные субтитров, графические данные, текстовые данные, СС (скрытые субтитры) или тому подобное для создания изображения для левого глаза и изображения для правого глаза, на которые наложена налагаемая информация.
Здесь, в случае, когда вектор диспаратности передан как числовая информация, налагаемая информация для левого глаза и налагаемая информация для правого глаза, подлежащая наложению на изображение для левого глаза и изображение для правого глаза, создаются на основе вектора диспаратности и данных налагаемой информации. В данном случае налагаемая информация для левого глаза и налагаемая информация для правого глаза являются одной и той же налагаемой информацией. Однако в отношении позиции наложения внутри изображения, например, налагаемая информация для правого глаза приспособлена для сдвигания в горизонтальном направлении на компонент горизонтального направления вектора диспаратности по отношению к налагаемой информации для левого глаза.
Фиг.27 (a) иллюстрирует позицию наложения графической информации для левого глаза и графической информации для правого глаза в случае, когда способ передачи является описанным выше вторым способом передачи (способ «бок о бок»). Графическая информация RGI для правого глаза, подлежащая наложению на изображение IR для правого глаза, поставлена в позицию, сдвинутую в горизонтальном направлении на компонент WT горизонтального направления вектора диспаратности по отношению к графической информации LGI для левого глаза, подлежащей наложению на изображение IL для левого глаза. Следует отметить, что IT является непоказываемым значением смещения.
С помощью блока 201 обработки двоичного потока графические данные создаются таким образом, что графическая информация LGI и RGI наложена на изображения IL и IR соответственно, как показано на фиг.27(а). Блок 201 обработки двоичного потока синтезирует созданные графические данные для левого глаза и графические данные для правого глаза по отношению к данным стереоскопических изображений (данные изображения для левого глаза, данные изображения для правого глаза), извлеченным из данных двоичного потока, для получения данных стереоскопического изображения после обработки. В соответствии с этими данными стереоскопических изображений зритель может видеть с диспаратностью каждую графическую информацию вместе с каждым из изображений IL и IR, и перспектива также может быть распознана в отношении графической информации, как изображено на фиг.27 (b).
Следует отметить, что фиг.28 (а) иллюстрирует состояние, в котором графическое изображение в соответствии с графическими данными, извлеченными из данных двоичного потока, наложено на каждое из изображений IL и IR. В данном случае зритель видит, как показано на фиг.28 (b), левую половину графической информации вместе с изображением IL для левого глаза и правую половину графической информации вместе с изображением IR для правого глаза. Следовательно, зрителю создается препятствие для правильного распознавания графической информации.
Фиг.27 иллюстрирует случай графической информации, и это также верно в отношении другой налагаемой информации (информации скрытых субтитров, информации субтитров, текстовой информации и так далее). В частности, в случае когда вектор диспаратности передан как числовая информация, налагаемая информация для левого глаза и налагаемая информация для правого глаза, подлежащая наложению на изображение для левого глаза и изображение для правого глаза, соответственно создаются на основе вектора диспаратности и данных налагаемой информации. В данном случае налагаемая информация для левого глаза и налагаемая информация для правого глаза являются одной и той же налагаемой информацией. Однако в отношении позиции наложения внутри изображения, например, налагаемая информация для правого глаза сдвинута в горизонтальном направлении на компонент горизонтального направления вектора диспаратности по отношению к налагаемой информации для левого глаза.
Здесь может быть задумано использовать следующие векторы диспаратности в качестве вектора диспаратности для обеспечения диспаратности между налагаемой информацией для левого глаза и налагаемой информацией для правого глаза. Например, может быть задумано использовать из векторов диспаратности, обнаруженных в различных позициях внутри изображения, вектор диспаратности в позиции, признанной ближайшей по отношению к перспективе. Фиг.29 (а), (b), (с) и (d) иллюстрируют векторы диспаратности (векторы ракурса) в трех позициях объектов в ближайшие моменты времени Т0, Т1, Т2 и Т3 соответственно.
В ближайший момент времени Т0 вектор диспаратности VV0-1 в позиции (Н0, V0), соответствующей объекту 1, является максимальным вектором диспаратности MaxVV (Т0). В ближайший момент времени Т1 вектор диспаратности VV1-1 в позиции (H1, V1), соответствующей объекту 1, является максимальным вектором диспаратности MaxVV (Т1). В ближайший момент времени Т2 вектор диспаратности VV2-2 в позиции (Н2, V2), соответствующей объекту 2, является максимальным вектором диспаратности MaxVV (Т2). В ближайший момент времени Т3 вектор диспаратности VV3-0 в позиции (Н3, V3), соответствующей объекту 1, является максимальным вектором диспаратности MaxVV (Т3).
Таким образом, из векторов диспаратности, обнаруженных в различных позициях внутри изображения, вектор диспаратности в позиции, распознанной в качестве ближайшей по отношению к перспективе, используется в качестве вектора диспаратности, в соответствии с чем налагаемая информация может быть отображена перед ближайшим объектом внутри изображения по отношению к перспективе.
Фиг.30 (а) иллюстрирует пример отображения субтитра (например, информации скрытых субтитров, информации субтитров) на изображении. Этот пример отображения является примером, в котором субтитр наложен на изображение, состоящее из фона и объекта ближнего обзора.
Фиг.30 (b) иллюстрирует перспективу фона, объекта ближнего обзора и субтитра, из которых субтитр распознается в качестве ближайшего.
Фиг.31 (а) иллюстрирует пример отображения субтитра (например, информации скрытых субтитров, информации субтитров) на изображении, который аналогичен фиг.30 (а). Фиг.31 (b) иллюстрирует графическую информацию LGI для левого глаза и графическую информацию RGI для правого глаза для отображения субтитра. Фиг.31 (с) иллюстрирует, что субтитр распознается в качестве ближайшего, поэтому диспаратность придана каждой из информации LGI и RGI.
Также может быть задумано, что из векторов диспаратности, обнаруженных в различных позициях внутри изображения, используется вектор диспаратности, соответствующий его позиции наложения. Фиг.32 (а) иллюстрирует графическую информацию, соответствующую графическим данным, извлеченным из данных двоичного потока, и текстовую информацию, соответствующую текстовым данным, извлеченным из данных двоичного потока.
Фиг.32 (b) иллюстрирует состояние, в котором графическая информация LGI для левого глаза и текстовая информация LTI для левого глаза наложены на изображение для левого глаза. В данном случае в отношении графической информации LGI для левого глаза ее позиция наложения установлена в горизонтальном направлении на непоказываемое значение смещения (IT-0). Также в отношении текстовой информации LTI для левого глаза ее позиция наложения установлена в горизонтальном направлении на не показываемое значение смещения (IT-1).
Фиг.32 (с) иллюстрирует состояние, в котором графическая информация RGI для правого глаза и текстовая информация RTI для правого глаза наложены на изображение для правого глаза. В данном случае в отношении графической информации RGI для правого глаза ее позиция наложения установлена в горизонтальном направлении на непоказываемое значение смещения (IT-0) и далее сдвинута на компонент VVT-0 горизонтального направления вектора диспаратности, соответствующего этой позиции наложения, по сравнению с позицией наложения графической информации LGI для левого глаза. Также в отношении текстовой информации RTI для левого глаза ее позиция наложения установлена в горизонтальном направлении на непоказываемое значение смещения (IT-1) и далее сдвинута на компонент VVT-1 горизонтального направления вектора диспаратности, соответствующего этой позиции наложения, по сравнению с позицией наложения текстовой информации LTI для левого глаза.
С помощью приведенного выше описания было сделано описание в отношении случая, когда графическая информация, соответствующая графическим данным, извлеченным из данных двоичного потока, или текстовая информация, соответствующая текстовым данным, извлеченным из данных двоичного потока, наложены на изображение для левого глаза и изображение для правого глаза. В дополнение к этому также может быть задуман случай, когда графические данные или текстовые данные создаются в телеприставке 200, и эта информация накладывается на изображение для левого глаза и изображение для правого глаза.
Даже в таком случае может быть обеспечена диспаратность между графической информацией для левого глаза и графической информацией для правого глаза или между текстовой информацией для левого глаза и текстовой информацией для правого глаза путем использования вектора диспаратности заранее заданной позиции внутри изображения, извлеченного из данных двоичного потока. Таким образом, в отношении отображения графической информации и текстовой информации может быть дана подходящая перспектива, в которой поддержание сопоставимости перспективы осуществлено между перспективой каждого объекта внутри изображения.
Фиг.33 (а) иллюстрирует, что есть объекты А, В и С внутри изображения, и, например, текстовая информация, указывающая комментарии каждого объекта, наложена на смежную позицию каждого из этих объектов. Фиг.33 (b) иллюстрирует, что диспаратность придана текстовой информации, обозначающей комментарии каждого из объектов А, В и С, путем использования списка векторов диспаратности, указывающего соответствие между позицией каждого из объектов А, В и С и вектора диспаратности в их позиции, и каждого из векторов диспаратности. Например, текстовая информация «Text» наложена поблизости от объекта А, но диспаратность, соответствующая вектору VV-a диспаратности в позиции (На, Va) объекта А, дана между текстовой информацией для левого глаза и текстовой информацией для правого глаза. Следует отметить, что то же самое характерно для текстовой информации, подлежащей наложению поблизости от объектов В и С.
Следует отметить, что фиг.32 иллюстрирует случай, когда налагаемая информация является графической информацией и текстовой информацией. Также фиг.33 иллюстрирует случай, когда налагаемая информация является текстовой информацией. Хотя подробное описание будет опущено, это также характерно для случая другой налагаемой информации (информации скрытых субтитров, информации субтитров и так далее).
Далее будет сделано описание в отношении случая, когда вектор диспаратности заранее отражен в данных налагаемой информации (информации скрытых субтитров, информации субтитров, графической информации, текстовой информации и так далее) и передан. В этом случае данные налагаемой информации, извлеченные из данных двоичного потока, включают в себя данные налагаемой информации для левого глаза и данные налагаемой информации для правого глаза, которым вектором диспаратности придана диспаратность.
Следовательно, блок 201 обработки двоичного потока просто синтезирует данные налагаемой информации, извлеченные из данных двоичного потока, в отношении данных стереоскопического изображения (данные изображения для левого глаза, данные изображения для правого глаза), извлеченных из данных двоичного потока, для получения данных стереоскопического изображения после обработки. Следует отметить, что в отношении данных скрытых субтитров или текстовых данных необходима обработка для преобразования символьного кода в растровые данные.
Пример выполнения телеприставки
Будет описан пример выполнения телеприставки 200. Фиг.34 иллюстрирует пример выполнения телеприставки 200. Эта телеприставка 200 включает в себя блок 201 обработки двоичного потока, терминал 202 HDMI, терминал 203 антенны, цифровой тюнер 204, схему 205 обработки видеосигнала, блок 206 передачи HDMI и схему 207 обработки аудиосигнала. Также эта телеприставка 200 включает в себя ЦП 211, флэш-ПЗУ 212, ДОЗУ 213, внутреннюю шину 214, блок 215 приема дистанционного управления, передатчик 216 дистанционного управления.
Терминал 203 антенны является терминалом для ввода телевизионного сигнала вещания, полученного на приемную антенну (не изображена). Цифровой тюнер 204 обрабатывает телевизионный сигнал вещания, введенный в терминал 203 антенны, и выводит заранее заданные данные двоичного потока (транспортный поток) в соответствии с выбранным пользователем каналом.
Как было описано выше, блок 201 обработки двоичного потока извлекает данные стереоскопического изображения (данные изображения для левого глаза, данные изображения для правого глаза), аудиоданные, данные налагаемой информации, информацию диспаратности (вектор диспаратности) и тому подобное из данных двоичного потока. Данные налагаемой информации являются данными скрытых субтитров, данными субтитров, графическими данными, текстовыми данными и так далее. Этот блок 201 обработки двоичного потока синтезирует, как было описано выше, данные налагаемой информации (скрытую информацию, информацию субтитров, графическую информацию, текстовую информацию и так далее) в отношении данных стереоскопических изображений для получения данных стереоскопического изображения для отображения. Также блок 201 обработки двоичного потока выводит аудиоданные. Подробная конфигурация блока 201 обработки двоичного потока будет описана позже.
Схема 205 обработки видеосигнала подвергает данные стереоскопического изображения, выведенные из блока 201 обработки двоичного потока, процессу корректировки качества изображения в соответствии с необходимостью и подает данные стереоскопического изображения после их обработки на блок 206 передачи HDMI. Схема 207 обработки аудиосигнала подвергает аудиоданные, выведенные из блока 201 обработки двоичного потока, процессу корректировки качества звука в соответствии с необходимостью и подает аудиоданные после их обработки на блок 206 передачи HDMI.
Блок 206 передачи HDMI передает в соответствии со связью, подходящей для HDMI, данные группового спектра изображения (видео) и аудио с терминала 202 HDMI. В данном случае, поскольку данные передаются по каналу TMDS HDMI, данные. изображения и аудио подвергаются сжатию и выводятся из блока 206 передачи HDMI на терминал 202 HDMI. Подробности этого блока 206 передачи HDMI будут описаны позже.
ЦП 211 управляет работой каждого блока телеприставки 200. Флэш-ПЗУ 212 осуществляет хранение управляющего программного обеспечения и хранение данных. ДОЗУ 213 формирует рабочую область ЦП 211. ЦП 211 загружает считывающее программное обеспечение и данные с флэш-ПЗУ 212 на ДОЗУ 213 и запускает управление от программного обеспечения каждым блоком телеприставки 200.
Блок 215 приема дистанционного управления принимает сигнал дистанционного управления (код дистанционного управления), переданный с передатчика 216 дистанционного управления, и передает на ЦП 211. ЦП 211 управляет каждым блоком телеприставки 200 на основе этого кода дистанционного управления. ЦП 211, флэш-ПЗУ 212 и ДОЗУ 213 подсоединены к внутренней шине 214.
Работа телеприставки 200 будет описана кратко. Телевизионный сигнал вещания, введенный в терминал 203 антенны, подается на цифровой тюнер 204. С помощью этого цифрового тюнера 204 телевизионный сигнал вещания обрабатывается, и выводятся заранее заданные данные двоичного потока (транспортный поток), соответствующие выбранному пользователем каналу.
Данные двоичного потока, выведенные из цифрового тюнера 204, подаются на блок 201 обработки двоичного потока. С помощью этого блока 201 обработки двоичного потока данные стереоскопического изображения (данные изображения для левого глаза, данные изображения для правого глаза), аудиоданные, графические данные, текстовые данные, вектор диспаратности и тому подобное извлекаются из данных двоичного потока. Также с помощью этого блока 201 обработки двоичного потока данные налагаемой информации (информации скрытых субтитров, информации субтитров, графической информации, текстовой информации и так далее) синтезируются в отношении данных стереоскопического изображения и создаются данные стереоскопических изображений для отображения.
Данные стереоскопического изображения для отображения, созданные в блоке 201 обработки двоичного потока, подаются на блок 206 передачи HDMI после подвергания их процессу корректировки качества изображения в схеме 205 обработки видеосигнала в соответствии с необходимостью. Также аудиоданные, полученные в блоке 201 обработки двоичного потока, подаются на блок 206 передачи HDMI после подвергания их процессу корректировки качества звука в схеме 207 обработки аудиосигнала в соответствии с необходимостью. Данные стереоскопического изображения и аудиоданные, поданные на блок 206 передачи HDMI, передаются из терминала 202 HDMI на кабель 400 HDMI по каналу TMDS HDMI.
Пример выполнения блока обработки двоичного потока
Фиг.35 иллюстрирует пример выполнения блока 201 обработки двоичного потока. Этот блок 201 обработки двоичного потока выполнен для обращения к описанному выше блоку 110 генерации данных передачи, описанному на фиг.2. Этот блок 201 обработки двоичного потока включает в себя демультиплексор 220, видеодекодер 221, декодер 222 субтитров и графики, декодер 223 текста, аудиодекодер 224 и декодер 225 векторов диспаратности. Также этот блок 201 обработки двоичного потока включает в себя блок 226 генерации субтитров и графики стереоскопических изображений, блок 227 генерации текста стереоскопических изображений, блок 228 наложения видео и блок 229 управления многоканальной акустической системой.
Демультиплексор 220 извлекает пакеты видео, аудио, вектора диспаратности, субтитра, графики и текста из данных BSD двоичного потока и передает на каждый декодер.
Видеодекодер 221 осуществляет обработку, обратную описанному выше видеокодеру 113 блока 110 генерации данных передачи. В частности этот видеодекодер 221 реструктурирует элементарный видеопоток из видеопакета, извлеченного на демультиплексоре 220, осуществляет декодирование и получает данные стереоскопического изображения, включающие в себя данные изображения для левого глаза и данные изображения для правого глаза. Способ передачи этих данных стереоскопического изображения, например, представляет собой описанный выше первый способ передачи (способ «верх-низ»), второй способ передачи (способ «бок о бок»), третий способ передачи (способ «чередования кадров») или тому подобное (см. фиг.4 (а)-(с)).
Декодер 222 субтитров и графики осуществляет обработку, обратную описанному выше кодеру 119 субтитров и графики блока 110 генерации данных передачи. В частности, этот декодер 222 субтитров и графики реструктурирует элементарный поток субтитров и графики из пакета субтитров и графики, извлеченного на демультиплексоре 220. Далее этот декодер 222 субтитров и графики осуществляет декодирование для получения данных субтитров и графических данных.
Декодер 223 текста осуществляет обработку, обратную описанному выше кодеру 121 текста блока 110 генерации данных передачи. В частности, этот декодер 121 текста реструктурирует элементарный поток текста из пакета текста, извлеченного в демультиплексоре 220, осуществляет декодирование для получения текстовых данных.
Аудиодекодер 224 осуществляет обработку, обратную описанному выше аудиокодеру 117 блока 110 генерации данных передачи. В частности, этот аудиодекодер 224 реструктурирует элементарный аудиопоток из пакета аудио, извлеченного на демультиплексоре 220, осуществляет декодирование для получения аудиоданных.
Декодер 225 векторов диспаратности осуществляет обработку, обратную описанному выше кодеру 115 векторов диспаратности блока 110 генерации данных передачи. В частности, этот декодер 225 векторов диспаратности реструктурирует элементарный поток векторов диспаратности из пакета векторов диспаратности, извлеченного на демультиплексоре 220, осуществляет декодирование для получения вектора диспаратности в заранее заданной позиции внутри изображения.
Блок 226 генерации субтитров и графики стереоскопических изображений создает информацию субтитров или графическую информацию для левого глаза и правого глаза, подлежащую наложению на изображение для левого глаза и изображение для правого глаза соответственно. Этот процесс создания осуществляется на основе данных субтитров и графических данных, полученных в декодере 222, и вектора диспаратности, полученного в декодере 225. В данном случае информация субтитров или графическая информация для левого глаза и правого глаза является одной и той же информацией. Однако в отношении позиции наложения внутри изображения, например, информация субтитров или графическая информация для правого глаза установлена таким образом, чтобы быть сдвинутой в горизонтальном направлении по отношению к информации субтитров или графической информации для левого глаза на значение, эквивалентное компоненту горизонтального направления вектора диспаратности. Далее блок 226 генерации субтитров и графики стереоскопических изображений выводит данные (растровые данные) созданной информации субтитров или графической информации для левого глаза и для правого глаза.
Блок 227 генерации текста стереоскопических изображений создает текстовую информацию для левого глаза и текстовую информацию для правого глаза, подлежащую наложению на изображение для левого глаза и изображение для правого глаза соответственно на основе текстовых данных, полученных в декодере 223, и вектора диспаратности, полученного в декодере 225. В данном случае текстовая информация для левого глаза и текстовая информация для правого глаза является одной и той же информацией, но в отношении позиции наложения внутри изображения, например, текстовая информация для правого глаза установлена таким образом, чтобы быть сдвинутой в горизонтальном направлении по отношению к текстовой информации для левого глаза на значение, эквивалентное компоненту горизонтального направления вектора диспаратности. Далее блок 227 генерации текста стереоскопических изображений выводит данные (растровые данные) созданной текстовой информации для левого глаза и текстовой информации для правого глаза.
Блок 228 наложения видео налагает данные, созданные в блоках 226 и 227 генерации, на данные стереоскопического изображения (данные изображения для левого глаза, данные изображения для правого глаза), полученные в видеодекодере 221, для получения данных стереоскопических изображения для отображения Vout. Следует отметить, что наложение данных налагаемой информации на данные стереоскопического изображения (данные изображения для левого глаза, данные изображения для правого глаза) начинается отметкой времени системного слоя.
Блок 229 управления многоканальной акустической системой подвергает аудиоданные, полученные в аудиодекодере 224, обработке для создания аудиоданных многоканальной акустической системы для создания 5.1-ch surround или тому подобного, обработке для предоставления заранее заданных характеристик звукового поля или тому подобного. Также этот блок 229 управления многоканальной акустической системой управляет выводом многоканальной акустической системы на основе вектора диспаратности, полученного в декодере 225.
Существует преимущество, когда чем больше становится размер вектора диспаратности, тем более заметными являются эффекты. Вывод многоканальной акустической системы управляется в соответствии со стереоскопическим уровнем, посредством чего может быть осуществлено накопление дальнейшего стереоскопического опыта.
Фиг.36 иллюстрирует пример управления выходом на акустическую систему в случае, когда относительно вектора VV1 диспаратности видеообъект с левой стороны больше по отношению к телевизионному дисплею. В этом примере управления громкость заднего левого динамика многоканальной акустической системы установлена высокой, громкость переднего левого динамика установлена средней и далее громкость переднего правого, заднего правого динамика установлена низкой. Таким образом, вектор диспаратности содержания видео (данные стереоскопического изображения) используется для других данных мультимедиа, таких как аудиоданные или тому подобное, на приемной стороне, посредством чего зритель может физически ощущать стереоскопические эффекты в полном объеме.
Работа блока 201 обработки двоичного потока, показанного на фиг.35, будет кратко описана. Данные BSD двоичного потока, выведенные из цифрового тюнера 204 (см. фиг.34), подаются на демультиплексор 220. С помощью этого демультиплексора 220 пакеты видео, вектор диспаратности, субтитр, графика и текст извлекаются из данных BSD двоичного потока и подаются на каждый декодер.
С помощью видеодекодера 221 элементарный видеопоток реструктурируется из видеопакета, извлеченного на демультиплексоре 220, дополнительно подвергается декодированию, и получаются данные стереоскопического изображения, включающие в себя данные изображения для левого глаза и данные изображения для правого глаза. Эти данные стереоскопического изображения подаются на блок 228 наложения видео. Также с помощью декодера 225 векторов диспаратности элементарный поток векторов диспаратности реструктурируется из пакета векторов диспаратности, извлеченного из демультиплексора 220, далее подвергается декодированию, и получается вектор диспаратности в заранее заданной позиции внутри изображения (см. фиг.8).
С помощью декодера 222 субтитров и графики элементарный поток субтитров и графики реструктурируется из пакета субтитров и графики, извлеченного на демультиплексоре 220. С помощью декодера 222 субтитров и графики элементарный поток субтитров и графики дополнительно подвергается декодированию и получаются данные субтитров или графические данные. Эти данные субтитров или графические данные подаются на блок 226 генерации субтитров и графики стереоскопических изображений. Вектор диспаратности, полученный в декодере 225 векторов диспаратности, также подается на блок 226 генерации субтитров и графики стереоскопических изображений.
С помощью блока 226 генерации субтитров и графики стереоскопических изображений создается информация субтитров или графическая информация для левого глаза и правого глаза, подлежащая наложению на изображение для левого глаза и изображение для правого глаза соответственно. Этот процесс создания осуществляется на основе данных субтитров и графических данных, полученных в декодере 222 субтитров и графики, и вектора диспаратности, полученного в декодере 225. В данном случае в отношении позиции наложения внутри изображения, например, информация субтитров или графическая информация для правого глаза сдвинута в горизонтальном направлении по отношению к информации субтитров или графической информации для левого глаза на компонент горизонтального направления вектора диспаратности. Данные (растровые данные) созданной информации субтитров или графической информации для левого глаза и для правого глаза выводятся из блока 226 генерации субтитров и графики стереоскопических изображений.
Также с помощью декодера 223 текста элементарный поток текста из пакета текста, извлеченного на демультиплексоре 220, реструктурируется, далее подвергается декодированию и получаются текстовые данные. Эти текстовые данные подаются на блок 227 генерации текста стереоскопических изображений. Вектор диспаратности, полученный в декодере 225 векторов диспаратности, также подается на блок 227 генерации текста стереоскопических изображений.
С помощью этого блока 227 генерации текста стереоскопических изображений текстовая информация для левого глаза и текстовая информация для правого глаза, подлежащие наложению на изображение для левого глаза и изображение для правого глаза, создаются на основе текстовых данных, полученных в декодере 223, и вектора диспаратности, полученного в декодере 225. В данном случае текстовая информация для левого глаза и текстовая информация для правого глаза являются одной и той же информацией, но в отношении позиции наложения внутри изображения текстовая информация для правого глаза сдвинута в горизонтальном направлении по отношению к текстовой информации для левого глаза на значение, эквивалентное компоненту горизонтального направления вектора диспаратности. Данные (растровые данные) созданной текстовой информации для левого глаза и текстовой информации для правого глаза выводятся из этого блока 227 генерации текста стереоскопических изображений.
В дополнение к описанным выше данным стереоскопических изображений (данным изображения для левого глаза, данным изображения для правого глаза) из видеодекодера 221 данные, выведенные из блока 226 генерации субтитров и графики стереоскопических изображений и блока 227 генерации текста, подаются на блок 228 наложения видео. С помощью этого блока 228 наложения видео, данные, созданные в блоке 226 генерации субтитров и графики стереоскопических изображений и блока 227 генерации текста, налагаются на данные стереоскопического изображения (данные изображения для левого глаза, данные изображения для правого глаза), получаются данные стереоскопических изображения для отображения Vout. Эти данные стереоскопических изображений для отображения Vout подаются на блок 206 передачи HDMI (см. фиг.34) через схему 205 обработки видеосигнала в качестве данных изображения передачи.
Также с помощью аудиодекодера 224 элементарный аудиопоток реструктурируется из пакета аудио, извлеченного на демультиплексоре 220, дополнительно подвергается декодированию, и получаются аудиоданные. Эти аудиоданные подаются на блок 229 управления многоканальной акустической системой. С помощью этого блока 229 управления многоканальной акустической системой аудиоданные подвергаются обработке для создания аудиоданных многоканальной акустической системы для создания 5.1-ch surround или тому подобного, обработке для предоставления заранее заданных характеристик звукового поля или тому подобного.
Вектор диспаратности, полученный в декодере 225 векторов диспаратности, также подается на этот блок 229 управления многоканальной акустической системой. Далее с помощью этого блока 229 управления многоканальной акустической системой на основе вектора диспаратности управляется вывод многоканальной акустической системы. Многоканальные аудиоданные, полученные на этом блоке 229 управления многоканальной акустической системой, подаются на блок 206 передачи HDMI (см. фиг.34) через схему 207 обработки аудиосигнала в качестве аудиоданных передачи.
Другой пример выполнения блока обработки двоичного потока
Блок 201А обработки двоичного потока, изображенный на фиг.37, выполнен для обращения к описанному выше блоку 110А генерации данных передачи, описанному выше на фиг.13. На этой фиг.37 части, соответствующие фиг.35, обозначены теми же ссылочными позициями, и подробное описание будет опущено.
В отношении этого блока 201А обработки двоичного потока, вместо декодера 225 векторов диспаратности блока 201 обработки двоичного потока, изображенного на фиг.35, представлен блок 231 извлечения векторов диспаратности. Этот блок 231 извлечения векторов диспаратности извлекает из видеопотока, полученного через видеодекодер 221, вектор диспаратности, размещенный в его области пользовательских данных. Далее этот блок 231 извлечения векторов диспаратности подает извлеченный вектор диспаратности на блок 226 генерации субтитров и графики стереоскопических изображений, блок 227 генерации текста стереоскопических изображений и блок 229 управления многоканальной акустической системой.
Хотя подробное описание будет опущено, блок 201А обработки двоичного потока, изображенный на фиг.37, в остальном выполнен аналогично блоку 201 обработки двоичного потока, изображенному на фиг.35, и работает аналогичным образом.
Другой пример выполнения блока обработки двоичного потока
Блок 201В обработки двоичного потока, изображенный на фиг.38, выполнен для обращения к описанному выше блоку 110В генерации данных передачи, описанному выше на фиг.18. На этой фиг.38 части, соответствующие фиг.35, обозначены теми же ссылочными позициями, и подробное описание будет опущено.
Блок 201В обработки двоичного потока имеет конфигурацию, в которой декодер 225 векторов диспаратности, блок 226 генерации субтитров и графики стереоскопических изображений и блок 227 генерации текста стереоскопических изображений удалены из блока 201 обработки двоичного потока, изображенного на фиг.35. В данном случае вектор диспаратности заранее отражен в данных информации субтитров, графической информации и текстовой информации.
Данные субтитров и графические данные, которые передаются туда, включают в себя данные информации субтитров и графической информации для левого глаза, которая наложена на изображение для левого глаза, и данные информации субтитров и графической информации для правого глаза, которая наложена на изображение для правого глаза, как было описано выше. Аналогично текстовые данные, которые передаются туда, включают в себя данные текстовой информации для левого глаза, которая наложена на изображение для левого глаза, и данные текстовой информации для правого глаза, которая наложена на изображение для правого глаза, как было описано выше. Соответственно, декодер 225 векторов диспаратности, блок 226 генерации субтитров и графики стереоскопических изображений и блок 227 генерации текста стереоскопических изображений являются необязательными.
Следует отметить, что текстовые данные, полученные в декодере 223 текста, являются кодовыми данными (символьными данными), поэтому нет необходимости осуществлять их преобразование в растровые данные. Эта обработка осуществляется на том последнем этапе декодера 223 текста или этапе ввода блока 228 наложения видео.
Другой пример выполнения блока обработки двоичного потока
Также блок 201C обработки двоичного потока, изображенный на фиг.39, выполнен для обращения к описанному выше блоку 110В генерации данных передачи, описанному выше на фиг.19. На этой фиг.39 части, соответствующие фиг.35, обозначены теми же ссылочными позициями, и подробное описание будет опущено.
Этот блок 201C обработки двоичного потока имеет блок 232 извлечения информации диспаратности, кодер 233 СС и блок 234 генерации скрытых субтитров стереоскопических изображений. Как было описано выше, СС (скрытые субтитры) и информация диспаратности для каждого Region_id размещены в качестве пользовательских данных в элементарном видеопотоке, выведенном из видеокодера 113 блока 110С генерации данных передачи, показанного на фиг.19.
В блоке 232 извлечения информации диспаратности информация диспаратности для каждого Region_id извлекается из элементарного видеопотока, полученного через видеодекодер 221. Из информации диспаратности для каждого Region_id, которая была извлечена, информация диспаратности, соответствующая информации скрытых субтитров (не включая информацию позиции наложения и информацию времени отображения), подается из блока 232 извлечения информации диспаратности на блок 234 генерации скрытых субтитров стереоскопических изображений.
Также из информации диспаратности для каждого Region_id, которая была извлечена, информация диспаратности, соответствующая информации субтитров и графической информации (включая информацию позиции наложения и информацию времени отображения), подается из блока 232 извлечения информации диспаратности на блок 226 генерации субтитров и графики стереоскопических изображений. Далее из информации диспаратности для каждого Region_id, которая была извлечена, информация диспаратности, соответствующая информации субтитров и графической информации (включая информацию позиции наложения и информацию времени отображения), подается из блока 232 извлечения информации диспаратности на блок 227 генерации текста стереоскопических изображений.
В декодере 233 СС данные СС (скрытые субтитры) извлекаются из элементарного видеопотока, полученного через видеодекодер 221. Далее декодер 233 СС, данные скрытых субтитров (символьный код для субтитров) для каждого окна и далее данные управления позиции наложения и времени отображения получены из данных СС. Данные скрытых субтитров и данные управления позиции наложения и времени отображения подаются с декодера 233 СС на блок 234 генерации скрытых субтитров стереоскопических изображений.
В блоке 234 генерации скрытых субтитров стереоскопических изображений данные для информации скрытых субтитров для левого глаза (субтитры) и данные для информации скрытых субтитров для правого глаза (субтитры), подлежащие наложению на изображение для левого глаза и изображение для правого глаза соответственно, создаются для каждого окна. Этот процесс создания осуществляется на основе данных скрытых субтитров и данных управления позиции наложения и времени отображения, полученных в декодере 233 СС, и информации диспаратности (вектора диспаратности), поданной с блока 232 извлечения информации диспаратности. В данном случае информация скрытых субтитров для левого глаза и для правого глаза является одной и той же, но в отношении позиции наложения внутри изображения информация скрытых субтитров для правого глаза сдвинута в горизонтальном направлении на значение, эквивалентное компоненту горизонтального направления вектора диспаратности.
Таким образом, данные информации скрытых субтитров для левого глаза и для правого глаза (растровые данные), созданные для каждого окна в блоке 234 генерации скрытых субтитров стереоскопических изображений, подаются на блок 228 наложения видео вместе с данными управления времени отображения.
Также в блоке 226 генерации субтитров и графики стереоскопических изображений создаются информация субтитров для левого глаза и для правого глаза и графическая информация, подлежащие наложению на изображение для левого глаза и изображение для правого глаза. Этот процесс создания осуществляется на основе данных субтитров и графических данных, полученных в декодере 222 субтитров и графики, и информации диспаратности, поданной с блока 232 извлечения информации диспаратности. В данном случае информация субтитров для левого глаза и для правого глаза и графическая информация является одной и той же. Однако, что касается позиции наложения внутри изображения, например, информация субтитров для правого глаза или графическая информация сдвинута в горизонтальном направлении на значение, эквивалентное компоненту горизонтального направления вектора диспаратности по отношению к информации субтитров для левого глаза или графической информации.
Таким образом, данные информации субтитров для левого глаза и для правого глаза и графической информации (растровые данные), созданные в блоке 226 генерации субтитров и графики стереоскопических изображений, подаются на блок 228 наложения видео вместе с информацией времени отображения (информацией числа кадров).
Также в блоке 227 генерации текста стереоскопических изображений создается текстовая информация для левого глаза и для правого глаза, подлежащая наложению на изображение для левого глаза и изображение для правого глаза соответственно. Этот процесс создания осуществляется на основе текстовых данных, полученных в декодере 223 текста, и информации диспаратности, поданной с блока 232 извлечения информации диспаратности. В данном случае текстовая информация для левого глаза и для правого является одной и той же. Однако, что касается позиции наложения внутри изображения, например, текстовая информация для правого глаза сдвинута в горизонтальном направлении по отношению к текстовой информации для левого глаза на значение, эквивалентное компоненту горизонтального направления вектора диспаратности.
Таким образом, данные текстовой информации для левого глаза и для правого (растровые данные), созданные в блоке 227 генерации текста стереоскопических изображений, подаются на блок 228 наложения видео вместе с информацией времени отображения (информацией числа кадров).
В блоке 228 наложения видеоданные налагаемой информации, поданные с каждого декодера, налагаются на данные стереоскопического изображения (данные изображения для левого глаза, данные изображения для правого глаза), полученные в видеодекодере 221, и получаются данные стереоскопических изображения для отображения Vout. Следует отметить, что наложение данных налагаемой информации на данные стереоскопического изображения (данные изображения для левого глаза, данные изображения для правого глаза) начинается отметкой времени системного слоя. Также время длительности наложения управляется на основе данных управления времени отображения в отношении информации скрытых субтитров и на основе информации времени отображения в отношении информации субтитров, графической информации, текстовой информации и так далее.
Хотя подробное описание будет опущено, блок 201C генерации потока данных, изображенный на фиг.39, в остальном выполнен аналогично блоку 201 генерации потока данных, изображенному на фиг.35, и работает аналогичным образом.
Другой пример выполнения блока обработки двоичного потока
Также блок 201D обработки двоичного потока, изображенный на фиг.40, выполнен для обращения к описанному выше блоку 110D генерации данных передачи, изображенному выше на фиг.25. На этой фиг.40 части, соответствующие фиг.35 и фиг.39, обозначены теми же ссылочными позициями, и подробное описание будет опущено.
Блок 201D обработки двоичного потока имеет декодер 235 информации диспаратности. С помощью блока 110D генерации данных передачи, показанного на фиг.25, элементарный поток информации диспаратности, включающий в себя информацию диспаратности из блока 128 данных Z, создается кодером 129 информации диспаратности. С помощью мультиплексора 122 пакет элементарного потока, поданный от каждого кодера, включая кодер 129 информации диспаратности, мультиплексируется, и получаются данные двоичного потока (транспортный поток) BSD, служащие в качестве данных передачи.
В декодере 235 информации диспаратности элементарный поток информации диспаратности реконструируется из пакетов информации диспаратности, извлеченных демультиплексором 220, и далее осуществляется декодирование, чтобы получить информацию диспаратности для каждого Region_id. Эта информация диспаратности аналогична информации диспаратности, извлеченной блоком 232 извлечения информации диспаратности блока 201C генерации потока данных, изображенного на фиг.39.
В блоке 232 извлечения информации диспаратности информация диспаратности для каждого Region_id извлекается из элементарного видеопотока, полученного через видеодекодер 221. Из информации диспаратности для каждого Region_id, которая была извлечена, информация диспаратности, соответствующая информации скрытых субтитров (не включая информацию позиции наложения и информацию времени отображения), подается из блока 232 извлечения информации диспаратности на блок 234 генерации скрытых субтитров стереоскопических изображений.
Также из информации диспаратности для каждого Region_id, которая была извлечена, информация диспаратности, соответствующая информации субтитров и графической информации (включая информацию позиции наложения и информацию времени отображения), подается из блока 232 извлечения информации диспаратности на блок 226 генерации субтитров и графики стереоскопических изображений. Далее, из информации диспаратности для каждого Region_id, которая была извлечена, информация диспаратности, соответствующая текстовой информации (включая информацию позиции наложения и информацию времени отображения), подается из блока 232 извлечения информации диспаратности на блок 227 генерации текста стереоскопических изображений.
Хотя подробное описание будет опущено, блок 201D генерации потока данных, изображенный на фиг.40, в остальном выполнен аналогично блоку 201C генерации потока данных, изображенному на фиг.39, и работает аналогичным образом.
Другой пример выполнения блока обработки двоичного потока
Также блок 201Е обработки двоичного потока, изображенный на фиг.41, выполнен для обращения к описанному выше блоку 110Е генерации данных передачи, изображенному выше на фиг.26. На фиг.41 части, соответствующие фиг.35 и фиг.38, обозначены теми же ссылочными позициями, и подробное описание будет опущено.
Блок 201Е обработки двоичного потока имеет декодер 236 СС. В блоке 130 обработки данных СС блока 110Е генерации данных передачи, показанного на фиг.26, данные информации скрытых субтитров для левого глаза, подлежащие наложению на изображение для левого глаза, и данные информации скрытых субтитров для правого глаза, подлежащие наложению на изображение для правого глаза, создаются на основе данных СС. Далее, данные СС после обработки в блоке 130 обработки данных СС подаются на устройство 113а форматирования потоков видеокодера 113 и размещаются в элементарном видеопотоке в качестве пользовательских данных.
В декодере 236 СС данные СС извлекаются из элементарного видеопотока, полученного через видеодекодер 221, и далее данные информации скрытых субтитров для левого глаза и для правого глаза для каждого окна получаются из этих данных СС. Данные информации скрытых субтитров для левого глаза и для правого глаза, полученные в этом декодере 236 СС, подаются на блок 228 наложения видео.
В блоке 228 наложения видеоданные, созданные в декодере 236 СС, декодере 222 субтитров и графики и декодере 223 текста, налагаются на данные стереоскопического изображения (данные изображения для левого глаза, данные изображения для правого глаза) и получаются данные стереоскопических изображения для отображения Vout.
Хотя подробное описание будет опущено, блок 201Е генерации потока данных, изображенный на фиг.41, в остальном выполнен аналогично блоку 201В генерации потока данных, изображенному на фиг.38, и работает аналогичным образом.
Описание телевизионного приемника
Возвращаясь к фиг.1, телевизионный приемник 300 принимает данные стереоскопического изображения, переданные от телеприставки 200 по кабелю 400 HDMI. Этот телевизионный приемник 300 включает в себя блок 301 обработки 3D сигналов. Этот блок 301 обработки 3D сигналов подвергает данные стереоскопического изображения обработке (декодированию) в соответствии со способом передачи для создания данных изображения для левого глаза и данных изображения для правого глаза. В частности, этот блок 301 обработки 3D сигналов осуществляет обработку, обратную блоку 112 видеокадрирования в блоках 110, 110А, 110В, 110C, 110D и 110Е генерации данных передачи, изображенных на фиг.2, фиг.13, фиг.18, фиг.19, фиг.25 и фиг.26. Далее этот блок 301 обработки 3D сигналов получает данные изображения для левого глаза и данные изображения для правого глаза, образующие данные стереоскопического изображения.
Пример выполнения телевизионного приемника
Будет описан пример выполнения телевизионного приемника 300. Фиг.42 иллюстрирует пример выполнения телевизионного приемника 300. Этот телевизионный приемник 300 включает в себя блок 301 обработки 3D сигналов, терминал 302 HDMI, блок 303 приема HDMI, терминал 304 антенны, цифровой тюнер 305 и блок 306 обработки двоичного потока. Также этот телевизионный приемник 300 включает в себя схему 307 обработки видеосигнала, схему 308 управления панелью, панель 309 отображения, схему 310 обработки аудиосигнала, схему 311 усиления звука и динамик 312. Также телевизионный приемник 300 включает в себя ЦП 321, флэш-ПЗУ 321, ДОЗУ 323, внутреннюю шину 324, блок 325 приема дистанционного управления и передатчик 326 дистанционного управления.
Терминал 304 антенны является терминалом для ввода телевизионного сигнала вещания, полученного на приемную антенну (не изображена). Цифровой тюнер 305 обрабатывает телевизионный сигнал вещания, введенный в терминал 304 антенны, и выводит заранее заданные данные двоичного потока (транспортный поток) в соответствии с выбранным пользователем каналом.
Блок 306 обработки двоичного потока выполнен аналогично блоку 201 обработки двоичного потока телеприставки 200, изображенной на фиг.34. Этот блок 306 обработки двоичного потока извлекает данные стереоскопического изображения (данные изображения для левого глаза, данные изображения для правого глаза), аудиоданные, данные налагаемой информации, вектор диспаратности (информацию диспаратности) и тому подобное из данных двоичного потока. Данные налагаемой информации являются данными скрытых субтитров, данными субтитров, графическими данными, текстовыми данными и так далее. Этот блок 306 обработки двоичного потока синтезирует данные налагаемой информации в отношении данных стереоскопических изображения для получения данных стереоскопических изображения для отображения. Также блок 306 обработки двоичного потока выводит аудиоданные.
Блок 303 приема HDMI принимает распакованные данные изображения (стереоскопические данные) и аудиоданные, поданные на терминал 302 HDMI по кабелю 400 HDMI посредством связи, подходящей для HDMI. Подробности этого блока 303 приема HDMI будут описаны позже. Блок 301 обработки 3D сигналов подвергает данные стереоскопического изображения, полученные на блок 303 приема HDMI или полученные в блоке 306 обработки двоичного потока, обработке в соответствии со способом передачи (декодированием) для создания данных изображения для левого глаза и данных изображения для правого глаза.
Схема 307 обработки видеосигнала создает данные изображения для отображения стереоскопического изображения на основе данных изображения для левого глаза и данных изображения для правого глаза, созданных в блоке 301 обработки 3D сигналов. Также схема обработки видеосигнала подвергает данные изображения процессу корректировки качества изображения в соответствии с необходимостью. Схема 308 управления панелью управляет панелью 309 отображения на основе данных изображения, выведенных из схемы 307 обработки видеосигнала. Панель 309 отображения выполнена из, например, ЖКД (жидкокристаллического дисплея), ПИП (плазменной индикаторной панели) или тому подобного.
Схема 310 обработки аудиосигнала подвергает аудиоданные, полученные в блоке 303 приема HDMI или полученные в блоке 306 обработки двоичного потока, необходимой обработке, такой как цифроаналоговое преобразование, или тому подобному. Схема 311 усиления звука усиливает аудиосигнал, выведенный из схемы 310 обработки аудиосигнала, и подает на динамик 312.
ЦП 321 управляет работой каждого блока телевизионного приемника 300. Флэш-ПЗУ 322 осуществляет хранение управляющего программного обеспечения и хранение данных. ДОЗУ 323 формирует рабочую область ЦП 321. ЦП 321 загружает программное обеспечение и данные, считанные с флэш-ПЗУ 322, на ДОЗУ 323, запускает программное обеспечение и управляет каждым блоком телевизионного приемника 300.
Блок 325 приема дистанционного управления принимает сигнал дистанционного управления (код дистанционного управления), переданный с передатчика 326 дистанционного управления, и передает на ЦП 321. ЦП 321 управляет каждым блоком телевизионного приемника 300 на основе этого кода дистанционного управления. ЦП 321, флэш-ПЗУ 322 и ДОЗУ 323 подсоединены к внутренней шине 324.
Работа телевизионного приемника 300, изображенного на фиг.42, будет описана кратко. Блок 303 приема HDMI принимает данные стереоскопического изображения и аудиоданные, переданные от телеприставки 200, соединенной с терминалом 302 HDMI через кабель 400 HDMI. Эти данные стереоскопического изображения, полученные в этом блоке 303 приема HDMI, подаются на блок 301 обработки 3D сигналов. Также аудиоданные, полученные в этом блоке 303 приема HDMI, подаются на блок 310 обработки аудиосигнала.
Телевизионный сигнал вещания, введенный в терминал 304 антенны, подается на цифровой тюнер 305. С помощью цифрового тюнера 305 телевизионный сигнал вещания обрабатывается, и выводятся заранее заданные данные двоичного потока (транспортный поток) в соответствии с выбранным пользователем каналом.
Данные двоичного потока, выведенные из цифрового тюнера 305, подаются на блок 306 обработки двоичного потока. С помощью этого блока 306 обработки двоичного потока данные стереоскопического изображения (данные изображения для левого глаза, данные изображения для правого глаза), аудиоданные, данные налагаемой информации, вектор диспаратности (информация диспаратности) и так далее извлекаются из данных двоичного потока. Также с помощью этого блока 306 обработки двоичного потока данные налагаемой информации (информация скрытых субтитров, информация субтитров, графическая информация или текстовая информация) синтезируются в отношении данных стереоскопического изображения и создаются данные стереоскопического изображения для отображения.
Данные стереоскопического изображения для отображения, созданные в блоке 306 обработки двоичного потока, подаются на блок 301 обработки 3D сигналов. Также аудиоданные, полученные в блоке 306 обработки двоичного потока, подаются на схему 310 обработки аудиосигнала.
С помощью блока 301 обработки 3D сигналов данные стереоскопического изображения, полученные в блоке 303 приема HDMI или полученные в блоке 306 обработки двоичного потока, подвергаются обработке в соответствии со способом передачи (декодированием), и создаются данные изображения для левого глаза и данные изображения для правого глаза. Данные изображения для левого глаза и данные изображения для правого глаза подаются на схему 307 обработки видеосигнала. С помощью этой схемы 307 обработки видеосигнала на основе данных изображения для левого глаза и данных изображения для правого глаза создаются данные изображения для отображения стереоскопического изображения. Соответственно, стереоскопическое изображение отображается на панели 309 отображения.
Также с помощью схемы 310 обработки аудиосигнала аудиоданные, полученные в блоке 303 приема HDMI или полученные в блоке 306 обработки двоичного потока, подвергаются необходимой обработке, такой как цифроаналоговое преобразование, или тому подобному. Эти аудиоданные усиливаются в схеме 311 усиления звука и далее подаются на динамик 312. Далее аудио выводится с динамика 312.
Пример выполнения блока передачи HDMI и блока приема HDMI
Фиг.43 иллюстрирует с помощью системы 10 отображения стереоскопического изображения пример выполнения блока 206 передачи HDMI (источника HDMI) телеприставки 200 и блока 303 приема HDMI (стока HDMI) телевизионного приемника 300.
Блок 206 передачи HDMI передает разностные сигналы, соответствующие пиксельным данным размером в один распакованный полноэкранный кадр изображения, на блок 303 приема HDMI в одном направлении в течение отрезка эффективного изображения (далее также именуемого «отрезком активной части видеосигнала») по каналам уплотнения. Далее отрезок эффективного изображения является отрезком, полученным путем перемещения горизонтального гасящего отрезка и вертикального гасящего отрезка из отрезка между определенным вертикальным синхронизирующим сигналом и следующим вертикальным синхронизирующим сигналом. Также блок 206 передачи HDMI передает разностные сигналы, соответствующие аудиоданным, данным управления, другим вспомогательным данным и так далее, следующим за по меньшей мере изображением на блок 303 приема HDMI в одном направлении, используя каналы уплотнения в течение горизонтального гасящего отрезка или вертикального гасящего отрезка.
Последующие каналы передачи представлены в качестве каналов передачи системы HDMI, состоящей из блока 206 передачи HDMI и блока 303 приема HDMI. В частности, есть три канала TMDS #0-#2, служащие в качестве каналов передачи для серийной передачи пиксельных данных и аудиоданных с блока 206 передачи HDMI на блок 303 приема HDMI в одном направлении синхронно с частотой следования пикселов. Также есть канал синхронизации TMDS, служащий в качестве канала передачи для передачи частоты следования пикселов.
Блок 206 передачи HDMI включает в себя передатчик 81 HDMI. Передатчик 81 HDMI преобразует, например, пиксельные данные распакованного изображения в соответствующие разностные сигналы и передает последовательно на блок 303 приема HDMI, соединенный через кабель 400 HDMI, в одном направления по трем каналам TMDS #0, #1 и #2, которые являются каналами уплотнения.
Также передатчик 81 преобразует аудиоданные, следующие за распакованным изображением, дополнительно необходимые данные управления и другие вспомогательные данные и так далее в соответствующие разностные сигналы и передает последовательно на блок 303 приема HDMI в одном направления по трем каналам TMDS #0, #1 и #2.
Далее передатчик 81 передает частоту следования пикселов синхронно с пиксельными данными, переданными через три канала TMDS #0, #1 и #2, на блок 303 приема HDMI через кабель 400 HDMI, используя канал TMDS синхронизации. Далее, с помощью одного канала TMDS #i (i=0, 1, 2) 10-разрядные пиксельные данные передаются в течение одного такта частоты следования пикселов.
Блок 303 приема HDMI принимает разностный сигнал, соответствующий пиксельным данным, переданным с блока 206 передачи HDMI в одном направлении в течение отрезка активной части видеосигнала, используя каналы уплотнения. Также этот блок 303 приема HDMI принимает разностные сигналы, соответствующие аудиоданным и данным управления, переданным с блока 206 передачи HDMI в одном направлении в течение горизонтального гасящего отрезка или вертикального гасящего отрезка, используя каналы уплотнения.
В частности, блок 303 приема HDMI включает в себя приемник 82 HDMI. Этот приемник 82 HDMI принимает разностный сигнал, соответствующий пиксельным данным, и разностные сигналы, соответствующие аудиоданным и данным управления, переданным с блока 206 передачи HDMI в одном направлении, используя каналы TMDS
#0, #1 и #2. В данном случае приемник HDMI принимает разностные сигналы синхронно с частотой следования пикселов, переданной с блока 206 передачи HDMI через канал TMDS синхронизации.
Каналы передачи системы HDMI, состоящие из блока 206 передачи HDMI и блока 303 приема HDMI, включают в себя в дополнение к описанным выше каналам TMDS #0-#2 каналы передачи, называемые DDC (канал данных отображения) 83, и линию 84 СЕС. DDC 83 состоит из двух непоказанных сигнальных линий, включенных в кабель 400 HDMI. DDC 83 используется для блока 206 передачи HDMI, считывающего E-EDID (данные идентификации улучшенного расширенного дисплея) с блока 303 приема HDMI.
В частности, блок 303 приема HDMI включает в себя EDID ROM (постоянное запоминающее устройство) 85, хранящее E-EDID, которые являются информацией по эксплуатации, относящейся к собственной эксплуатации (конфигурация/функция), в дополнение к приемнику 81 HDMI. Блок 206 передачи HDMI считывает E-EDID через DDC 83 с блока 303 приема HDMI, соединенного через кабель 400 HDMI, например, в ответ на запрос от ЦП 211 (см. фиг. 34). Блок 206 передачи HDMI передает считанные Е-EDID на ЦП 211. ЦП 211 хранит эти E-EDID в флэш-ПЗУ 212 или ДОЗУ 213.
ЦП 211 распознает параметры эксплуатации блока 303 приема HDMI на основе Е-EDID. Например, ЦП 211 распознает формат данных изображения, с которыми может иметь дело телевизионный приемник 300, имеющий блок 303 приема HDMI (разрешение, кадровая частота, перспектива и так далее).
Линия 84 СЕС состоит из одной непоказанной сигнальной линии, включенной в кабель 400 HDMI, и используется для осуществления двусторонней связи данных для управления между блоком 206 передачи HDMI и блоком 303 приема HDMI. Эта линия 84 СЕС составляет линию данных управления.
Также кабель 400 HDMI включает в себя линию 86 (линию HPD), соединенную с выводом, называемым HPD (обнаружение активного соединения). Устройство истока может обнаружить соединение устройства стока путем использования этой линии 86. Также кабель 400 HDMI включает в себя линию 87, используемую для подачи энергии от устройства истока к устройству стока. Далее кабель 400 HDMI включает в себя резервную линию 88.
Фиг.44 иллюстрирует пример выполнения передатчика 81 HDMI и приемника 82 HDMI по фиг.43. Передатчик 81 HDMI включает в себя три кодера/параллельно-последовательных преобразователя 81А, 81В и 81С, соответствующих трем каналам TMDS #0, #1 и #2 соответственно. Далее каждый кодер/параллельно-последовательный преобразователь 81А, 81В и 81C кодирует данные изображения, вспомогательные данные и данные управления, поданные на них, преобразует параллельные данные в последовательные данные и передает посредством разностного сигнала. Теперь в случае когда данные изображения включают в себя, например, три компонента R, G и В, компонент В подается на кодер/параллельно-последовательный преобразователь 81А, компонент G подается на кодер/параллельно-последовательный преобразователь 81В и компонент R подается на кодер/параллельно-последовательный преобразователь 81C.
Также примеры вспомогательных данных включают в себя аудиоданные и пакет управления, причем пакет управления подается, например, на кодер/параллельно-последовательный преобразователь 81А, а аудиоданные подаются на кодеры/параллельно-последовательные преобразователи 81В и 81C. Далее, что касается данных управления, есть 1-разрядный вертикальный синхронизирующий сигнал (VSYNC), 1-разрядный горизонтальный синхронизирующий сигнал (HSYNC) и разряды CTLO, CTL1, CTL2 и CTL3, каждый состоящий из 1 разряда. Вертикальный синхронизирующий сигнал и горизонтальный синхронизирующий сигнал подаются на кодер/параллельно-последовательный преобразователь 81А. Управляющие разряды CTLO и CTL1 подаются на кодер/параллельно-последовательный преобразователь 81В, а управляющие разряды CTL2 и CTL3 подаются на кодер/параллельно-последовательный преобразователь 81C.
Кодер/параллельно-последовательный преобразователь 81А передает компонент В данных изображения, вертикальный синхронизирующий сигнал, горизонтальный синхронизирующий сигнал и вспомогательные данные, поданные на него, в режиме с разделением времени. В частности, кодер/параллельно-последовательный преобразователь 81А берет компонент В данных изображения, поданный на него, в качестве параллельных данных в приращениях 8 разрядов, которые являются зафиксированным числом разрядов. Далее кодер/параллельно-последовательный преобразователь 81А кодирует свои параллельные данные, преобразует их в последовательные данные и передает с использованием канала #0 TMDS.
Также кодер/параллельно-последовательный преобразователь 81А кодирует 2-разрядные параллельные данные вертикального синхронизирующего сигнала и горизонтального синхронизирующего сигнала, поданные на него, преобразует в последовательные данные и передает с использованием канала #0 TMDS. Далее кодер/параллельно-последовательный преобразователь 81А берет вспомогательные данные, поданные на него, в качестве параллельных данных в приращениях 4 разрядов. Далее кодер/параллельно-последовательный преобразователь 81А кодирует свои параллельные данные, преобразует в последовательные данные и передает с использованием канала #0 TMDS.
Кодер/параллельно-последовательный преобразователь 81В передает компонент G данных изображения, управляющие разряды CTLO и CTL1 и вспомогательные данные, поданные на него, в режиме с разделением времени. В частности, кодер/параллельно-последовательный преобразователь 81В берет компонент G данных изображения, поданный на него, в качестве параллельных данных в приращениях 8 разрядов, которые являются зафиксированным числом разрядов. Далее кодер/параллельно-последовательный преобразователь 81В кодирует свои параллельные данные, преобразует их в последовательные данные и передает с использованием канала #1 TMDS.
Также кодер/параллельно-последовательный преобразователь 81В кодирует 2-разрядные параллельные данные управляющих разрядов CTLO и CTL1, поданные на него, преобразует в последовательные данные и передает с использованием канала #1 TMDS. Далее кодер/параллельно-последовательный преобразователь 81В берет вспомогательные данные, поданные на него, в качестве параллельных данных в приращениях 4 разрядов. Далее кодер/параллельно-последовательный преобразователь 81В кодирует свои параллельные данные, преобразует в последовательные данные и передает с использованием канала #1 TMDS.
Кодер/параллельно-последовательный преобразователь 81C передает компонент R данных изображения, управляющие разряды CTL2 и CTL3 и вспомогательные данные, поданные на него, в режиме с разделением времени. В частности, кодер/параллельно- последовательный преобразователь 81C берет компонент R данных изображения, поданный на него, в качестве параллельных данных в приращениях 8 разрядов, которые являются зафиксированным числом разрядов. Далее кодер/параллельно-последовательный преобразователь 81C кодирует свои параллельные данные, преобразует их в последовательные данные и передает с использованием канала #2 TMDS.
Также кодер/параллельно-последовательный преобразователь 81C кодирует 2-разрядные параллельные данные управляющих разрядов CTL2 и CTL3, поданные на него, преобразует в последовательные данные и передает с использованием канала #2 TMDS. Далее кодер/параллельно-последовательный преобразователь 81C берет вспомогательные данные, поданные на него, в качестве параллельных данных в приращениях 4 разрядов. Далее кодер/параллельно-последовательный преобразователь 81В кодирует свои параллельные данные, преобразует в последовательные данные и передает с использованием канала #2 TMDS.
Приемник 82 HDMI включает в себя три последовательно-параллельных преобразователя/декодера 82А, 82В и 82С, соответствующих трем каналам TMDS #0, #1 и #2 соответственно. Далее каждый последовательно-параллельный преобразователь/декодер 82А, 82В и 82С принимает данные изображения, вспомогательные данные и данные управления, переданные посредством разностных сигналов с использованием каналов TMDS #0, #1 и #2. Далее каждый последовательно-параллельный преобразователь/декодер 82А, 82В и 82С преобразует данные изображения, вспомогательные данные и данные управления из последовательных данных в параллельные данные и далее декодирует и выводит их.
В частности, последовательно-параллельный преобразователь/декодер 82А принимает компонент В данных изображения, вертикальный синхронизирующий сигнал, горизонтальный синхронизирующий сигнал и вспомогательные данные, переданные посредством разностных сигналов с использованием канала #0 TMDS. Далее последовательно-параллельный преобразователь/декодер 82А преобразует компонент В данных изображения, их вертикальный синхронизирующий сигнал, горизонтальный синхронизирующий сигнал и вспомогательные данные из последовательных данных в параллельные данные, декодирует их и выводит.
Последовательно-параллельный преобразователь/декодер 82В принимает компонент G данных изображения, их управляющие разряды CTLO и CTL1 и вспомогательные данные, переданные посредством разностных сигналов с использованием канала #1 TMDS. Далее последовательно-параллельный преобразователь/декодер 82В преобразует компонент G данных изображения, управляющие разряды CTL0 и CTL1 и вспомогательные данные из последовательных данных в параллельные данные, декодирует их и выводит.
Последовательно-параллельный преобразователь/декодер 82С принимает компонент R данных изображения, управляющие разряды CTL2 и CTL3 и вспомогательные данные, переданные посредством разностных сигналов с использованием канала #2 TMDS. Далее последовательно-параллельный преобразователь/декодер 82С преобразует компонент R данных изображения, их управляющие разряды CTL2 и CTL3 и вспомогательные данные из последовательных данных в параллельные данные, декодирует их и выводит.
Фиг.45 иллюстрирует пример структуры данных передачи TMDS. Эта фиг.45 иллюстрирует отрезки различных типов данных передачи в случае, когда данные изображения с шириной х длиной, составляющей 1920 пикселов×1080 линий, передаются с помощью каналов TMDS #0, #1 и #2.
В отношении видеополя (Video Field), в котором передаются данные передачи с использованием каналов TMDS #0, #1 и #2 HDMI, есть три типа отрезков в соответствии с типом данных передачи. Эти три типа отрезков представляют собой отрезок видеоданных (Video Data Period), отрезок острова данных (Data Island Period) и отрезок управления (Control Period).
Здесь отрезок видеополя является отрезком от переднего края (активного края) определенного вертикального синхронизирующего сигнала до переднего края следующего вертикального синхронизирующего сигнала. Этот отрезок видеополя разделен на горизонтальный гасящий период (горизонтальное гашение), вертикальный гасящий период (вертикальное гашение) и отрезок активной части видеосигнала (Active Video). Этот отрезок активной части видеосигнала является отрезком, полученным путем перемещения горизонтального гасящего периода и вертикального гасящего периода из отрезка видеополя.
Отрезок видеоданных назначен отрезку активной части видеосигнала. С помощью этого отрезка видеоданных передаются данные размером 1920 пикселов×1080 линий эффективных пикселов (активных пикселов), составляющие один распакованный экран данных изображения.
Отрезок участка данных и отрезок управления назначены горизонтальному гасящему периоду и вертикальному гасящему периоду. С помощью отрезка участка данных и отрезка управления передаются вспомогательные данные (Auxiliary data). Другими словами, отрезок участка данных предназначен для части горизонтального гасящего периода и вертикального гасящего периода. С помощью этого отрезка участка данных из вспомогательных данных передаются данные, не относящиеся к управлению, например пакет аудиоданных, и так далее.
Отрезок управления назначен другой части горизонтального гасящего периода и вертикального гасящего периода. С помощью этого отрезка управления передаются вспомогательные данные, данные, относящиеся к управлению, например вертикальный синхронизирующий сигнал и горизонтальный синхронизирующий сигнал, пакет управления и так далее.
Фиг.46 иллюстрирует пример совмещения штырьков терминалов 211 и 251 HDMI. Совмещение штырьков, показанное на фиг.46, называется типом А (А-типом).
Две разностные линии для передачи разностных сигналов канала #i TMDS соединены со штырьками, которым присвоены данные #i+TMDS (штырьки с номерами штырьков 1, 4 или 7), и штырьками, которым присвоены данные #i-TMDS (штырьки с номерами штырьков 3, 6 или 9).
Также линия 84 СЕС, по которой передается сигнал СЕС, представляющий собой данные для управления, соединена со штырьком, номер штырька которого представляет собой 13, и штырьком, номер штырька которого 14 является пустым (Reserved) штырьком. Также линия, по которой передается сигнал SDA (серийных данных), такой как E-EDID или тому подобное, соединена со штырьком, номер штырька которого представляет собой 16. Также линия, по которой передается сигнал SCL (серийной частоты), который является сигналом частоты, подлежащим использованию для синхронизации во время передачи/приема сигнала SDA, соединена со штырьком, номер штырька которого представляет собой 15. Описанный выше DDC 83 выполнен из линии, по которой передается сигнал SCL.
Также линия 86 HPD для устройства истока, обнаруживающего соединение устройства стока, как было описано выше, соединена со штырьком, номер штырька которого представляет собой 19. Также линия 87 для подачи энергии, как было описано выше, соединена со штырьком, номер штырька которого представляет собой 18.
Пример данных передачи TMDS в каждом способе для данных стереоскопического изображения
Теперь будет описан пример данных передачи TMDS в способах для данных стереоскопического изображения. Фиг.47 иллюстрирует пример данных передачи TMDS в первом способе передачи (способе «верх-низ»). В данном случае в периоде активной части видеосигнала размером 1920 пикселов × 1080 линий есть данные активных пикселов (Active pixel) (синтезированные данные данных изображения для левого глаза (L) и данных изображения для правого глаза (R)) размером 1920 пикселов × 1080 линий. С помощью этого первого способа данные изображения для левого глаза и данные изображения для правого глаза каждые имеют линии в вертикальном направлении, разреженные на ½. Теперь данные изображения для левого глаза, подлежащие передаче, являются либо нечетными линиями, либо четными линиями, и аналогично данные изображения для правого глаза, подлежащие передаче, являются либо нечетными линиями, либо четными линиями.
Фиг.48 иллюстрирует пример данных передачи TMDS во втором способе передачи (способе «бок о бок»). В данном случае в периоде активной части видеосигнала размером 1920 пикселов × 1080 линий есть данные активных пикселов (Active pixel) (синтезированные данные данных изображения для левого глаза (L) и данных изображения для правого глаза (R)) размером 1920 пикселов × 1080 линий. В случае этого второго способа передачи данные изображения для левого глаза и данные изображения для правого глаза каждые имеют линии в горизонтальном направлении, разреженные на ½, как было описано выше.
Фиг.49 иллюстрирует пример данных передачи TMDS в третьем способе передачи (способе «чередования кадров»). В данном случае в периоде активной части видеосигнала размером 1920 пикселов×1080 линий есть данные активных пикселов (Active pixel) для левого глаза (L) размером 1920 пикселов×1080 линий для нечетного поля. Также в периоде активной части видеосигнала размером 1920 пикселов×1080 линий есть данные активных пикселов (Active pixel) для правого глаза (R) размером 1920 пикселов (pixels)×1080 линий для четного поля.
Следует отметить, что пример данных передачи TMDS в способе «чередования кадров», показанном на фиг.49, иллюстрирует способ «чередования кадров» для HDMI 1.4 (нового HDMI). В данном случае, как показано на фиг.50 (а), данные изображения для левого глаза расположены в четном поле, а данные изображения для правого глаза расположены в нечетном поле.
Однако в случае способа «чередования кадров» для HDMI 1.3 (устаревшего HDMI), как показано на фиг.50 (b), данные изображения для левого глаза и данные изображения для правого глаза передаются попеременно, каждый период кадров Vfreq. В данном случае устройство источника должно передать информацию (сигнальную информацию L, R), обозначающую, какие из данных изображения для левого глаза и данных изображения для правого глаза являются данными изображений, передавшими каждый кадр на устройство стока.
В случае передачи данных стереоскопического изображения на устройство стока с помощью способа «верх-низ», способа «бок о бок» или способа «чередования кадров» устройство истока управляет способом. Далее в случае способа «чередования кадров» сигнализирование осуществляется из каждого кадра L или R.
Например, следующая структура передается заново определяемым одним из Vendor Specific, или AVI InfoFrame, или Reserved, определенным для стирания в описаниях устаревшего HDMI.
В случае HDMI 1.3 следующее определено как информация, переданная в периоде стирания.
InfoFrame тип # (8 разрядов)
0×01: Зависит от поставщика (Vendor Specific)
0×02: AVI InfoFrame
0×03: Описание продукта источника
0×04: Аудио InfoFrame
0×05: Источник MPEG
0×06 - 0×FF зарезервировано (Reserved)
Из них один из Vendor Specific, или AVI InfoFrame, или Reserved заново определен следующим образом.
3DVideoFlag 1 разряд (0: 2D, 1: 3D)
if(3DVideoFlag) {
3DVideoFlag 3 разряда (0х0: Frame Packing Left View)
0×1: Frame Packing Right View
0×2: Side by Side
0×4: Top & Bottom by Frame
0×6: Top & Bottom by Field
0×3, 5, 7: Reserved)
Reserved 4 разряда (0×0)
}
else {
Reserved 7 разрядов (0×0)
}
Информация (1-разрядная информация 3DVideoFlag) для переключения между 3-мерными данными изображений (данными стереоскопических изображений) и 2-мерными данными изображений включена в описанную выше информацию. Также информация (3-разрядная информация 3DVideoFlag) для управления форматом 3-мерных данных изображения или переключения между данными изображения для левого глаза и данными изображения для правого глаза включена в описанную выше информацию.
Следует отметить, что эта информация должна быть определена во вспомогательной информации, посланной в заголовке картинки или в его эквиваленте тактирования, в двоичном потоке, в отношении которого передается такое же содержание. В данном случае одни или другие из 3-мерных данных изображения (данных стереоскопического изображения, состоящих из данных изображения для левого глаза и данных изображения для правого глаза) и 2-мерных данных изображения включены в этот двоичный поток.
В устройстве для приема (телеприставке 200) эта сигнальная информация посылается на цифровой внутренний интерфейс после получения потока, посредством чего точное преобразование 3D может быть осуществлено на дисплее (телевизионном приемнике 300).
Приемник может быть устроен таким образом, что, когда информация переключения (1-разрядная информация 3DVideoFlag) обозначает 3-мерные данные изображения, программное обеспечение для обработки 3-мерных данных изображения, включенных в поток данных, скачивается с внешнего устройства, такого как вещательный сервер или тому подобное, и устанавливается.
Например, чтобы передать описанную выше информацию 3D, есть необходимость осуществить это путем добавления в систему, совместимую с HDMI 1.3, или обновить программное обеспечение системы, совместимой с HDMI 1.4. Соответственно, во время обновления программного обеспечения, например, программное обеспечение, относящееся к аппаратно-программному обеспечению и микропрограммному обеспечению, необходимому для передачи описанной выше информации 3D, является объектом обновления.
Как было описано выше, в отношении системы 10 отображения стереоскопического изображения, показанной на фиг.1, диспаратность представлена в ту же наложенную информацию (скрытую информацию, информацию субтитров и так далее), подлежащую наложению на изображение для левого глаза и изображение для правого глаза, на основе информации диспаратности. Соответственно, то, что было подвергнуто корректировке диспаратности в соответствии с перспективой объектов (objects) внутри изображения, может быть использовано в качестве той же налагаемой информации, подлежащей наложению на изображение для левого глаза и изображение для правого глаза, и сопоставимость перспективы может быть поддержана между объектами в изображении при отображении налагаемой информации.
2. Усовершенствование
Следует отметить, что в отношении описанного выше варианта осуществления вектор диспаратности заранее заданной позиции внутри изображения передается со стороны вещательной станции 100 на телеприставку 200. В данном случае телеприставка 200 не нуждается в получении векторов диспаратности на основе данных изображения для левого глаза и данных изображения для правого глаза, включенных в полученное стереоскопическое изображение, и работа телеприставки 200 упрощена.
Однако может быть задумано расположить блок обнаружения векторов диспаратности, аналогичный блоку 114 обнаружения векторов диспаратности, в блоке 110 генерации данных передачи по фиг.2 в приемной стороне данных стереоскопического изображения, которым является телеприставка 200 в описанном выше варианте осуществления. В данном случае обработка с использованием векторов диспаратности может быть осуществлена, даже если векторы диспаратности не посланы.
Фиг.51 иллюстрирует пример выполнения блока 201F обработки двоичного потока, установленного в телеприставку 200, например. На этой фиг.51 части, соответствующие фиг.35, обозначены теми же ссылочными позициями, и их подробное описание будет опущено. В отношении этого блока 201F обработки двоичного потока блок 237 обнаружения векторов диспаратности представлен вместо блока 225 обнаружения векторов диспаратности в блоке 201 обработки двоичного потока, показанном на фиг.35.
Этот блок 237 обнаружения векторов диспаратности обнаруживает векторы диспаратности в заранее заданной позиции внутри изображения на основе данных изображения для левого глаза и данных изображения для правого глаза, составляющих данные стереоскопического изображения, полученные в видеодекодере 221. Блок 237 обнаружения векторов диспаратности далее подает обнаруженные векторы диспаратности на блок 226 генерации субтитров и графики стереоскопических изображений, блок 227 генерации текста стереоскопических изображений и блок 229 управления многоканальной акустической системой.
Хотя подробное описание будет опущено, блок 201F обработки двоичного потока, изображенный на фиг.51, в остальном выполнен аналогично блоку 201 обработки двоичного потока, изображенному на фиг.35, и работает аналогичным образом.
Также фиг.52 иллюстрирует другой пример выполнения блока 201G обработки двоичного потока, установленного на телеприставку 200, например. На этой фиг.52 части, соответствующие фиг.35 и фиг.39, обозначены теми же ссылочными позициями, и их подробное описание будет опущено. В отношении этого блока 201G обработки двоичного потока блок 237 обнаружения векторов диспаратности представлен вместо блока 225 обнаружения векторов диспаратности в блоке 201C обработки двоичного потока, показанном на фиг.39.
Этот блок 237 обнаружения векторов диспаратности обнаруживает векторы диспаратности в заранее заданной позиции внутри изображения на основе данных изображения для левого глаза и данных изображения для правого глаза, составляющих данные стереоскопического изображения, полученные в видеодекодере 221. Блок 237 обнаружения векторов диспаратности далее подает обнаруженные векторы диспаратности на блок 234 генерации скрытых субтитров стереоскопических изображений, блок 226 генерации субтитров и графики стереоскопических изображений, блок 227 генерации текста стереоскопических изображений и блок 229 управления многоканальной акустической системой.
Хотя подробное описание будет опущено, блок 201G обработки двоичного потока, изображенный на фиг.52, в остальном выполнен аналогично блоку 201C обработки двоичного потока, изображенному на фиг.39, и работает аналогичным образом.
Также в отношении описанного выше варианта осуществления показано размещение, в котором система 10 отображения стереоскопического изображения состоит из вещательной станции 100, телеприставки 200 и телевизионного приемника 300. Однако, как показано на фиг.42, телевизионный приемник 300 имеет блок 306 обработки двоичного потока, который работает аналогично блоку 201 обработки двоичного потока в телеприставке 200. Соответственно, система 10А отображения стереоскопического изображения, такая как показана на фиг.53, может быть задумана и состоять из вещательной станции 100 и телевизионного приемника 300.
Также в отношении описанного выше варианта осуществления показано размещение, в котором поток данных (данные двоичного потока), включая данные стереоскопического изображения, передаются из вещательной станции 100. Однако в порядке вещей это изобретение может также быть применено к системам с конфигурациями, в которых поток данных передается на терминал приема с использованием сети, такой как Интернет.
Следует отметить, что данная заявка ссылается на заявку на патент Японии №2009-153686.
Промышленная применимость
Настоящее изобретение может быть применено к системе отображения стереоскопического изображения, которая налагает налагаемую информацию, такую как графическая информация, текстовая информация и так далее, на изображение и отображает ее, и так далее.
Список ссылочных позиций
10, 10А - Система отображения стереоскопического изображения
100 - Вещательная станция
110, 110А-110Е - Блок генерации данных передачи
111L, 111R - Камера
112 - Блок видеокадрирования
113 - Видеокодер
113а - Устройство форматирования потоков
114 - Блок обнаружения векторов диспаратности
115 - Кодер векторов диспаратности
116 - Микрофон
117 - Аудиокодер
118 - Блок генерации субтитров и графики
119 - Кодер субтитров и графики
120 - Блок генерации текста
121 - Кодер текста
122 - Мультиплексор
124 - Блок обработки субтитров и графики
125 - Блок обработки текста
126 - Контроллер 127-Кодер СС
128 - Блок данных Z
129 - Кодер информации диспаратности
130 - Блок обработки данных СС
200 - Телеприставка
201, 201A-201G - Блок обработки двоичного потока
202 - Терминал HDMI
203 - Терминал антенны
204 - Цифровой тюнер
205 - Устройство обработки видеосигнала
206 - Блок передачи HDMI
207 - Устройство обработки аудиосигнала
211 - ЦП
212 - Флэш-ПЗУ
213 - ДОЗУ
214 - Внутренняя шина
215 - Блок приема дистанционного управления
216 - Передатчик дистанционного управления
220, 220А - Демультиплексор
221 - Видеодекодер
222 - Декодер субтитров и графики
223 - Декодер текста
224 - Аудиодекодер
225 - Декодер векторов диспаратности
226 - Блок генерации субтитров и графики стереоскопических изображений
227 - Блок генерации текста стереоскопических изображений
228 - Блок наложения видео
229 - Блок управления многоканальной акустической системой
231 - Блок извлечения векторов диспаратности
232 - Блок извлечения векторов диспаратности
233 - Кодер СС
234 - Блок генерации скрытых субтитров стереоскопических изображений
235 - Блок извлечения информации диспаратности
236 - Декодер СС
237 - Блок обнаружения векторов диспаратности
300 - Телевизионный приемник
301 - Блок обработки 3D сигналов
302 - Терминал HDMI
303 - Блок приема HDMI
304 - Терминал антенны
305 - Цифровой тюнер
306 - Блок обработки двоичного потока
307 - Схема обработки видеосигнала
308 - Схема управления панелью
309 - Панель отображения
310 - Схема обработки аудиосигнала
311 - Схема усиления звука
312 - Динамик
321 - ЦП
322 - Флэш-ПЗУ
323 - ДОЗУ
324 - Внутренняя шина
325 - Блок приема дистанционного управления
326 - Передатчик дистанционного управления
400 - Кабель HDMI