НОСИМАЯ СИСТЕМА ОТСЛЕЖИВАНИЯ ДВИЖЕНИЯ
WEARABLE MOTION TRACKING SYSTEM

Область техники
Изобретение относится к носимой системе отслеживания движения, предназначенной для захвата относительного положения первой части тела пользователя, предпочтительно головы или торса, и второй части тела пользователя, предпочтительно верхней конечности, запястья или кисти. Изобретение относится также к способу захвата относительного положения первой и второй частей тела для отслеживания положения второй части тела относительно первой части. Результирующие данные могут быть введены, предпочтительно в реальном времени (с малой задержкой), в виртуальную среду. Изобретение может быть использовано, чтобы установить канал связи от человека к виртуальной среде.
Уровень техники
Отслеживание движения тела человека используется во многих различных приложениях. В кинопромышленности движения захватываются с целью создания виртуальных образов в кинофильмах. В различных видах спорта захват (улавливание) конкретного движения может обеспечить обратную связь для оценки его правильности. В здравоохранении данные о движении способны дать информацию о состоянии здоровья пациента. Данные о движении могут быть естественным образом использованы также для взаимодействия с виртуальной средой.
Известна пара систем, направленных на улавливание движения с использованием внешних базовых средств. В US 7633521 описано использование комплекта камер, размещенных в окружении пользователя и улавливающих положения ретрорефлекторов, прикрепленных к его конечностям. Этот подход обеспечивает точный и быстрый способ вычислять положения конечностей путем триангуляции. Однако стационарная, негибкая схема требует пространства и свободной линии наблюдения, что ограничивает мобильность пользователя, а это снижает привлекательность таких систем для использования в продуктах для домашнего применения. Кроме того, требование калибровки является явно не подходящим для непрофессиональных приложений.
В US 2016/131761, US 2008/0261693 А1, US 2009/0054147 А1 и US 2009/ 0170601 А1 использован схожий подход: применяется внешнее базовое устройство, состоящее из конфигурации датчиков (например датчиков изображения и/или ультразвуковых преобразователей), способных отслеживать ответные компоненты датчика, прикрепленные к удерживаемому в руке контроллеру. В дополнение к вышеупомянутым ограничениям, вносимым внешним базовым устройством, этот подход дополнительно требует, чтобы пользователь держал устройство в руках, а это затрудняет погружение в виртуальную среду и снижает качество ощущений.
Известны некоторые системы, пытающиеся преодолеть вышеупомянутые ограничения путем использования носимой сенсорной системы. US 2008/0285805 А1, WO 1999/053838 А1, US 2002/0103610 А1, ЕР 3067783 А1 и US 7628074 В2 описывают инерциальные измерительные блоки (Inertial Measurement Units, IMU), установленные на различные конечности тела человека. Инерциальные данные могут быть использованы для вычисления ориентации датчика в мировой координатной системе. В результате, при размещении IMU на большинстве конечностей, можно использовать прямую и обратную задачи кинематики, чтобы вычислять позу. Однако необходимость для пользователя размещать так много датчиков на различных частях тела не подходит для многих потребительных продуктов, используемых в домашних условиях.
Чтобы, в дополнение к ориентации, вычислять и положение, данные об ускорениях этих IMU могут быть подвергнуты двойному интегрированию. Это может позволить улавливать позу только некоторых конечностей. Однако, поскольку в каждом фрейме положение вычисляют на базе предыдущих положений, погрешности накапливаются, приводя в типичном случае к дрейфу вычисленного положения, свойственному подходам на базе IMU. Чтобы скорректировать этот дрейф, в US 2008/0285805 А1 используются ограничения, накладываемые скелетом человека, тогда как WO 1999/053838 А1 и US 7628074 В2 предлагают использование акустических преобразователей, измеряющих расстояние между конечностями (это описано также в US 5142506 А), что накладывает дополнительные ограничения на коррекцию дрейфа. При этом увеличение количества носимых датчиков еще больше увеличивает количество подобных ограничений, которые требуется соблюдать. Кроме того, объединение показаний датчиков обычно не является независимым от состояния, так что оно подвержено накоплению ошибок, неудобно в реализации и может вносить задержку и визуальные артефакты, зависящие от применяемых фильтров.
Система различных датчиков, подробно описанная в US 2003/0182077 А1, предназначена для оценивания окружения пользователя с возможной прецизионностью при недоступности сигнала GPS. Эта система является неподходящей для определения или вычисления трехмерного положения и/или взаимной ориентации конечностей пользователя, а предназначена только для оценивания положения тела как целого.
Лишь немногие системы фокусируются на позе кисти для ее использования в качестве устройства ввода. Система по WO 2016/029183 А1 отслеживает пальцы и ориентацию кисти и распознает жесты, используемые для взаимодействия с виртуальной средой. Однако такие системы не обеспечивают локализацию кисти и, следовательно, ограничивают взаимодействие приложениями, в которых не требуется известность ее положения.
Другие устройства предложены в US 8638989 и US 2016/202770. Чисто оптическая система (например для оптического детектирования глубины, как в US 2016/0295198 А1) захватывает положение, ориентацию и позы кисти, находящейся перед устройством формирования изображения, обычно прикрепленным к голове. Они не требуют внешнего базового объекта, поэтому система может быть носимой, в частности легкой. Возможна реализация, не зависящая от состояния, так что каждое положение вычисляется в каждом фрейме независимо от предыдущего вычисления, что делает подход более стабильным. Однако чисто оптические системы требуют настройки параметров и больших объемов вычислений, чтобы оценить положение и позу, что увеличивает задержку и ослабляет погружение в виртуальную среду.
С увеличением количества приложений, имеющих дело с виртуальной средой, существует растущая потребность в устройствах ввода, позволяющих пользователю взаимодействовать с виртуальной реальностью естественным и улучшенным образом. Наиболее естественный путь заключается во взаимодействии таким же образом, как и с реальной средой, а именно путем использования частей тела, таких как кисти. Помимо взаимодействия, важна также визуализация верхних конечностей, чтобы пользователь мог видеть свои руки, включая кисти, в виртуальной среде, обеспечивая визуальную обратную связь своих действий и усиливая ощущение погружения.
Ни один из упомянутых подходов не ведет к носимым, стабильным и неинтрузивным средствам отслеживания конечностей с малой задержкой, не требующим от пользователя ношения большого количества датчиков, тогда как вышеупомянутые системы требуют значительных знаний об окружающей среде и/или ограничивают возможности/погружение.
Раскрытие изобретения
Соответственно, задача, решаемая изобретением, состоит в разработке усовершенствованной носимой системы отслеживания движения для захвата относительного положения первой и второй частей тела пользователя.
Данная задача решена созданием носимой системы отслеживания движения согласно п. 1. прилагаемой формулы. В этом пункте раскрывается носимая система отслеживания движения для захвата относительного положения первой и второй частей тела пользователя. Данная система содержит по меньшей мере одно первое измерительное устройство, выполненное с возможностью прикрепления к указанной первой части тела, и по меньшей мере одно второе измерительное устройство, выполненное с возможностью прикрепления к указанной второй части тела. Кроме того, система содержит вычислительное устройство, которое может осуществлять коммуникацию по меньшей мере с одним из первого и второго измерительных устройств, в частности извлекать измерительные данные из измерений, выполненных между первым и вторым измерительными устройствами, т.е. относящихся к измерениям, использующим одно из первого и второго измерительных устройств в качестве референтной (базовой) точки.
Должно быть понятно, что данное вычислительное устройство может быть отдельным компонентом системы, или же оно может быть интегрировано в указанное первое или указанное второе измерительное устройство.
Задача, поставленная перед изобретением, решена за счет того, что указанные по меньшей мере одно первое измерительное устройство, по меньшей мере одно второе измерительное устройство и вычислительное устройство выполнены с возможностью получения, посредством вычислительного устройства, множества измерений между первым измерительным устройством и вторым измерительным устройством, причем данное множество измерений включает по меньшей мере одно измерение расстояния между первым и вторым измерительными устройствами, а также за счет того, что вычислительное устройство выполнено с возможностью вычислять, с использованием данного множества измерений, положение, в трех измерениях, второго измерительного устройства относительно первого измерительного устройства для отслеживания положения второй части тела относительно первой части тела.
Другими словами, указанная задача решена изобретением за счет того, что указанные по меньшей мере одно первое измерительное устройство, по меньшей мере одно второе измерительное устройство и вычислительное устройство выполнены с возможностью:
i) получения с помощью вычислительного устройства по меньшей мере одного измерения расстояния между первым и вторым измерительными устройствами, и
ii) получения с помощью вычислительного устройства по меньшей мере одного дополнительного измерения между теми же первым и вторым измерительными устройствами.
При этом вычислительное устройство выполнено с возможностью вычислять положение, в трех измерениях, второго измерительного устройства относительно первого измерительного устройства с использованием указанного измерения расстояния и указанного дополнительного измерения, т.е. вычислительное устройство вычисляет трехмерный вектор расстояния.
В контексте изобретения термин "носимая система" должен пониматься как обозначающий систему, которая может носиться людьми (или другими пользователями - см. далее), когда они действуют, например, в виртуальной среде. Носимая система отслеживания движения неинтрузивна и едва заметна для пользователя. Она легко надевается и мобильна, так что пользователь не ограничен в своих движениях. Желательно также иметь высокую скорость обновления системы и минимальные время реакции и задержку, чтобы убедить пользователя, что его виртуальная реплика и/или виртуальное представление его движения действительно представляет (представляют) пользователя. Соответственно, чрезмерный объем вычислений является недостатком.
В контексте изобретения термин "система отслеживания движения" должен пониматься как обозначающий устройство, т.е. многокомпонентный аппарат, который позволяет отслеживать трехмерный вектор расстояния, соединяющий первое и второе измерительные устройства, причем этот вектор расстояния в некоторых случаях является мерой для определения изменения в относительном положении первой и второй частей тела, к которым, при работе системы, прикреплены соответственно первое и второе измерительные устройства. Данные отслеживания, сгенерированные носимой системой отслеживания движения, могут быть, например, интегрированы в виртуальную реальность.
В контексте изобретения термин "первая и вторая части тела" должен пониматься как обозначающий две части тела, предпочтительно тела человека, которые могут двигаться одна относительно другой. Первой частью тела может быть такая его часть, как голова или торс, или любая другая часть тела, такая как конечность. Вторыми частями тела могут быть части конечностей, в частности верхних конечностей, или их части, такие как палец (включая и большой палец), кисть, запястье, верхняя или нижняя часть руки или локоть. Разумеется, вторыми частями могут быть также нижние конечности или их части, такие как палец на ноге, стопа, щиколотка или нижняя или верхняя часть ноги. Должно быть, однако, понятно, что второй частью может быть и любая другая часть тела, такая как торс или голова. Соответственно, первая и вторая части - это любые две части тела, которые могут двигаться или изменять положение одна относительно другой. Должно быть понятно, что носимая система отслеживания движения может предпочтительно использоваться человеком; однако, и другие объекты, которые изменяют свой физический вид, также могут рассматриваться как пользователи.
В контексте изобретения термин "измерение между первым и вторым измерительными устройствами" должен пониматься как обозначающий измерение, в котором первое измерительное устройство является референтным (базовым), а положение (и, предпочтительно, ориентация) второго измерительного устройства измеряется (измеряются) относительно указанной базы.
Таким образом, изобретение основано на понимании того, что путем использования по меньшей мере двух измерительных устройств, соединенных предпочтительно беспроводным образом, через коммуникационный канал (канал связи), и интегрированных в носимую систему отслеживания так, что одно измерительное устройство обеспечивает референтное (базовое) поле (систему отсчета), в пределах которого (которой) другое устройство расположено и локализовано посредством указанного коммуникационного канала, может быть реализована более эффективная система, чем, например, известные варианты, основанные на чисто оптических системах, которые, оценивают видимое окружение при значительном объеме вычислений, или известные решения, требующие стационарных условий, или известные системы, опирающиеся на группу IMU для сбора данных о положении с последующей коррекцией положения посредством других измерений.
Система отслеживания согласно изобретению обеспечивает реализацию, не зависящую от состояния, т.е. каждое положение второго измерительного устройства относительно первого измерительного устройства вычисляется в реальном времени и независимо от предыдущего вычисления в процессе отслеживания.
В некоторых вариантах указанное множество измерений между первым и вторым измерительными устройствами включает по меньшей мере одно измерение направления между первым и вторым измерительными устройствами. В этих вариантах измерение направления, в комбинации с измерением расстояния, непосредственно дает в результате положение, в трех измерениях, второго измерительного устройства относительно первого измерительного устройства. Таким образом, изобретение обеспечивает работу с двумя датчиками и с двумя измерениями между первым и вторым измерительными устройствами. Это является преимуществом, поскольку, по сравнению с известными подходами, требует меньшего количества реперов, меньше аппаратуры и меньшего объема вычислений.
Кроме того, изобретение не требует сложных алгоритмов совмещения показаний датчиков типа расширенной калмановской фильтрации и т.д., чтобы скомбинировать измерения от группы датчиков и от датчиков различных типов. Измерения, проводимые системой согласно изобретению (например одно измерение расстояния, например, посредством акустической пары приемник/излучатель, и одно измерение направления, например, посредством оптической пары приемник/излучатель), могут быть использованы, чтобы непосредственно исключить все степени свободы и прямо вычислить относительное положение первого и второго измерительных устройств, не требуя никакого другого третьего или четвертого устройства-датчика. Это приводит к меньшему объему вычислений, меньшей задержке и большей стабильности. В качестве примера: чтобы оценить положение кисти относительно головы, согласно известным подходам требуется один датчик на голове, один на кисти и еще два на голове или на других частях тела (что неудобно для ношения), тогда как согласно некоторым вариантам изобретения достаточно только одного измерительного устройства на голове и одного на кисти.
Согласно изобретению используются неоднократные измерения между двумя узлами, т.е. между двумя четко определенными и независимо прикрепленными измерительными устройствами. Вместо использования измерений посредством инерциальных измерительных блоков (IMU), используется по меньшей мере одно дополнительное измерение между этими узлами, т.е. измерительными устройствами. Измерения посредством IMU используются не для локализации, а для вычисления ориентации.
Проблема отслеживания движения, решенная изобретением, может быть описана, в абстрактной форме, следующим образом. При заданной в пространстве точке с известной ориентацией требуется определить положение второй точки относительно первой точки. Без потери общности можно принять, что первая точка расположена в начале координатной системы xyz, а направление вперед соответствует положительной полуоси Z. Эта координатная система будет называться "системой отсчета" первой точки. Чтобы решить описанную проблему отслеживания, требуется выразить координаты x, у и z второй точки в указанной системе отсчета первой точки. Эти координаты не требуется выражать именно в данном формате: они могут быть выражены и другими величинами.
Еще при одном подходе относительное положение двух точек в терминах сферических координат могут описывать два угла и радиус.
Для случаев, когда вторая точка лежит всегда впереди первой точки, ее относительное положение может быть также описано двумя координатами на виртуальной плоскости xy, описывающими направление на вторую точку (при значении z, равном 1), в сочетании с расстоянием между двумя точками. Такое представление часто используется в компьютерном видении, поскольку плоскость естественно описывает плоскость изображения датчика (камеры), а координаты на плоскости соответствуют координатам пикселей.
Другое представление состоит в выборе трех фиксированных точек на плоскости xy, расположенной у начала координат (значение z равно 0) и в описании положения второй точки тремя расстояниями до трех фиксированных точек. Этот подход, естественно, соответствует трем измерениям расстояния между тремя фиксированными точками, представляющими первую точку, и второй точкой.
Все эти представления могут быть преобразованы одно в другое.
В качестве примера, три измерения расстояния, выполненные для трех фиксированных точек, могут быть использованы для вычисления xyz-координат путем трилатерации.
Таким образом, представление относительного положения точек не должно ограничивать объем изобретения. Чтобы исключить степени свободы относительного положения, может быть использована любая комбинация измерений расстояния, измерений направления или других измерений независимо от формы их представления. В приведенных примерах измерения направления могут дать представление в виде двух углов сферических координат. Радиус, являющийся третьей степенью свободы, может быть исключен путем измерения расстояния.
В некоторых вариантах первое измерительное устройство содержит первое акустическое коммуникационное устройство, а второе измерительное устройство содержит второе акустическое коммуникационное устройство. Первое и второе коммуникационные устройства сконфигурированы с возможностью установить между собой акустическую связь, например ультразвуковой канал связи. Этот канал связи обеспечивает опцию акустического измерения между первым и вторым измерительными устройствами. Одно из первого и второго измерительных устройств может содержать акустический излучатель (передатчик), а другое - акустический приемник. Соответственно, указанное множество измерений, на котором основано вычисление относительного положения второго измерительного устройства относительно первого измерительного устройства, включает по меньшей мере одно акустическое измерение между первым и вторым акустическими коммуникационными устройствами. Акустический канал связи позволяет проводить стабильные, надежные и быстрые измерения, имеющие низкую стоимость.
В некоторых вариантах указанный акустический канал связи используется для определения расстояния между первым и вторым измерительными устройствами. Соответственно, по меньшей мере одно измерение расстояния может быть описано, как по меньшей мере одно акустическое измерение.
В некоторых вариантах на первом устройстве установлена, в виде той или иной известной конфигурации, группа акустических приемников, осуществляющая акустические измерения с использованием акустического излучателя на втором устройстве.
Относительная задержка принятого сигнала между акустическими приемниками на первом устройстве непосредственно связана с направлением второго устройства по отношению к первому устройству.
Более конкретно, поскольку акустический сигнал испускается единственным излучателем, этот сигнал первым примет приемник, ближайший к излучателю.
Задержка, с которой сигнал зарегистрирует второй приемник, пропорциональна углу между излучателем (передатчиком) и первым приемником и углу между первым и вторым приемниками. Группа приемников повышает точность и позволяет измерять углы в двух измерениях.
Таким образом, измерение направления между первым и вторым устройствами может представлять собой акустическое измерение.
Акустические измерения направления известны также в направленных микрофонах или в микрофонных решетках.
Должно быть понятно, что изобретение не ограничено использованием группы акустических приемников, а может быть реализовано посредством любого направленного микрофона.
В некоторых вариантах, дополнительно или альтернативно к акустическому каналу связи, между первым и вторым измерительными устройствами может быть предусмотрен оптический канал связи. В этих вариантах первое измерительное устройство содержит первое оптическое коммуникационное устройство, а второе измерительное устройство содержит второе оптическое коммуникационное устройство. При этом первое и второе коммуникационные устройства сконфигурированы с возможностью установить между собой оптический канал связи. При этом указанные измерения включают по меньшей мере одно оптическое измерение между первым и вторым оптическими коммуникационными устройствами.
В некоторых вариантах один из первого и второго оптических коммуникационных устройств содержит датчик изображения в качестве первого или второго оптического коммуникационного устройства, тогда как другое из первого и второго оптических коммуникационных устройств в качестве второго оптического коммуникационного устройства содержит пригодный для отслеживания элемент, предпочтительно источник излучения, такой как светодиод (СД), например инфракрасный СД. При этом предпочтительно размер и/или цвет, и/или светимость пригодного для отслеживания элемента известны носимой системе отслеживания движения и используются ею, чтобы локализовать, в системе полярных координат, угловые координаты второго измерительного устройства. Очевидно, что может быть использована любая другая форма представления направления, как это было описано выше. Пригодный для отслеживания элемент может также представлять собой конфигурацию элементов, например, такую как матрица СД, что может быть особенно эффективно, если размер пригодного для отслеживания элемента оценивается, например, при измерении относительного расстояния между датчиком изображения и пригодным для отслеживания элемента.
Радиальная координата может затем быть определена путем по меньшей мере одного измерения расстояния, которое может быть акустическим, оптическим или ультраширокополосным измерением, выполняемым посредством соответственно сконфигурированных первого и второго измерительных устройств. В результате анализа относительного размера пригодного для отслеживания элемента может быть получена информация о расстоянии, используемая как оптическое измерение расстояния. Используя, например, известные параметры камеры, размер данного элемента (например длина стороны квадрата с СД на его углах) может быть использован для вычисления расстояния.
В некоторых вариантах указанный оптический канал связи может быть использован для определения расстояния между первым и вторым измерительными устройствами. Соответственно, по меньшей мере одно измерение расстояния может быть по меньшей мере одним оптическим измерением.
В некоторых вариантах, дополнительно или альтернативно к акустическому и/или оптическому каналу связи, между указанными первым и вторым измерительными устройствами может быть установлен ультраширокополосный канал связи. В этом случае первое измерительное устройство содержит первое ультраширокополосное коммуникационное устройство, а второе измерительное устройство - второе ультраширокополосное коммуникационное устройство. Соответственно, первое и второе коммуникационные устройства сконфигурированы с возможностью установить между собой ультраширокополосный канал связи. Указанные измерения в этих вариантах включают по меньшей мере одно ультраширокополосное измерение между первым и вторым ультраширокополосными коммуникационными устройствами.
Аналогично акустическому измерению направления, описанному выше, для осуществления измерения направления также может быть использована серия ультраширокополосных измерений расстояния.
Вместо использования временной задержки между приемниками, может быть использован относительный фазовый сдвиг, чтобы определить угол между излучателем (передатчиком) и любыми двумя приемниками.
Могут быть использованы и каналы связи, альтернативные акустическому, оптическому и/или ультраширокополосному каналам связи.
В некоторых вариантах первая часть тела является торсом или головой пользователя. Соответственно, носимая система отслеживания движения может быть системой, устанавливаемой на голову и/или на торс.
Указанная вторая часть предпочтительно является верхней конечностью и/или запястьем, и/или кистью пользователя.
В некоторых вариантах вычислительное устройство интегрировано, по меньшей мере частично, в базовый блок, выполненный с возможностью прикрепления к первой части тела пользователя и дополнительно содержащий по меньшей мере одно первое измерительное устройство.
В некоторых вариантах вычислительное устройство интегрировано, по меньшей мере частично, в отслеживаемый блок, выполненный с возможностью прикрепления ко второй части тела пользователя и дополнительно содержащий по меньшей мере одно второе измерительное устройство.
Таким образом, вычислительное устройство может быть интегрировано отдельно или с первым измерительным устройством в базовый блок или со вторым измерительным устройством в отслеживаемый блок. Альтернативно, компоненты вычислительного устройства могут быть интегрированы и с первым, и со вторым измерительными устройствами.
В некоторых вариантах одно первое измерительное устройство или один базовый блок можно прикрепить к голове, например в составе головного дисплейного устройства, а другое (другой) - к торсу или к другим частям тела, тогда как одно или более вторых измерительных устройств или отслеживаемых блоков могут быть прикреплены к конечностям, предпочтительно к верхним конечностям, и/или к кисти (кистям), и/или к запястью (запястьям) или к другим частям тела.
В некоторых предпочтительных вариантах указанные измерения состоят из трех или более измерений расстояния. Три акустических измерения расстояния предпочтительно могут быть проведены с использованием трех приемников и по меньшей мере одного, например трех, излучателей или с использованием трех излучателей и по меньшей мере одного, например трех, приемников. При этом приемник(и) интегрирован(ы) в одно из первого и второго измерительных устройств, тогда как излучатель (излучатели) интегрирован(ы) в другое устройство из первого и второго измерительных устройств. Соответственно, общий излучатель или общий приемник может осуществлять коммуникацию с тремя ответными частями датчика. В этом случае при известности относительного положения излучателей (или приемников) на одном устройстве, три или более измерений расстояния могут быть использованы для триангуляции положения второго измерительного устройства в трехмерном пространстве.
В некоторых вариантах первое измерительное устройство и/или второе измерительное устройство содержат одно или более дополнительных измерительных устройств для определения и отслеживания, по меньшей мере частично, ориентации второго измерительного устройства относительно первого измерительного устройства или абсолютной ориентации второго измерительного устройства. В определенных предпочтительных вариантах эти одно или более дополнительных измерительных устройств представляют собой IMU.
В некоторых вариантах эти дополнительные датчики (например IMU), которые способны определять свою ориентацию по одной, двум или трем ортогональным осям, могут быть установлены, например, на сегменты кисти и/или пальца, чтобы определять позу и жест сегментов кисти и/или пальца с использованием прямой задачи кинематики, основываясь на положении верхней конечности или кисти, вычисленном посредством изобретения. Соответственно, датчики могут быть интегрированы в перчатку. Аналогично, датчик того же типа может быть прикреплен, например, к нижней и/или к верхней частям руки, чтобы вычислять позу верхних конечностей с использованием прямой и/или обратной задач кинематики. Точно таким же образом могут быть вычислены поза и ориентация головы или других конечностей, если одно из двух устройств по изобретению прикреплено к торсу, а устройство, определяющее ориентацию, прикреплено к голове.
Позу и жест верхней конечности, кисти и/или запястья можно, например, использовать для создания виртуального аватара пользователя, взаимодействующего с виртуальной средой, отображаемой для пользователя, например, с помощью очков виртуальной реальности, очков усиленной реальности или других головных дисплеев.
Еще одна задача, решаемая изобретением, состоит в создании усовершенствованного способа отслеживания относительного положения первой и второй частей тела пользователя.
Данная задача решена созданием способа, раскрытого в п. 12 формулы изобретения, согласно которому способ отслеживания относительного положения первой и второй частей тела пользователя включает следующие операции:
используют по меньшей мере одно первое измерительное устройство, выполненное с возможностью прикрепления к указанной первой части тела, по меньшей мере одно второе измерительное устройство, выполненное с возможностью прикрепления к указанной второй части тела, и вычислительное устройство и выполняют на указанном вычислительном устройстве приложение, чтобы
i) выполнить множество первых измерений между первым и вторым измерительными устройствами, причем указанное множество первых измерений содержит по меньшей мере одно измерение расстояния между первым и вторым измерительными устройствами;
ii) вычислить, в трех измерениях, первое положение второго измерительного устройства относительно первого измерительного устройства, используя указанное множество первых измерений;
iii) выполнить одно или более множеств последующих измерений между первым и вторым измерительными устройствами, причем указанное множество первых измерений между первым и вторым измерительными устройствами включает по меньшей мере одно измерение расстояния между первым и вторым измерительными устройствами, и
iv) вычислить, в трех измерениях, одно или более последующих положений второго измерительного устройства относительно первого измерительного устройства, используя одно или более множеств дополнительных измерений для отслеживания положения второй части тела относительно первой части тела.
Начальное и последующие положения затем формируют траекторию, которая может быть реализована в виртуальной среде.
В некоторых вариантах способа согласно изобретению первая часть тела является торсом и/или головой пользователя.
В других вариантах способа согласно изобретению вторая часть тела является верхней конечностью и/или кистью пользователя.
В определенных вариантах способа согласно изобретению указанное множество первых измерений и/или указанные одно или более множеств последующих измерений включают, в качестве указанного по меньшей мере одного измерения расстояния, по меньшей мере одно измерение, выбранное из группы, состоящей из акустического измерения, оптического измерения и ультраширокополосного измерения.
В некоторых вариантах способа согласно изобретению отслеживаемое положение второй части относительно первой части тела используют в виртуальной среде.
Соответственно, изобретение предлагает носимый датчик или носимую систему отслеживания движения, способный (способную) вычислять положение части тела, такой как верхняя конечность, запястье и/или кисть, относительно другой части тела, такой как торс и/или голова, в реальном времени, причем определение положения основывается на множестве измерений, включающем по меньшей мере одно измерение расстояния.
В предпочтительном варианте первое измерительное устройство прикреплено к торсу или голове. Одно второе измерительное устройство прикреплено к конечности, запястью или кисти, подлежащей отслеживанию. Два измерительных устройства сообщаются одно с другим через канал связи и обмениваются информацией, используемой для вычисления трехмерного положения одного измерительного устройства, предпочтительно выраженного в координатах в пределах поля измерений другого измерительного устройства.
Локализация отслеживаемой конечности может быть достигнута различными путями. Изобретение предусматривает по меньшей мере одно устройство для измерения расстояния, причем излучатель данного измерительного устройства является частью устройства, прикрепленного к одной части тела, тогда как приемник является частью устройства, прикрепленной к другой части тела, или наоборот.
Как раскрыто в данном описании, в одном предпочтительном подходе изобретение использует по меньшей мере еще два датчика для измерения расстояния, интегрированных в то же измерительное устройство. Как вариант, они могут использовать один и тот же излучатель или один и тот же приемник. При известности относительного положения излучателей на одном устройстве три или более измерений расстояния могут быть использованы для триангуляции положения второго измерительного устройства в трех измерениях.
Как отмечено в данном описании, в другом предпочтительном подходе к любому из двух измерительных устройств прикреплен датчик изображения, пригодный для отслеживания элемента, прикрепленного к другому устройству. Координаты отслеживаемого изображения элемента могут быть использованы, чтобы вычислять относительный угол между датчиком изображения и указанным элементом и задавать, совместно с измерением расстояния, относительное положение двух устройств.
Должно быть понятно, что признаки различных раскрытых вариантов могут свободно комбинироваться друг с другом.
Краткое описание чертежей
Далее предпочтительные варианты изобретения будут описаны со ссылками на прилагаемые чертежи, служащие только для иллюстрации этих вариантов, никак не ограничивая их.
На фиг. 1 показан первый вариант носимой системы отслеживания движения согласно изобретению, содержащей первое и второе измерительные устройства.
На фиг. 2 также показан первый вариант носимой системы отслеживания движения согласно изобретению, содержащей первое и второе измерительные устройства.
На фиг. 3 более детально показаны первые варианты первого и второго измерительных устройств согласно фиг. 1 или фиг. 2.
На фиг. 4 более детально показаны вторые варианты первого и второго измерительных устройств согласно фиг. 1 или фиг. 2.
На фиг. 5 представлен еще один вариант для отслеживания полной позы верхней конечности и кисти.
На фиг. 6 представлен следующий вариант для отслеживания полной позы верхней конечности и кисти.
Осуществление изобретения
Дальнейшее описание и примеры, которые дополнительно иллюстрируют изобретение, не должны интерпретироваться как ограничивающие его объем. Предпочтительные варианты описаны со ссылками на фиг. 1-6, на которых представлены схематичные иллюстрации предпочтительных вариантов. Одинаковые обозначения на чертежах соответствуют одним и тем же компонентам или компонентам, обеспечивающим такой же технический эффект.
На фиг. 1 представлен первый вариант носимой системы 12 отслеживания движения согласно изобретению. Данная система содержит первое измерительное (отслеживающее) устройство 120а, которое прикреплено к головному дисплею 130 на первой части тела пользователя 100, например интегрировано в этот дисплей (первой частью тела в данном случае является голова 101 пользователя 100). Головной дисплей 130 является в первом варианте базовым блоком, задающим референтную систему отсчета, в пределах которой производится отслеживание. Второе измерительное устройство 121а (отслеживаемое устройство) прикреплено к браслету 111, находящемуся на второй части тела, которой является запястье 103 пользователя 100. Вместо браслета 111, может быть использовано другое типичное средство для прикрепления, такое как рукавица с крагой или лента, или же устройство может быть интегрировано в одежду. Первое и второе измерительные устройства 120а, 121а связаны одно с другим через канал связи для обмена информацией, которая затем используется как база для вычисления, в трех измерениях, положения второго измерительного устройства 121а относительно первого измерительного устройства 120а и, тем самым, для определения положения запястья 103 относительно головы 101. Обмен информацией включает множество измерений, в том числе по меньшей мере одно измерение расстояния между первым и вторым измерительными устройствами 120а, 121а. При этом, используя указанное множество измерений, включающее измерение расстояния, как входные данные для вычислительного устройства 150, вычисляют вектор расстояния в трех измерениях. Вычислительное устройство 150 предпочтительно интегрировано в устанавливаемый на голову компонент системы 12 и подключено с возможностью принимать указанные входные данные и получать таким образом результат вычислений для дальнейшего использования, например для использования в виртуальной реальности, отображаемой на головном дисплее 130. Вычислительное устройство 150 может также находиться на кисти или даже может быть выполнено распределенным: например, вычисления могут частично производиться в одном из первого и второго измерительных устройств 120а, 121а или 120b, 121b, а частично - в другом из названных измерительных устройств 120а, 121а или 120b, 121 b (см. фиг. 2). Например, одна часть вычислительного устройства может быть расположена на измерительном устройстве с датчиком изображения (например камерой) и определять полярные координаты. Другая часть вычислительного устройства может быть локализована на акустическом приемнике, находящемся на другой части тела, и вычислять радиальную координату. Каждое вычислительное устройство может посылать свои данные хост-компьютеру, в котором они комбинируются и реализуются, например, в виртуальной реальности.
В некоторых вариантах вычислительное устройство 150 может быть выполнено, как отдельный блок; в некоторых вариантах вычислительное устройство 150 может быть интегрировано с первым измерительным устройством 120а, 120b в базовый блок 140 или со вторым измерительным устройством 121а, 121b в отслеживаемый блок 141. В некоторых вариантах компоненты вычислительного устройства 150 могут быть интегрированы и с первым, и со вторым измерительными устройствами 120а, 120b, 121а, 121b или, как вариант, также и с другими компонентами системы 12. На фиг. 2 показан второй вариант носимой системы 12 отслеживания движения согласно изобретению. Система 12 содержит первое измерительное устройство 120b, которое прикреплено к торсу 104 пользователя 100 ремнем 112 или аналогичным крепежным средством. Согласно второму варианту торс 104 является первой частью тела. Второе устройство 121b прикреплено к кисти 102 посредством перчатки 110 или схожего компонента. В этом варианте кисть 102 является второй частью тела. Первое и второе измерительные устройства 120b, 121b связаны через канал связи, с помощью которого выполняется множество измерений между двумя устройствами 120b, 121b. В данном варианте вычислительное устройство 150 предпочтительно интегрировано в компонент этой системы, установленный на торсе или на голове, и выполнено с возможностью вычислять, на базе указанного множества измерений, положение, в трех измерениях, второго измерительного устройства 121b относительно первого измерительного устройства 120b, прикрепленного к торсу 104. Соответственно, во втором варианте референтная система отсчета для отслеживания второго измерительного устройства 121b задается торсом 104, а вычислительное устройство 150 может находиться отдельно от первого и второго измерительных устройств 120b, 121b, в головном дисплее 130.
В обоих вариантах положение второй части 103 и 102, т.е. положение второго измерительного устройства 121а и 121b соответственно, может быть затем вычислено, в трехмерном пространстве, вычислительным устройством 150 и может быть передано в виртуальную среду, отображаемую на головном дисплее 130, или использоваться для взаимодействия с ней.
В общем случае должно быть понятно, что в пределах референтной системы отсчета первого измерительного устройства можно одновременно отслеживать несколько вторых измерительных устройств.
На фиг. 3 представлен вариант выполнения пары, состоящей из первого и второго измерительных устройств 120а, 121а по фиг. 1 или 120b, 121b по фиг. 2.
Первое акустическое коммуникационное устройство 200а содержит акустический излучатель 201а и первое коммуникационное устройство 202а мгновенного действия, например радиочастотный модуль.
Второе акустическое коммуникационное устройство 200b содержит по меньшей мере три акустических приемника 201b с известными относительными положениями и второе коммуникационное устройство 202b мгновенного действия.
Первое акустическое коммуникационное устройство 200а, имеющее акустический излучатель 201а, и второе акустическое коммуникационное устройство 200b с акустическим приемником 201b могут установить между собой акустический канал связи aL, точнее три акустических канала связи.
Первое коммуникационное устройство 202а мгновенного действия и второе коммуникационное устройство 202b мгновенного действия могут установить между собой канал связи iL мгновенного действия.
В процессе функционирования первое коммуникационное устройство 202а мгновенного действия оповещает об акустическом импульсе акустического излучателя 201а и запускает акустический импульс. Второе коммуникационное устройство 202b мгновенного действия принимает оповещение, инициирует таймер и включает в работу акустические приемники 201b. Момент, в который импульс посылается излучателем 201а, и три индивидуальных момента, в которые импульс детектируется в приемниках 201b, могут быть использованы для триангуляции, в трех измерениях, относительных положений первого и второго измерительного устройства 120а, 121а и 120b, 121b соответственно.
Первое акустическое коммуникационное устройство 200а может быть интегрировано в одно из первого и второго измерительных устройств 120а, 121а и 120b, 121b соответственно; второе акустическое коммуникационное устройство 200b может быть интегрировано соответственно в другое устройство из первого и второго измерительных устройств 120b, 121b и 120а, 121а.
На фиг. 4 показан другой вариант выполнения пары, состоящей из первого и второго измерительных устройств 120а, 121а по фиг. 1 или 120b, 121b по фиг. 2.
Первое оптоакустическое коммуникационное устройство 200 с содержит акустической приемник 201 с, первое коммуникационное устройство 202а мгновенного действия и инфракрасный светодиод 203а.
Второе оптоакустическое коммуникационное устройство 200d содержит акустический излучатель 201d, второе коммуникационное устройство 202b мгновенного действия и инфракрасное устройство 203b формирования изображения.
Инфракрасный светодиод 203а в качестве первого оптического коммуникационного устройства и инфракрасное устройство 203b формирования изображения в качестве второго оптического коммуникационного устройства могут установить между собой оптический канал связи oL.
В процессе функционирования акустические излучатель 201с и приемник 201d используются совместно с первым и вторым коммуникационными устройствами 202а и 202b мгновенного действия, чтобы измерять расстояние между первым и вторым измерительными устройствами 120а, 121а и 120b, 121b соответственно путем времяпролетного измерения акустического сигнала, как это было описано выше. Устройство 203b формирования изображения и инфракрасный СД 203а используются, чтобы вычислять угловые координаты между первым и вторым измерительными устройствами 120а, 121а и 120b, 121b соответственно. Угловые координаты и расстояние определяют положение второго измерительного устройства 121а и 121b соответственно относительно первого измерительного устройства 120а и 120b соответственно.
Первое оптоакустическое коммуникационное устройство 200 с может быть интегрировано одно из в первого и второго измерительных устройств 120а, 121а и 120b, 121b соответственно; второе оптоакустическое коммуникационное устройство 200d может быть интегрировано в другое из первого и второго измерительных устройств 120b, 121b и 120а, 121а соответственно.
На фиг. 5 показан вариант, иллюстрирующий, как получить полную позу верхней конечности 107, 108 (см фиг. 1) и кисти 102. Как показано на фиг. 1, второе измерительное устройство 121а прикреплено к запястью 103 пользователя 100 с помощью браслета 111 или схожего компонента. Кроме того, к браслету 111 прикреплено также дополнительное измерительное устройство 304а, способное определять свою ориентацию (например IMU). Положение, определенное посредством второго измерительного устройства 121а, и ориентация, определенная посредством устройства 304а, используются для определения положения в трехмерном пространстве второй части тела, в данном случае нижней части 107 руки (см фиг. 1).
Чтобы определить положение и ориентацию верхней части 108 руки (см фиг. 2), может быть использована обратная задача кинематики. Дополнительное устройство 304b, способное определять свою ориентацию, прикреплено к кисти, и схожие устройства 305 прикреплены к сегментам пальцев 106. Основываясь на данных о положении и ориентации, обеспеченных устройствами 121а и 304а, можно использовать прямую задачу кинематики применительно к ориентациям, полученным от устройств 304b и 305, чтобы вычислить позу и жест кисти 102 и пальцев 106.
На фиг. 6 представлен еще один вариант, показывающий, как получить полную позу верхней конечности (руки) 107, 108 (см фиг. 1) и кисти 102. Как видно из фиг. 2, устройство 121 b прикреплено к кисти 102 пользователя с использованием перчатки 110 или схожего средства. В дополнение, к перчатке 110 может быть прикреплено также измерительное устройство 304b, способное определять свою ориентацию (например IMU). Положение, полученное от устройства 121а, и ориентация, полученная от устройства 304а, используются для позиционирования кисти 102 в пространстве. Другие устройства 305, способные определять свою ориентацию (например IMU), прикреплены к сегментам пальцев 106. Для вычисления позы и жеста кисти 102 можно использовать прямую задачу кинематики с учетом данных ориентации, полученных устройствами 305.
В этой конфигурации опционный браслет 111 и прикрепленное к нему устройство 304а, способное вычислять свою ориентацию, может быть использовано в комбинации с обратной задачей кинематики, чтобы вычислять позу нижней и верхней частей 107, 108 руки.
Соответственно, изобретение использует по меньшей мере два физически отдельных измерительных устройства 120а, 121а и 120b, 121b соответственно, т.е. два индивидуальных блока, способных сообщаться между собой. Одно из них, первое измерительное устройство 120а, 120b, действует, как референтное устройство, которое прикреплено либо к торсу 104 (например ремнем), к бедру или к груди (см. фиг. 2) или к голове 101 (например, ко лбу или к головному дисплею 130, носимому пользователем, как это показано на фиг. 1). Однако в качестве первой части тела могут быть выбраны и другие его части. По меньшей мере одно дополнительное (второе) измерительное устройство 121а, 121b прикреплено к верхней конечности, более конкретно, к запястью 103 (см. фиг. 1) или к кисти 102 (см. фиг. 2), например, посредством браслета 111 или вкладыванием в перчатку 110, причем его положение отслеживается относительно положения референтного устройства 120а, 120b соответственно. Как вариант, дополнительные вторые устройства 121а, 121b и/или другие измерительные устройства 304, 304b (такие как IMU) могут быть прикреплены к тем же или к другим частям тела и отслеживаться на той же или другой конечности, например на другой кисти или на другом запястье.
В зависимости от приложения, виртуальная среда представляется пользователю 100, как видимая из местоположения пользователя 100. В этом сценарии референтное устройство (т.е. первое измерительное устройство 120а, 120b) в типичном случае будет установлено на голову 101 пользователя 100, поскольку каркас головы 101 естественным образом соответствует виртуальной камере головного дисплея 130 и используется при отображении виртуальной среды.
В приложениях, в которых виртуальный контент предоставляется для наблюдения третьему лицу, референтное устройство 120b может быть помещено на торс 104. Однако, если это устройство прикреплено к торсу 104, устройство 304, способное определять свою ориентацию (например IMU), может быть прикреплено к голове 101, а его ориентация может быть использована для переноса отслеживаемого положения от референтного контура тела, соответствующего торсу 104, к референтному контуру головы 101. Головные дисплеи обычно уже содержат такие устройства 304 определения ориентации, так что в этом конкретном случае никакого дополнительного датчика не потребуется.
Если референтное устройство 120а прикреплено к голове 101, устройство, способное определять ориентацию, может быть прикреплено к торсу 104, чтобы и в этом варианте достичь схожих результатов.
Отслеживаемое устройство, т.е. второе устройство 121а, 121b по изобретению тоже может содержать подобное устройство 304, способное определять ориентацию, так что будут известны не только положение, но также и ориентация конечности по одной или более, предпочтительно по всем трем осям.
Если и другие такие устройства, способные определять ориентацию, прикреплены к смежным конечностям, то для определения их положения и ориентации может быть использована прямая задача кинематики. Например, если пригодное для отслеживания устройство согласно изобретению прикреплено к запястью, а устройства 304, способные определять ориентацию, например IMU, также прикреплены к запястью, кисти и сегментам пальцев (как это показано на фиг. 5), прямая задача кинематики может быть использована, чтобы вычислить полную позу и жест кисти 102, основываясь на положении и ориентации запястья 103.
Далее, можно использовать обратную задачу кинематики, чтобы вычислить позу и ориентацию верхней части 108 руки, так что будет известна поза всей руки 107, 108 и кисти 102.
Поскольку и устройство 121а, находящееся на запястье, и датчики 304, 304b, 305 на кисти 102 могут быть интегрированы в перчатку 110, пользователь 100 может носить минимальный комплект объектов и, тем не менее, полностью отслеживать движение верхней части тела.
Аналогичным образом, указанное пригодное для отслеживания устройство, т.е. второе измерительное устройство 121b, может быть прикреплено к кисти 102 вместо запястья 103 (как это иллюстрируется на фиг. 6), и может быть получен тот же результат.
Хотя на фиг. 1 и фиг. 2 проиллюстрированы только два варианта, очевидно, что все комбинации референтного устройства 120а, 120b, прикрепленного к торсу 104 и/или к голове 101, и пригодного для отслеживания устройства 121а, 121b, прикрепленного к верхней конечности 107, 108 и/или к кисти 102, будут работать одинаково хорошо.
Локализация конечности может быть достигнута различными способами. В одном варианте изобретения один или более акустических излучателей и коммуникационное устройство мгновенного действия (например радиочастотный модуль) содержатся в первом измерительном устройстве, прикрепленном к первой части тела, а один или более акустических приемников и другое коммуникационное устройство мгновенного действия содержатся во втором измерительном устройстве, прикрепленном ко второй части тела. Оба этих устройства, очевидно, можно поменять ролями.
Об акустическом импульсе от каждого излучателя в системе оповещает коммуникационное устройство, находящееся на том же измерительном устройстве, после чего немедленно производится запуск импульса. Когда коммуникационное устройство в устройстве с акустическим приемником принимает оповещение, таймер начинает отсчитывать время до момента, в который акустический приемник детектирует входящий импульс. Время прохождения импульса при известной скорости акустического сигнала используется для вычисления расстояния между двумя устройствами. Должно быть понятно, что и другие устройства, способные вычислять расстояние (например, с использованием ультраширокополосных или визуальных сигналов), могут заменить акустическое устройство, описанное применительно к этому варианту.
По меньшей мере три акустических излучателя поочередно генерируют подобный импульс, взаимодействуя по меньшей мере с одним акустическим приемником, или по меньшей мере один акустический излучатель и три акустических приемника обеспечивают три различных измерения расстояний. Знание относительного положения по меньшей мере трех излучателей, жестко прикрепленных к одному устройству, обеспечивает, вместе с измерением расстояний, достаточно информации, чтобы вычислить относительное положение между устройствами посредством триангуляции. Вариант, в котором один излучатель обслуживает три приемника, иллюстрируется фиг. 3. Очевидно, в одном или в другом устройстве могут использоваться произвольные комбинации излучателей и приемников.
В другом варианте блок для измерения расстояния дополняется другим блоком, способным определять углы, задающие относительное направление между референтным и отслеживаемым устройствами и выраженные, например, в сферических координатах. Примером такого блока мог бы служить датчик изображения, прикрепленный к референтному устройству или к отслеживаемому устройству, и отслеживаемый элемент, например СД, прикрепленный к другому устройству. Датчик изображения способен отслеживать координаты проецируемого изображения СД, которые задают два угла между вектором, направленным от центра датчика изображения к СД, и нормалью к датчику изображения. Определенное такие образом направление от датчика изображения к СД в сочетании с расстоянием, полученным блоком для измерения расстояния, определяют относительное положение двух устройств.
Должно быть понятно, что изобретение защищает не только конкретные упомянутые признаки, такие как, например, СД и датчик изображения, работающие в видимом спектре, но и устройства, работающие в любой другой области длин волн (например в инфракрасной). Далее, вместо использования единственного СД, может применяться конфигурация СД или любых других устройств, пригодных для отслеживания нужных компонентов, увеличивая, тем самым, стабильность подхода.
Если паттерн компонента известен, подходы на базе компьютерного видения могут быть использованы для вычисления расстояния путем анализа, например, размера признака (компонента) в изображении пространства. Это приводит к следующему подходу, в котором размер признака используется как измерение расстояния, а локализация признака (компонента) - как еще одно измерение, обеспечивающее информацию, достаточную для вычисления относительного положения устройств.
Альтернативно, оптическое измерение расстояния может сопровождаться другими измерениями расстояния.
Объем пунктов прилагаемой формулы необязательно ограничивается описанными выше конкретными признаками; однако, описанные примеры и варианты, как и другие (например альтернативные) признаки, охватываются признаками формулы.