СПОСОБ И СИСТЕМА ДЛЯ МЕДИЦИНСКОГО МОДЕЛИРОВАНИЯ В ОПЕРАЦИОННОЙ КОМНАТЕ В СРЕДЕ ВИРТУАЛЬНОЙ РЕАЛЬНОСТИ ИЛИ ДОПОЛНЕННОЙ РЕАЛЬНОСТИ
METHOD AND SYSTEM FOR MEDICAL SIMULATION IN OPERATING ROOM IN VIRTUAL REALITY OR AUGMENTED REALITY ENVIRONMENT

Перекрестная ссылка на родственную заявку
[0000] Эта заявка на патент испрашивает приоритет находящейся одновременно на рассмотрении предварительной заявки на патент (США) 62/401,517, поданной 29 сентября 2016 года, содержимое которой настоящим полностью содержится в данном документе по ссылке.
Область техники, к которой относится изобретение
[0001] Изобретение, в общем, относится к медицинским моделированиям (симуляциям), используемым для обучения медицинского персонала. В частности, изобретение относится к медицинскому моделированию в среде виртуальной реальности или дополненной реальности, которая представляет стажеру опыт работы в операционной комнате.
Уровень техники
[0002] В настоящее время, медицинские симуляторы могут использоваться для обучения медицинского персонала. Например, стажер (например, врач) может использовать компьютер для того, чтобы выполнять моделируемую компьютером хирургию. Моделируемая компьютером хирургия может включать в себя экран отображения, который отображает изображения, надлежащие для конкретной хирургии, и инструменты (например, тактильные инструменты), которыми стажер может манипулировать для того, чтобы моделировать хирургический опыт.
[0003] Например, допустим, что врач хочет моделировать оперирование закупоренной сердечной артерии пациента. Врач может иметь набор тактильных инструментов, которые соответствуют инструментам, которые врач использует в реальной хирургии. Врач выбирает на вычислительном устройстве моделирование, которое соответствует хирургии закупоренного сердца. Вычислительное устройство отображает на экране кожу пациента. Врач затем может использовать один инструмент из набора инструментов для того, чтобы делать открытый разрез на пациенте посредством ручного манипулирования тактильным инструментом. Инструмент может включать в себя датчики, которые считывают манипуляции врачей, отправляют информацию в компьютерное моделирование, и компьютерное моделирование может отображать изображения, которые соответствуют перемещениям, считываемым посредством инструментов. Некоторые общие инструменты, используемые для медицинских моделирований, включают в себя эндоскопы, лапароскопы и/или другое машинное оборудование операционной комнаты.
[0004] Одна трудность с современными симуляторами состоит в том, что они типично не предоставляют стажеру реалистичный опыт нахождения в операционной комнате. Во время реальных операций, может возникать множество отвлекающих факторов для хирурга и другого медицинского персонала. Например, хирург может вызываться по подвесной вызывной системе. Медсестра может ронять инструмент, передаваемый врачу, в крайне важный момент времени. Современные обучающие медицинские симуляторы могут быть ограничены в том, что они типично не предоставляют стажеру реалистичный опыт.
[0005] Следовательно, может быть желательным иметь систему, которая может предоставлять стажеру-медику реалистичный опыт во время обучения.
Сущность изобретения
[0006] Одно преимущество изобретения может включать в себя предоставление стажеру реального опыта через выполнение моделирования медицинских процедур в операционной комнате виртуальной реальности или дополненной реальности. Другое преимущество изобретения может включать в себя возможность одновременной работы нескольких стажеров в операционной комнате виртуальной реальности (или дополненной реальности), работающих с одним и тем же моделированием.
[0007] Другое преимущество изобретения может включать в себя возможность предоставлять вид медицинского моделирования процедуры на аватаре, который находится внутри сцены операционной комнаты виртуальной реальности или дополненной реальности, так что стажер получает опыт в оперировании аватара. Другое преимущество изобретения может включать в себя возможность иметь двух стажеров в моделировании, работающих удаленно в идентичном моделировании.
[0008] Другое преимущество изобретения состоит в том, что голосовые команды могут приниматься и включаться в качестве ввода в моделирование.
[0009] В одном аспекте, изобретение включает в себя систему для моделирования медицинских процедур в операционной комнате виртуальной реальности для обучения стажера. Система может включать в себя устройство пользовательского ввода для выбора стажером типа медицинской процедуры для моделирования. Система также может включать в себя медицинский инструмент, включающий в себя датчик движения и датчик касания, причем медицинский инструмент предназначен для того, чтобы стажер вручную манипулировал им во время моделирования. Система также может включать в себя систему моделирования медицинских процедур для того, чтобы принимать ввод из устройства пользовательского ввода и медицинского инструмента для того, чтобы выполнять моделирование выбранной медицинской процедуры. Система также может включать в себя систему моделирования виртуальной реальности, соединенную с системой моделирования медицинских процедур для того, чтобы визуализировать i) сцену операционной комнаты виртуальной реальности, которая соответствует типу медицинской процедуры для моделирования, и ii) моделирование выбранной медицинской процедуры в сцену виртуальной реальности. Система также может включать в себя гарнитуру виртуальной реальности, соединенную с системой моделирования виртуальной реальности для просмотра стажером сцены виртуальной реальности.
[0010] В некоторых вариантах осуществления, система включает в себя модуль установления соединения, который передает информацию между системой моделирования медицинских процедур и системой моделирования виртуальной реальности таким образом, что сцена виртуальной реальности соответствует выводу моделирования медицинских процедур.
[0011] В некоторых вариантах осуществления, информация, передаваемая из моделирования виртуальной реальности в моделирование медицинских процедур, содержит информацию относительно того, куда стажер смотрит в операционной комнате, анимационную информацию медицинских инструментов, информацию медицинских процедур, которая изменяется в моделировании виртуальной реальности, и/или любую комбинацию вышеозначенного.
[0012] В некоторых вариантах осуществления, информация, передаваемая из моделирования медицинских процедур в моделирование виртуальной реальности, содержит обновления медицинского моделирования, позицию тактильного медицинского инструмента, ориентацию тактильного медицинского инструмента, тип тактильного медицинского инструмента и/или любую комбинацию вышеозначенного.
[0013] В некоторых вариантах осуществления, обновления медицинского моделирования включают в себя поведение пациента, изменения, которые затрагивают показатели жизненно-важных функций, изменения, которые затрагивают поведение аватара виртуальной реальности, или любую комбинацию вышеозначенного. В некоторых вариантах осуществления, система включает в себя модуль голосовой активации, который может принимать голосовые команды от стажера и преобразует голосовые команды в информацию, которая должна передаваться в медицинское моделирование.
[0014] В некоторых вариантах осуществления, система включает в себя второе устройство пользовательского ввода для участия второго стажера в моделировании, второй медицинский инструмент для того, чтобы второй стажер вручную манипулировал им во время моделирования, вторую систему моделирования медицинских процедур, соединенную с системой моделирования медицинских процедур с возможностью: i) принимать ввод из второго устройства пользовательского ввода и второго медицинского инструмента и ii) обмениваться данными с системой моделирования медицинских процедур для того, чтобы участвовать в моделировании, вторую систему моделирования виртуальной реальности, соединенную со второй системой моделирования медицинских процедур для того, чтобы визуализировать сцену операционной комнаты виртуальной реальности, которая соответствует сцене операционной комнаты виртуальной реальности системы моделирования виртуальной реальности, и вторую гарнитуру виртуальной реальности, соединенную с системой моделирования виртуальной реальности для просмотра стажером сцены виртуальной реальности.
[0015] В другом аспекте, изобретение заключает в себе способ для моделирования медицинских процедур в операционной комнате виртуальной реальности для обучения стажера. Способ заключает в себе прием, через устройство пользовательского ввода, типа медицинской процедуры для моделирования. Способ также заключает в себе прием, через медицинский инструмент, включающий в себя датчик движения и датчик касания, считываемого движения и касания стажера. Способ также заключает в себе выполнение, посредством системы моделирования медицинских процедур, моделирования выбранной медицинской процедуры на основе принимаемого типа медицинской процедуры и считываемого движения и касания стажера. Способ также заключает в себе визуализацию, посредством системы моделирования виртуальной реальности, соединенной с системой моделирования медицинских процедур, i) сцены операционной комнаты виртуальной реальности, которая соответствует типу медицинской процедуры для моделирования, и ii) моделирования выбранной медицинской процедуры в сцену виртуальной реальности. Способ также заключает в себе отображение, посредством гарнитуры виртуальной реальности, соединенной с системой моделирования виртуальной реальности, сцены виртуальной реальности.
[0016] В некоторых вариантах осуществления, способ заключает в себе передачу информации между системой моделирования медицинских процедур и системой моделирования виртуальной реальности таким образом, что сцена виртуальной реальности соответствует выводу моделирования медицинских процедур. В некоторых вариантах осуществления, информация, передаваемая из моделирования виртуальной реальности в моделирование медицинских процедур, содержит информацию относительно того, куда стажер смотрит в операционной комнате, анимационную информацию медицинских инструментов, информацию медицинских процедур, которая изменяется в моделировании виртуальной реальности, и/или любую комбинацию вышеозначенного.
[0017] В некоторых вариантах осуществления, информация, передаваемая из моделирования медицинских процедур в моделирование виртуальной реальности, содержит обновления медицинского моделирования, позицию тактильного медицинского инструмента, ориентацию тактильного медицинского инструмента, тип тактильного медицинского инструмента и/или любую комбинацию вышеозначенного. В некоторых вариантах осуществления, обновления медицинского моделирования включают в себя поведение пациента, изменения, которые затрагивают показатели жизненно-важных функций, изменения, которые затрагивают поведение аватара виртуальной реальности, или любую комбинацию вышеозначенного.
[0018] В некоторых вариантах осуществления, способ заключает в себе прием голосовых команд от стажера и преобразование голосовых команд в информацию, которая должна использоваться в медицинском моделировании.
[0019] В некоторых вариантах осуществления, способ заключает в себе прием, через второе устройство пользовательского ввода, запроса на участие второго стажера в моделировании, прием, через второй медицинский инструмент, информации считываемого движения и касаний, прием, через вторую систему моделирования медицинских процедур, ввода из второго устройства пользовательского ввода и второго медицинского инструмента, обмен данными, через вторую систему моделирования медицинских процедур, с системой моделирования медицинских процедур для того, чтобы участвовать в моделировании, визуализацию, через вторую систему моделирования виртуальной реальности, второй сцены операционной комнаты виртуальной реальности, которая соответствует сцене операционной комнаты виртуальной реальности системы моделирования виртуальной реальности, и отображение, через вторую гарнитуру виртуальной реальности, второй сцены операционной комнаты виртуальной реальности второму стажеру.
Краткое описание чертежей
[0020] Ниже описываются неограничивающие примеры вариантов осуществления раскрытия со ссылкой на чертежи, прилагаемые к настоящему документу, которые перечислены после этого параграфа. Идентичные признаки, которые появляются более чем на одном чертеже, в общем, помечаются идентичной меткой на всех чертежах, на которых они появляются. Метка, помечающая значок, представляющий данный признак варианта осуществления раскрытия на чертеже, может использоваться для того, чтобы ссылаться на данный признак. Размеры признаков, показанных на чертежах, выбираются для удобства и ясности представления и не обязательно показаны в масштабе.
[0021] Предмет изучения, рассматриваемый как изобретение, конкретно показан и ясно заявлен в заключительной части подробного описания. Тем не менее, изобретение, в отношении как организации, так и способа работы, вместе с целями, признаками и преимуществами, может лучше пониматься со ссылкой на нижеприведенное подробное описание при прочтении вместе с прилагаемыми чертежами. Варианты осуществления изобретения проиллюстрированы в качестве примера, а не ограничения на прилагаемых чертежах, на которых аналогичные ссылки с номерами указывают соответствующие, аналогичные или аналогичные элементы, и на которых:
[0022] Фиг. 1 показывает блок-схему системы для моделирования медицинских процедур в операционной комнате виртуальной реальности для обучения стажера, согласно иллюстративному варианту осуществления изобретения;
[0023] Фиг. 2 показывает блок-схему ведущей и ведомой системы для моделирования медицинских процедур в операционной комнате виртуальной реальности для обучения стажера, согласно иллюстративному варианту осуществления изобретения;
[0024] Фиг. 3 показывает блок-схему последовательности операций способа для моделирования медицинских процедур в операционной комнате виртуальной реальности для обучения стажера, согласно иллюстративному варианту осуществления изобретения; и
[0025] Фиг. 4a-4f являются схемами, показывающими примеры стажера с использованием системы моделирования по фиг. 1, 2 или способа по фиг. 3, согласно иллюстративным вариантам осуществления изобретения.
[0026] Следует принимать во внимание, что для простоты и понятности иллюстрации элементы, показанные на чертежах, не обязательно нарисованы точно или в масштабе. Например, размеры некоторых элементов могут быть чрезмерно увеличены относительно других элементов для прозрачности, либо несколько физических компонентов могут быть включены в один функциональный блок или элемент. Дополнительно, если считается надлежащим, ссылки с номерами могут повторяться между чертежами, чтобы указывать соответствующие или аналогичные элементы.
Подробное описание изобретения
[0027] В нижеприведенном подробном описании, множество конкретных подробностей поясняются для того, чтобы предоставлять полное понимание изобретения. Тем не менее, специалисты в данной области техники должны понимать, что изобретение может осуществляться на практике без этих конкретных подробностей. В других случаях, известные способы, процедуры и компоненты, модули, блоки и/или схемы не описываются подробно, с тем чтобы не затруднять понимание изобретения. Некоторые признаки или элементы, описанные относительно одного варианта осуществления, могут комбинироваться с признаками или элементами, описанными относительно других вариантов осуществления. Для понятности, пояснение идентичных либо аналогичных признаков или элементов не может повторяться.
[0028] Хотя варианты осуществления изобретения не ограничены в этом отношении, пояснения с использованием таких терминов, как, например, "обработка", "вычисление (computing)", "вычисление (calculating)", "определение", "установление", "анализ", "проверка" и т.п., могут означать операцию(и) и/или процесс(ы) компьютера, вычислительной платформы, вычислительной системы или другого электронного вычислительного устройства, которое манипулирует и/или преобразует данные, представленные в качестве физических (например, электронных) величин в регистрах и/или запоминающих устройствах компьютера, в другие данные, аналогично представленные в качестве физических величин в регистрах и/или запоминающих устройствах компьютера или другого энергонезависимого носителя хранения информации, который может сохранять инструкции для того, чтобы выполнять операции и/или процессы. Хотя варианты осуществления изобретения не ограничены в этом отношении, термины "множество (plurality)" и "множество (a plurality)" при использовании в данном документе могут включать в себя, например, "несколько" либо "два или больше". Термины "множество (plurality)" или "множество (a plurality)" могут использоваться во всем подробном описании, чтобы описывать два или более компонентов, устройств, элементов, блоков, параметров и т.п. Набор терминов при использовании в данном документе может включать в себя один или более элементов. Если не указано в явной форме, варианты осуществления способа, описанные в данном документе, не ограничены конкретным порядком или последовательностью. Дополнительно, некоторые описанные варианты осуществления способа либо их элементы могут возникать или выполняться одновременно, в идентичный момент времени или параллельно.
[0029] В общем, предусмотрена система, которая может обеспечивать возможность медицинскому симулятору предоставлять моделирование медицинских процедур для стажера в виртуальной реальности. Система может включать в себя систему моделирования медицинских процедур, которая обменивается данными с системой моделирования виртуальной реальности (VR). Стажер (например, пользователь) может взаимодействовать с медицинским симулятором через один или более медицинских (например, хирургических) инструментов и получать опыт медицинского моделирования в виртуальной реальности (или дополненной реальности). Система VR-моделирования может использовать гарнитуру/очки для того, чтобы представлять VR-сцену операционной комнаты стажеру. VR-сцена операционной комнаты может включать в себя операционный стол, мониторы показателей жизненно-важных функций и/или любое оборудование, которое может присутствовать в реальной операционной комнате.
[0030] Пациент (например, аватар или бот), подлежащий оперированию, также может появляться в сцене операционной комнаты. Система моделирования медицинских процедур может принимать вводы из медицинских инструментов, и по мере того, как система моделирования медицинских процедур выполняет моделирование, информация моделировании медицинских процедур может использоваться посредством системы VR-моделирования для того, чтобы визуализировать моделирование медицинских процедур на VR-пациенте. Пациент может реагировать на манипулирование стажером с одним или более хирургических инструментов во время моделирования.
[0031] В общем, система может приспосабливать несколько стажеров в одном моделировании. Например, хирург-стажер может получать опыт моделирования при моделировании кардиохирургии на пациенте (например, аватаре), и медсестра-стажер может помогать хирургу-стажеру. Хирург видит медсестру-стажера, проиллюстрированную в качестве бота в VR-сцене, и медсестра-стажер видит хирурга, проиллюстрированного в качестве бота в VR-сцене. Хирург-стажер может использовать тактильные инструменты, ассоциированные с симулятором медицинских процедур, и во время моделирования, медсестра-стажер может передавать хирургу-стажеру виртуальные инструменты в VR-сцене.
[0032] В некоторых вариантах осуществления, система моделирования дополненной реальности (AR) используется вместо системы VR-моделирования. В этих вариантах осуществления, AR-сцена представляется стажеру. AR-сцена может включать в себя любые объекты, которые типично содержатся в реальной операционной комнаты.
[0033] Фиг. 1 показывает блок-схему системы для моделирования медицинских процедур в операционной комнате виртуальной реальности (или дополненной реальности) для обучения стажера, согласно иллюстративному варианту осуществления изобретения. Система включает в себя устройство 105 ввода, систему 110 моделирования медицинских процедур, систему 115 моделирования виртуальной реальности и/или дополненной реальности (VR/AR), модуль 120 установления соединения, медицинский инструмент 125, гарнитуру 135 виртуальной реальности. Для простоты, пояснение относительно фиг. 1 акцентирует внимание на системе VR-моделирования. Тем не менее, как очевидно для специалистов в данной области техники, система моделирования может представлять собой виртуальную реальность или дополненную реальность.
[0034] Модуль 120 установления соединения может обеспечивать поток информации между системой 115 VR-моделирования и системой 110 моделирования медицинских процедур. Например, вводы, принимаемые посредством системы 115 VR-моделирования и/или модификации VR-сцены операционной комнаты, могут предоставляться в модуль 120 установления соединения. Вводы, принимаемые посредством системы 110 моделирования медицинских процедур, и/или информация состояния медицинской процедуры могут предоставляться в модуль 120 установления соединения. Модуль 120 установления соединения может представлять собой файл с распределением запоминающего устройства, один или более контейнеров, каналы сокетной TCP/IP-связи либо любую комбинацию вышеозначенного.
[0035] Система 110 моделирования медицинских процедур может соединяться с устройством 105 ввода, медицинским инструментом 125, чтобы принимать один или более вводов. Медицинский инструмент может представлять собой устройство, которое может считывать движение и касание стажера. Медицинский инструмент 125 может представлять собой устройство, которое допускает прием тактильных вводов. Например, медицинский инструмент 125 может представлять лапароскопический троакар или GI-/бронхоскопические инструменты. Устройство 105 ввода может представлять собой планшетный компьютер, смартфон, персональный компьютер, устройство с сенсорным экраном либо любую комбинацию вышеозначенного.
[0036] Система 110 моделирования медицинских процедур также может соединяться с системой 115 VR-моделирования через модуль 120 установления соединения. Система 110 моделирования медицинских процедур может включать в себя центральный процессор и/или графический процессор. Система 110 моделирования медицинских процедур может включать в себя двумерный экран. Система 110 моделирования медицинских процедур может моделировать медицинские процедуры, как показано, например, в патенте (США) номер 7850456, который полностью содержится в данном документе по ссылке.
[0037] Система 110 моделирования медицинских процедур может включать в себя модуль 111a выбора хирургических инструментов, модуль 111b связи с планшетным компьютером, модуль 111c управления связью, модуль 111d реакции при отслеживании в виртуальной реальности (VR)/дополненной реальности (AR) и/или модуль 111e отслеживания хирургических процедур.
[0038] Модуль 111b связи с планшетным компьютером может принимать ввод от стажера. Ввод может включать в себя ввод, который связан с VR/AR и/или медицинским моделированием. Например, стажер может выбирать конкретную медицинскую процедуру для моделирования и/или указывать число участников моделирования. В некоторых вариантах осуществления, инспектор, наблюдающий за обучением, может вносить дополнения в моделирование и принимать информацию из моделирования через планшетный компьютер. Например, инспектор может вводить повреждение, и моделирование может выполнять отображение инспектору через состояние стола (например, состояние структуры сосудов, и/или когда повреждение является управляемым или неуправляемым).
[0039] Выбранная медицинская процедура может совместно использоваться с системой 115 VR-моделирования таким образом, что система VR/AR-моделирования может визуализировать окружение операционной комнаты, которое соответствует выбранной медицинской процедуре.
[0040] Модуль 111a выбора хирургических инструментов может определять один или более хирургических инструментов (например, тактильных инструментов или виртуальных инструментов), которые могут использоваться в моделировании медицинских процедур на основе выбранной медицинской процедуры. Один или более хирургических инструментов могут представлять собой виртуальные или тактильные инструменты. Модуль 111a выбора хирургических инструментов также может определять то, какие хирургические инструменты могут быть доступными в моделировании на основе потенциальных точек входа инструментов на оперируемом аватаре в моделировании. Например, точки входа инструментов троакаров, открытые надрезы и/или полости тела. Например, артериальная точка входа для стента или катетера может указывать то, что лапароскопический троакар может быть доступным. В другом примере, для ультразвукового моделирования, может задаваться доступным ультразвуковой зонд. Модуль 111a выбора хирургических инструментов может включать в себя состояние хирургических инструментов для одного или более хирургических инструментов в медицинском моделировании. Например, состояние хирургических инструментов в отношении того, находятся инструменты в данный момент внутри/за пределами тела пациента, того, выбран или нет конкретный инструмент для конкретной точки входа, позиции инструмента, ориентации инструмента и/или свойства инструмента (например, типа и/или названия). Модуль 111a выбора хирургических инструментов также может принимать информацию состояния хирургических инструментов из системы 1115 VR/AR-моделирования; например, смену хирургического инструмента во время медицинской процедуры, причем смена выполняется с тактильного инструмента на виртуальный инструмент.
[0041] Модуль 111d реакции при VR/AR-отслеживании может модифицировать медицинское моделирование на основе перемещений головы стажера, считываемых посредством гарнитуры 135 виртуальной реальности. Например, если пользователь пристально смотрит на один элемент пользовательского интерфейса в VR-сцене в течение более 5 секунд, информация пристального взгляда может отправляться в систему медицинского моделирования. В других примерах, если количество анестезирующих средств изменяется в системе мониторинга в VR, либо если энергетический уровень для электрокаутеризационного инструмента изменяется перед применением к ткани, эта информация может отправляться в систему медицинского моделирования таким образом, что моделирование может модифицироваться.
[0042] В некоторых вариантах осуществления, стажер может носить VR/AR-перчатку(и) (не показаны), которые могут считывать движения руками стажера. В этих вариантах осуществления, модуль 111d реакции при VR/AR-отслеживании может модифицировать медицинское моделирование на основе считываемого перемещения перчаток.
[0043] Модуль 111e отслеживания хирургических процедур может отслеживать состояние моделирования медицинских процедур и может предоставлять состояние хирургической процедуры, которое должно сообщаться в систему 115 VR/AR-моделирования. Состояние хирургической процедуры может включать в себя изменения пациента (например, аватара) во время моделирования медицинских процедур. Например, если стажер вставляет инструмент таким способом, который приводит к тому, что тело аватара (например, тело пациента) реагирует (например, перемещается, кровоточит и/или дрожат), изменения показателей жизненно-важных функций аватара, перемещение брюшной полости с реакцией на перемещение зародыша внутри таким образом, что ультразвуковой вид изменяется, и/или электрический инструмент может неправильно функционировать в середине хирургического вмешательства таким образом, что сообщение отображается в VR-сцене.
[0044] Модуль 111c управления связью может передавать информацию из модулей, показанных в системе 110 моделирования медицинских процедур, в модуль 120 установления соединения. Модуль 111c управления связью может передавать информацию, как только она становится доступной, либо с определенной частотой.
[0045] В некоторых вариантах осуществления, система 110 моделирования медицинских процедур включает в себя компонент распознавания голоса, чтобы принимать голосовой ввод от пользователя. Например, если стажер объявляет "выбрать скальпель", система 110 моделирования медицинских процедур может принимать этот аудиоввод, распознавать контент аудиоввода (например, через технологии распознавания голоса, известные в данной области техники), и система 110 моделирования медицинских процедур может обновлять инструмент, используемый в данный момент, в качестве местоположения входа левого троакара, и/или удалять предыдущий инструмент из моделирования. VR/AR-аватар медсестры может повторять название и местоположение инструмента собственным голосом, и аватар медсестры может отображаться стажеру как получающий надлежащий инструмент и передающий его в VR-руку стажера или надлежащее местоположение на теле пациента (например, аватара).
[0046] Система 115 VR-моделирования может соединяться с гарнитурой 135 виртуальной реальности. Гарнитура виртуальной реальности может представлять собой гарнитуру виртуальной реальности, известную в данной области техники. Например, гарнитура виртуальной реальности может представлять собой Oculus Rift, HTC Vive или Samsung Gear VR. Как очевидно для специалистов в данной области техники, для вариантов осуществления, в которых система 115 VR-моделирования включает в себя только AR, гарнитура 135 виртуальной реальности может представлять собой только AR-гарнитуру (например, AR-очки), например, Microsoft Hololens либо любую гарнитуру AR-реальности, известную в данной области техники.
[0047] Система 115 VR-моделирования может включать в себя модуль 116a отслеживания перемещения головы/рук аватара, модуль 116b реакции при VR/AR-отслеживании, модуль 116c реакции при хирургической процедуре, модуль 116d визуализации перемещения ручек инструментов, модуль 116e обработки отвлекающих факторов при процедуре, модуль 116f выбора хирургических инструментов, модуль 116g обработки показателей жизненно-важных функций, модуль 116h обработки поведения пациента либо любую комбинацию вышеозначенного.
[0048] Модуль 116b реакции при VR/AR-отслеживании может инструктировать VR-сцене реагировать на перемещения головы стажера, считываемые посредством гарнитуры 135 виртуальной реальности. Например, если стажер поворачивает голову налево, VR-сцена может показывать левую сторону операционной комнаты. Если стажер наклоняется к аватару (например, пациенту), например, чтобы более четко видеть надрез на пациенте, VR-сцена может показывать надрез в масштабе, аналогичном тому опыту, который имеет человек на практике.
[0049] Модуль 116c реакции при хирургической процедуре может принимать информацию состояния хирургической процедуры из системы 111 моделирования медицинских процедур (например, через модуль отслеживания хирургических процедур). Модуль 116c реакции при хирургической процедуре может инструктировать VR-сцене модифицироваться согласно состоянию хирургической процедуры. Модуль 116c реакции при хирургической процедуре может включать в себя хирургическое состояние, которое осуществляется посредством VR-сцены операционной комнаты. Например, если второй стажер опрокидывает стол на открытую рану аватара.
[0050] Модуль 116f выбора хирургических инструментов может принимать информацию состояния хирургических инструментов из системы 110 моделирования медицинских процедур. Информация состояния хирургических инструментов может включать в себя скорость вставки в тело или ориентацию инструментов. Информация состояния хирургических инструментов может представлять собой любую информацию, которая связана с используемым инструментом. Информация состояния хирургических инструментов может представлять собой информацию, которая связана с конкретным инструментом. Например, лапароскопический сшиватель/отсекатель может включать в себя картридж с индикатором счетчика состояний сшивания/отсеканий, который может обновляться, когда инструмент запущен.
[0051] Система 115 VR-моделирования может модифицировать VR/AR-сцену операционной комнаты на основе информации состояния хирургических инструментов. Например, VR/AR-моделирование может визуализировать хирургический инструмент в VR/AR-сцене в местоположении, которое коррелируется с позицией хирургического инструмента в моделировании 110 медицинских процедур. Модуль 116f выбора хирургических инструментов может отправлять состояние виртуальных хирургических инструментов в систему 110 моделирования медицинских процедур.
[0052] Модуль 116e обработки отвлекающих факторов при процедуре может случайно активировать отвлекающие факторы, которые могут изменять поведение стажера. Например, хирург-стажер может вызываться в VR-сцене операционной комнаты, или дверь может открываться, и сотрудник может задавать вопрос боту в операционной бригаде, часть персонала (например, боты или другие участники) могут начинать разговаривать, и/или медсестра может подавать инструмент, отличный от того, который указан.
[0053] Модуль 116g обработки показателей жизненно-важных функций может модифицировать VR-сцену операционной комнаты на основе информации показателей жизненно-важных функций из системы 110 моделирования медицинских процедур. Например, VR-сцена операционной комнаты может включать в себя один или более мониторов показателей жизненно-важных функций, которые могут отображать информацию показателей жизненно-важных функций (например, импульс, температуру и/или уровень кислорода). Поведение аватара может соответствовать показателям жизненно-важных функций. Например, в случае повреждения крупного сосуда, может отображаться внезапное снижение кровяного давления.
[0054] Модуль 116h обработки поведения пациента может модифицировать внешний вид аватаров на основе состояния хирургической процедуры из системы 110 моделирования медицинских процедур. Например, VR-аватар может появляться как имеющий кровотечение, имеющий учащенное сердцебиение и/или сдувание живота.
[0055] В некоторых вариантах осуществления, второй стажер может участвовать в моделировании через вторую систему. В этих вариантах осуществления, система 110 VR/AR-моделирования может принимать вводы и/или выводить информацию во вторую систему. Модуль 116d визуализации перемещения ручек инструментов может принимать информацию инструментов из второй системы и определять то, какую информацию инструментов следует отображать в VR-сцене операционной комнаты.
[0056] Модуль 116a отслеживания перемещения головы/рук аватара может принимать информацию перемещения головы и/или рук из второй системы и визуализировать это перемещение в VR-сцене для стажера первой системы.
[0057] Стажер и/или аватар в VR/AR-сцене может представлять собой медицинский персонал, включающий в себя медсестер, врачей, помощников врачей, медицинский персонал, связанный с определенными процедурами (например, врача компании-изготовителя средств для замены тазобедренных суставов, который отслеживает хирургию для замены тазобедренных суставов).
[0058] Фиг. 2 показывает блок-схему ведущей и ведомой системы для моделирования медицинских процедур в операционной комнате виртуальной реальности для обучения стажера, согласно иллюстративному варианту осуществления изобретения. Система может включать в себя ведущую систему 205, ведомую систему 210 и модуль 215 межсистемной связи.
[0059] Модуль 215 межсистемной связи может обеспечивать поток информации между ведущей системой 205 и ведомой системой 210. Модуль 215 межсистемной связи может представлять собой файл с распределением запоминающего устройства, конвейер, TCP/IP-сокет.
[0060] Ведущая система 205 может включать в себя устройство 225 ввода, систему 230 моделирования медицинских процедур, систему 235 моделирования виртуальной реальности и/или дополненной реальности (VR/AR), модуль 240 установления соединения, медицинский инструмент 245 и/или гарнитуру 250 виртуальной реальности. Ведомая система 210 может включать в себя устройство 255 ввода, систему 260 моделирования медицинских процедур, систему 265 моделирования виртуальной реальности и/или дополненной реальности (VR/AR), модуль 270 установления соединения, медицинский инструмент 275 и/или гарнитуру 280 виртуальной реальности. Модули ведущей системы 205 и/или ведомой системы 220 могут работать идентичным способом, как описано выше относительно фиг. 1.
[0061] В ходе работы, первый стажер может выполнять моделирование в ведущей системе 205. Ведущая система 205 может инициировать сервер и может ожидать соединения из ведомой системы 210. Второй стажер может выполнять моделирование в ведомой системе 210. Второй стажер может указывать в ведомой системе 210 то, что она должна работать в ведомом режиме. Модуль 215 межсистемной связи может инициировать связь между ведущей системой 205 и ведомой системой 210. Ведущая система 205 передает состояние моделирования медицинских операций и состояние VR/AR-моделирования в ведомую систему 210. Например, голосовые вводы, вводы перемещения инструментов, перемещения при VR/AR-отслеживании. Ведомая система 210 может передавать состояние моделирования медицинских операций и состояние VR/AR-моделирования в ведущую систему 205. Ведомая система 210 и ведущая система 205 могут принимать соответствующие вводы и обновлять их соответствующие системы моделирования медицинских операций и системы VR/AR-моделирования с межсистемной информацией.
[0062] Модуль 215 межсистемной связи может представлять собой файл с распределением запоминающего устройства, который может совместно использовать информацию между двумя процессами, даже если, например, они находятся на различных терминальных сеансах.
[0063] В некоторых вариантах осуществления, несколько ведомых систем моделирования соединяются с ведущей системой моделирования. Таким образом, 3, 4 и/или любые число стажеров могут участвовать в данном моделировании процедур.
[0064] Фиг. 3 показывает блок-схему последовательности операций способа для моделирования медицинских процедур в операционной комнате виртуальной реальности для обучения стажера. Способ заключает в себе прием (например, через устройство 105 ввода, как описано выше на фиг. 1) типа медицинской процедуры для моделирования (этап 310). Тип медицинской процедуры может указываться стажером, человеком, который хочет отслеживать стажера (например, преподавателем), или любым другим пользователем. Тип медицинской процедуры может представлять собой хирургию, диагностические процедуры с использованием ультразвука и/или других модальностей визуализации, анестезию, вмешательство в сердечно-сосудистую систему и/или лечение в кабинете неотложной помощи.
[0065] Хирургия может выполняться для младенца, ребенка и/или взрослого. В некоторых вариантах осуществления, хирургия выполняется для животного. В некоторых вариантах осуществления, как только медицинская процедура указывается, сцена виртуальной реальности или сцена в стиле дополненной реальности, которая соответствует указываемой медицинской процедуре, визуализируется и представляется стажеру посредством VR/AR-гарнитуры.
[0066] Способ также может заключать в себе прием (например, через медицинский инструмент 125, как описано выше на фиг. 1) считываемого движения и касания стажера (этап 320). Стажер может носить VR/AR-перчатки или держать инструмент, имеющий один или более датчиков для считывания касания и движения.
[0067] Способ также может заключать в себе выполнение моделирования выбранной медицинской процедуры (например, через систему 110 моделирования медицинских процедур, как описано выше на фиг. 1) на основе принимаемого типа медицинской процедуры и считываемого движения и касания стажера (этап 330). По мере того, как стажер перемещает инструмент, моделирование может принимать информацию местоположений и датчиков из инструмента. Моделирование может интерпретировать перемещение и касание и модифицировать вывод моделирования на основе этого перемещения и касания. Например, стажер может оперировать моделированное сердце. Если стажер медленно перемещает инструмент около артерии, как показано в VR/AR-гарнитуре, моделирование может интерпретировать это перемещение как вызывающее медленно выполняемый разрез на сердце. Моделирование может приводить к тому, что сердце кровоточит или выглядит открытым в зависимости от местоположения и касания.
[0068] Способ также может заключать в себе визуализацию (например, через систему 115 VR/AR-моделирования) сцены операционной комнаты виртуальной реальности, которая соответствует типу медицинской процедуры для моделирования (этап 340). Операционная комната виртуальной реальности может визуализироваться на скорости между 90 и 120 кадрами в секунду.
[0069] Способ также может заключать в себе визуализацию (например, через систему 115 VR/AR-моделирования) моделирования выбранной медицинской процедуры в сцену виртуальной реальности (этап 350). Визуализация для моделирования может выполняться на аватаре в VR/AR-сцене. Аватар может соответствовать типу процедуры (например, шунтированию ребенка).
[0070] Способ также может заключать в себе отображение (например, через гарнитуру 135 виртуальной реальности) сцены виртуальной реальности (этап 360). В некоторых вариантах осуществления, способ включает в себя отображение через AR-гарнитуру AR-сцены.
[0071] В некоторых вариантах осуществления, стажер выбирает процедуру с ассистированием для моделирования. Например, во время моделирования медицинской процедуры на VR/AR-аватаре, стажер с использованием VR/AR-гарнитуры и тактильного инструмента может наводить тактильный инструмент на часть тела VR/AR-аватара. Второй аватар (например, медсестра-бот и/или анестезиолог-бот) в VR-сцене может инструктировать пользователю (например, сообщать пользователю касательно того, как минимизировать повреждение вследствие ошибки).
[0072] Фиг. 4a-4f являются схемами, показывающими примеры стажера с использованием системы моделирования по фиг. 1, 2 или способа по фиг. 3, согласно иллюстративным вариантам осуществления изобретения. Фиг. 4a показывает пример стажера, держащего два медицинских инструмента при надетой VR-гарнитуре. Также показан двумерный экран, показывающий двумерный вид моделирования. Фиг. 4b показывает пример двумерного снимка экрана сцены виртуальной реальности при просмотре стажером в гарнитуре виртуальной реальности. Моделирование медицинских процедур показано на экране, с двумя ботами в операционной комнате. Фиг. 4c показывает пример снимка экрана сцены виртуальной реальности с медсестрой-ботом в операционной комнате. Фиг. 4d показывает пример снимка экрана сцены виртуальной реальности с медсестрой-ботом в операционной комнате, разговаривающей со стажером. Фиг. 4e показывает снимок экрана пользовательского интерфейса, накладываемого на сцену виртуальной реальности. Фиг. 4f показывает пример снимка экрана сцены виртуальной реальности с несколькими инструментами для использования стажером в виртуальной реальности.
[0073] Вышеописанные способы могут быть реализованы в цифровых электронных схемах, в аппаратных средствах, микропрограммном обеспечении и/или программном обеспечении. Реализация может осуществляться как компьютерный программный продукт (например, компьютерная программа, материально осуществляемая в носителе информации). Реализация, например, может осуществляться в машиночитаемом устройстве хранения данных, для выполнения посредством либо для управления работой устройства обработки данных. Реализация, например, может представлять собой программируемый процессор, компьютер и/или несколько компьютеров.
[0074] Компьютерная программа может быть написана на любой форме языка программирования, в том числе на компилируемых и/или интерпретируемых языках, и компьютерная программа может разворачиваться в любой форме, в том числе как автономная программа или как подпрограмма, элемент и/или другой блок, подходящий для использования в вычислительном окружении. Компьютерная программа может разворачиваться с возможностью выполнения на одном компьютере или на нескольких компьютерах на одном веб-узле.
[0075] Этапы способа могут выполняться посредством одного или более программируемых процессоров, выполняющих компьютерную программу, чтобы выполнять функции изобретения посредством управления входными данными и формирования вывода. Этапы способа также могут выполняться посредством устройства и могут быть реализованы как логическая схема специального назначения. Схемой, например, может представлять собой FPGA (программируемую пользователем вентильную матрицу) и/или ASIC (специализированную интегральную схему). Модули, подпрограммы и программные агенты могут упоминаться как части компьютерной программы, процессора, специальной схемы, программного обеспечения и/или аппаратных средств, которые реализуют эту функциональность.
[0076] Процессоры, подходящие для выполнения компьютерной программы, включают в себя, в качестве примера, микропроцессоры общего и специального назначения и любой один или более процессоров любого типа цифрового компьютера. В общем, процессор принимает инструкции и данные из постоянного запоминающего устройства или оперативного запоминающего устройства либо из того и з другого. Существенные элементы компьютера представляют собой процессор для выполнения инструкций и одно или более запоминающих устройств для сохранения инструкций и данных. В общем, компьютер может функционально соединяться с возможностью принимать данные и/или передавать данные в одно или более устройств хранения данных большой емкости для сохранения данных (например, в магнитные, магнитооптические диски или оптические диски).
[0077] Передача данных и инструкций также может осуществляться по сети связи. Носители информации, подходящие для осуществления инструкций компьютерной программы и данных, включают в себя все формы энергонезависимого запоминающего устройства, включающего в себя в качестве примера полупроводниковые запоминающие устройства. Носители информации, например, могут представлять собой EPROM, EEPROM, устройства флэш-памяти, магнитные диски, внутренние жесткие диски, съемные диски, магнитооптические диски, CD-ROM- или/или DVD-ROM-диски. Процессор и запоминающее устройство могут дополняться и/или включаться в логическую схему специального назначения.
[0078] Чтобы предусматривать взаимодействие с пользователем, вышеописанные технологии могут реализовываться на компьютере, имеющем устройство отображения, передающее устройство и/или вычислительное устройство. Устройство отображения, например, может представлять собой монитор на электронно-лучевой трубке (CRT) и/или с жидкокристаллическим дисплеем (ЖК-дисплеем). Взаимодействием с пользователем, например, может представлять собой отображение информации пользователю, а также клавиатуру и указательное устройство (например, мышь или шаровой манипулятор), посредством которых пользователь может предоставлять ввод в компьютер (например, взаимодействовать с элементом пользовательского интерфейса). Другие виды устройств могут использоваться для того, чтобы предусматривать взаимодействие с пользователем. Другие устройства, например, могут представлять собой обратную связь, предоставляемую пользователю в любой форме сенсорной обратной связи (например, визуальной обратной связи, слуховой обратной связи или тактильной обратной связи). Ввод от пользователя, например, может приниматься в любой форме, включающей в себя акустический, речевой и/или тактильный ввод.
[0079] Вычислительное устройство может включать в себя, например, компьютер, компьютер с устройством с браузером, телефон, IP-телефон, мобильное устройство (например, сотовый телефон, персональное цифровое устройство (PDA), переносной компьютер, электронное почтовое устройство) и/или другие устройства связи. Вычислительное устройство, например, может представлять собой один или более компьютеров-серверов. Компьютеры-серверы, например, могут составлять часть фермы серверов. Устройство с браузером включает в себя, например, компьютер (например, настольный компьютер, переносной компьютер и планшетный компьютер) с веб-браузером (например, Microsoft Internet Explorer компании Microsoft Corporation, Chrome компании Google, Firefox Mozilla компании Mozilla Corporation, Safari компании Apple). Мобильное вычислительное устройство включает в себя, например, персональное цифровое устройство (PDA).
[0080] Веб-узел и/или веб-страницы могут предоставляться, например, через сеть (например, Интернет) с использованием веб-сервера. Веб-сервер, например, может представлять собой компьютер с серверным модулем (например, Microsoft Internet Information Services компании Microsoft Corporation, веб-сервер Apache компании Apache Software Foundation, веб-сервер Tomcat Apache компании Apache Software Foundation).
[0081] Модуль хранения данных, например, может представлять собой модуль оперативного запоминающего устройства (RAM), модуль постоянного запоминающего устройства (ROM), жесткий диск компьютера, карту памяти (например, флэш-накопитель по стандарту универсальной последовательной шины (USB), флэш-карту по стандарту Secure Digital (SD)), гибкий диск и/или любое другое устройство хранения данных. Информация, сохраненная на модуле хранения данных, может сохраняться, например, в базе данных (например, в системе реляционных баз данных, в системе плоских баз данных) и/или в любом другом логическом механизме хранения информации.
[0082] Вышеописанные технологии могут быть реализованы в распределенной вычислительной системе, которая включает в себя внутренний интерфейсный компонент. Внутренний интерфейсный компонент, например, может представлять собой сервер данных, промежуточный программный компонент и/или сервер приложений. Вышеописанные технологии могут быть реализованы в распределенной вычислительной системе, которая включает в себя внешний интерфейсный компонент. Внешний интерфейсный компонент, например, может представлять собой клиентский компьютер, имеющий графический пользовательский интерфейс, веб-браузер, через который пользователь может взаимодействовать с примерной реализацией, и/или другие графические пользовательские интерфейсы для передающего устройства. Компоненты системы могут соединяться посредством любой формы или среды цифровой передачи данных (например, сети связи). Примеры сетей связи включают в себя локальную вычислительную сеть (LAN), глобальную вычислительную сеть (WAN), Интернет, проводные сети и/или беспроводные сети.
[0083] Система может включать в себя клиенты и серверы. Клиент и сервер, в общем, являются удаленными друг от друга и типично взаимодействуют через сеть связи. Взаимосвязь клиента и сервера осуществляется на основе компьютерных программ, работающих на соответствующих компьютерах и имеющих клиент-серверную взаимосвязь друг с другом.
[0084] Вышеописанные сети могут реализовываться в сети с коммутацией пакетов, сети с коммутацией каналов и/или в комбинации сети с коммутацией пакетов и сети с коммутацией каналов. Сети с коммутацией пакетов могут включать в себя, например, Интернет, сеть по Интернет-протоколу (IP) оператора услуг связи (например, локальную вычислительную сеть (LAN), глобальную вычислительную сеть (WAN), университетскую вычислительную сеть (CAN), общегородскую вычислительную сеть (MAN), собственную вычислительную сеть (HAN)), частную IP-сеть, частную телефонную IP-станцию (IPBX), беспроводную сеть (например, сеть радиодоступа (RAN), сети по стандарту 802.11, сеть по стандарту 802.16, сеть по стандарту общей службы пакетной радиопередачи (GPRS), HiperLAN) и/или другие сети с коммутацией пакетов. Сети с коммутацией каналов могут включать в себя, например, коммутируемую телефонную сеть общего пользования (PSTN), частную телефонную станцию (PBX), беспроводную сеть (например, RAN, по технологи Bluetooth, сеть множественного доступа с кодовым разделением каналов (CDMA), сеть множественного доступа с временным разделением каналов (TDMA), сеть по стандарту глобальной системы мобильной связи (GSM)) и/или другие сети с коммутацией каналов.
[0085] Специалисты в данной области техники должны осознавать, что изобретение может быть осуществлено в других конкретных формах без отступления от своей сущности или важнейших характеристиках. Вышеприведенные варианты осуществления в силу этого должны считаться во всех отношениях иллюстративными, а не ограничивающими для изобретения, описанного в данном документе. Объем изобретения в силу этого указывается посредством прилагаемой формулы изобретения, а не посредством вышеприведенного описания, и все изменения, которые находятся в пределах смысла и диапазона эквивалентности формулы изобретения, за счет этого имеют намерение включения в нее.
[0086] В вышеприведенном подробном описании, множество конкретных подробностей поясняются для того, чтобы предоставлять понимание изобретения. Тем не менее, специалисты в данной области техники должны понимать, что изобретение может осуществляться на практике без этих конкретных подробностей. В других случаях, известные способы, процедуры и компоненты, модули, блоки и/или схемы не описываются подробно, с тем чтобы не затруднять понимание изобретения. Некоторые признаки или элементы, описанные относительно одного варианта осуществления, могут комбинироваться с признаками или элементами, описанными относительно других вариантов осуществления.