АППАРАТ НАСТРОЙКИ ДЛЯ СПОСОБА ИДЕНТИФИКАЦИИ МОЗГОВЫХ ВОЛН, СПОСОБ НАСТРОЙКИ И КОМПЬЮТЕРНАЯ ПРОГРАММА
SETUP SYSTEM FOR METHOD OF BRAIN WAVE IDENTIFICATION, SETUP PROCEDURE AND COMPUTER PROGRAM

Область техники, к которой относится изобретение
Настоящее изобретение относится к системе интерфейса (электроэнцефалограммного интерфейса), которая делает возможным манипулирование аппаратом посредством использования электроэнцефалограмм. Более конкретно, настоящее изобретение относится к системе электроэнцефалограммного интерфейса, которая обнаруживает намерение для манипулирования аппаратом или получения информации посредством обнаружения психологического состояния, эмоционального состояния, когнитивного состояния или т.п.пользователя посредством использования электроэнцефалограмм пользователя, так что система электроэнцефалограммного интерфейса имеет функцию выполнения калибровки для того, чтобы сделать возможным осуществление точного анализа электроэнцефалограмм.
Уровень техники
На сегодняшний день были предложены различные типы аппаратов, такие как информационные аппараты, например телевизоры, мобильные телефоны и персональные цифровые помощники (PDA). Пользователи проводят свою повседневную жизнь среди таких аппаратов и наслаждаются требуемой информацией и услугами посредством манипулирования этими аппаратами. Количество аппаратов всегда увеличивалось; увеличивается количество информации, которая не может быть получена без использования аппаратов; и также по другим причинам с каждым годом увеличивалась важность улучшения манипулируемости интерфейсами для манипулирования аппаратами.
Например, что касается вышеупомянутых информационных аппаратов, манипулирование аппаратом осуществлялось посредством выбора требуемой альтернативы манипулированию, в то же время наблюдая за экраном аппарата. В качестве средства ввода манипулирования, например, использовались способы, такие как нажатие на кнопку, перемещение курсора и принятие решения или манипулирование мышью, наблюдая за экраном. Однако в случае, когда обе руки недоступны вследствие любой работы, кроме как манипулирования аппаратом, например работы по дому, воспитание детей или вождение автомобиля, может быть трудным выполнить ввод посредством использования средства ввода манипулирования, таким образом делая невозможным манипулирование аппаратом. Это стимулировало потребность пользователей манипулирования информационным аппаратом даже в ситуации, когда обе руки заняты.
В ответ на такие потребности было разработано средство ввода, использующее биологические сигналы пользователя. Например, непатентный документ 1 описывает метод электроэнцефалограммного интерфейса, который использует связанный с событием потенциал электроэнцефалограмм для различения альтернативы, которую пользователь желает выбрать. Чтобы конкретно описать метод, описанный в непатентном документе 1, альтернативы подсвечиваются случайным образом, и форма волны связанного с событием потенциала, который появляется примерно через 300 миллисекунд после момента времени, когда альтернатива была подсвечена, используется для того, чтобы сделать возможным различение альтернативы, которую пользователь желает выбрать. Согласно такому методу даже в ситуации, когда обе руки заняты, или даже в ситуации, когда пользователь не может двигать своими конечностями из-за болезни или т.п., пользователь может выбрать альтернативу, которую он желает выбрать, посредством чего реализуется интерфейс для манипулирования аппаратом и т.п., который удовлетворяет вышеупомянутым потребностям.
Как используется в данном документе, «связанный с событием потенциал» ссылается на флуктуацию мимолетного потенциала в мозгу, которая происходит во временной зависимости с внешним или внутренним событием. Электроэнцефалограммный интерфейс использует этот связанный с событием потенциал, измеренный с начальной точки, которая представляет собой момент времени, когда происходит внешнее событие. Например, предполагается, что выбор альтернативы меню возможен посредством использования компонента связанного с событием потенциала, названного «Р300», который происходит в ответ на зрительное раздражение или т.п.«Р300» представляет собой положительный компонент связанного с событием потенциала, который появляется примерно через 300 миллисекунд после начальной точки.
Так как существуют большие индивидуальные отличия в том, как могут проявляться вышеупомянутые формы волны электроэнцефалограммы, необходимо реализовать очень точное различение, которое поддерживает такие индивидуальные отличия, чтобы использовать связанный с событием потенциал в качестве средства ввода для интерфейса. Примеры индивидуальных отличий показаны на стр.32 непатентного документа 1. Кроме того, фиг.5 изображает примеры индивидуальных отличий в электроэнцефалограммах, когда одна и та же проблема представлена 36 проходящим обследование пациентам. На графике каждого проходящего обследование пациента представлены электроэнцефалограммы для 2 видов ситуаций, как показано сплошной линией и пунктирной линией. Как ясно из фиг.5, можно сказать, что трудно точно выполнить различение для каждого пользователя, полагаясь на единственный критерий, так как имеется большое разнообразие в форме волны и амплитуде в положении пика вследствие индивидуальных отличий.
Чтобы скорректировать индивидуальные отличия и точно измерить электроэнцефалограммы (биологические сигналы), необходимо откалибровать измерительное оборудование и выполнить настройку так, чтобы данные, которые измеряются измерительным оборудованием, точно представляли биологическую информацию пользователя. Например, чтобы точно измерить линию взгляда пользователя, патентный документ 1 описывает метод калибровки измерительного оборудования в момент времени, когда надето измерительное оборудование, т.е. перед измерением линии взгляда, таким образом устанавливая соответствие в координатной системе между измерительным оборудованием и линией взгляда пользователя.
С другой стороны, также были разработаны соответствующие методы различения, которые учитывают индивидуальные отличия, появляющиеся в компоненте связанного с событием потенциала. Например, патентный документ 2 описывает метод получения улучшенного соотношения различения посредством изменения метода различения для каждого пользователя. В данном методе вместо выполнения различения для всех пользователей при помощи единственного критерия шаблон для каждого индивидуального лица готовится заранее из среднеарифметической формы волны связанного с событием потенциала для подлежащей исследованию ситуации, и компонент связанного с событием потенциала различается посредством использования данного шаблона. См. непатентный документ 2 в отношении, например, подробностей индивидуальных отличий связанных с событием потенциалов.
Обычные электроэнцефалограммные интерфейсы использовались, кроме того, как изучение, направленное на людей, которые не могут совершать свободные движения туловищем с целью реализации интерфейса для манипулирования аппаратом посредством использования того факта, что электроэнцефалограммы все же могут свободно выражаться, несмотря на невозможность свободных движений туловища. Непатентный документ 1, выше, показывает, что использование компонента Р300 связанного с событием потенциала делает возможным выбор меню, ввод текста и т.п. Он сделал возможным выражать просьбу, попить что-либо или выполнить лечение, на экране, который установлен около кровати в состоянии, которое является готовым для использования в любой момент при помощи меню, отображаемого на нем.
Также в случае применения вышеупомянутого электроэнцефалограммного интерфейса для манипулирования устройством для повседневного использования пользователями в полном объеме является необходимым настройка системы для каждого пользователя, чтобы выполнять точное различение связанного с событием потенциала каждого пользователя, совместно используя большие индивидуальные отличия. Согласно принципу традиционной калибровки возможен способ, при котором задача виртуального манипулирования электроэнцефалограммным интерфейсом выполняется перед использованием электроэнцефалограммного интерфейса и который регистрирует соответствующую форму волны для использования в качестве информации при выполнении различения, когда фактически используется электроэнцефалограммный интерфейс.
[Патентный документ 1] выложенная патентная публикация Японии №2005-312605.
[Патентный документ 2] брошюра международного выложенного документа №06/051709 (абзац [0068]).
[Непатентный документ 1] (Emanuel Donchin) и два других: «The Mental Prosthesis: Assessing the Speed of a P300-based Brain-Computer Interface», TRANSACTIONS ON REHABILITATION ENGINEERING, vol.8, No.2, June 2000.
[Непатентный документ 2] Hiroshi NITTONO, «Event-related Potential Guidebook for Psychological Research», KITAOJI SHOBO, изданный 20 сентября 2005 г., стр.32.
Раскрытие изобретения
Проблемы, подлежащие решению изобретением
Однако, когда электроэнцефалограммный интерфейс применяется для манипулирования аппаратом при повседневном использовании, является обязанностью и заботой пользователя, что должна выполняться церемониальная калибровка для демонстрирования ожидаемой функции. Было бы абсурдным, если электроэнцефалограммный интерфейс, предназначенный для уменьшения обязанностей пользователя, наоборот, должен стать обязанностью для пользователя. Поэтому, когда электроэнцефалограммный интерфейс применяется для повседневных целей, пользователь должен иметь возможность случайного его использования в любой момент времени и электроэнцефалограммный интерфейс должен точно работать, чтобы демонстрировать свою ожидаемую функцию.
Однако, когда электроэнцефалограммный интерфейс применяется для повседневных целей, существуют аспекты, которые не считались бы проблематичными в особых ситуациях, таких как исследовательские или медицинские применения. Например, одним аспектом является то, что случайные манипулирования, такие как изменение канала или изменение уровня громкости звука, не выполнялись бы часто, и нет сведения, когда они будут сделаны.
Другим аспектом является то, что информация, кроме меню для электроэнцефалограммного интерфейса, обычно отображается на устройстве отображения, таким образом, оказывая большое влияние на связанный с событием потенциал, вместе с его нерегулярными появлениями. Например, в любой период времени, когда электроэнцефалограммный интерфейс не активизирован, отображается другая информация (телевизионные программы, фильмы и т.д.). С другой стороны, в случае исследовательских или медицинских применений было бы возможным выполнение калибровки, потратив значительное время перед использованием интерфейса, и, таким образом, получение электроэнцефалограмм, основанных на достаточной способности корректировки, чтобы повысить точность различения электроэнцефалограмм.
Поэтому для электроэнцефалограммного интерфейса, который не используется все время и который все же должен точно отрабатывать редкое манипулирование аппаратом, это является жестким условием. Необходим способ, который точно настраивает способ различения электроэнцефалограмм для каждого пользователя.
Одной задачей настоящего изобретения является в системе, имеющей интерфейс, который использует электроэнцефалограммы, освобождение пользователя от обязанности калибровки, чтобы получить возможность выполнения точного измерения электроэнцефалограмм и все же сохранение высокой точности определения электроэнцефалограмм.
Средства для решения проблем
Устройство настройки согласно настоящему изобретению используется для настройки способа различения в секции электроэнцефалограммного интерфейса в системе электроэнцефалограммного интерфейса, причем система электроэнцефалограммного интерфейса включает в себя: секцию вывода, основываясь на данных содержимого, для представления содержимого пользователю; секцию измерения биологического сигнала для получения электроэнцефалограммного сигнала от пользователя и секцию электроэнцефалограммного интерфейса для различения запроса пользователя, основанного на электроэнцефалограммном сигнале, и идентификации функции, которая соответствует запросу. Устройство настройки содержит: секцию анализа для измерения и анализа физической величины, соответствующей зрительному и/или слуховому раздражению, сообщенному пользователю, причем физическая величина измеряется и анализируется в качестве характеристической величины раздражения, и для обнаружения изменения характеристической величины раздражения, которое оказывает влияние на связанный с событием потенциал, содержащийся в электроэнцефалограммном сигнале, таким образом обнаруживая изменение раздражения; секцию хранения для хранения формы волны связанного с событием потенциала в течение предварительно определенного периода, по меньшей мере простирающегося после начальной точки, которая представляет собой момент времени, когда обнаружено изменение раздражения; и секцию извлечения характеристики пользователя для извлечения характеристической величины пользователя, основываясь на хранимой форме волны связанного с событием потенциала; и секцию настройки способа различения, основываясь на извлеченной характеристической величине пользователя, для настройки в секции электроэнцефалограммного интерфейса способа различения запроса, основанного на электроэнцефалограммном сигнале.
Когда раздражение представляет собой видео- и/или аудиосодержимое, представленное пользователю, секция анализа может анализировать данные содержимого для обнаружения изменения характеристической величины раздражения, которое оказывает влияние на связанный с событием потенциал, содержащийся в электроэнцефалограммном сигнале.
Основываясь на данных движущегося изображения, секция вывода может отображать, соответственно, множество изображений, которые переключаются одно за другим с предварительно определенной частотой, таким образом представляя содержимое движущегося изображения; и в качестве изменения характеристической величины содержимого секция анализа может обнаруживать изменение характеристической величины изображения последовательного множества изображений.
В качестве изменения характеристической величины содержимого секция анализа может обнаруживать изменение по меньшей мере одного из яркости и цветового тона.
Секция вывода может представлять содержимое аудио, основанное на данных аудио; и в качестве изменения характеристической величины содержимого секция анализа может обнаруживать изменение выходного уровня аудио.
Секция вывода может представлять содержимое движущегося изображения посредством отображения, соответственно, множества изображений, которые переключаются одно за другим с предварительно определенной частотой, и также представлять содержимое аудио; и в качестве изменения характеристической величины содержимого секция анализа может обнаруживать синхронизированное появление изменения в характеристической величине изображения последовательного множества изображений и изменения выходного уровня аудио.
Секция электроэнцефалограммного интерфейса может различать запрос пользователя, основываясь на сохраненном заранее пороге и амплитуде связанного с событием потенциала в электроэнцефалограммном сигнале; секция извлечения характеристики пользователя может извлекать амплитуду хранимого связанного с событием потенциала в качестве характеристической величины пользователя; и, основываясь на извлеченной характеристической величине пользователя, секция настройки способа различения может настраивать порог, сохраняемый секцией электроэнцефалограммного интерфейса.
Секция электроэнцефалограммного интерфейса может различать запрос пользователя, основываясь на корреляции между по меньшей мере одним шаблоном формы волны, сохраненным заранее, и формой волны связанного с событием потенциала в электроэнцефалограммном сигнале; секция извлечения характеристики пользователя может извлекать хранимую форму волны связанного с событием потенциала в качестве характеристической величины пользователя; и, основываясь на извлеченной характеристической величине пользователя, секция настройки способа различения может настраивать по меньшей мере один шаблон формы волны, сохраненный секцией электроэнцефалограммного интерфейса.
Основываясь на извлеченной характеристической величине пользователя, секция настройки способа различения может изменять значение по меньшей мере одного шаблона формы волны и устанавливать по меньшей мере один шаблон формы волны для секции электроэнцефалограммного интерфейса; и секция электроэнцефалограммного интерфейса может различать запрос пользователя, основываясь на по меньшей мере одном установленном шаблоне формы волны.
Секция электроэнцефалограммного интерфейса может сохранять множество шаблонов формы волны; и секция настройки способа различения может идентифицировать один из множества шаблонов формы волны, основываясь на извлеченной характеристической величине пользователя, и инструктировать секцию электроэнцефалограммного интерфейса на установку одного шаблона формы волны в качестве шаблона для различения запроса пользователя.
Секция электроэнцефалограммного интерфейса может различать запрос пользователя, основываясь на корреляции между шаблоном формы волны, сохраненным заранее, и формой волны связанного с событием потенциала в электроэнцефалограммном сигнале; секция извлечения характеристики пользователя может извлекать хранимую форму волны связанного с событием потенциала в качестве характеристической величины пользователя; и секция настройки способа различения может инструктировать одну из секции электроэнцефалограммного интерфейса и секции измерения биологического сигнала на настройку амплитуды электроэнцефалограммного сигнала пользователя, основываясь на извлеченной характеристической величине пользователя.
Секция извлечения характеристики пользователя может выводить сигнал, когда амплитуда формы волны связанного с событием потенциала, хранимого в секции хранения, меньше, чем предварительно определенный порог; и, основываясь на сигнале от секции извлечения характеристики пользователя, секция настройки способа различения инструктирует секцию электроэнцефалограммного интерфейса на вывод сигнала тревоги, касающегося получения электроэнцефалограммного сигнала секцией измерения биологического сигнала.
Раздражением может быть свет и/или звук в окружающей обстановке, в которой находится пользователь; и секция анализа может обнаруживать свет и/или звук в окружающей обстановке и обнаруживать изменение характеристической величины света и/или звука в окружающей обстановке, которое оказывает влияние на связанный с событием потенциал, содержащийся в электроэнцефалограммном сигнале.
Способ согласно настоящему изобретению используется для настройки способа различения в системе электроэнцефалограммного интерфейса, причем система электроэнцефалограммного интерфейса включает в себя: секцию вывода, основываясь на данных содержимого, для представления содержимого пользователю; секцию измерения биологического сигнала для получения электроэнцефалограммного сигнала от пользователя и секцию электроэнцефалограммного интерфейса для различения запроса пользователя, основанного на электроэнцефалограммном сигнале, и идентификации функции, которая соответствует запросу. Способ содержит: этап измерения физической величины, соответствующей зрительному и/или слуховому раздражению, сообщенному пользователю, причем физическая величина измеряется в качестве характеристической величины раздражения; этап обнаружения изменения характеристической величины раздражения, которое оказывает влияние на связанный с событием потенциал, содержащийся в электроэнцефалограммном сигнале, таким образом обнаруживая изменение раздражения; этап сохранения формы волны связанного с событием потенциала во время предварительно определенного периода, по меньшей мере простирающегося после начальной точки, которая представляет собой момент времени, когда обнаруживается изменение раздражения; этап извлечения характеристической величины пользователя, основываясь на хранимой форме волны связанного с событием потенциала; и этап, основываясь на извлеченной характеристической величине пользователя, настройки в секции электроэнцефалограммного интерфейса способа различения для запроса, основанного на электроэнцефалограммном сигнале.
Компьютерная программа согласно настоящему изобретению исполняется компьютером, реализованным в устройстве настройки способа различения электроэнцефалограмм, используемым для настройки способа различения в секции электроэнцефалограммного интерфейса в системе электроэнцефалограммного интерфейса, причем система электроэнцефалограммного интерфейса включает в себя: секцию вывода для представления, основываясь на данных содержимого, содержимого пользователю; секцию измерения биологического сигнала для получения электроэнцефалограммного сигнала от пользователя и секцию электроэнцефалограммного интерфейса для различения запроса пользователя, основанного на электроэнцефалограммном сигнале, и идентификации функции, которая соответствует запросу. Компьютерная программа вызывает исполнение компьютером: этапа измерения физической величины, соответствующей зрительному и/или слуховому раздражению, сообщенному пользователю, причем физическая величина измеряется как характеристическая величина раздражения; этапа обнаружения изменения характеристической величины раздражения, которое оказывает влияние на связанный с событием потенциал, содержащийся в электроэнцефалограммном сигнале, таким образом обнаруживая изменение раздражения; этапа сохранения формы волны связанного с событием потенциала во время предварительно определенного периода, по меньшей мере простирающегося после начальной точки, которая представляет собой момент времени, когда обнаружено изменение раздражения; этапа извлечения характеристической величины пользователя, основываясь на хранимой форме волны связанного с событием потенциала; и этапа, основываясь на извлеченной характеристической величине пользователя, настройки в секции электроэнцефалограммного интерфейса способа различения для запроса, основанного на электроэнцефалограммном сигнале.
Цели изобретения
Согласно настоящему изобретению, в то время как пользователь принимает внешние раздражения, такие как свет и/или звук от содержимого, которое пользователь наблюдает, или от окружающего света или окружающего звука в окружающей обстановке, в которой находится пользователь, выполняется получение информации, касающейся индивидуальных отличий, которые необходимы для калибровки системы электроэнцефалограммного интерфейса. Когда используется электроэнцефалограммный интерфейс, калибровка выполняется в системе посредством использования собранных данных.
Так как пользователя не заставляют участвовать в калибровке и не выполняется явная калибровка, значительно уменьшаются обязанности и заботы пользователя, связанные с калибровкой. В результате без какого-либо ожидания времени для калибровки пользователь может немедленно начать просмотр содержимого. С другой стороны, так как калибровка выполняется в отношении каждого пользователя, могут точно определяться электроэнцефалограммы, посредством чего может обеспечиваться электроэнцефалограммный интерфейс с повышенной манипулируемостью.
Краткое описание чертежей
Фиг.1 - схема, изображающая конструкцию и окружающую обстановку использования системы 1 электроэнцефалограммного интерфейса, представляемой изобретателями.
Фиг.2 - схема, изображающая функциональную блочную конструкцию системы 1 электроэнцефалограммного интерфейса согласно варианту 1 осуществления.
Фиг.3 - блок-схема последовательности операций, изображающая процедуру обработки секцией 13 электроэнцефалограммного интерфейса.
Фиг.4(a)-(d) представляют собой схемы, изображающие пример, когда телевизор манипулируется в системе 1 электроэнцефалограммного интерфейса, чтобы пользователь 10 смотрел программу жанра, который пользователь желает просматривать.
Фиг.5 - схема, изображающая примеры индивидуальных отличий в электроэнцефалограммных сигналах.
Фиг.6(a) представляет собой схему, изображающую в хронологическом порядке использование экрана при выполнения обычной калибровки; и (b) представляет собой схему, изображающую в хронологическом порядке использование экрана при выполнении калибровки согласно варианту 1 осуществления.
Фиг.7 - блок-схема последовательности операций, изображающая процедуру обработки системой 1 электроэнцефалограммного интерфейса согласно варианту 1 осуществления.
Фиг.8 - блок-схема последовательности операций, изображающая процедуру процесса анализа содержимого видео, которое представляет собой движущееся изображение.
Фиг.9 - блок-схема последовательности операций, изображающая процедуру процесса извлечения для характеристики пользователя, основанной на форме волны связанного с событием потенциала.
Фиг.10(a)-(d) представляют собой схемы, изображающие примерные формы волны, ассоциированные с процессом извлечения характеристики пользователя.
Фиг.11 - схема, изображающая шаблон перед настройкой и шаблон после настройки.
Фиг.12 - блок-схема последовательности операций, изображающая процедуру обработки секцией 14 анализа содержимого для анализа содержимого, в котором различно присутствуют видео и аудио.
Фиг.13 - блок-схема последовательности операций, изображающая процедуру обработки секцией 14 анализа содержимого для анализа содержимого аудио.
Фиг.14 - схема, изображающая функциональную блочную конструкцию системы 1 электроэнцефалограммного интерфейса согласно варианту 3 осуществления.
Фиг.15 - блок-схема последовательности операций, изображающая процедуру процесса анализа изменений звуков, касающихся окружающей обстановки.
Описание позиций
1 - система электроэнцефалограммного интерфейса
2, 50 - устройство настройки способа различения электроэнцефалограмм
3 - центральный процессор (ЦП)
4 - оперативное запоминающее устройство (ОЗУ)
5 - компьютерная программа
11 - секция вывода
12 - секция измерения биологического сигнала
13 - секция электроэнцефалограммного интерфейса
14 - секция анализа содержимого
15 - секция хранения электроэнцефалограмм
16 - секция извлечения характеристики пользователя
17 - секция настройки способа различения
51 - секция обнаружения внешней окружающей среды
52 - секция анализа внешней окружающей среды
Лучший вариант осуществления изобретения
Ниже в данном документе со ссылкой на прилагаемые чертежи описываются варианты осуществления системы электроэнцефалограммного интерфейса и устройства настройки способа различения электроэнцефалограмм, подлежащие включению в систему электроэнцефалограммного интерфейса согласно настоящему изобретению.
Сначала описываются главные признаки системы электроэнцефалограммного интерфейса и устройства настройки способа различения электроэнцефалограмм согласно настоящему изобретению. После этого описывается каждый вариант осуществления устройства настройки способа различения электроэнцефалограмм.
Изобретатели представляют себе, что в будущем система электроэнцефалограммного интерфейса будет выполняться в окружающей обстановке, в которой объединяются электроэнцефалограф носимого типа и устройство отображения носимого типа. Пользователь всегда будет носить электроэнцефалограф и устройство отображения и сможет выполнять просмотр содержимого и манипулирование экраном посредством использования устройства отображения носимого типа. Или же представляется, что система электроэнцефалограммного интерфейса будет выполнена в окружающей обстановке (например, дома), в которой объединяются домашний телевизор и электроэнцефалограф носимого типа. Когда пользователь смотрит телевизор, он может выполнять просмотр содержимого и манипулирование экраном и т.п. посредством ношения электроэнцефалографа.
Например, фиг.1 иллюстрирует конструкцию и окружающую обстановку использования для системы 1 электроэнцефалограммного интерфейса, представляемой изобретателями в последнем примере. Система 1 электроэнцефалограммного интерфейса приведена в качестве примера, чтобы соответствовать конструкции системы варианта 1 осуществления, описанного ниже.
Система 1 электроэнцефалограммного интерфейса представляет собой систему для обеспечения интерфейса для манипулирования телевизором 11 посредством использования электроэнцефалограммного сигнала от пользователя 10. Электроэнцефалограммный сигнал от пользователя 10 принимается секцией 12 измерения биологического сигнала, которая носится на голове пользователя, и передается на секцию 13 электроэнцефалограммного интерфейса проводным или беспроводным образом. Секция 13 электроэнцефалограммного интерфейса, встроенная в телевизор 11, распознает намерение пользователя посредством использования компонента Р3 связанного с событием потенциала, который составляет часть электроэнцефалограмм, и выполняет процессы, такие как переключение каналов.
«Компонент Р3» ссылается на положительный компонент связанного с событием потенциала, который появляется во временном интервале от 250 миллисекунд до 500 миллисекунд, после того как будет представлено целевое раздражение, независимо от типа сенсорного раздражения, такого как слуховое восприятие, зрительное восприятие или соматическое ощущение. Обычно он ссылается на положительный компонент, который появляется примерно через 300 миллисекунд, после того как будет представлено целевое раздражение. В описании следующих вариантов осуществления компонент Р3 связанного с событием потенциала, происходящий из-за зрительного раздражения, может выражаться как «зрительный компонент Р3» и т.д.
В момент времени, при котором может фактически появляться компонент Р3 в электроэнцефалограммном сигнале (связанный с событием потенциал), его амплитуда может флуктуировать от пользователя к пользователю. Поэтому в системе 1 электроэнцефалограммного интерфейса необходимо настраивать рабочий критерий в соответствии с электроэнцефалограммным сигналом от пользователя 10. Процесс получения критерия для выполнения этой настройки представляет собой так называемую калибровку. Калибровка выполняется посредством устройства 2 настройки способа различения электроэнцефалограмм.
В системе 1 электроэнцефалограммного интерфейса можно измерять электроэнцефалограммы даже в состояниях за исключением тех, которые существуют при использовании электроэнцефалограмм в качестве интерфейса, и поэтому электроэнцефалограммы могут измеряться даже во время просмотра содержимого, такого как телевидение или фильм.
Когда пользователь просматривает содержимое, устройство 2 настройки способа различения электроэнцефалограмм собирает данные, которые необходимы для калибровки. Более конкретно, устройство 2 настройки способа различения электроэнцефалограмм анализирует данные выводимого содержимого, обнаруживает изменение в содержимом, которое оказывает влияние на связанный с событием потенциал, и сохраняет форму волны связанного с событием потенциала во время предварительно определенного периода, начальная точка которого представляет собой момент времени, при котором обнаружено изменение. Например, изменение в содержимом обнаружено тогда, когда яркость или цветовой тон движущегося изображения, представляемого на экране 11а телевизора 11, изменяется выше предела, или когда уровень аудио, выводимого из громкоговорителей 11b телевизора 11, изменяется выше предела. Такое изменение содержимого рассматривается как изменение, которое оказывает влияние на связанный с событием потенциал.
Собранные данные используются для калибровки, когда пользователь манипулирует аппаратом, таким как телевизор 11, посредством использования электроэнцефалограмм. Однако, так как необходимые данные уже были собраны, пользователю не представляется явный процесс калибровки и пользователь не узнает, что выполняется процесс калибровки. Так как калибровка выполняется в отношении каждого пользователя, каждый пользователь может точно манипулировать аппаратом, таким как телевизор 11, без использования руки даже в случае, когда его обе руки заняты вследствие, например, работ по дому или воспитания детей. Таким образом значительно улучшается манипулируемость аппаратом.
В соответствии с системой 1 электроэнцефалограммного интерфейса как таковой, когда пользователь начинает использовать аппарат, ему не надо выполнять никакое измерение электроэнцефалограмм, которое исключительно направлено на калибровку, посредством чего исключаются обязанность и заботы пользователя в момент начала использования аппарата. Так как не требуется тратить никакое время на калибровку при начале использования системы 1, пользователь может немедленно начать просмотр содержимого. При наличии того факта, что использование аппарата, как предполагается, начинается с целью просмотра содержимого или т.п., является очень полезным, что может быть немедленно реализована операция, которая соответствует желанию пользователя.
Отметьте, что в настоящем изобретении изменения раздражения, которое сообщается пользователю, обнаруживаются для того, чтобы получить информацию, касающуюся индивидуальных отличий, которые являются необходимыми для калибровки системы электроэнцефалограммного интерфейса. Изменения раздражения обнаруживаются следующим образом. Т.е. физическая величина, соответствующая зрительному и/или слуховому раздражению, измеряется и анализируется в качестве характеристической величины раздражения, и посредством обнаружения изменения характеристической величины раздражения обнаруживается изменение раздражения.
Однако конкретный способ обнаружения изменения раздражения различается в вариантах 1 и 2 и варианта 3 осуществления.
В вариантах 1 и 2 осуществления, когда пользователь просматривает содержимое видео/аудио или изображение, основываясь на изменении раздражения (видео и/или аудио), которое пользователь получил от аппарата, и на изменении связанного с событием потенциала, вызванного этим изменением, обнаруживается изменение раздражения.
С другой стороны, в варианте 3 осуществления в окружающей обстановке, в которой находится пользователь, основываясь на изменении раздражения (общая освещенность и/или окружающий звук и т.д.), которое получил пользователь от окружающей обстановки, и на изменении связанного с событием потенциала, вызванного этим изменением, обнаруживается изменение раздражения.
Ниже в данном документе описываются соответственно варианты 1-3 осуществления настоящего изобретения.
Вариант 1 осуществления
Фиг.2 изображает функциональную блочную конструкцию системы 1 электроэнцефалограммного интерфейса согласно настоящему варианту осуществления. Система 1 электроэнцефалограммного интерфейса включает в себя устройство 2 настройки способа различения электроэнцефалограмм, секцию 11 вывода, секцию 12 измерения биологического сигнала и секцию 13 электроэнцефалограммного интерфейса (IF). Фиг.2 также изображает подробные функциональные блоки устройства 2 настройки способа различения электроэнцефалограмм. Блок пользователя 10 изображен для удобства объяснения.
Устройство 2 настройки способа различения электроэнцефалограмм соединено с каждой из секций: секцией 11 вывода, секцией 12 измерения биологического сигнала и секцией 13 электроэнцефалограммного интерфейса проводным или беспроводным образом и выполняет передачу и прием сигналов. Хотя фиг.1 изображает секцию 13 электроэнцефалограммного интерфейса и устройство 2 настройки способа различения электроэнцефалограмм в виде отдельных объектов, это только примерное. Некоторые или все из них могут быть интегрированы.
Устройство 2 настройки способа различения электроэнцефалограмм предусматривается для калибровки секции 13 электроэнцефалограммного интерфейса, основываясь на электроэнцефалограммном сигнале от каждого пользователя в системе 1 электроэнцефалограммного интерфейса. Подробное описание устройства 2 настройки способа различения электроэнцефалограмм приводится ниже.
Секция 11 вывода выводит пользователю содержимое и меню, подлежащие выбору в электроэнцефалограммном интерфейсе. Так как телевизор 11, показанный на фиг.1, представляет собой конкретный пример секции вывода, позиция «11» ниже назначается в данном документе секции вывода. Секция 11 вывода соответствует экрану 11а устройства отображения (фиг.1) в случае, когда выводимым содержимым является движущееся изображение или неподвижное изображение, и соответствует громкоговорителям 11b (фиг.1) в случае, когда выводимым содержимым является аудио. Отметьте, что экран 11а устройства отображения и громкоговорители 11b могут использоваться вместе в качестве секции 11 вывода.
Секция 12 измерения биологического сигнала представляет собой электроэнцефалограф, который обнаруживает биологический сигнал посредством измерения изменения потенциала на электродах, которые носятся на головке пользователя 10, и измеряет электроэнцефалограммы в качестве биологического сигнала. Электроэнцефалографом может быть установленный на голове электроэнцефалограф, как показано на фиг.1. Предполагается, что пользователь 10 заранее установил электроэнцефалограф.
Электроды расположены на секции 12 измерения биологического сигнала, так что при ношении на голове пользователя 10 электроды вступают в соприкосновение с головой в заранее определенных положениях. Расположением электродов может быть, например, Pz (самая верхняя точка темени по средней линии), А1 (мочка уха) и корень носа пользователя 10. Однако будет достаточным, если имеется по меньшей мере два электрода, и измерение потенциала будет возможным, например, только с Pz и А1. Эти положения электродов должны определяться, основываясь на надежности измерений сигнала, легкости ношения и т.п.
Таким образом, секция 12 измерения биологического сигнала может измерять электроэнцефалограммы пользователя 10. Берутся отсчеты измеренных электроэнцефалограмм пользователя 10, чтобы получить возможность обработки на компьютере, и они посылаются на секцию 13 электроэнцефалограммного интерфейса и устройство 2 настройки способа различения электроэнцефалограмм. Отметьте, что, чтобы уменьшить влияние шума, который может примешиваться в электроэнцефалограммах, электроэнцефалограммы, подлежащие измерению в секции 12 измерения биологического сигнала, заранее подвергаются полосовой фильтрации, например, в диапазоне 0,05-20 Гц и коррекции базового уровня относительно среднего потенциала, например, при 200 миллисекундах, перед тем как будет представлен пункт меню или слуховое раздражение.
Секция 13 электроэнцефалограммного интерфейса представляет пункты меню, касающиеся манипулирования аппаратом, пользователю, выделяет связанный с событием потенциал электроэнцефалограмм, измеренных посредством секции 12 измерения биологического сигнала и подвергает его различению. При выполнении различения секция 13 электроэнцефалограммного интерфейса использует шаблон 18 формы волны. Шаблон 18 определяет, например, данные, представляющие форму волны связанного с событием потенциала электроэнцефалограмм, которые должны появляться, когда удовлетворяется желание. Секция 13 электроэнцефалограммного интерфейса отображает пункт меню и т.п. при помощи секции 11 вывода и оценивает, близка или нет форма волны связанного с событием потенциала, полученного впоследствии, форме волны шаблона 18. Когда она оценивается близкой, секция 13 электроэнцефалограммного интерфейса инструктирует аппарат на выполнение операции, соответствующей этому пункту меню. В результате становится возможным изменение или коррекция содержимого, представляемого секцией 11 вывода. Отметьте, что подробности операции секции 13 электроэнцефалограммного интерфейса описываются ниже с ссылкой на фиг.3 и фиг.4.
Секция 11 вывода, секция 12 измерения биологического сигнала и секция 13 электроэнцефалограммного интерфейса реализуют главную функцию системы 1 электроэнцефалограммного интерфейса, т.е. функцию электроэнцефалограммного интерфейса для обеспечения манипулирования аппаратом, используя электроэнцефалограммы.
Ниже подробно описывается конструкция устройства 2 настройки способа различения электроэнцефалограмм.
Устройство 2 настройки способа различения электроэнцефалограмм включает в себя ЦП 3, ОЗУ 4 и секцию 15 хранения электроэнцефалограмм, такую как накопитель на жестком диске (НЖМД).
Секция 15 хранения электроэнцефалограмм принимает связанный с событием потенциал электроэнцефалограмм от секции 12 измерения биологического сигнала и сохраняет данные этой формы волны. Начало и окончание сохранения данных происходит во временные соотношения, в течение которых сигналы инструкции сохранения принимаются от секции 14 анализа содержимого (ЦП 3), описанной ниже.
ОЗУ 4 хранит компьютерную программу 5. Посредством выполнения программы 5 ЦП 3 выполняет различные процессы, описанные ниже. Когда эти процессы рассматриваются как относящиеся к функции, соответствующие процессы реализуются посредством ЦП 3, функционирующим как множество составляющих элементов. В ЦП 3 на фиг.2 главные процессы, подлежащие выполнению при помощи ЦП 3, изображены как три функциональных блока. Конкретно ЦП 3 функционирует как секция 14 анализа содержимого, секция 16 извлечения характеристики пользователя и секция 17 настройки способа различения. Ниже в данном документе описываются их подробности.
Секция 14 анализа содержимого принимает содержимое, которое выводится на секцию 11 вывода, и анализирует его сущность. Анализ выполняется с позиции, произошло ли какое-либо изменение в содержимом, которое оказывает влияние на связанный с событием потенциал пользователя 10. Например, известно, что на связанный с событием потенциал в основном оказывается влияние тогда, когда яркость или цветовой тон движущегося изображения изменяется сверх некоторого значения. Поэтому, основываясь на данных содержимого, секция 14 анализа содержимого определяет, что изменение характеристической величины изображения, такой как яркость или цветовой тон движущегося изображения, стало равным или больше чем заданное значение (порог). Если оно стало равным или больше чем порог, сигнал инструкции сохранения выводится на секцию 15 хранения электроэнцефалограмм, так как наступил момент времени для сохранения формы волны связанного с событием потенциала.
Так как сигнал инструкции сохранения выводится только тогда, когда произошла ситуация с большим изменением содержимого, сохраняются формы волны связанного с событием потенциала в подобных ситуациях, которые содержат характеристики этого пользователя.
Секция 16 извлечения характеристики пользователя извлекает характеристику, содержащуюся в электроэнцефалограммах пользователя 10, который использует систему 1 электроэнцефалограммного интерфейса. Существуют большие индивидуальные отличия в том, как могут выводиться электроэнцефалограммы. Как используется в данном документе, индивидуальные отличия в электроэнцефалограммах подразумевают характеристики в формах волны связанного с событием потенциала, и, более конкретно, форму, уровень амплитуды в пиковой точке и т.п.
Секция 16 извлечения характеристики пользователя предусматривается для извлечения информации о таком индивидуальном отличии, т.е. характеристики, которая является характерной для пользователя. Например, секция 16 извлечения характеристики пользователя извлекает среднее арифметическое сохраненных форм волны связанного с событием потенциала и извлекает характеристику, которая является характерной для пользователя.
Основываясь на информации об индивидуальном отличии, которая была извлечена секцией 16 извлечения характеристики пользователя, секция 17 настройки способа различения настраивает данные шаблона 18 для различения, которое должно использоваться в секции 13 электроэнцефалограммного интерфейса, так что характеристика пользователя становится различимой. Это делает возможным поддерживать высокую способность различения в секции 13 электроэнцефалограммного интерфейса, несмотря на индивидуальные отличия.
Отметьте, что секция 14 анализа содержимого, секция 16 извлечения характеристики пользователя и секция 17 настройки способа различения, упомянутые выше, необязательно должны реализовываться отдельным ЦП 3, но могут выполняться в виде микросхем соответствующих процессов.
Ниже описываются, в общем смысле и со ссылкой на фиг.3 и фиг.4, главные процессы системы 1 электроэнцефалограммного интерфейса, показанной на фиг.2. После этого описывается необходимость калибровки.
Система 1 электроэнцефалограммного интерфейса предусматривается с целью использования связанного с событием потенциала для различения, какой пункт пользователь хочет выбрать из числа множества пунктов выбора, отображаемых на экране телевизора или т.п.
Фиг.3 изображает процедуру обработки посредством секции 13 электроэнцефалограммного интерфейса. С другой стороны, фиг.4(а)-(d) изображают пример, где телевизор в системе 1 электроэнцефалограммного интерфейса манипулируется для того, чтобы пользователь 10 смотрел программу жанра, который пользователь желает просматривать.
Ниже в данном документе согласно блок-схеме последовательности операций, показанной на фиг.3, описывается принцип действия секции 13 электроэнцефалограммного интерфейса со ссылкой на фиг.4, когда необходимо.
На этапе S91 секция 13 электроэнцефалограммного интерфейса отображает меню при помощи секции 11 вывода. Предположим, например, что, как показано на фиг.4(а), экран 21 перед выполнением выбора (т.е. новости в данном случае) отображается на устройстве отображения телевизора во время просмотра содержимого. «Меню» 22, показанное внизу справа, мигает с заданной частотой. Когда пользователь наблюдает «меню» 22, заданная частотная составляющая накладывается на его или ее электроэнцефалограммы и таким образом можно определить, наблюдается ли «меню» 22 или нет, и может быть активизирован электроэнцефалограммный интерфейс.«Активизирование» электроэнцефалограммного интерфейса означает запуск работы интерфейса для возможности выполнения выбора из меню или т.п. посредством использования электроэнцефалограмм.
Если электроэнцефалограммный интерфейс активизирован, отображается экран 23 пункта меню, как показано на фиг.4(b). На экране представлен вопрос 24, который спрашивает: «Какую программу Вы хотите смотреть?», и альтернативы 25, которые представляют собой возможные программы, которые пользователь может пожелать для просмотра. В данном примере четыре отображаются: «бейсбол» 25а, «прогноз погоды» 25b, «показ мультфильмов» 25с и «новости» 25d.
На этапе S92 секция 13 электроэнцефалограммного интерфейса выбирает один из пунктов. На примере фиг.4(b) сначала выбирается бейсбол 25а, который является самым верхним. Затем каждый раз, когда выполняется этап S92, последовательно выбирается следующая альтернатива до возврата обратно на самый верхний бейсбол после четвертого, т.е. новостей.
На этапе S93 секция 13 электроэнцефалограммного интерфейса подсвечивает пункт, который выбирается на этапе S92. Подсвечивание представляет собой индикацию, использующую фон, который ярче, чем любой другой пункт, или индикацию ярким цветом текста. Отметьте, что вместо или в дополнение к подсвечиванию точка или курсор, использующий дополнительную стрелку, может использоваться для указания пункта. В данном документе является достаточным, если, когда пользователь 10 смотрит на него, ясно, к какому пункту система в настоящий момент требует внимания.
На этапе S94 секция 13 электроэнцефалограммного интерфейса получает связанный с событием потенциал из электроэнцефалограмм, измеренных секцией 12 измерения биологического сигнала. Начальная точка, при которой следует начинать получение связанного с событием потенциала, устанавливается на момент подсвечивания на этапе S93. Затем получается связанный с событием потенциал от, например, 200 миллисекунд перед и до 1 секунды после момента. В результате достигается реакция пользователя на подсвеченный пункт.
На этапе S95 устройство 2 настройки способа различения электроэнцефалограмм настраивает способ различения в секции 13 электроэнцефалограммного интерфейса. В настоящем варианте осуществления, основываясь на характеристике пользователя 10, вычисленной секцией 16 извлечения характеристики пользователя, секция 17 настройки способа различения настраивает шаблон 18 в секции 13 электроэнцефалограммного интерфейса. При помощи этого процесса выполняется настройка, чтобы прийти к способу различения, который поддерживает индивидуальное отличие пользователя. Ниже описываются подробности извлечения характеристики пользователя и настройки способа различения.
На этапе S96 секция 13 электроэнцефалограммного интерфейса различает полученный в настоящий момент связанный с событием потенциал посредством использования шаблона 18 после настройки. Различение относится к тому, что является ли форма волны полученного в настоящий момент связанного с событием потенциала формой волны, появляющейся тогда, когда пользователь 10 смотрит на пункт, который он или она желает выбрать, или формой волны, появляющейся тогда, когда пользователь 10 смотрит на пункт, который он или она не желает выбрать.
Фиг.4(с) изображает формы 26а-26d волны связанного с событием потенциала, которые получаются в моменты, в которых подсвечиваются соответствующие пункты меню. Например, предположив, что пользователь 10 желает посмотреть прогноз погоды, характеристический компонент появится только в форме 26b волны, когда подсвечивается пункт прогноза погоды. Он представляет собой компонент формы волны, называемый зрительным компонентом Р3 связанного с событием потенциала, который представляет собой положительную характеристическую форму волны, которая появляется через примерно 300 миллисекунд после переключения пункта меню. Секция 13 электроэнцефалограммного интерфейса определяет, наблюдается ли или нет этот компонент в форме волны полученного связанного с событием потенциала. Если наблюдается зрительный компонент Р3, управление переходит на этап S97. Если он не наблюдается, управление возвращается на этап S92.
На этапе S97 определяя, что пункт, для которого наблюдался зрительный компонент Р3 пользователя 10, представляет собой пункт, который пользователь 10 хочет выбрать, секция 13 электроэнцефалограммного интерфейса инструктирует телевизор на выполнение процесса, соответствующего выбранному пункту. В примере на фиг.4(с), так как зрительный компонент Р3 наблюдается для пункта 25b прогноза погоды, секция 13 электроэнцефалограммного интерфейса инструктирует телевизор на переключение канала, чтобы отображать содержимое прогноза погоды. Когда телевизор переключит канал, основываясь на этой инструкции, прогноз погоды будет отображаться на экране 27, как показано на фиг.4(d).
При помощи вышеупомянутого процесса без выполнения манипулирования кнопками или т.п. пользователь выбирает пункт меню, основываясь на электроэнцефалограммах, и может просматривать содержимое, соответствующее желаемому пункту.
Хотя было изображено, что пункты последовательно выбираются на этапе S92, также может быть возможным способ выполнения случайных представлений. Он может привести к возможности того, что выбор меню может быть сделан более тщательным образом, так как неизвестно заранее, какой пункт будет выбран.
В таком электроэнцефалограммном интерфейсе, чтобы реализовать плавное манипулирование, которое соответствует намерению пользователя 10, потребуется высокая способность различения для связанного с событием потенциала. Однако, так как электроэнцефалограммный сигнал имеет большие индивидуальные отличия, то трудно выполнить различение с единственным критерием.
Фиг.5 изображает примеры индивидуальных отличий в электроэнцефалограммных сигналах, которые описываются в непатентном документе 1. Фиг.5 изображает примерные электроэнцефалограммные сигналы от 36 людей, касающихся проблем различения под действием зрительных раздражений. Непатентный документ 1 описывает, что: существует в три раза больше индивидуальных отличий в амплитуде связанного с событием потенциала, чем существует во времени реакции; диапазон амплитуды составляет от 4,4 мкВ до 27,7 мкВ (среднее 16,64 мкВ, стандартное отклонение 6,17 мкВ); и индивидуальные отличия достигают больших отличий, чем поведенческие показатели, такие как время реакции.
Поэтому, если нет понимания в отношении того, электроэнцефалограммы каких характеристик создаются пользователем 10, который использует систему 1 электроэнцефалограммного интерфейса, не могут быть реализованы плавные манипулирования в системе 1 электроэнцефалограммного интерфейса. Другими словами, необходима калибровка для настройки рабочего критерия для электроэнцефалограммного сигнала каждого пользователя 10.
Поэтому, чтобы более ясно понимать признаки настоящего изобретения, со ссылкой на фиг.6 описывается в сравнении калибровка в обычной системе электроэнцефалограммного интерфейса, такой как исследовательские или медицинские применения, и калибровка в системе 1 электроэнцефалограммного интерфейса согласно настоящему варианту осуществления.
При обычной калибровке перед использованием интерфейса необходимо сначала выполнить измерения в ситуации, подобной использованию интерфейса. Фиг.6(а) изображает в хронологическом порядке использование экрана при выполнении обычной калибровки. Горизонтальная ось представляет собой время.
От момента Т0 времени (начальная точка), с которого носится электроэнцефалограф, до момента Т1 времени экран используется для выполнения калибровки. Смотря на экран, пользователь должен создать электроэнцефалограммный сигнал для манипулирования, основанный на электроэнцефалограммах. После того как будут собраны данные электроэнцефалограммного сигнала, выполняется настройка способа различения, и сообщение отображается на экране, что настройка выполняется.
После завершения калибровки меню отображается на экране, и выполняется различение между пунктами выбора, используя систему электроэнцефалограммного интерфейса. Например, последовательно подсвечиваются альтернативы, и связанный с событием потенциал в каждый момент времени измеряется для определения желаемой альтернативы пользователя и выполняется операция (задача) определенной альтернативы.
Отметьте, что в обычных методах, включающих в себя исследовательские или медицинские применения и т.д., меню, подлежащее отображению на экране, не является меню для выбора содержимого или т.п., но является меню, перечисляющее возможные задачи, выполнение которых может запрашиваться. Примером задачи, подлежащей исполнению, может быть то, когда пациент просит попить что-либо в больнице, задача для медицинской сестры или т.п. принести что-либо для питья в соответствии с альтернативой, после того как будет принято решение об альтернативе.
С другой стороны, в настоящем варианте осуществления калибровка выполняется посредством использования характеристики пользователя, вычисленной из амплитуды связанного с событием потенциала во время просмотра содержимого. Принципы этого следующие.
Факторами вышеупомянутых индивидуальных отличий могут быть анатомические индивидуальные отличия (форма черепа или мозга), как носятся электроды, изменения уровня активации каждого индивидуального лица, отличия в манере решения проблемы и т.п.
Между амплитудой связанного с событием потенциала во время просмотра содержимого и амплитудой связанного с событием потенциала в отношении каждого пункта меню, когда активизируется электроэнцефалограммный интерфейс, как считается, может существовать некоторая корреляция в отношении анатомических индивидуальных отличий того, как носят электроды, и изменений уровня активации среди вышеупомянутых флуктуаций. Причина в том, что они оказывают влияние на форму электроэнцефалограмм независимо от типа проблемы. Поэтому посредством по меньшей мере использования характеристики пользователя, которая вычисляется из амплитуды связанного с событием потенциала во время просмотра содержимого, становится возможным выполнять калибровку и улучшать способность различения во время использования электроэнцефалограммного интерфейса.
Фиг.6(b) изображает в хронологическом порядке использование экрана при выполнении калибровки согласно настоящему варианту осуществления. Горизонтальная ось представляет собой время.
В системе 1 электроэнцефалограммного интерфейса согласно настоящему варианту осуществления можно немедленно выполнить отображение содержимого с момента Т0 времени, с которого носится электроэнцефалограф, или выполнить выбор содержимого или т.п. при помощи электроэнцефалограммного интерфейса. В случае использования электроэнцефалограммного интерфейса сначала электроэнцефалограммный интерфейс может выполнить определение альтернативы, основываясь на заранее определенном значении. Например, может использоваться амплитуда стандартного компонента Р3, форма волны связанного с событием потенциала этого пользователя предыдущего раза или т.п. Хотя конкретное использование электроэнцефалограммного интерфейса не выполняется во время просмотра содержимого, данные калибровки собираются во время просмотра содержимого.
После этого, когда завершается просмотр содержимого в момент Т3 времени, отображается меню, показанное на фиг.4. Затем, когда меню отображается, или конкретно в фазе, показанной как этап S95 на фиг.3, выполняется калибровка в системе 1 электроэнцефалограммного интерфейса. В момент Т4 времени завершается отображение меню и после этого выполняется различение пункта выбора, используя систему 1 электроэнцефалограммного интерфейса, и исполняется соответствующая операция. В результате выбранное содержимое представляется после момента Т5 времени.
Согласно настоящему варианту осуществления не предусматривается явно период для получения данных для калибровки, как обычно делается, и поэтому пользователь может немедленно начать просмотр содержимого. Это очень полезно для пользователя, так как целью пользователя в отношении начала использования аппарата является просмотр содержимого или т.п.
Кроме того, так данные калибровки собираются во время просмотра содержимого и после этого выполняется калибровка, также улучшается манипулируемость электроэнцефалограммного интерфейса. В этот момент, так как пользователь не знает о никаком явном процессе калибровки, можно сказать, что совершенно нет обязанностей для пользователя.
Ниже со ссылкой на фиг.7 описывается процедура обработки системой 1 электроэнцефалограммного интерфейса согласно настоящему варианту осуществления. Нижеследующее описание предполагает, что, как и в примере по фиг.3, переключение содержимого, подлежащего представлению на телевизоре, и изменение каналов и уровня громкости звука выполняются посредством использования системы 1 электроэнцефалограммного интерфейса. Вся обработка выполняется посредством повторения процессов от этапа S10 до этапа S90 ниже.
Фиг.7 изображает процедуру обработки системой 1 электроэнцефалограммного интерфейса настоящего варианта осуществления.
На этапе S10 секция 11 вывода отображает содержимое. Обычно содержимое, такое как телевизионная программа или фильм, отображается на телевизионном экране.
На этапе S20 секция 12 измерения биологического сигнала измеряет электроэнцефалограммы. Предполагается, что электроэнцефалограф носится как во время просмотра содержимого, так и во время использования электроэнцефалограммного интерфейса.
На этапе S30 секция 13 электроэнцефалограммного интерфейса определяет, желает ли пользователь активизировать электроэнцефалограммный интерфейс или нет.
Когда подтверждается желание активизировать электроэнцефалограммный интерфейс, управление переходит на процесс извлечения характеристики этапа S70. Когда оно не подтверждается, управление переходит на процесс анализа содержимого этапа S40.
SSVEP или Р300 может использоваться для определения, имеется ли желание активизировать электроэнцефалограммный интерфейс или нет. SSVEP означает вызванный зрительный потенциал устойчивого состояния.
Как было описано в связи с фиг.4(а), на экране перед выбором «меню» 22 отображается справа внизу, причем «меню» 22 мерцает с заданной частотой. Когда пользователь видит «меню» 22, заданная частотная составляющая накладывается на его или ее электроэнцефалограммы и таким образом, можно определить, наблюдается ли «меню» 22 или нет, и может активизироваться электроэнцефалограммный интерфейс. Отметьте, что возможна точная операция даже перед калибровкой, так как присутствие или отсутствие желания активизировать электроэнцефалограммный интерфейс может определяться на основе того, накладывается ли заданная частотная составляющая на электроэнцефалограммы или нет.
Что касается подробностей SSVEP, см. Xiaorong Gao et al., «A BCI-Based Environmental Controller for the Motion-Disabled», IEEE Transaction on Neural Systems and Rehabilitation Engineering, Vol.11, no.2, June 2003.
С этапа S40 до этапа S60, так как было подтверждено на этапе S30, что, как подразумевается, электроэнцефалограммный интерфейс не должен активизироваться, анализ содержимого выполняется в качестве подготовительного процесса для получения характеристики электроэнцефалограмм пользователя 10.
На этапе S40 секция 14 анализа содержимого анализирует данные содержимого и идентифицирует сцену, включенную в содержимое, где вероятно, что появится характеристика на электроэнцефалограммы пользователя 10.
В системе 1 электроэнцефалограммного интерфейса запрос пользователя определяется посредством использования формы волны связанного с событием потенциала, которая происходит тогда, когда подсвечивается меню. Поэтому во время просмотра содержимого секция 14 анализа содержимого извлекает сцены, в которых вероятно, что будут наблюдаться подобные сигналы. Например, считается, что компонент, подобный зрительному компоненту Р3, может наблюдаться в сцене, где имеется большое изменение яркости экрана. Поэтому относительно предварительно определенного порога секция 14 анализа содержимого выполняет анализ в отношении того, имеется ли какая-либо сцена содержимого с большим изменением яркости экрана, основываясь на данных содержимого.
На этапе S50 секция 14 анализа содержимого определяет, сохранить или нет текущую электроэнцефалограмму. В результате анализа этапа S40, если определяется, что текущая электроэнцефалограмма включает в себя тенденцию, которая подобна тенденции электроэнцефалограмм, когда пользователь использует электроэнцефалограммный интерфейс, т.е. если определяется, что имеется большое изменение яркости экрана, управление переходит на этап S60. Если определяется, что нет большого изменения яркости экрана, процесс завершается.
На этапе S60 секция 15 хранения электроэнцефалограмм сохраняет электроэнцефалограммы (связанный с событием потенциал) примерно во временных соотношениях для сохранения электроэнцефалограмм, которые определяются при помощи анализа содержимого. В системе 1 электроэнцефалограммного интерфейса необходимо заметить изменение формы волны связанного с событием потенциала в заданный момент времени. Так как необходимо иметь неизменный базовый уровень для определения, секция 15 хранения электроэнцефалограмм вырезает, например, 200 миллисекунд - 1000 миллисекунд из временных соотношений сохранения и сохраняет его. При помощи такого сохранения и подытоживания может извлекаться характеристика пользователя, в то же время уменьшая сдвиги в электроэнцефалограммах каждый раз, когда оказывает влияние время и шум.
Этап S70 - этап S90 выполняются в том случае, если требуется активизирование электроэнцефалограммного интерфейса на этапе S30. В этих процессах выполняются подготовки для исполнения электроэнцефалограммного интерфейса и операции электроэнцефалограммного интерфейса.
На этапе S70 секция 16 извлечения характеристики пользователя извлекает характеристику формы волны связанного с событием потенциала пользователя, который в настоящий момент носит электроэнцефалограф. Например, секция 16 извлечения характеристики пользователя может взять среднее арифметическое данных формы волны связанного с событием потенциала, хранимых в секции 15 хранения электроэнцефалограмм, и извлечь характеристику электроэнцефалограмм. Характеристикой электроэнцефалограмм может быть, например, тенденция уровня амплитуды формы волны пользователя.
На этапе S80 секция 17 настройки способа различения настраивает способ различения для применения в секции 13 электроэнцефалограммного интерфейса. Этот процесс выполняется на основе характеристической величины, которая извлекается на этапе S70. Ниже описывается процесс настройки способа различения.
На этапе S90 секция 13 электроэнцефалограммного интерфейса обеспечивает функцию электроэнцефалограммного интерфейса. Конкретными процессами являются те, которые были описаны со ссылкой на фиг.3 и фиг.4.
При помощи вышеупомянутых процессов характеристики, относящиеся к индивидуальному отличию пользователя, сохраняются во время просмотра содержимого, когда электроэнцефалограммный интерфейс не активизирован. Если электроэнцефалограммный интерфейс активизирован, настраивается способ различения в секции 13 электроэнцефалограммного интерфейса посредством использования сохраненных данных характеристики индивидуального отличия пользователя. В результате обеспечивается возможность точного различения электроэнцефалограмм, имеющих большие индивидуальные отличия.
Ниже более подробно описывается каждый из этапа S40, этапа S70 и этапа S80 выше со ссылкой на фиг.8 - фиг.11.
Сначала со ссылкой на фиг.8 описываются подробности процесса анализа содержимого, описываемого на этапе S40 на фиг.7. В описании предполагается, что содержимым является движущееся изображение.
Фиг.8 изображает процедуру процесса анализа содержимого видео, которое представляет собой движущееся изображение.
На этапе S41 секция 14 анализа содержимого получает данные содержимого видео. Например, секция 14 анализа содержимого получает данные неподвижного изображения посредством захвата видео, которое отображается в данный момент. Как хорошо известно, движущееся изображение состоит из отображения множества неподвижных изображений, которые переключаются одно за другим с предварительно определенной частотой (например, 30 Гц). Посредством захвата движущегося изображения в данный момент получаются данные одного неподвижного изображения.
Кроме того, вместо получения данных неподвижного изображения из видео, которое отображается в данный момент, также можно получать данные неподвижного изображения, основанные на данных движущегося изображения для отображения этого видео. Например, так как оцифрованные данные движущегося изображения распределяются в цифровом вещании, данные неподвижного изображения, составляющие движущееся изображение, могут извлекаться из этих данных движущегося изображения.
На этапе S42 секция 14 анализа содержимого вычисляет среднее значений яркости изображения. Сами изображения содержат характеристические величины изображения, такие как яркость, цветовой тон и насыщенность, и различную информацию, такую как число пикселей. В настоящем варианте осуществления, чтобы знать общую тенденцию в зрительных раздражениях для пользователя 10, используется среднее значений яркости изображений и исследуется поведение изменений этого среднего значения.
На этапе S43 секция 14 анализа содержимого сравнивает среднее значение, вычисленное на этапе S42, и среднее значение предыдущей обработки. В результате становится возможным выполнить определение, имеется ли большое изменение яркости. Отметьте, что при проведении сравнения в первый раз может использоваться любое произвольное значение в качестве «среднего значения предыдущей обработки», или средние значения могут устанавливаться два раза, и среднее значение первого раза может применяться в качестве «среднего значения предыдущей обработки».
На этапе S44 секция 14 анализа содержимого определяет, является ли или нет величина изменения яркости на этапе S43 равной или большей, чем предварительно определенный порог. Если она равна или больше порога, этап S45; если она не равна или меньше порога, процесс завершается.
На этапе S45, определяя, что форма волны связанного с событием потенциала электроэнцефалограмм должна сохраняться с этого момента времени, секция 14 анализа содержимого выводит на секцию 15 хранения электроэнцефалограмм сигнал инструкции сохранения, указывающий временные соотношения сохранения. Причина в том, что в той ситуации, когда исполняется этап S45, возможно, что связанный с событием потенциал для раздражения был вызван в электроэнцефалограммах пользователя, и таким образом существует необходимость сохранения данных. В результате сохраняется форма волны связанного с событием потенциала, которая представляет характеристику пользователя в окрестности сцены с большим изменением яркости экрана.
Отметьте, что в случае телевизионного экрана сцена с большим изменением яркости экрана может существовать, когда темная сцена внезапно меняется на яркую сцену в фильме или т.п. или телевизионная программа была переключена на кабельный модем (СМ) и т.п. Рассматривая их как зрительные раздражения, эти сцены составляют сцены, которые, вероятно, порождают вызванный потенциал в пользователе 10. Посредством извлечения только таких ситуаций становится возможным получение эффекта, подобного сбору данных в лабораторной комнате для измерения реакции на зрительные раздражения.
Отметьте, что обнаружение изменения яркости изображений необязательно должно выполняться в отношении каждого отдельного кадра. Может учитываться величина изменения по множеству кадров. Нет проблемы в неиспользовании усреднения яркости, до тех пор пока не будет получена тенденция в связанном с событием потенциале и не будет характеристического зрительного раздражения для пользователя.
Отметьте, что временные соотношения для сохранения формы волны связанного с событием потенциала могут определяться на основе внешних признаков изображения, которое имеет такую же яркость или небольшое изменение яркости, но имеет большое изменение цветового тона. Таким образом, временные соотношения сохранения могут определяться посредством использования только цветового тона. Также является возможным использовать насыщенность или другие характеристические величины изображения.
Сохраненная величина в секции 15 хранения электроэнцефалограмм должна определяться на основе соображений, таких как: достаточная величина должна быть сохранена; очень старые данные не должны использоваться и т.д. При исследовании связанного с событием потенциала, вообще говоря, требуется примерно 20-кратное подытоживание данных. Поэтому ради точности предпочтительно сохранять данные примерно 20 раз.
Кроме того, известно, что амплитуда электроэнцефалограмм может изменяться в промежутке времени даже при условии ношения одним и тем же индивидуальным лицом. Возможно, порция данных, которая провела значительное количество времени, может больше не являться полезной порцией информации для различения. Поэтому секция 15 хранения электроэнцефалограмм может работать так, чтобы хранить только данные последних 20 раз, или отбрасывать данные, которые провели предварительно определенное количество времени (например, 1-2 часа). В описываемых ниже процессах из данных, хранимых в секции 15 хранения электроэнцефалограмм, могут назначаться для использования данные последних 20 раз. Затем, если электроэнцефалограф снят с пользователя и снова надет, могут отбрасываться данные до этого момента, и сохранение данных может начаться заново.
В результате вышеописанной обработки соответствующие формы волны связанного с событием потенциала сохраняются в секции 15 хранения электроэнцефалограмм.
Ниже со ссылкой на фиг.9 и фиг.10 описываются подробности процесса извлечения для характеристик пользователя, заявленного на этапе S70 на фиг.7. В описании предполагается, что содержимым является движущееся изображение.
Фиг.9 изображает процедуру процесса извлечения для характеристики пользователя, основываясь на форме волны связанного с событием потенциала. Фиг.10(а)-(d) изображают примеры форм волны, ассоциированные с процессом извлечения характеристики пользователя. Сначала, как показано на фиг.10(а), предполагается, что множество форм 41 волны связанного с событием потенциала сохранено в секции 15 хранения электроэнцефалограмм. Это - пример, показанный в непатентном документе 1, который гипотетически представлен в данном документе. Так как формы 41 волны связанного с событием потенциала были извлечены при появлении сцен с большими изменениями яркости, они были сохранены при подобных условиях. При таком предположении начинается обработка секцией 16 извлечения характеристики пользователя, показанная на фиг.9.
На этапе S71 секция 16 извлечения характеристики пользователя вычисляет среднее арифметическое форм 41 волны связанного с событием потенциала, хранимых в секции 15 хранения электроэнцефалограмм. В результате уменьшаются различные влияния, такие как электроокулографические потенциалы и фоновые электроэнцефалограммы, так что только компонент связанного с событием потенциала, который представляет интерес, акцентируется и становится легким для просмотра. Фиг.10(b) иллюстрирует форму 42 волны, которая представляет собой среднее арифметическое. Хотя фиг.10(а) показывает формы 41 волны, которые были сохранены при подобных условиях, но не учитывает любое отчетливое определение характеристики, фиг.10(b), как можно сказать, представляет одну характеристику таким образом, которую легко наблюдать.
На этапе S72 на фиг.9 секция 16 извлечения характеристики пользователя обнаруживает (вычисляет) амплитуду Р3 для среднеарифметической формы волны, вычисленной на этапе S71. Эта «амплитуда Р3» ссылается на пиковый потенциал компонента Р3 связанного с событием потенциала. В связи с тем, что компонент Р3 является положительным компонентом, который наблюдается через примерно 300 миллисекунд после начальной точки связанного с событием потенциала, он представляет собой его пиковый потенциал положительности около 300 миллисекунд.
В примере на фиг.10(b) нижний (положительный) пик потенциала наблюдается в среднеарифметической форме 42 волны около 300 миллисекунд. Уровень 43 потенциала в этом положении был измерен и составлял 12 мкВ. Так как эта амплитуда имеет большое индивидуальное отличие, эта амплитуда должна использоваться в качестве характеристики каждого пользователя, который определяет идею настоящего изобретения.
Можно задать среднюю величину амплитуды. Например, в примере непатентного документа 1 среднее было равно 16,64 мкВ. Чтобы быть более точным, эталонные значения, соответствующие изменениям в изображениях, могут вычисляться заранее.
На этапе S73 на фиг.9 секция 16 извлечения характеристики пользователя определяет, является ли амплитуда 43 компонента Р3, вычисленная на этапе S72, больше или меньше, чем амплитуда ожидаемой средней формы 45 волны Р3. Затем вычисляется характеристическая величина для целей коррекции.
Например, амплитуда 43 компонента Р3, вычисленная на этапе S72, может классифицироваться и характеризоваться тремя видами, т.е. уровень, подобный среднему значению, больший, чем среднее значение, или меньший, чем среднее значение.
Классификация выполняется, так как необходимо вычислить характеристическую величину для целей коррекции. Характеристическая величина для целей коррекции определяется в соответствии с классификацией. Другими словами, характеристическая величина для целей коррекции соответствует имени группы при группировании, такому как большая, средняя, малая. Что касается степени точности, то эта классификация может быть сделана даже более детальной в зависимости от цели и точности измерения. Также может быть возможным выполнение определения, основываясь на величине относительно средней амплитуды.
На фиг.10(с) сплошная линия 42 изображает результирующую форму волны, и пунктирная линия 45 изображает среднюю форму волны (эталонную форму волны). Классификация, основанная на сравнении этих размеров, приведена в качестве примера на фиг.10(d). Характеристика может описываться тройственной классификацией, такой как «меньше, чем средняя форма волны», или, предполагая, что средняя амплитуда равна 16 мкВ и амплитуда в данный момент равна 12 мкВ, их отношение 0,75 может обозначаться характеристической величиной для целей коррекции.
Таким образом, характеристическая величина, которая отражает индивидуальное отличие пользователя, может вычисляться на основе форм волны, которые сохранены во время просмотра содержимого. В данном документе индивидуальное отличие отражает не только уровень амплитуды форм волны каждого индивидуального лица, но также метод ношения в каждый момент, отличие в уровне активации в данный момент и т.п., так что все факторы, оказывающие влияние на их различие, включены в характеристическую величину для целей коррекции. Отметьте, что из форм волны вышеупомянутого связанного с событием потенциала пользователя во время просмотра содержимого может вычисляться дисперсия среднего значения на единичном интервале и может использоваться их дисперсия.
Ниже описывается, как секция 17 настройки способа различения настраивает способ различения в секции 13 электроэнцефалограммного интерфейса посредством использования характеристической величины, которая вычисляется секцией 16 извлечения характеристики пользователя.
При обработке секцией 13 электроэнцефалограммного интерфейса, чтобы определить, выбран или нет подсвечиваемый в настоящий момент пункт меню, может быть возможен способ, называемый сопоставление шаблонов, который использует шаблоны. Например, секция 13 электроэнцефалограммного интерфейса хранит заранее стандартную форму (А) волны связанного с событием потенциала, когда выбирается пункт меню, и стандартную форму (В) волны связанного с событием потенциала, когда не выбран пункт меню, в качестве шаблонов 18. Затем посредством различения, является ли наблюдаемая в настоящий момент форма волны связанного с событием потенциала ближе к шаблону (А) или шаблону (В), секция 13 электроэнцефалограммного интерфейса может определить, выбран или нет подсвечиваемый в настоящий момент пункт меню.
В случае, когда уровень амплитуды связанного с событием потенциала текущего пользователя 10 является стандартным, простое сопоставление с эталонным шаблоном делает возможным различение, основанное на сопоставлении шаблонов. Однако в случае, когда текущий пользователь 10 отклоняется от стандартной амплитуды, становится необходимым корректировать шаблон. Поэтому шаблон корректируется при помощи характеристической величины, которая вычисляется секцией 16 извлечения характеристики пользователя.
В случае, когда характеристика пользователя классифицируется на большую, среднюю, малую или т.п., может быть подготовлен шаблон, соответствующий каждой, и такие шаблоны могут переключаться. Кроме того, в случае, когда характеристика пользователя выражается как увеличение, такое как 0,75, потенциал может умножаться на предварительно определенный коэффициент (например, 0,75 в вышеприведенном примере) для каждого временного интервала эталонного шаблона, посредством чего могут генерироваться шаблоны после настройки. Фиг.11 изображает шаблон перед настройкой и шаблон после настройки.
В случае, когда индивидуальное отличие обнаруживается большим в некоторых временных интервалах формы волны шаблона, но меньшим в других, это также может учитываться для настройки шаблона, чтобы дополнительно повысить точность. Например, в случае, когда индивидуальное отличие является результатом плохо носимых электродов, или формы головы, или т.п., возможно, что может быть общее влияние на изменения амплитуды. Однако в случае, когда понижается когнитивная активация, могут быть приняты меры, так что, например, характеристическая величина меньше отражается до 200 миллисекунд, где, как предполагается, больший компонент непосредственно реагирует на зрительные раздражения, и что характеристическая величина более отражается при 200 миллисекундах - 500 миллисекундах, где хорошо обнаруживается компонент Р3.
Вышеописанная коррекция предусматривает изменение шаблона. Отметьте, однако, что шаблон может быть оставлен исходным, и амплитуда связанного с событием потенциала может усиливаться или ослабляться в выходном сигнале секции 12 измерения биологического сигнала или во входном сигнале на секцию 13 электроэнцефалограммного интерфейса. Амплитуда связанного с событием потенциала может усиливаться или ослабляться секцией 17 настройки способа различения, инструктирующей секцию 13 электроэнцефалограммного интерфейса или секцию 12 измерения биологического сигнала.
С такой конструкцией согласно устройству настройки способа различения электроэнцефалограмм настоящего изобретения информация, которая необходима для калибровки, получается в то время, когда пользователь просматривает содержимое, без выполнения любой явной калибровки. Поэтому возможно точное определение электроэнцефалограмм без необходимости пользователем траты времени на калибровку, таким образом обеспечивая интерфейс, который является легким для манипулирования.
В вышеупомянутом описании подлежащим представлению содержимым является движущееся изображение и не сделано никакого конкретного упоминания об аудио. Однако во время просмотра телевидения или т.п. вероятно, что звуковая информация представляется через громкоговорители или т.п., в то время как видео отображается на устройстве отображения.
Известно, что связанный с событием потенциал также может порождаться под действием слуховых раздражений, например, аудио, а также под действием зрительных раздражений, например, видео. Поэтому возможно, что вызванные потенциалы от различной звуковой информации также могут накладываться на связанный с событием потенциал, который был выбран на основе критерия только из визуальной информации, и такие вызванные потенциалы могут рассматриваться как шумы с позиции настройки способа различения. Чтобы более точно измерять характеристику связанного с событием потенциала, который связан с индивидуальным отличием, ожидается повышение точности посредством того, что предоставляется возможность не только анализа изображения, но также результат анализа аудио должен приниматься во внимание в секции 14 анализа содержимого.
Ниже в данном документе со ссылкой на фиг.12 описывается обработка секцией 14 анализа содержимого в случае, когда выводится аудио, вместе с видео из секции 11 вывода.
Фиг.12 изображает процедуру обработки секцией 14 анализа содержимого для анализа содержимого, в котором видео и аудио присутствуют различно.
На этапе S141 секция 14 анализа содержимого получает данные изображения, которые представляются секцией 11 вывода в данный момент времени, и на этапе S142 вычисляет среднее значение яркости полученных данных изображения.
С другой стороны, на этапе S143 секция 14 анализа содержимого получает данные аудио, которые выводятся из секции 11 вывода, и на этапе S144 вычисляет среднее значение уровня аудио, который выводится на основе полученных данных аудио.
На этапе S145 секция 16 извлечения характеристики пользователя определяет, является ли правильным временное соотношение для получения связанного с событием потенциала, который хорошо отражает индивидуальное отличие пользователя. Конкретно, когда происходит вышеупомянутое изменение изображения и также наблюдается изменение аудио, которое происходит синхронно с этим изменением, определяется, что связанный с событием потенциал является получаемым, который хорошо представляет характеристику пользователя в ответ на изменение раздражения для пользователя.
Изменения в каждом из изображений и аудио могут обнаруживаться уже описанным способом обработки. Посредством определения, находятся ли такие изменения в синхронизации или нет, становится возможным использовать амплитуду связанного с событием потенциала пользователя в качестве информации, касающейся индивидуальных отличий, без разделения вызванного потенциала для изображения от вызванного потенциала для аудио. Если изображение и аудио определяются как изменяющиеся синхронно на этапе S145, управление переходит на этап S146; если они изменяются не так, процесс завершается.
На этапе S146 определяя, что связанный с событием потенциал на раздражение порождается в электроэнцефалограммах настоящего момента времени, секция 16 извлечения характеристики пользователя определяет необходимость сохранения данных и выводит данный момент времени в качестве временных соотношений сохранения.
Как описано выше, синхронизированные изменения в видео и аудио происходят, вероятно, в соответствии с переключением сцен в телевизоре и поэтому сбор данных волне возможен. Отметьте, что может меняться порядок обработки между этапами S141 и S142 и этапами S143 и S144.
В соответствии с вышеописанными процессами информация, которая необходима для калибровки, может быть получена, основываясь на величине изменения связанного с событием потенциала, который вызывается изменением характеристической величины изображения и/или аудио, и, в более общем смысле, основываясь на величине изменения связанного с событием потенциала, который порождается изменением характеристической величины содержимого.
Секция 15 хранения электроэнцефалограмм извлекает раздражение, если только наблюдается связанный с событием потенциал в ответ на раздражение. Однако также может быть возможным сохранить данные условий, которые приводят к малому раздражению (т.е. малое изменение на экране). Делая так, становится возможным сохранять как электроэнцефалограммы в присутствии раздражений, так и электроэнцефалограммы при редких раздражениях, и посредством использования отличия между ними, легко можно получать отличие характеристик в отношении тех, которые обычно представляют электроэнцефалограммы, от электроэнцефалограмм в ответ на раздражения.
Отметьте, что амплитуда форм волны электроэнцефалограмм, хранимых в секции 15 хранения электроэнцефалограмм, может проверяться в секции 15 хранения электроэнцефалограмм при каждом сохранении, и если сохраненные электроэнцефалограммы настолько малы, что они выходят из обычного диапазона индивидуальных отличий, из секции 11 вывода может быть сделан вывод для подсказки, что требует проверки способ ношения электроэнцефалографа. Например, в ситуации, когда электроэнцефалограммы не измеряются из-за плохого способа ношения электроэнцефалографа, когда он был первый раз надет, может выводиться сообщение, такое как «Электроэнцефалограммы до сих пор не измерены. Оденьте его снова». Кроме того, если предусмотрен механизм для регулярной проверки данных в секции хранения электроэнцефалограмм, становится возможным обнаруживать случаи, когда способ ношения электроэнцефалографа изменился вследствие движения туловища или т.п., и сигнал стал слабым, и т.д.; и даже в таких случаях может выводиться сообщение, такое как «Пожалуйста проверьте, как носится электроэнцефалограф». Это может реализовать ситуацию, которая дает возможность осуществлять естественное использование электроэнцефалограммного интерфейса, в то же время предотвращая ситуацию, когда кто-то замечает, что электроэнцефалограммный интерфейс не является адекватно используемым только после того, как будет активизирован электроэнцефалограммный интерфейс.
Вариант 2 осуществления
Вариант 1 осуществления описал случай, когда данные для калибровки собираются вручную, используя изменения в изображениях, которые представляются на экране, таким образом настраивая способ различения. В настоящем варианте осуществления описывается способ исполнения основанной на аудио калибровки для основанного на аудио интерфейса. Когда такая система применяется в качестве автомобильной навигационной системы для автомобиля, например, пользователю предоставляется возможность манипулирования системой даже во время вождения, таким образом приводя к очень большому удобству.
В настоящем варианте осуществления используется только канал аудио, когда пользуются содержимым, таким как радиопередача, которая обеспечивается посредством широковещательной или потоковой передачи. Основная конструкция системы 1 электроэнцефалограммного интерфейса представляет собой ту, которая показана на фиг.1, за исключением того, что могут предусматриваться только громкоговорители вместо телевизора.
В секции 11 вывода содержимое аудио представляется при помощи громкоговорителей или т.п. Электроэнцефалограммный интерфейс обеспечивается при помощи экрана или обеспечивается последовательным громким прочтением пунктов меню в виде аудио. В последнем случае представлен электроэнцефалограммный интерфейс, рассчитанный только на взаимодействия при помощи аудио.
Ниже в данном документе со ссылкой на фиг.13 описывается обработка секцией 14 анализа содержимого в случае, когда содержимое аудио выводится из секции 11 вывода.
Фиг.13 изображает процедуру обработки секцией 14 анализа содержимого для анализа содержимого аудио.
На этапе S241 секция 14 анализа содержимого получает данные аудио. Диапазон данных аудио, подлежащих получению, представляет собой интервал аудио, который следует за интервалом аудио, который был получен в предыдущем процессе. Каждый интервал аудио может определяться на основе описания, основанного на времени, например взятие отсчетов в каждый предварительно определенный момент времени, или описания, основанного на интенсивности сигнала, например обнаружение интервалов между тональными сигналами.
На этапе S242 секция 14 анализа содержимого вычисляет среднее значение уровня аудио данных аудио полученного интервала аудио.
На этапе S243 секция 14 анализа содержимого выполняет сравнение между средним значением уровня аудио, вычисленным в предыдущий момент времени, и средним значением данного момента времени. В результате может быть обнаружен интервал, в котором произошло большое изменение уровня аудио.
На этапе S244 секция 14 анализа содержимого определяет, является ли или нет величина изменения уровня аудио, обнаруженного на этапе S243, равной или больше, чем предварительно определенный порог. Если она равна или больше, чем порог, управление переходит на этап S245; если она равна или меньше, чем порог, процесс завершается.
На этапе S245 секция 14 анализа содержимого определяет необходимость сохранения данных и выводит этот момент времени в качестве временных соотношений сохранения. Причина в том, что считается, что связанный с событием потенциал для раздражения аудио порождается в электроэнцефалограммах пользователя.
При помощи вышеупомянутой операции в электроэнцефалограммном интерфейсе, относящимся, главным образом, к аудио, также порождается связанный с событием потенциал, представляющий характеристику пользователя, когда существует большое изменение аудио, и поэтому может обнаруживаться данное временное соотношение, и его форма волны может сохраняться в секции 15 следующего сохранения.
Теперь примерами моментов, ассоциированных с большим изменением в аудио, могут быть в фонограмме телевидения или на радио: в отношении спорта - внезапная вспышка аплодисментов, следующая за тем, когда был забит гол после удара по воротам во время прямой телепередачи футбольного матча; внезапно появляющийся сильный смех в программе комического представления или т.п.; и временной сигнал (например, «хлопок, хлопок, хлопок, гудок»). Посредством сохранения связанного с событием потенциала в такие временные соотношения могут быть собраны реакции на слуховые раздражения.
С устройством настройки способа различения электроэнцефалограмм настоящего варианта осуществления даже в электроэнцефалограммном интерфейсе, сосредоточенном на аудио, информация, которая необходима для калибровки, получается в то время, как пользователь наслаждается содержимым без выполнения какой-нибудь явной калибровки. Поэтому возможно точное определение электроэнцефалограмм, не требуя того, чтобы пользователь тратил время на калибровку, таким образом обеспечивая интерфейс, который является легким для манипулирования.
Вариант 3 осуществления
В вариантах 1 и 2 осуществления были показаны примеры получения информации для калибровки из содержимого, такого как телевидение.
Однако даже при просмотре содержимого, такого как телевидение, на электроэнцефалограммы пользователя 10 могут оказывать влияние факторы, кроме содержимого. Примерами факторов, кроме содержимого, могут быть изменения во внешней окружающей обстановке. Конкретно «хлопанье» закрывающейся двери, сигнал точного времени часов, «динь-дон» входного электрического звонка от приходящего гостя и т.п. также, возможно, может оказывать влияние на электроэнцефалограммы пользователя 10.
Изобретатели обнаружили, что посредством восприятия раздражения от внешней окружающей обстановки (т.е. свет и/или звук в окружающей обстановке, в которой находится пользователь) можно получать данные для калибровки из этого результата.
Ниже в данном документе со ссылкой на фиг.14 описывается устройство настройки способа различения электроэнцефалограмм согласно настоящему варианту осуществления.
Фиг.14 изображает функциональную блочную конструкцию системы 1 электроэнцефалограммного интерфейса согласно настоящему варианту осуществления. Система 1 электроэнцефалограммного интерфейса включает в себя устройство 50 настройки способа различения электроэнцефалограмм.
Устройство 50 настройки способа различения электроэнцефалограмм отличается от устройства 2 настройки способа различения электроэнцефалограмм (фиг.2) тем, что устройство 50 настройки способа различения электроэнцефалограмм включает в себя секцию 51 обнаружения внешней окружающей обстановки и секцию 52 анализа внешней окружающей обстановки вместо секции 14 анализа содержимого устройства 2 настройки способа различения электроэнцефалограмм. Это означает, что цель анализа различается между устройством 50 настройки способа различения электроэнцефалограмм и устройством 2 настройки способа различения электроэнцефалограмм.
Ниже в данном документе подробно описывается устройство 50 настройки способа различения электроэнцефалограмм. Среди составляющих элементов устройства 50 настройки способа различения электроэнцефалограмм те элементы, которые подобны элементам устройства 2 настройки способа различения электроэнцефалограмм (фиг.2), обозначаются подобными позициями, и описание опускается.
Секция 51 обнаружения внешней окружающей обстановки обнаруживает изменение в окружающей обстановке, в которой находится пользователь 10. «Окружающая обстановка, в которой находится пользователь 10», означает внутри комнаты в примере, показанном на фиг.1. Альтернативно, когда пользователь 10 вышел из дома с надетым устройством носимого типа, она означает вне помещения. Когда пользователь 10 ведет автомобиль, она означает ситуацию внутри автомобиля или вокруг дороги.
Секция 51 обнаружения внешней окружающей обстановки представляет собой датчик, который обнаруживает и выводит состояние окружающей обстановки. Более конкретно, он представляет собой микрофон, который получает информацию о звуках в окружающей обстановке, в которой находится пользователь, и выводит информацию, или камеру, которая получает и выводит визуальную информацию вокруг пользователя в окружающей обстановке. Однако это - примеры. Можно использовать любой датчик, который пригоден для обнаруживаемой окружающей обстановки.
Принимая выходной сигнал от секции 51 обнаружения внешней окружающей обстановки и, если необходимо, выводя с секции 11 вывода (представленное содержимое), секция 52 анализа внешней окружающей обстановки выполняет анализ сигнала и выдает инструкцию в отношении временных соотношений для сохранения электроэнцефалограмм в секции 15 хранения электроэнцефалограмм.
Ниже со ссылкой на фиг.15 описываются подробности процесса анализа для изменения в окружающей обстановке. Ниже в данном документе в качестве примера предусматривается, что пользователь просматривает содержимое на телевизоре и что процесс анализа для изменения в окружающей обстановке выполняется на основе звуков в окружающей обстановке внутри помещения.
Фиг.15 изображает процедуру процесса анализа изменения звуков, касающихся окружающей обстановки, в окружающей обстановке внутри помещения, как показано на фиг.1.
На этапе S521 секция 51 обнаружения внешней окружающей обстановки получает звук внешней окружающей обстановки. Например, если микрофон установлен около электроэнцефалографа 12, носимого пользователем 10, или т.п., звуки внешней окружающей обстановки, которые слышны пользователем 10, будут захватываться микрофоном.
Ожидается, что голоса и звуки от телевизионного приемника 11 или т.п. также будут обнаруживаться смешанным образом в звуках внешней окружающей обстановки, которые получаются во время просмотра телевизора 11. Поэтому воздействия на телевизор 11 удаляются при помощи следующих этапов.
На этапе S522 из выходного сигнала от секции 11 вывода секция 52 анализа внешней окружающей обстановки получает информацию, касающуюся аудио. В результате получают аудиоинформацию, которую имеет содержимое.
На этапе S523 секция 52 анализа внешней окружающей обстановки удаляет аудиоинформацию содержимого из информации звуков внешней окружающей обстановки, получаемых секцией 51 обнаружения внешней окружающей обстановки. В результате может извлекаться сигнал, который извлекается только из внешней окружающей обстановки.
На этапе S524 секция 52 анализа внешней окружающей обстановки определяет, содержится ли какой-либо характеристический звук в звуке внешней окружающей обстановки посредством использования сигнала, который извлекается только из внешней окружающей обстановки. Примерами характеристических звуков могут быть «хлопанье» закрывающейся двери, «динь-дон» входного электрического звонка домофона от приходящего гостя и т.п. Физические свойства (форма волны, уровень аудио и т.д.) таких звуков характеризуются тем, что у них быстро повышается уровень аудио и их уровни аудио оказывают влияние на электроэнцефалограммы в качестве связанных с событием потенциалов. Пока есть такие характеристики физических величин звука, этот звук может рассматриваться как звук, который представляет собой характеристику звука внешней окружающей обстановки. Посредством получения связанного с событием потенциала электроэнцефалограмм в данный момент времени может быть получена информация для калибровки. Конкретно, превышает или нет величина увеличения уровня звука в единицу времени предварительно определенный порог, может использоваться, например, в качестве критерия определения. Если она определяется в качестве характеристики, управление переходит на этап S525; если она не определяется в качестве характеристики, процесс завершается.
На этапе S525, так как изменение звука равно или больше, чем порог, определяется, что связанный с событием потенциал на раздражение звуком порождается в электроэнцефалограммах пользователя. Таким образом определяется необходимость сохранения данных, и данный момент времени выводится в качестве временных соотношений сохранения.
При помощи такой обработки формы волны, подлежащие использованию для калибровки, могут быть получены не только из информации содержимого, но также из характеристического изменения во внешней окружающей обстановке.
Выше был изображен пример калибровки, который основывается на звуках окружающей обстановки внутри помещения во время просмотра внутри помещения телевизора или т.п. Однако посредством обнаружения изменения физической величины в других внешних окружающих обстановках изменение в окружающей обстановке может обнаруживаться и использоваться для калибровки.
Например, если кто-то вышел из дома с надетым носимым электроэнцефалографом, внезапно появляющиеся звуки вне помещения, например звонок, звенящий на платформе станции, музыка витрины магазина или в визуальных терминах, мерцание вывески или т.п., могут обнаруживаться как изменение физической величины и может обнаруживаться изменение связанного с событием потенциала, порожденного таким звуком или мерцанием, посредством чего может обнаруживаться изменение во внешней окружающей обстановке. Аналогично, в случае вождения автомобиля подача сигнала другим автомобилем, мигание или переключение сигнала для регулирования движения или т.п. могут обнаруживаться в качестве изменения физической величины и использоваться в качестве сигнала, который может оказывать влияние на электроэнцефалограммы.
Таким образом, с устройством настройки способа различения электроэнцефалограмм настоящего варианта осуществления информация, которая необходима для калибровки, получается также из изменений в окружающей обстановке ситуации, в которой находится пользователь, без выполнения какой-либо явной калибровки. Поэтому точное определение электроэнцефалограмм возможно без необходимости пользователем тратить время на калибровку, таким образом обеспечивая интерфейс, который является легким для манипулирования.
Промышленная применимость
С устройством настройки способа различения электроэнцефалограмм согласно настоящему изобретению и системой электроэнцефалограммного интерфейса, включающей в себя такое устройство, когда пользователь просматривает содержимое, электроэнцефалограммы (связанный с событием потенциал), отражающие характеристику, относящуюся к индивидуальным отличиям пользователя, извлекаются из содержимого и настраивается способ различения. Это полезно для повышения манипулируемости любым аппаратом, способ различения которого требует улучшения посредством предоставления возможности отражения индивидуальных отличий в электроэнцефалограммах на него, например, информационный аппарат или аппарат видео/аудио, включающий в себя интерфейс манипулирования аппаратом, который использует электроэнцефалограммы. Кроме интерфейсов, использующих электроэнцефалограммы, настоящее устройство также эффективно функционирует для любого аппарата, который требует коррекции индивидуальных отличий, например аппарат предоставления услуг, который обнаруживает психологическое состояние, эмоциональное состояние, когнитивное состояние или т.п. пользователя и действует в соответствии с такими состояниями.
Функции такого устройства могут быть реализованы посредством компьютерной программы, например, и поэтому легко могут быть реализованы без выполнения существенных модификаций в системе.