(57)【特許請求の範囲】
【請求項１】
カメラ、照明、およびスピーカが結合されたスマートリーディング機器の動作方法であって、
ユーザの命令に基づき、前記カメラに入力される映像を取得する段階、
前記取得された映像から印刷物のページを検出する段階、
前記検出されたページに基づき、前記印刷物と前記検出されたページを検索する段階、
前記検出されたページが検索されると、前記検索されたページに対して予め設定された音源を前記スピーカによって再生する段階、
前記検出されたページが検索されなければ、前記検出されたページのテキストを認識する段階、および
前記認識されたテキストに対して前記スピーカから音声を発話する段階を含む、方法。
【請求項２】
カメラ、照明、およびスピーカが結合されたスマートリーディング機器の動作方法であって、
ユーザの命令に基づき、前記カメラに入力される映像を取得する段階、
前記取得された映像から印刷物のページを検出する段階、
前記検出されたページのテキストを認識する段階、
前記認識されたテキストに対して前記スピーカから音声を発話する段階、
前記取得された映像において予め定められた位置の一部領域と、前記カメラに入力される映像において前記位置の一部領域とを比較することにより、前記検出されたページから他のページへのページめくりを感知する段階、
前記入力される映像を取得し、前記他のページのテキストを認識する段階、および
前記認識されたテキストに対して前記スピーカから音声を発話する段階を含む、
方法。
【請求項３】
前記検出されたページを検索する段階は、
前記印刷物の各ページに対する少なくとも１つのイメージと、各イメージに対応して予め設定された音源がマッピングされているデータベースを検索し、
前記検出されたページと類似度が最も高いイメージに対する音源を選択する、
請求項１又は２に記載の方法。
【請求項４】
前記音声を発話する段階は、
前記認識されたテキストを分析し、各文章に対して少なくとも１つの音声タグを付与する段階、
前記認識されたテキストに前記音声タグを反映して前記音声を合成する段階、および
前記音声を発話する段階を含み、
前記音声タグは、
前記文章の類型、話者、または感情のうちの少なくともいずれか１つを示す、
請求項１〜３のうちのいずれか一項に記載の方法。
【請求項５】
前記音声を発話する段階は、
前記認識されたテキストを翻訳する段階、および
前記翻訳されたテキストに対して前記音声を発話する段階を含む、
請求項１または４のうちのいずれか一項に記載の方法。
【請求項６】
前記取得された映像において予め定められた位置の一部領域と、前記カメラに入力される映像において前記位置の一部領域とを比較することにより、前記検出されたページから他のページへのページめくりを感知する段階、
前記入力される映像を取得し、前記他のページのテキストを認識する段階、および
前記認識されたテキストに対して前記スピーカから音声を発話する段階をさらに含む、
請求項１に記載の方法。
【請求項７】
スマートリーディング機器であって、
カメラ、照明、およびスピーカ、並びに
前記カメラ、照明、およびスピーカと連結し、ユーザの命令に基づき、前記カメラに入力される映像を取得するように構成される少なくとも１つのプロセッサを含み、
前記プロセッサは、
前記取得された映像から印刷物のページを検出し、
前記検出されたページに基づき、前記印刷物と前記検出されたページを検索し、
前記検出されたページが検索されると、前記検索されたページに対して予め設定された音源を前記スピーカによって再生し、
前記検出されたページが検索されなければ、前記検出されたページのテキストを認識し、
前記認識されたテキストに対して前記スピーカから音声を発話するように構成される、機器。
【請求項８】
前記プロセッサは、
ＯＣＲによって前記検出されたページをスキャンして前記テキストを認識するように構成される、
請求項７に記載の機器。
【請求項９】
前記プロセッサは、
前記印刷物の各ページに対する少なくとも１つのイメージと、各イメージに対応して予め設定された音源がマッピングされているデータベースを検索し、
前記検出されたページと類似度が最も高いイメージに対応する音源を選択するように構成される、
請求項７または８に記載の機器。
【請求項１０】
前記プロセッサは、
前記認識されたテキストを分析し、各文章に対して少なくとも１つの音声タグを付与し、
前記認識されたテキストに前記音声タグを反映して前記音声を合成し、
前記音声を発話するように構成され、
前記音声タグは、
前記文章の類型、話者、または感情のうちの少なくともいずれか１つを示す、
請求項７〜９のうちのいずれか一項に記載の機器。
【請求項１１】
前記プロセッサは、
前記認識されたテキストを翻訳し、
前記翻訳されたテキストに対して前記音声を発話するように構成される、
請求項７〜１０のうちのいずれか一項に記載の機器。
【発明の詳細な説明】
【技術分野】
【０００１】
以下の説明は、本を読み上げる技術に関する。
【背景技術】
【０００２】
乳幼児や低学年児童のような低年齢の学習者のために、本を読み上げる技術が提案されている。
【０００３】
例えば、特許文献１（登録日２００４年０１月０２日）には、静電誘導方式を利用し、問題集に印刷された学習内容（文字や絵など）にライトペンを接触させると、接触位置に該当する関連の学習内容が音声で出力される技術が開示されている。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】韓国登録特許第１０−０４１５２３６号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
カメラ、照明、およびスピーカが結合された、スタンドタイプのスマートリーディング機器を提供する。
【０００６】
本をスキャンして認識されたテキストを音声で発話する、スマートリーディング機器およびその制御方法を提供する。
【０００７】
選択された声によって本を読み上げる、スマートリーディング機器およびその制御方法を提供する。
【０００８】
本を多様な言語に翻訳して読み上げる、スマートリーディング機器およびその制御方法を提供する。
【０００９】
楽譜をスキャンして多様な楽器の演奏を提供する、スマートリーディング機器およびその制御方法を提供する。
【００１０】
被保護者のリアルタイムモニタリングと、保護者と被保護者のコミュニケーションを提供する、スマートリーディング機器およびその制御方法を提供する。
【００１１】
映像撮影を利用して映像コンテンツを作成する、スマートリーディング機器およびその制御方法を提供する。
【課題を解決するための手段】
【００１２】
多様な実施形態によると、カメラ、照明、およびスピーカが結合されたスマートリーディング機器の動作方法は、ユーザの命令に基づき、前記カメラに入力される映像を取得する段階、前記取得された映像から印刷物のページを検出する段階、前記検出されたページからテキストを認識する段階、および前記認識されたテキストに対する音声を前記スピーカから発話する段階を含む。
【００１３】
多様な実施形態によると、スマートリーディング機器は、カメラ、照明、およびスピーカ、並びに前記カメラ、照明、およびスピーカと連結し、ユーザの命令に基づき、前記カメラに入力される映像を取得するように構成される少なくとも１つのプロセッサを含み、前記プロセッサは、前記取得された映像から印刷物のページを検出し、前記検出されたページからテキストを認識し、前記認識されたテキストに対する音声を前記スピーカから発話するように構成される。
【発明の効果】
【００１４】
本発明の実施形態によると、カメラ、照明、およびスピーカが結合されたスマートリーディング機器を提供することができる。
【００１５】
本発明の実施形態によると、本をスキャンして認識されたテキストを音声で発話することができる。
【００１６】
本発明の実施形態によると、選択された声によって本を読み上げることができる。
【００１７】
本発明の実施形態によると、本を多様な言語に翻訳して読み上げることができる。
【００１８】
本発明の実施形態によると、楽譜をスキャンして多様な楽器の演奏を提供することができる。
【００１９】
本発明の実施形態によると、被保護者のリアルタイムモニタリングと、保護者と被保護者とのコミュニケーションを提供することができる。
【００２０】
本発明の実施形態によると、映像撮影を利用して映像コンテンツを作成することができる。
【図面の簡単な説明】
【００２１】
【図１】多様な実施形態における、コンピュータ装置の内部構成の一例を説明するためのブロック図である。
【図２】多様な実施形態における、スマートリーディング機器を例示的に示した斜視図である。
【図３】図１のプロセッサの構成を詳しく示した図である。
【図４】一実施形態における、クラウド人工知能プラットフォームの例を示した図である。
【図５】第１実施形態における、スマートリーディング機器の動作方法を示したフローチャートである。
【図６ａ】図５のユーザ命令を認識する段階を示したフローチャートである。
【図６ｂ】図５の映像を取得する段階を説明するための図である。
【図７】第１実施形態における、スマートリーディング機器の設定段階を示したフローチャートである。
【図８】図５の読み上げ機能を提供する段階を示したフローチャートである。
【図９ａ】図５の読み上げ機能を提供する段階を説明するための図である。
【図９ｂ】図５の読み上げ機能を提供する段階を説明するための図である。
【図９ｃ】図５の読み上げ機能を提供する段階を説明するための図である。
【図９ｄ】図５の読み上げ機能を提供する段階を説明するための図である。
【図１０ａ】図８のテキストを認識する段階を説明するための図である。
【図１０ｂ】図８のテキストを認識する段階を説明するための図である。
【図１０ｃ】図８のテキストを認識する段階を説明するための図である。
【図１０ｄ】図８のテキストを認識する段階を説明するための図である。
【図１１】図８の音声を発話する段階を示したフローチャートである。
【図１２】図８の音声を発話する段階を示したフローチャートである。
【図１３ａ】図８のページめくりを検出する段階を説明するための図である。
【図１３ｂ】図８のページめくりを検出する段階を説明するための図である。
【図１４】第２実施形態における、スマートリーディング機器の動作方法を示したフローチャートである。
【図１５】第３実施形態における、スマートリーディング機器の動作方法を示したフローチャートである。
【図１６】第４実施形態における、スマートリーディング機器の動作方法を示したフローチャートである。
【発明を実施するための形態】
【００２２】
以下、本発明の実施形態について、添付の図面を参照しながら詳細に説明する。
【００２３】
本発明の実施形態は、本を読み上げる技術に関する。
【００２４】
本明細書において具体的に開示される事項を含む実施形態は、カメラ、照明、およびスピーカが結合されたスマートリーディング機器においてすべての本をスキャンし、ユーザが希望する声で本を読み上げてくれる、スマートリーディング機器を提供する。
【００２５】
図１は、多様な実施形態における、コンピュータ装置の例を示したブロック図である。例えば、本発明の実施形態に係るスマートリーディング機器は、図１に示されたコンピュータ装置１００によって実現されてよい。
【００２６】
図１に示すように、コンピュータ装置１００は、本発明の実施形態に係るスマートリーディング制御方法を実行するための構成要素として、メモリ１１０、プロセッサ１２０、通信インタフェース１３０、および入力／出力インタフェース１４０を含んでよい。
【００２７】
メモリ１１０は、コンピュータ読み取り可能な記録媒体であって、ＲＡＭ（ｒａｎｄｏｍ  ａｃｃｅｓｓ  ｍｅｍｏｒｙ）、ＲＯＭ（ｒｅａｄ  ｏｎｌｙ  ｍｅｍｏｒｙ）、およびディスクドライブのような永続的大容量記録装置を含んでよい。ここで、ＲＯＭやディスクドライブのような永続的大容量記録装置は、メモリ１１０とは区分される別の永続的記録装置としてコンピュータ装置１００に含まれてもよい。また、メモリ１１０には、オペレーティングシステムと、少なくとも１つのプログラムコードが記録されてよい。このようなソフトウェア構成要素は、メモリ１１０とは別のコンピュータ読み取り可能な記録媒体からメモリ１１０にロードされてよい。このような別のコンピュータ読み取り可能な記録媒体は、フロッピー（登録商標）ドライブ、ディスク、テープ、ＤＶＤ／ＣＤ−ＲＯＭドライブ、メモリカードなどのコンピュータ読み取り可能な記録媒体を含んでよい。他の実施形態において、ソフトウェア構成要素は、コンピュータ読み取り可能な記録媒体ではない通信インタフェース１３０を通じてメモリ１１０にロードされてもよい。例えば、ソフトウェア構成要素は、ネットワーク１６０を介して受信されるファイルによってインストールされるコンピュータプログラムに基づいてコンピュータ装置１００のメモリ１１０にロードされてよい。
【００２８】
プロセッサ１２０は、基本的な算術、ロジック、および入出力演算を実行することにより、コンピュータプログラムの命令を処理するように構成されてよい。命令は、メモリ１１０または通信インタフェース１３０によって、プロセッサ１２０に提供されてよい。例えば、プロセッサ１２０は、メモリ１１０のような記録装置に記録されたプログラムコードに従って受信される命令を実行するように構成されてよい。
【００２９】
通信インタフェース１３０は、ネットワーク１６０を介してコンピュータ装置１００が外部機器、例えば、サーバ１７０と互いに通信するための機能を提供してよい。一例として、コンピュータ装置１００のプロセッサ１２０がメモリ１１０のような記録装置に記録されたプログラムコードに従って作成した要求や命令、データ、ファイルなどが、通信インタフェース１３０の制御に従ってネットワーク１６０を介して他の装置に伝達されてよい。これとは逆に、他の装置からの信号や命令、データファイルなどが、ネットワーク１６０を経てコンピュータ装置１００の通信インタフェース１３０を通じてコンピュータ装置１００に受信されてよい。通信インタフェース１３０を通じて受信された信号や命令、データなどは、プロセッサ１２０やメモリ１１０に伝達されてよく、ファイルなどは、コンピュータ装置１００がさらに含むことのできる記録媒体（上述した永続的記録装置）に記録されてよい。
【００３０】
入力／出力インタフェース１４０は、入力／出力装置１５０とのインタフェースのための手段であってよい。例えば、入力装置は、マイク、キーボード、カメラ、またはマウスなどの装置を含んでよく、出力装置は、ディスプレイやスピーカのような装置を含んでよい。他の例として、入力／出力インタフェース１４０は、タッチスクリーンのように入力と出力のための機能が１つに統合された装置とのインタフェースのための手段であってもよい。入力／出力装置１５０は、コンピュータ装置１００と１つの装置で構成されてもよい。
【００３１】
また、他の実施形態において、コンピュータ装置１００は、図１の構成要素よりも少ないか多くの構成要素を含んでもよい。しかし、大部分の従来技術的構成要素を明確に図に示す必要はない。例えば、コンピュータ装置１００は、上述した入力／出力装置１５０のうちの少なくとも一部を含むように実現されてもよいし、トランシーバやデータベースなどのような他の構成要素をさらに含んでもよい。
【００３２】
通信方式が限定されることはなく、ネットワーク１６０が含むことのできる通信網（一例として、移動通信網、有線インターネット、無線インターネット、放送網）を利用する通信方式だけではなく、機器間の近距離有線／無線通信が含まれてもよい。例えば、ネットワーク１６０は、ＰＡＮ（ｐｅｒｓｏｎａｌ  ａｒｅａ  ｎｅｔｗｏｒｋ）、ＬＡＮ（ｌｏｃａｌ  ａｒｅａ  ｎｅｔｗｏｒｋ）、ＣＡＮ（ｃａｍｐｕｓ  ａｒｅａ  ｎｅｔｗｏｒｋ）、ＭＡＮ（ｍｅｔｒｏｐｏｌｉｔａｎ  ａｒｅａ  ｎｅｔｗｏｒｋ）、ＷＡＮ（ｗｉｄｅ  ａｒｅａ  ｎｅｔｗｏｒｋ）、ＢＢＮ（ｂｒｏａｄｂａｎｄ  ｎｅｔｗｏｒｋ）、インターネットなどのネットワークのうちの１つ以上の任意のネットワークを含んでよい。さらに、ネットワーク１６０は、バスネットワーク、スターネットワーク、リングネットワーク、メッシュネットワーク、スター−バスネットワーク、ツリーまたは階層的ネットワークなどを含むネットワークトポロジのうちの任意の１つ以上を含んでもよいが、これらに限定されることはない。
【００３３】
図２は、多様な実施形態における、スマートリーディング機器を例示的に示した斜視図である。
【００３４】
図２を参照すると、本発明の実施形態に係るスマートリーディング機器２００は、図１に示されたコンピュータ装置１００によって実現されてよく、カメラ２０１、照明２０２、およびスピーカ２０４が結合されたスタンド型デバイスで構成されてよい。また、本や楽譜のような物体を載置するパッド、あるいは読書スタンド形態の追加の構成（図示せず）がともに備えられてもよい。
【００３５】
カメラ２０１と照明２０２が含まれるヘッド部分２０３は、手動あるいは自動で回転可能な構造物を追加で備えてよく、一例として、Ｘ軸、Ｙ軸、およびＺ軸のうちの少なくとも２つ以上の軸を中心に回転可能な構造により、カメラ２０１と照明２０２が下を向くように回転するか、あるいは定められた場所（例えば、ユーザの顔や動きが認識された位置、ユーザがデバイスと連結するアプリによって指定した位置など）を向くように回転してよい。
【００３６】
照明２０２は、１つ以上のＬＥＤを配置して構成されてよい。このとき、照明２０２は、それぞれのＬＥＤのＯＮ／ＯＦＦ、または明るさや色温度の調節を可能とし、必要によって適切な照明を提供してよい。
【００３７】
例えば、カメラ２０１が本を撮影しているときに光反射が発生した場合、特定の位置のＬＥＤをＯＦＦにするか明るさを調節することにより、光反射の発生を防いでよい。
【００３８】
カメラ２０１は、ヘッド部分に１つが位置するように図に示されているが、この位置に限定されることはなく、必要によって２つ以上のカメラが備えられてもよく、スタンドの本体部分にカメラが位置してもよい。
【００３９】
本実施形態において、スマートリーディング機器２００は、音声入力を受けるためのマイク（図示せず）、映像入力を受けるためのカメラ２０１、音声を出力するためのスピーカ２０４を入力／出力装置１５０として基本的に含んでよい。場合によっては、スマートリーディング機器２００とのインタフェースのための手段として、ディスプレイ（図示せず）や入力ボタンなどがさらに含まれてもよい。
【００４０】
本発明の一実施形態に係るスマートリーディング機器２００は、本などの印刷物を読み上げる機能（読書機能）を提供する。スマートリーディング機器２００は、イメージを認識し、該当のページに該当する音源を再生してよい。適切な音源がない場合には、ページ内のテキストを認識し、音声合成技術を利用して該当のテキストの内容を音声で出力してよい。このとき、文章の感情を分析したり、誰を話者するかを把握したりすることにより、自然な合成音声が提供されるようにしてよい。
【００４１】
この他にも、本発明に係るスマートリーディング機器２００は、楽譜演奏機能、コミュニケーション機能、コンテンツ作成機能など、ユーザのための多様な機能を提供してよい。
【００４２】
本発明に係るスマートリーディング機器２００は、ユーザの活動を記録および管理してよい。これを利用することにより、ユーザの趣向や行動パターンを把握し、ユーザにより適したコンテンツの提供が可能となる。
【００４３】
さらに、スマートリーディング機器２００は、音声基盤のインタフェースを利用し、ユーザの発話によって入力される音声入力に含まれるユーザ命令（以下、「音声命令」と称する）を処理することのできる人工知能（ＡＩ）秘書サービス機能を含んでよい。
【００４４】
スマートリーディング機器２００は、ユーザの音声命令を直接に認識および分析して音声命令に適した動作を実行してユーザ命令を処理してもよいが、実施形態によっては、ユーザの音声命令に対する認識や認識された音声命令の分析、ユーザに提供される音声の合成などの処理を、スマートリーディング機器２００と連係する外部のプラットフォームで実行してもよい。
【００４５】
本発明に係るスマートリーディング機器は、照明機能を提供してよい。ユーザは、ボタン、音声入力、またはスマートリーディング機器を制御する個別のアプリなどを利用してスマートリーディング機器の照明２０２を制御してよい。また一実施形態によると、スマートリーディング機器は、周辺環境に適した明るさや色温度などの照明設定を自動で調節してもよく、あるいは予め設定された多様な照明モードをユーザに提供してもよい。
【００４６】
具体的な例として、現在時刻や位置によって照明を調節してよい。例えば、位置によって日が当たる時間が異なることを考慮し、明るい時間帯と暗い時間帯の照明の明るさを異ならせてよい。また、年代別に好みの色温度が異なることもあるため、音声分析によって現在のユーザを把握して色温度を調節してもよい。また、照度センサを追加で備えて情報を取得したり、カメラ内に備えられたセンサ情報を活用したりし、入力される情報によって照明を調節してもよい。例えば、周辺が明るい場合には照明は暗くなるように、周辺が暗い場合には照明は明るくなるように自動で設定してよい。さらに、カメラ入力映像から周辺環境情報を取得して状況に適した照明を提供してもよい。例えば、入力される映像から、周辺は明るいか暗いか、何人の人物がいるか、人物はどのような行動をしているかなどを分析し、該当の状況に適した照明を設定してよい。
【００４７】
ユーザは、自動照明調整機能を使用するか否かを個別に設定してよい。照明自動モードがｏｎになっている場合には現在の周辺の明るさを感知し、暗ければ適正モードによって自動で照明が点くようにしてよい。
【００４８】
スマートリーディング機器２００は、少なくとも１つ以上の照明モード（例えば勉強（学習）モード、読書モード、クリエイトモード、就寝（ムード）モード、冥想モードなど）を提供してよい。
【００４９】
それぞれの照明モードでは、該当のモードで実行される動作に適した色温度および／または明るさの照明を提供してよい。例えば、勉強モードは、算数や数学などの問題に取り掛かるのに適した環境であって、適切な色温度として６５００〜６９００Ｋが設定されてよく、読書モードは、童話を読んだり英語を暗記したりするなど言語を読むために適した環境であって、適切な色温度として４５００〜４９００Ｋが設定されてよく、クリエイトモードは、絵を描くなどの創造的な活動に適した環境であって、適切なとして色温度２６００〜２９００Ｋが設定されてよく、就寝モードは、睡眠に適した環境であって、適切な色温度として２２００〜２８００Ｋが設定されてよい。明るさ調節も、それぞれのモードに対して適した値が設定されてよい。各モードの色温度、および明るさ／照度値の好ましい事例については、下記の表１に示した。
【００５０】
【表１】
0006978543.tif 000002
【００５１】
また、照度センサを利用して周辺照度の明るさを調節する場合、これによって設定される各モード別の照明の一例については、下記の表２に示した。
【００５２】
【表２】
0006978543.tif 000003
【００５３】
図３は、図１のプロセッサの構成を詳しく示した図である。
【００５４】
図３を参照すると、プロセッサ１２０は、ビジョン（ｖｉｓｉｏｎ）モジュール３１０、文字認識モジュール３２０、文章分析モジュール３３０、音声処理モジュール３４０、または会話処理モジュール３５０のうちの少なくともいずれか１つを備えてよい。
【００５５】
ビジョンモジュール３１０は、映像から印刷物のページを検出してよい。
【００５６】
この後、ビジョンモジュール３１０は、検出されたページを識別してよい。
【００５７】
ビジョンモジュール３１０は、検出されたページからイメージを取得し、検出されたページのイメージに基づいてデータベースを検索してよい。例えば、ビジョンモジュール３１０は、ディープラーニング（ｄｅｅｐ  ｌｅａｒｎｉｎｇ）によるイメージ検索（ｉｍａｇｅ  ｒｅｔｒｉｅｖａｌ：ＩＲ）技術を利用し、少なくとも１つの印刷物の各ページに対する少なくとも１つのイメージが記録されているデータベースを検索し、該当のページに関する情報が予め記録されているかを確認してよい。このとき、データベースには、各ページのイメージに対応して予め設定された音源がマッピングされて記録されていてよい。
【００５８】
データベースは、スマートリーディング機器２００内部のメモリ１１０および／またはスマートリーディング機器２００の外部機器、例えば、サーバ１７０やプラットフォームに記録されていてよい。
【００５９】
このような方式を利用することにより、該当のページに対応する音源ファイルが既に存在する場合には、テキストを認識して音声化しなくても、該当のページに対応する音をユーザに迅速に提供することが可能となる。さらに、ページイメージおよびこれに対応する音源ファイルをデータベースに追加するだけで、提供可能なコンテンツの幅を手軽に拡張することが可能となる。
【００６０】
本発明の一実施形態によると、検出されたページに該当する情報がデータベース内に記録されているかを確認するために、データベース内に記録されたイメージとの類似度検索を実行してよい。例えば、ビジョンモジュール３１０は、データベースに記録されたイメージと検出されたページイメージとの類似度を計算し、類似度が最も高いイメージを選択してよい。最も類似するイメージが予め定められた閾値以上の類似度を満たせば、検出されたページのイメージとデータベースのイメージは同じ印刷物の同じページを撮影したものと見なしてよく、したがって、該当のイメージに関する情報は、検出されたページに該当するページ情報として識別してよい。このとき、最も類似するイメージであったとしても、予め定められた閾値を超過しない場合には、データベース内には検出されたページに該当する情報が存在しないと判断してよい。
【００６１】
印刷物を特定しなくても、該当のページがどの印刷物のどのページであるかを検索するためには、イメージ検索を迅速かつ正確に実行する必要がある。本発明の実施形態によると、類似度検索のための特徴（ｆｅａｔｕｒｅ）を抽出するためのモデルの一例として、図９ｂに示すようなＣＧＤ（ｃｏｍｂｉｎａｔｉｏｎ  ｏｆ  ｍｕｌｔｉｐｌｅ  ｇｌｏｂａｌ  ｄｅｓｃｒｉｐｔｏｒｓ）フレームワーク９０１が利用されてよい。
【００６２】
ＣＧＤフレームワーク９０１は、１つのバックボーンＣＮＮで多様な方法によってグローバルディスクリプタ（ｇｌｏｂａｌ  ｄｅｓｃｒｉｐｔｏｒ）を作成し、これを組み合わせて類似度用のベクトルとして使用する方法である。ドメインに適したモデルでファインチューニング（ｆｉｎｅ  ｔｕｎｉｎｇ）するために分類ロス（ｃｌａｓｓｉｆｉｃａｔｉｏｎ  ｌｏｓｓ）とランキングロス（ｒａｎｋｉｎｇ  ｌｏｓｓ）をともに使用して一度に学習し、多様なグローバルディスクリプタを組み合わせて使用できることから、実行速度が速い上に高い性能を出すことができる。
【００６３】
図９ｂを参照しながらより具体的に説明すると、ＣＧＤフレームワーク９０１は、メインモジュール９１０と補助モジュール９２０を含んでよい。メインモジュール９１０は、畳み込みニューラルネットワーク（ＣＮＮ：ｃｏｎｖｏｌｕｔｉｏｎ  ｎｅｕｒａｌ  ｎｅｔｗｏｒｋ）から抽出された互いに異なる複数のグローバルディスクリプタ（ｇｌｏｂａｌ  ｄｅｓｃｒｉｐｔｏｒ：ＧＤ）ＧＤ  １、・・・、ＧＤ  Ｎからイメージ表現（ｉｍａｇｅ  ｒｅｐｒｅｓｅｎｔａｔｉｏｎ）のランキングロス（ｒａｎｋｉｎｇ  ｌｏｓｓ）を学習してよい。ここで、メインモジュール９１０は、グローバルディスクリプタＧＤ  １、・・・、ＧＤ  ＮをＦＣレイヤとＬ２レイヤに基づいてそれぞれ学習し、それぞれの学習結果を結合させてイメージ表現のランキングロスを学習してよい。補助モジュール９２０は、グローバルディスクリプタＧＤ  １、・・・、ＧＤ  Ｎのうちのいずれか１つからイメージ表現の分類ロス（ｃｌａｓｓｉｆｉｃａｔｉｏｎ  ｌｏｓｓ）を学習してよい。ここで、補助モジュール９２０は、グローバルディスクリプタＧＤ  １、・・・、ＧＤ  Ｎのうちのいずれか１つをＢＮレイヤとＦＣレイヤに基づいて学習してイメージ表現の分類ロスを学習してよい。このとき、グローバルディスクリプタＧＤ  １、・・・、ＧＤ  Ｎは、グローバルプーリング技法（ｇｌｏｂａｌ  ｐｏｏｌｉｎｇ  ｍｅｔｈｏｄ）によって作成され、例えば、コンボリューションの合計プーリング（ＳＰｏＣ：ｓｕｍ  ｐｏｏｌｉｎｇ  ｏｆ  ｃｏｎｖｏｌｕｔｉｏｎ）、コンボリューションの最大活性化（ＭＡＣ：ｍａｘｉｍｕｍ  ａｃｔｉｖａｔｉｏｎ  ｏｆ  ｃｏｎｖｏｌｕｔｉｏｎ）、一般化平均プーリング（ＧｅＭ：ｇｅｎｅｒａｌｉｚｅｄ−ｍｅａｎ  ｐｏｏｌｉｎｇ）を含んでよい。本発明の一実施形態によると、本検索においては、ＧｅＭを単独で使用することが好ましい。
【００６４】
文字認識モジュール３２０は、検出されたページからテキストを認識してよい。例えば、文字認識モジュール３２０は、ＯＣＲ（ｏｐｔｉｃａｌ  ｃｈａｒａｃｔｅｒ  ｒｅａｄｅｒ）技術によって検出されたページに含まれるテキストを認識してよい。
【００６５】
ＯＣＲ技術を利用して本の読み上げを提供するにあたり、本などの印刷物ではページ内においてテキストの配置が多様であり、どの部分をどのように、どのような順で読み上げなければならないかということが問題になることがある。
【００６６】
図９ｃは、本発明の一実施形態における、本の読み上げに適した文字認識モジュール３２０の内部プロセスを説明した図である。図を参照すると、文字認識モジュール３２０は、イメージが入力されると、ディープラーニング基盤の文字検出モデルにより、イメージ内に含まれる文字がイメージ内のどの部分に位置するかを検出（Ｔｅｘｔ  Ｄｅｔｅｃｔｉｏｎ）してよい。このように検出された部分に対し、ディープラーニング基盤の文字認識モデルにより、どのような文字であるかを文字認識（Ｔｅｘｔ  Ｒｅｃｏｇｎｉｔｉｏｎ）してよい。このとき、曲線や回転文字などのような多様な方向のテキスト認識や、多様な角度から本が入ってくることもあるため、文字を検出しながら文字の方向も同時に推定するようにしてよい。図９ｄでは、ページ別にテキストを認識し、文字方向を認識した結果の一例を示している。
【００６７】
認識されたテキスト間の距離を利用してクラスタリング（Ｔｅｘｔ  Ｃｌｕｓｔｅｒｉｎｇ）することにより、１つ以上のグループを決定してよい。例えば、ＤＢＳＣＡＮに基づき、より近くに位置するＯＣＲ結果のテキスト同士が同じグループになるようにクラスタリングを実行してよい。
【００６８】
これに基づき、線形回帰（Ｌｉｎｅ  ｒｅｇｒｅｓｓｉｏｎ）基盤のソーティング（Ｓｏｒｔｉｎｇ）モデルを利用して読み上げ順を決定（Ｔｅｘｔ  Ｓｏｒｔｉｎｇ）してよい。すなわち、入力映像において、ページの折れ曲がりによって文字の配列が曲線に見えたとしても、各単語を本来の順のとおりに読み上げることができるように、各列の多項式を回帰して単語の順序を定めてよい。
【００６９】
また、韓国語／日本語／英語などのような多様な言語に対して、各言語別の個別のモデルではなく言語統合単一モデルが利用されてよく、このような方式を利用することにより、ページ内に多様な言語が混在する図書の読み上げも可能にすることができる。
【００７０】
必要によって、実際に読み上げる必要のない文字は、後処理作業によって除外されてよい。例えば、本のページ番号、背景に使用された文字、本の内容とは関係のない書籍情報などの内容は、テキストとして認識されたとしても除外されてよい。
【００７１】
文字認識モジュール３２０の結果をそのまま合成してユーザに提供する場合、ページ内の内容が長い場合には、音声合成に時間がかかるという問題が起こることもある。このような問題を解決するために、自然な読み上げ機能を実行するための文章分析モジュール３３０が追加で使用されてよい。
【００７２】
文章分析モジュール３３０は、認識されたテキストを分析し、各文章を、自然に区切って読み上げることのできる意味単位に区分してよい。さらに、各文章の感情を分析してよい。このために、文章分析モジュール３３０は、テキストを分析してよい。このとき、文章分析モジュール３３０は、テキストを各文章に区分してよい。ここで、文章分析モジュール３３０は、文章の符号や分かち書きなどに基づいて文章を区分してよい。また、文章分析モジュール３３０は、テキストを校正してよい。このとき、文章分析モジュール３３０は、予め設定された規則に基づいて各文章を校正してよい。さらに、文章分析モジュール３３０は、各文章内の少なくとも１つの単語の意味、各文章と隣接する文章との文脈、または隣接する文章内の少なくとも１つの単語の意味に基づき、各文章の感情を分析してよい。
【００７３】
例えば、文章分析モジュール３３０は、各文章の感情を肯定、否定、および中立に分類してよく、肯定の感情は感動と喜びの間で追加分類し、不定の感情は悲しみ、怒り、および苛立ちの間で追加分類してもよい。一例として、ある文章が「むかっ」、「しかめながら」、「かっと怒って」、または「怒鳴った」のうちの少なくともいずれか１つを含む場合、文章分析モジュール３３０は、該当の文章の感情を否定に分類してよい。これにより、文章分析モジュール３３０は、各文章に対して該当の文章の感情を示す音声タグを付与してよい。
【００７４】
本発明の一実施形態によると、文章を感情分析するためのディープラーニングモデルを利用してよい。感情分析のためのモデルは、多数の文章および該当の文章の感情情報を利用して学習されてよい。学習されたモデルは、入力された文章の感情が肯定／中立／否定となるそれぞれの確率を計算し、このうち最も高い確率の感情を該当の文章の感情として選択してよい。
【００７５】
音声処理モジュール３４０は、認識されたテキストに対応する音声を合成してよい。音声処理モジュール３４０は、認識されたテキストに音声タグを反映し、音声を合成してよい。このとき、音声処理モジュール３４０は、各文章に対して音声タグを反映し、音声を合成してよい。ここで、音声タグは、文章の類型、話者、または感情のうちの少なくともいずれか１つを示してよい。これにより、音声処理モジュール３４０は、該当の文章の類型、該当の文章の話者、または該当の文章の感情に基づき、各文章の音声を合成してよい。例えば、音声処理モジュール３４０は、ＮＥＳ（ｎａｔｕｒａｌ  ｅｎｄ−ｔｏ−ｅｎｄ  ｓｐｅｅｃｈ  ｓｙｎｔｈｅｓｉｓ  ｓｙｓｔｅｍ）技術によって自然な音声を合成してよい。
【００７６】
会話処理モジュール３５０は、ユーザの音声命令を認識してよい。このとき、会話処理モジュール３５０は、音声命令に基づいてユーザを識別してよい。会話処理モジュール３５０は、音声命令に基づいてユーザの性別や年齢などを区分してよい。さらに、会話処理モジュール３５０は、音声命令に基づいてユーザが一個人であることを特定してよい。例えば、複数のユーザが予め登録されている場合、会話処理モジュール３５０は、音声命令に基づき、登録されたユーザのうちから１人を選択してよい。
【００７７】
図４は、一実施形態における、クラウド人工知能プラットフォームの例を示した図である。図４を参照すると、スマートリーディング機器２００は、クラウド人工知能プラットフォーム４２０と連係して実現されてよい。プロセッサ１２０の構成要素のうちの少なくともいずれか１つが、クラウド人工知能プラットフォーム４２０に実現されてよい。上述したプロセッサ１２０のビジョン（ｖｉｓｉｏｎ）モジュール３１０、文字認識モジュール３２０、文章分析モジュール３３０、音声処理モジュール３４０、または会話処理モジュール３５０のうちの少なくともいずれか１つが、クラウド人工知能プラットフォーム４２０に実現されてよい。
【００７８】
スマートリーディング機器２００や該スマートリーディング機器２００においてインストールされて実行されるアプリケーション（以下、アプリと称する）は、インタフェースコネクト４４０を介してクラウド人工知能プラットフォーム４２０と連係してよい。ここで、インタフェースコネクト４４０は、スマートリーディング機器２００やスマートリーディング機器２００においてインストールされて実行されるアプリの開発のためのＳＤＫ（Ｓｏｆｔｗａｒｅ  Ｄｅｖｅｌｏｐｍｅｎｔ  Ｋｉｔ）および／または開発文書を開発者に提供してよい。また、インタフェースコネクト４４０は、スマートリーディング機器２００やスマートリーディング機器２００においてインストールされて実行されるアプリが、クラウド人工知能プラットフォーム４２０が提供する機能を活用することのできるＡＰＩ（Ａｐｐｌｉｃａｔｉｏｎ  Ｐｒｏｇｒａｍ  Ｉｎｔｅｒｆａｃｅ）を提供してよい。具体的な例として、開発者は、インタフェースコネクト４４０が提供するＳＤＫ（Ｓｏｆｔｗａｒｅ  Ｄｅｖｅｌｏｐｍｅｎｔ  Ｋｉｔ）および／または開発文書を利用して開発した機器やアプリは、インタフェースコネクト４４０が提供するＡＰＩを利用してクラウド人工知能プラットフォーム４２０が提供する機能を活用することが可能となる。
【００７９】
拡張キット４５０は、コンテンツサービス４３０、例えば、第三者コンテンツ開発者または会社がクラウド人工知能プラットフォーム４２０に基づいて新たな音声基盤機能を実現することのできる開発キットを提供してよい。以下、スマートリーディング機器およびその制御方法の具体的な実施形態について説明する。
【００８０】
スマートリーディング機器２００は、動作モードごとに異なるように動作してよい。
【００８１】
読書モードにおいて、スマートリーディング機器２００は、印刷物に基づき、読み上げ機能をユーザに提供してよい。一実施形態によると、スマートリーディング機器２００は、カメラ２０１に入力された映像に含まれる印刷物に基づき、読み上げ機能をユーザに提供してよい。
【００８２】
また、スマートリーディング機器２００は、ユーザの読書記録および／またはユーザが属するグループ、例えば、年齢、性別、性格などによるグループの読書記録を分析し、ユーザに印刷物を推薦してよい。また、スマートリーディング機器２００は、ユーザが選択した印刷物に基づき、読み上げ機能をユーザに提供してよい。また、読書モードの終了時、スマートリーディング機器２００は、印刷物と関連する追加機能を実行してよい。このとき、スマートリーディング機器２００は、ユーザとのインタフェースによって追加機能を実行してよい。例えば、追加機能には、印刷物を読んだ感想またはコメント作成機能、予め設定された印刷物と関連する活動が含まれてよい。
【００８３】
読書モードにおいて、スマートリーディング機器２００は、読み上げ機能をユーザ別に提供してよい。例えば、スマートリーディング機器２００に複数のユーザが登録されている場合、スマートリーディング機器２００は、ユーザを識別してよい。一例として、スマートリーディング機器２００は、音声命令の声に基づき、ユーザのうちからいずれか１人を識別してよい。他の例として、スマートリーディング機器２００は、音声命令の主体を質問し、追加入力された音声命令の内容に基づき、ユーザのうちからいずれか１人を識別してよい。これにより、スマートリーディング機器２００は、読み上げ機能をユーザ別に提供することが可能となる。このとき、スマートリーディング機器２００は、各ユーザに対応する音声で読み上げ機能を提供してよい。
【００８４】
印刷物が問題集である場合、スマートリーディング機器２００の読書モードには、ユーザの解答に対する採点が含まれてよい。スマートリーディング機器２００は、入力された映像の分析により、印刷物に追加で記載されたユーザの解答を認識してよい。これを利用することにより、該当の問題解釈が合っているかを確認したり、間違った部分を確認したりすることが可能となる。さらに、ユーザが問題を解くまでに長い時間がかかるなど問題解釈に困難が見られたり、他の要求をしたりした場合には、問題に対するヒントを提供してよい。
【００８５】
読書モードの終了時、スマートリーディング機器２００は、ユーザとのインタフェースにより、問題集と関連する追加機能を実行してよい。このために、スマートリーディング機器２００は、外部機器、例えば、問題集と関連のあるサーバ１７０から関連データをダウンロードし、これに基づいて追加機能を実行してよい。スマートリーディング機器２００は、問題集に対するユーザの読後活動を誘導してよい。また、スマートリーディング機器２００は、問題集で間違った問題の解釈および解説を提供してよい。また、スマートリーディング機器２００は、ユーザの学習達成度を評価するために、問題集と関連のあるクイズを提供してよい。また、スマートリーディング機器２００は、読書モードの実行途中にカメラ２０１に入力された映像を取得し、外部機器、例えば、問題集と関連のあるサーバ１７０を経て予め定められた教師や講師を提供してよい。また、スマートリーディング機器２００は、外部機器を経て教師や講師から受信されたファイルを提供してよい。さらに、スマートリーディング機器２００は、問題集内の問題と類似の問題を検索して提供してよい。
【００８６】
図５は、第１実施形態における、スマートリーディング機器の動作方法を示したフローチャートである。
【００８７】
図５を参照すると、段階５１０において、プロセッサ１２０は、スマートリーディング機器２００のユーザの命令を認識してよい。ユーザの命令は、ボタン命令または音声命令のうちの少なくともいずれか一方であってよい。一実施形態によると、プロセッサ１２０は、入力される音声を分析してユーザを識別してよい。例えば、スマートリーディング機器２００に複数のユーザが登録されている場合、プロセッサ１２０は、音声命令からユーザのうちの１人を識別してよい。上述したように、スマートリーディング機器２００は、複数の動作モードを含んでよく、動作モードごとに異なるように動作してよい。例えば、動作モードは、就寝モード、読書モード、勉強モード、または冥想モードのうちの少なくともいずれか１つを含んでよい。
【００８８】
図６ａは、図５のユーザ命令を認識する動作を示したフローチャートである。
【００８９】
図６ａを参照すると、段階６１０において、プロセッサ１２０は、ボタン命令または音声命令の入力を受けてよい。プロセッサ１２０は、会話基盤インタフェースにおいてユーザの音声命令の入力を受けてよい。例えば、プロセッサ１２０は、会話基盤インタフェースとして、スマートリーディング機器２００が含むマイクまたはスマートリーディング機器２００と連動するマイクのような音声入力装置において、ユーザの発話による音声命令の入力を受けてよい。あるいは、プロセッサ１２０は、ユーザのボタン命令の入力を受けてよい。例えば、プロセッサ１２０は、スマートリーディング機器２００に含まれるボタンまたはスマートリーディング機器２００と連動するキーボードのようなボタン入力装置において、ボタン命令の入力を受けてよい。
【００９０】
段階６１０において、音声命令またはボタン命令が入力されると、段階６２０において、プロセッサ１２０は、スマートリーディング機器２００の動作モードのうちのいずれか１つを実行するための要求として、ユーザの命令を認識してよい。このとき、プロセッサ１２０は、ユーザの命令が読書モードを実行するための要求であるかどうかを判断してよい。
【００９１】
一実施形態によると、プロセッサ１２０は、ユーザの命令に対応してカメラ２０１を起動させ、カメラ２０１に入力される物体を分析してユーザの命令を認識してよい。一例として、カメラ２０１が認識した物体が本である場合、プロセッサ１２０は、スピーカ２０４から「本を読んで欲しいの？」のようにユーザに質問してよい。ユーザからの応答が肯定的である場合、プロセッサ１２０は、ユーザの命令が読書モードを実行するための要求であると判断してよい。他の例として、カメラ２０１が認識した物体が楽譜である場合、プロセッサ１２０は、スピーカ２０４から「楽譜を演奏して欲しいの？」のように質問し、これに対する応答が肯定的である場合、ユーザの命令が楽譜演奏機能を実行するための他の動作モードを実行するための要求であると判断してよい。
【００９２】
また、ユーザは、音声命令に基づいて特定のモードを実行させてよい。例えば、ユーザが「読書モード」のような音声命令を入力した場合、プロセッサ１２０は、読書モードを実行させるための要求であると判断してよい。
【００９３】
段階６２０において、ユーザの命令が読書モードを実行するための要求であると判断されると、段階Ｓ６３０において、プロセッサ１２０は、読書モードを実行してよい。このとき、プロセッサ１２０は、読書モードに対応して設定された照度または色温度のうちの少なくともいずれか一方に基づき、照明２０２を調節してよい。一実施形態によると、プロセッサ１２０は、カメラ２０１を起動させてよい。この後、プロセッサ１２０は、図５に戻ってよい。
【００９４】
この反面、段階６２０において、ユーザの命令が読書モードを実行するための要求でないと判断されると、段階６４０において、プロセッサ１２０は、ユーザの命令に対応して該当の機能を実行してよい。このとき、プロセッサ１２０は、読書モード以外の他の動作モードを実行してよい。ここで、プロセッサ１２０は、他の動作モードに対応して設定された照度または色温度のうちの少なくともいずれか１つに基づき、照明２０２を調節してよい。
【００９５】
再び図５を参照すると、段階５２０において、プロセッサ１２０は、スマートリーディング機器２００に含まれるカメラ２０１に入力される映像を取得してよい。プロセッサ１２０は、カメラ２０１から印刷物を含む映像を取得してよい。ここで、印刷物には、少なくとも１つのページが含まれてよい。ページは、印刷物の表紙と内部のページとを含んでよい。
【００９６】
一実施形態によると、プロセッサ１２０は、映像から本のような印刷物のエッジ（ｅｄｇｅ）を検出してよい。このとき、映像から印刷物のエッジが検出されなかった場合、プロセッサ１２０は、スピーカ２０４から「本を正しい位置に置いてね」のような案内をユーザに提供してよい。これにより、スマートリーディング機器２００のユーザは、印刷物をカメラ２０１と向かい合う位置に置くことが可能となる。
【００９７】
他の実施形態によると、スマートリーディング機器２００は、図６ｂに示すように、ヘッド部分２０３に設置されたレーザ６６０をさらに含み、印刷物の適切な載置位置６７０をレーザ６６０によって案内してよい。これにより、スマートリーディング機器２００のユーザは、レーザ６６０が案内する位置６７０に印刷物を置くことが可能となる。
【００９８】
段階Ｓ５３０において、プロセッサ１２０は、カメラ２０１に入力される映像と関連のある読み上げ機能を提供してよい。一実施形態によると、プロセッサ１２０は、特定のユーザに対応する読み上げ機能を提供してよい。例えば、プロセッサ１２０は、段階５１０で識別されたユーザに対応して予め登録された音声に基づき、読み上げ機能を提供してよい。
【００９９】
プロセッサ１２０は、映像から印刷物のページ内のテキストを認識してよい。この後、プロセッサ１２０は、認識されたページに対し、読み上げ機能を提供してよい。
【０１００】
一例として、プロセッサ１２０は、ＯＣＲ（ｏｐｔｉｃａｌ  ｃｈａｒａｃｔｅｒ  ｒｅａｄｅｒ）技術を利用して本のテキストと絵を区別して認識してよい。これにより、プロセッサ１２０は、スマートリーディング機器２００に含まれるスピーカ２０４からテキストに対応する音声を発話してよい。他の例として、プロセッサ１２０は、ページに印刷されたＱＲ（ｑｕｉｃｋ  ｒｅｓｐｏｎｓｅ）コード（登録商標）あるいはバーコードを認識し、認識されたコードに基づき、スマートリーディング機器２００に含まれるデータベースあるいはスマートリーディング機器２００と連動可能なサーバ１７０やプラットフォーム上のデータベースから、該当のページのテキストまたは該当のページや該当のページを含む印刷物の音源を取得してよい。これにより、プロセッサ１２０は、スピーカ２０４からテキストに対応する音声を発話したり、音源を再生したりすることが可能となる。言い換えれば、プロセッサ１２０は、ＯＣＲスキャンやＱＲコード（登録商標）検索によって取得した印刷物のテキストを読み上げることが可能となる。ユーザに印刷物のページをめくるように促しながらスマートリーディング機器２００が該当のページをＯＣＲによってスキャンして読み上げてもよいし、あるいはＱＲコードによって印刷物の各ページが区分される場合、スマートリーディング機器２００が該当のページのＱＲコードを認識し、認識されたページのテキストを取得して読み上げてもよい。プロセッサ１２０は、記録されている音源を利用してよく、記録された音源がない場合やユーザから要求がある場合には、音声合成器が合成した音声を提供してよい。
【０１０１】
一実施形態によると、プロセッサ１２０は、カメラ２０１に入力された印刷物の表紙が含まれる映像を分析し、該当の本が何であるかを探知してよい。より具体的に、プロセッサ１２０は、ｉ）本の表紙に記載されたテキスト領域を検索して該当のテキストを文字認識する、ｉｉ）データベース内に記録された表紙イメージと比較する、ｉｉｉ）本の表紙に印刷されたＱＲコードあるいはバーコードなどを利用するなどの多様な方法により、該当の本に関する情報を探知してよい。本に関する情報を利用することにより、多様な方式によって予め構築されたデータベースの本の内容に関する情報（例えば、ページ内のテキストおよび／またはイメージ情報、ページ内のテキストに関する音声情報、本のあらすじ、作家、出版社などのような本に関する付加情報、ユーザ選好度情報など）を追加で活用してよい。例えば、スマートリーディング機器２００は、本の表紙から本の情報を探知した後、データベース内に記録された該当の本に関する情報を活用してよい。この後、ページに対する映像が入力されたとき、テキストの一部に対する文字認識だけでも、該当の本に対するデータベース検索によってどのようなページであるかを認知することが可能となり、該当のページ全体を読み上げることが可能となる。また、追加のデータとして、該当のページに適したコンテンツ（テキストに対する音声、付加的な説明情報など）を提供してもよい。
【０１０２】
また、スマートリーディング機器２００は、テキストの他に、イメージ分析によってカメラが撮影した事物自体を認識してもよく、本に印刷されたイメージを認識してイメージ認識結果を音声で発話してもよい。例えば、本にりんごのイメージが印刷されている場合、イメージ認識結果に基づき、「りんご」または「アップル」のような音声発話が出力されてよい。
【０１０３】
本発明によると、よりリアリティのある本の読み上げのために、本の追加的な情報を反映して音声を合成したり、従来の音声を変調して提供したりしてよい。例えば、フォントサイズが大きいテキストは大きな声で、フォントサイズが小さいテキストは小さな声で読み上げてよい。また、直接引用符号である括弧（「」）や吹き出し内の文章は、登場人物が直接行う発話であるため、話者を区分して異なる声で読み上げてよい。さらに、絵を分析することで、人物の表情が憂鬱であったり泣いたりしている場合には悲しい声で、笑顔の場合には明るい声で表現するなど、感情を把握してこれに合った音声を提供してもよい。段落の区分や省略符号がある部分では、適切に間隔を置きながら読み上げてよい。
【０１０４】
上述したようなテキストとイメージを認識する方法は例示的なものであり、これに限定されてはならず、周知の他の技術を利用することも可能である。
【０１０５】
また、スマートリーディング機器２００は、読み上げ機能に対し、認識されたテキストとイメージを認識順に従って本ごとに記録してよく、ユーザの読書回数や読書中断ページなどを含んだユーザ履歴情報を記録してよい。このような情報を利用することにより、同じ本に対してはＯＣＲスキャンやＱＲコード検索過程を経る必要がなくなり、実際に本がなくても該当の本の続きを読む機能を提供することが可能となり、続きを読む機能を提供する過程においては、ユーザが同じ本を何回読んだか、どのページまで読んだかなどの情報を活用することが可能となる。
【０１０６】
以下、上述したスマートリーディング機器２００の動作方法によるシナリオ例について説明する。
【０１０７】
１．スマートリーディング機器２００は、ユーザの発話によって入力された音声命令「本を読んで」を認識した場合、カメラ２０１を活性化させた後、「どの本を読もうか？本の表紙を見せて」のように、読み上げ機能のためのガイドを音声で出力してよい。
【０１０８】
２．ユーザがカメラ２０１の正面に本を置きながら「この本、読んだことある？」と質問した場合、スマートリーディング機器２００は、記録された情報を検索し、検索結果に応じて「いや、読んだことのない本だよ！」のような応答を発話してよい。
【０１０９】
３．スマートリーディング機器２００は、本の表紙を認識した後、「＜ブラウン、何を考えているの？＞という本だね？本をゆっくりめくりながら読んでみよう。それでは始めるよ。」のように、本の情報とともにガイドを発話した後、本の読み上げを開始してよい。
【０１１０】
スマートリーディング機器２００は、テキストの読み上げの他にも、ユーザがイメージカードをカメラ２０１の正面に置きながら「これは何？」と質問すると、イメージを認識しながら「これは、りんごだよ」のように、イメージを認識して読み上げることも可能である。
【０１１１】
プロセッサ１２０は、ユーザが選択した特定の声でテキストに対応する音声を発話してよい。このために、スマートリーディング機器２００には、少なくとも１つの声が予め設定されてよい。このとき、プロセッサ１２０は、読書モードが他の動作モードを実行しながら、声を設定してよい。例えば、プロセッサ１２０は、図６の段階Ｓ６４０において、読書モードのための声を設定してもよい。これについては、図７を参照しながらより詳細に説明する。
【０１１２】
図７は、第１実施形態における、スマートリーディング機器の設定段階を示したフローチャートである。このとき、図７の設定動作は、図５の動作方法に含まれてよい。ここで、図７の設定動作は、図５の動作方法の初期に実行されてよい。
【０１１３】
図７を参照すると、段階７１０において、スマートリーディング機器２００は、スマートリーディング機器２００に含まれるマイクに入力された特定人物の音声を録音した後、録音された音声から特定人物の声データを抽出して記録および保持してよい。このとき、スマートリーディング機器２００は、読み上げ機能に活用するための声として、別途の録音機能によって特定人物（例えば、ママやパパなど）の声を録音して声の特徴を抽出した後、声の対象とマッチングして記録してよい。
【０１１４】
段階７２０において、スマートリーディング機器２００は、ユーザの音声命令が読み上げ機能のための要求に該当する場合、読み上げ機能に適用可能な声リスト、あるいは少なくとも１つのおすすめの声をユーザに提供してよい。例えば、スマートリーディング機器２００は、音声発話により、「この本を読む人を、ブラウン、コニー、セリーのうちから選んでね」のような声リストを提供するか、「この本、ママの声で読んでみようか？」のようなおすすめの声を提供してよい。
【０１１５】
これにより、スマートリーディング機器２００は、ユーザとの会話に基づき、段階５３０で認識されたテキストを、ユーザが選択した特定の声で発話して読み上げる機能を提供することが可能となる。言い換えれば、スマートリーディング機器２００は、読み上げ機能の音声発話に、ママやパパなどの録音された声を合成することができる。
【０１１６】
以下、上述したスマートリーディング機器２００の動作方法によるシナリオ例について説明する。
【０１１７】
１．スマートリーディング機器２００は、ユーザの発話によって入力された音声命令「本を読んで」を認識した場合、カメラ２０１を活性化させた後、「どの本を読もうか？本の表紙を見せて」のように、読み上げ機能のためのガイドを音声で出力してよい。
【０１１８】
２．ユーザがカメラ２０１の正面に本を置きながら「この本、読んだことある？」と質問した場合、スマートリーディング機器２００は、記録された情報を検索し、検索結果に応じて「いや、読んだことのない本だよ！」のような応答を発話してよい。
【０１１９】
３．スマートリーディング機器２００は、本の表紙を認識した後、「＜ブラウン、何を考えているの？＞という本だね？ママの声で読んでみようか？」のように、本の情報とともにおすすめの声を提供してよい。
【０１２０】
４．ユーザが「うん、いいね！」のようにおすすめの声を受諾した場合、スマートリーディング機器２００は、「本をゆっくりめくりながら読んでみよう。それでは始めるよ」のようにガイドを発話した後、本の読み上げを開始してよい。
【０１２１】
また他の実施形態によると、プロセッサ１２０は、カメラ２０１に入力された印刷物のページが含まれる映像を分析し、印刷物および印刷物内の該当のページを識別してよい。すなわち、プロセッサ１２０は、印刷物の表紙に基づいて印刷物を識別することが可能なだけでなく、印刷物の内部ページを基づいて印刷物を識別することも可能である。言い換えれば、プロセッサ１２０は、印刷物の表紙に基づいて印刷物を識別した後、印刷物の内部ページを認識するのではなく、印刷物の内部ページに基づいて印刷物を識別することもできる。これについては、図８を参照しながらより詳細に説明する。
【０１２２】
図８は、図５の読み上げ機能を提供する段階を示したフローチャートである。図９ａ、図９ｂ、図９ｃ、および図９ｄは、図５の読み上げ機能を提供する段階を説明するための図である。ここで、図９ｂは、図８のページを認識する段階を説明するための例示図であり、図９ａ、図９ｃ、および図９ｄは、図８のテキストを認識する段階を説明するための例示図である。図１０ａ、図１０ｂ、図１０ｃ、および図１０ｄは、図８のテキストを認識する段階を説明するための図である。図１３ａおよび図１３ｂは、図８のページめくりを検出する段階を説明するための図である。
【０１２３】
図８を参照すると、段階８１０において、プロセッサ１２０は、カメラ２０１が取得した映像から印刷物のページを検出してよい。このとき、プロセッサ１２０は、映像内から検出されるエッジに基づき、ページを検出してよい。ここで、ページは、印刷物の表紙または内部ページのうちのいずれか１つであってよい。
【０１２４】
段階８２０において、プロセッサ１２０は、検出されたページを識別してよい。データベースには、印刷物の各ページに対する少なくとも１つのイメージと、各イメージに対応して予め設定された音源とがマッピングされていてよい。これにより、プロセッサ１２０は、検出されたページに対するイメージに基づいてデータベースを検索してよい。一例として、データベースは、スマートリーディング機器２００の内部に記録されていてよい。このとき、プロセッサ１２０は、検出されたページがデータベースに存在するかを判断してよい。他の例として、データベースは、スマートリーディング機器２００の外部機器、例えば、サーバ１７０やプラットフォームに記録されていてもよい。このような場合、プロセッサ１２０は、検出されたページに対するイメージを外部機器に送信してデータベースを検索してよい。このとき、プロセッサ１２０は、検出されたページがデータベースに存在するかの判断を外部機器で行ってよい。
【０１２５】
印刷物が特定されなくても該当のページがある印刷物のあるページだということを検知するためには、イメージ検索を迅速かつ正確に実行する必要がある。本発明の一実施形態によると、類似度検索用特徴（ｆｅａｔｕｒｅ）を抽出するためのモデルの一例として、図９ｂに示すように、ＣＧＤ（ｃｏｍｂｉｎａｔｉｏｎ  ｏｆ  ｍｕｌｔｉｐｌｅ  ｇｌｏｂａｌ  ｄｉｓｃｒｉｐｔｏｒｓ）フレームワーク９０１を利用してよい。例えば、プロセッサ１２０は、データベースに記録されたイメージのうち、検出されたページと最も類似するイメージを検索してよい。一例として、プロセッサ１２０は、データベースに記録されたイメージと検出されたページとの類似度を計算し、記録されたイメージのうちから類似度が最も高いイメージを選択してよい。このとき、最も類似するイメージであったとしても、予め定められた閾値を超過しない場合には、データベースに該当のイメージは存在しないと判断してよい。
【０１２６】
段階８２０において、検出されたページがデータベースに存在すると判断されると、段階Ｓ８３０において、プロセッサ１２０は、検出されたページに対応する音源を再生してよい。一例として、プロセッサ１２０は、スマートリーディング機器２００内部のデータベースから音源を読み取り、再生してよい。他の例として、プロセッサ１２０は、外部機器のデータベースから音源を受信し、スピーカ２０４によって再生してよい。
【０１２７】
一方、段階８２０において、検出されたページがデータベースに存在しないと判断された場合、段階８４０において、プロセッサ１２０は、検出されたページのテキストを認識してよい。
【０１２８】
一例として、文字認識モジュール３２０は、検出されたページ全体にわたってテキストを認識してよい。他の例として、文字認識モジュール３２０は、図９ａに示すように、検出されたページからガイダー９００を検出し、検出されたページにおいてガイダー９００が指示する一部領域のテキストを認識してよい。ここで、ガイダー９００としては、予め定められた形状の物体、ユーザの手または指のうちの少なくともいずれか１つが含まれてよい。一例として、ガイダー９００は、テキストの領域を可変的に定義することのできる構造で実現されてよい。このとき、文字認識モジュール３２０は、テキストが属する言語を識別し、識別された言語に基づき、テキストを識別してよい。一実施形態によると、文字認識モジュール３２０は、ＯＣＲ（ｏｐｔｉｃａｌ  ｃｈａｒａｃｔｅｒ  ｒｅａｄｅｒ）技術を利用して検出されたページのテキストを認識してよい。
【０１２９】
例えば、文字認識モジュール３２０は、図９ｂに示すように、文字認識モジュール３２０は、イメージ入力を受け、ディープラーニング基盤の文字検出モデルを利用してイメージ内に含まれる文字がイメージ内のどの部分に位置するかを検出（Ｔｅｘｔ  Ｄｅｔｅｃｔｉｏｎ）してよい。このように検出された部分に対し、ディープラーニング基盤の文字認識モデルを利用してどのような文字であるか文字を認識（Ｔｅｘｔ  Ｒｅｃｏｇｎｉｔｉｏｎ）してよい。このとき、曲線や回転した文字などの多様な方向のテキスト認識のためや、本が多様な角度で置かれることがあるため、文字を検出しながら文字の方向もともに推定するようにしてよい。図９ｄでは、このようにページ別にテキストを認識し、文字方向を認識した結果の一例を示している。
【０１３０】
プロセッサ１２０は、テキストの音節をそれぞれ検出し、音節から語節または文字をそれぞれ認識してよい。ここで、プロセッサ１２０は、予め定められた値よりも明確でないか小さい音節は無視してよい。また、プロセッサ１２０は、語節または文字をクラスタリング（ｃｌｕｓｔｅｒｉｎｇ）し、テキスト内で少なくとも１つの段落を区分してよい。また、プロセッサ１２０は、語節または文字をソーティング（ｓｏｒｔｉｎｇ）してよい。例えば、プロセッサ１２０は、語節または文字を、主語、動詞、目的語、形容詞、副詞などに分類してよい。このような方式により、プロセッサ１２０は、図１０ａに示すような横書きのテキスト、図１０ｂに示すような縦書きのテキスト、図１０ｃに示すような印刷物の折れ曲がりによって湾曲したテキスト、および図１０ｄに示すように円形または螺旋型の曲線に沿って湾曲したテキストをすべて認識することが可能となる。
【０１３１】
段階８５０において、プロセッサ１２０は、テキストに対応する音声を発話してよい。プロセッサ１２０は、テキストに対応する音声をスピーカ２０４から発話してよい。このとき、プロセッサ１２０は、少なくとも１つの声を使用してテキストに対応する音声を発話してよい。一実施形態によると、プロセッサ１２０は、テキストを翻訳した後、翻訳されたテキストに対応する音声を発話してよい。これについては、図１１を参照しながらより詳細に説明する。他の実施形態によると、プロセッサ１２０は、テキストと関連して少なくとも１つの音声タグを検出し、テキストに音声タグを反映することにより、テキストに対応する音声を発話してよい。これについては、図１２を参照しながらより詳細に説明する。
【０１３２】
図１１は、図８の音声を発話する段階を示したフローチャートである。
【０１３３】
段階１１１０において、プロセッサ１２０は、ユーザが選択した目的言語で、テキストを翻訳してよい。プロセッサ１２０は、ユーザとの会話に基づき、ユーザが選択した目的言語を特定してもよいし、あるいはユーザが事前に設定した目的言語を特定してもよい。プロセッサ１２０は、スマートリーディング機器２００に含まれる辞書データベースあるいはスマートリーディング機器２００と連動可能なサーバ１７０やプラットフォーム上の辞書データベースにより、検出されたページのテキストを目的言語に翻訳してよい。
【０１３４】
段階１１２０において、プロセッサ１２０は、ユーザの音声命令に対する応答として、目的言語に翻訳されたテキストをスマートリーディング機器２００に含まれるスピーカ２０４から音声発話する、読み上げ機能を提供してよい。言い換えれば、プロセッサ１２０は、検出されたページのテキストをユーザが希望する言語に翻訳して読み上げることが可能となる。この後、プロセッサ１２０は、図８に戻ってよい。
【０１３５】
以下、上述したスマートリーディング機器２００の動作方法によるシナリオ例について説明する。
【０１３６】
１．ユーザが音声命令「この本を英語で読んで」を発話した場合、スマートリーディング機器２００は、カメラ２０１を活性化させて映像を取得した後、撮影された映像から本のテキストを認識してよい。
【０１３７】
２．スマートリーディング機器２００は、認識されたテキストをユーザの音声命令に含まれる目的言語、すなわち英語に翻訳し、翻訳結果を音声発話することによって読み上げ機能を提供してよい。
【０１３８】
以下、他のシナリオ例について説明する。
【０１３９】
１．ユーザがカメラ２０１の正面にりんごのイメージカードを置きながら「これは日本語で何？」と質問した場合、スマートリーディング機器２００は、カメラ２０１を活性化させてイメージカードをスキャンした後、イメージオブジェクト「りんご」を認識してよい。
【０１４０】
２．スマートリーディング機器２００は、認識されたイメージオブジェクト「りんご」をユーザの音声命令に含まれる目的言語、すなわち日本語に翻訳し、翻訳結果「りんご」を音声発話として読み上げてよい。
【０１４１】
図１２は、図８の音声を発話する段階を示したフローチャートである。
【０１４２】
図１２を参照すると、段階１２１０において、プロセッサ１２０は、テキストを分析してよい。文章分析モジュール３３０は、テキスト内の各文章を分析してよい。このとき、文章分析モジュール３３０は、テキストから各文章を区分してよい。ここで、文章分析モジュール３３０は、文章符号や分かち書きなどに基づいて文章を区分してよい。段階１２２０において、文章分析モジュール３３０は、テキストを校正してよい。このとき、文章分析モジュール３３０は、予め設定された規則に従って各文章を校正してよい。
【０１４３】
段階１２３０において、文章分析モジュール３３０は、各文章の感情を分析してよい。このとき、文章分析モジュール３３０は、各文章内の少なくとも１つの単語の意味、各文章と隣接する文章との文脈、または隣接する文章内の少なくとも１つの単語の意味に基づき、各文章の感情を分析してよい。例えば、文章分析モジュール３３０は、各文章の感情を肯定、否定、および中立に分類してよく、肯定の感情は感動と喜びの間で追加分類し、不定の感情は悲しみ、怒り、および苛立ちの間で追加分類してよい。一例として、ある文章が「むかっ」、「しかめながら」、「かっと怒って」、または「怒鳴った」のうちの少なくともいずれか１つを含む場合、プロセッサ１２０は、該当の文章の感情を否定として分類してよい。
【０１４４】
段階１２４０において、文章分析モジュール３３０は、各文章から少なくとも１つの音声タグを検出してよい。音声タグは、文章の類型、話者、または感情のうちの少なくともいずれか１つを示してよい。一例として、文章の類型が会話文であれば音声タグは自然なトーンの音声を示し、文章の類型が疑問文であれば音声タグは質問トーンの音声を示してよい。他の例として、文章の話者がパパであれば音声タグはパパの音声を示し、文章の話者が「ジェーン（Ｊａｎｅ）」であれば音声タグは女の子の音声を示してよい。また他の例として、文章の感情が肯定であれば音声タグは肯定の音声を示し、文章の感情が怒りであれば音声タグは怒りの音声を示してよい。
【０１４５】
段階１２５０において、プロセッサ１２０は、テキストに音声タグを反映して音声を合成してよい。このとき、プロセッサ１２０は、各文章に対して音声タグを反映して音声を合成してよい。これにより、プロセッサ１２０は、各文章を、該当の文章の類型、該当の文章の話者、または該当の文章の感情に基づき、音声を合成してよい。この後、プロセッサ１２０は、図８に戻ってよい。
【０１４６】
再び図８を参照すると、段階８６０において、プロセッサ１２０は、ページめくりを感知してよい。このために、プロセッサ１２０は、カメラ２０１に入力される映像を継続してモニタリングしてよい。このとき、プロセッサ１２０は、既に取得された映像とカメラ２０１に入力される映像、例えば、プレビュー映像とを比較してよい。これにより、既に取得された映像から検出されたページから他のページへのページめくりが感知されてよい。一例として、プロセッサ１２０は、図１３ａに示すように、取得された映像１３１０の全体領域とプレビュー映像１３２０の全体領域とを比較し、検出されたページから他のページへの変化を確認してよい。これに対応することにより、プロセッサ１２０は、ページめくりを感知することが可能となる。他の例として、プロセッサ１２０は、図１３ｂに示すように、取得された映像１３１０で予め定められた位置１３１１の一部領域１３１３とプレビュー映像１３２０で予め定められた位置１３２１の一部領域１３２３とを比較し、検出されたページから他のページへの変化を確認してよい。ここで、取得された映像１３１０の定められた位置１３１１とプレビュー映像１３２０の定められた位置１３２１は、互いに対応してよい。これに対応することにより、プロセッサ１２０は、ページめくりを感知することが可能となる。
【０１４７】
段階８６０でページめくりが感知されると、プロセッサ１２０は、段階８４０に戻ってよい。この後、プロセッサ１２０は、他のページに対し、段階８４０〜段階８６０を繰り返し実行してよい。すなわち、プロセッサ１２０は、他のページを取得し、他のページのテキストを認識し、テキストに対応する音声をスピーカ２０４から発話してよい。このとき、他のページでテキストの方向が変わると、プロセッサ１２０は、他のページのテキストに対応する音声は発話しないこともある。
【０１４８】
一方、段階８６０でページめくりが感知されなかった場合、段階８７０において、プロセッサ１２０は、読書モードの終了を判断してよい。一例として、プロセッサ１２０は、ユーザの命令に基づき、読書モードの終了を判断してよい。ユーザの命令は、ボタン命令または音声命令のうちの少なくともいずれか１つを含んでよい。他の例として、プロセッサ１２０は、読書モードの実行時間に基づき、読書モードの終了を判断してよい。ここで、読書モードの実行時間が予め設定された時間間隔だけ続いた場合、プロセッサ１２０は、読書モードを終了することを判断してよい。段階８７０において、読書モードの終了が判断されると、プロセッサ１２０は、読書モードを終了してよい。
【０１４９】
図１４は、第２実施形態における、スマートリーディング機器の動作方法を示したフローチャートである。
【０１５０】
図１４を参照すると、段階１４１０において、プロセッサ１２０は、会話基盤のインタフェースとして、スマートリーディング機器２００に含まれるマイクまたはスマートリーディング機器２００と連動するマイクのような音声入力装置においてユーザの発話による音声命令の入力を受けてよい。プロセッサ１２０は、スマートリーディング機器２００で提供可能な機能（読み上げ機能、楽譜演奏機能、コミュニケーション機能、コンテンツ作成機能など）のうちのいずれか１つの機能のための要求として音声命令を区分して認識してよい。
【０１５１】
段階１４２０において、プロセッサ１２０は、ユーザの音声命令が楽譜演奏機能のための要求に該当する場合、スマートリーディング機器２００に含まれるカメラ２０１を活性化させた後、カメラ２０１において映像の入力を受け、映像に含まれる楽譜を認識してよい。スマートリーディング機器２００のユーザは、印刷物であるが複をカメラ２０１と向かい合う位置に置きながら楽譜演奏機能を実行してよい。このとき、プロセッサ１２０は、カメラ２０１に入力された映像に対し、ＯＣＲスキャンやＱＲコード検索によって楽譜を認識してよい。
【０１５２】
段階１４３０において、演奏提供部４０４は、ユーザの音声命令に対する応答として、段階１４２０で認識された楽譜をユーザが選択した特定の楽器で演奏することによって譜演奏機能を提供してよい。演奏提供部４０４は、ユーザとの会話に基づいてユーザが選択した楽器を特定してもよいし、あるいはユーザが事前に設定した楽器を特定してもよい。楽器別の音特徴データを含むデータベースは、スマートリーディング機器２００に含まれても、あるいはスマートリーディング機器２００と連動可能なサーバ１７０やプラットフォーム上に含まれてもよく、これにより、演奏提供部４０４は、ユーザが特定した楽器の音特徴データに基づき、カメラ２０１が認識した楽譜を該当の楽器で自動演奏することが可能となる。
【０１５３】
以下、上述したスマートリーディング機器２００の動作方法によるシナリオ例について説明する。
【０１５４】
１．ユーザが音声命令「この楽譜をピアノで演奏して」を発話した場合、スマートリーディング機器２００は、カメラ２０１を活性化させて映像を取得した後、映像として撮影された楽譜を認識してよい。
【０１５５】
２．スマートリーディング機器２００は、認識された楽譜をユーザの音声命令に含まれる特定楽器、すなわちピアノバージョンで演奏してよい。
【０１５６】
図１５は、第３実施形態における、スマートリーディング機器の動作方法を示したフローチャートである。
【０１５７】
図１５を参照すると、段階１５１０において、プロセッサ１２０は、コミュニケーションのための要求を受信してよい。一例として、プロセッサ１２０は、スマートリーディング機器２００に含まれるマイクまたはスマートリーディング機器２００と連動するマイクのような音声入力装置において、ユーザの発話による音声命令として他のユーザとのコミュニケーションを要求するユーザ命令を受信してよい。例えば、自宅にいる子供が、スマートリーディング機器２００を利用してママとのコミュニケーションを要求する場合が考えられる。他の例として、プロセッサ１２０は、ネットワーク１６０を介してスマートリーディング機器２００と接続する他のユーザから、スマートリーディング機器２００のユーザとのコミュニケーションを要求する命令を受信してよい。例えば、外にいるママが、スマートリーディング機器２００によって接続可能なアプリを利用して自宅にいる子供とのコミュニケーションを要求する場合が考えられる。
【０１５８】
段階１５２０において、プロセッサ１２０は、コミュニケーション機能に該当する要求が受信された場合、スマートリーディング機器２００がＣＣＴＶのように動作するように、スマートリーディング機器２００のカメラ２０１が含まれるヘッド部分２０３の傾きを調整してよい。一例として、プロセッサ１２０は、ユーザが映像撮影のための方向にヘッド部分２０３の傾きを調整するようにするガイドを音声で発話する場合が考えられる。他の例として、スマートリーディング機器２００がヘッド部分２０３の傾きを調整することのできる回転構造物を含む場合、プロセッサ１２０は、スマートリーディング機器２００に含まれるセンサ、あるいはスマートリーディング機器２００と連動するセンサを利用して周辺の動きを感知してよく、動きが感知された場所を向くようにヘッド部分２０３の傾きを自動調整してよい。
【０１５９】
段階１５３０において、プロセッサ１２０は、ヘッド部分２０３の傾きの調整が完了すると、スマートリーディング機器２００のカメラ２０１に入力された映像を、ネットワーク１６０を介して事前に定められた他のユーザの電子機器にリアルタイムで送信してよい。言い換えれば、プロセッサ１２０は、スマートリーディング機器２００のユーザあるいは事前に定められた他のユーザの要求を受信した場合、ユーザと他のユーザとのコミュニケーションのためにカメラ２０１を活性化させ、スマートリーディング機器２００で撮影されたリアルタイム映像を他のユーザの電子機器に伝達することが可能となる。
【０１６０】
以下、上述したスマートリーディング機器２００の動作方法によるシナリオ例について説明する。
【０１６１】
１．外部にいるママがスマートフォンを利用して自宅内のスマートリーディング機器２００に接続してコミュニケーション機能を要求する場合、スマートリーディング機器２００は、カメラ２０１やマイクなどを含んだ会話基盤のインタフェースを活性化させてよい。
【０１６２】
２．ママが「うちの娘、いま何している？」のように音声や文字メッセージを送信した場合、スマートリーディング機器２００は、受信されたメッセージを音声で出力すると同時に、カメラ２０１が撮影した映像をリアルタイムでママのスマートフォンに伝達してよい。
【０１６３】
３．自宅にいる子供がスマートリーディング機器２００を利用して「パズルで遊んでいるよ」のように発話した場合、子供の発話によって入力された音声をママのスマートフォンに伝達してよい。
【０１６４】
以下、他のシナリオ例について説明する。
【０１６５】
１．自宅にいる子供がスマートリーディング機器２００を利用して「ママに繋いで」のように発話した場合、スマートリーディング機器２００は、コミュニケーションのための要求として認識し、カメラ２０１やマイクなどを含んだ会話基盤のインタフェースを活性化させてよい。
【０１６６】
２．スマートリーディング機器２００は、事前に定められた、例えば、ママのスマートフォンに、コミュニケーションのための要求を伝達してよい。ママのスマートフォンでは、スマートリーディング機器２００と関連するアプリを通じ、スマートリーディング機器２００からコミュニケーションのための要求を受信したことを通知として表示してよい。
【０１６７】
３．スマートリーディング機器２００は、ママがコミュニケーション要求を受諾した場合、カメラ２０１が撮影した映像をママのスマートフォンにリアルタイムで伝達してよい。さらに、スマートリーディング機器２００は、子供が「ママ、何時ごろ帰ってくる？」のように発話した場合、子供の発話音声をママのスマートフォンに伝達してよい。
【０１６８】
図１６は、第４実施形態における、スマートリーディング機器の動作方法を示したフローチャートである。
【０１６９】
図１６を参照すると、段階１６１０において、プロセッサ１２０は、コンテンツ作成のための要求を受信してよい。一例として、プロセッサ１２０は、スマートリーディング機器２００に含まれるマイクまたはスマートリーディング機器２００と連動するマイクのような音声入力装置において、ユーザの発話による音声命令としてコンテンツ製作を要求するユーザ命令を受信してよい。
【０１７０】
段階１６２０において、プロセッサ１２０は、コンテンツ作成機能に該当する要求が受信された場合、スマートリーディング機器２００のカメラ２０１が含まれるヘッド部分２０３の傾きを調整してよい。一例として、プロセッサ１２０は、ユーザが映像撮影のための方向にヘッド部分２０３の傾きを調整できるようにするガイドを音声で発話してよい。他の例として、スマートリーディング機器２００がヘッド部分２０３の傾きを調整することのできる回転構造物を含む場合、プロセッサ１２０は、スマートリーディング機器２００に含まれるセンサ、あるいはスマートリーディング機器２００と連動するセンサにおいて周辺の動きを感知してよく、動きが感知された場所を向くようにヘッド部分２０３の傾きを自動調整してよい。
【０１７１】
段階１６３０において、プロセッサ１２０は、ヘッド部分２０３の傾きの調整が完了すると、スマートリーディング機器２００のカメラ２０１を利用した映像撮影によって映像コンテンツを作成してよい。プロセッサ１２０は、音声基盤のインタフェースにおいてコンテンツ作成と関連するユーザ命令を受信してよく、ユーザ命令に従って、カメラ２０１が撮影した映像を利用してコンテンツを作成してよい。プロセッサ１２０は、映像コンテンツの作成が完了すると、ユーザの要求に従って、ネットワーク１６０を介して事前に定められた外部サーバにアップロードしてよい。プロセッサ１２０は、ＳＮＳサーバやクラウドサーバなどのように、ユーザが映像コンテンツを掲載するために事前に定めておいた外部サーバに映像コンテンツを自動アップロードしてよい。
【０１７２】
以下、上述したスマートリーディング機器２００の動作方法によるシナリオ例について説明する。
【０１７３】
１．ユーザがスマートリーディング機器２００において「カメラをつけて」のように発話した場合、スマートリーディング機器２００は、コンテンツ作成のための要求として認識し、カメラ２０１やマイクなどを含んだ会話基盤のインタフェースを活性化させてよい。
【０１７４】
２．スマートリーディング機器２００は、会話基盤のインタフェースを活性化させた後、「カメラをつけたよ。準備ができたら言ってね」のようにガイドを発話した後、コンテンツ作成のための待機状態を維持してよい。
【０１７５】
３．ユーザが「動画スタート」のように発話した場合、スマートリーディング機器２００は、カメラ２０１を利用して動画撮影を開始してよく、この後、動画撮影の最中にユーザが「動画ストップ」のように発話した場合、スマートリーディング機器２００は、「動画ストップ」という発話時点前まで撮影された動画を作成コンテンツとして保存してよい。
【０１７６】
４．ユーザが「私のＳＮＳチャンネルにアップロードして」のように発話した場合、スマートリーディング機器２００は、予め設定されたユーザのＳＮＳチャンネルに該当の動画コンテンツをアップロードしてよい。
【０１７７】
このように、本発明の実施形態によると、本やカードなどのようなすべての印刷物をスキャンして読み上げる機器として、カメラ、照明、ＡＩスピーカが結合されたスタンドタイプのスマートリーディング機器を提供することができ、これにより、テキストやイメージを認識して読み上げる機能だけではなく、ユーザが希望する声で読み上げる機能、録音された声を活用して読み上げる機能、ユーザが希望する言語に翻訳して読み上げる機能、楽譜を認識して多様な楽器で自動演奏する機能、ＣＣＴＶの用途として活用してコミュニケーションを提供する機能、映像基盤のコンテンツを作成する機能などを提供することができる。
【０１７８】
上述した装置は、ハードウェア構成要素、ソフトウェア構成要素、および／またはハードウェア構成要素とソフトウェア構成要素との組み合わせによって実現されてよい。例えば、実施形態で説明された装置および構成要素は、プロセッサ、コントローラ、ＡＬＵ（ａｒｉｔｈｍｅｔｉｃ  ｌｏｇｉｃ  ｕｎｉｔ）、デジタル信号プロセッサ、マイクロコンピュータ、ＦＰＧＡ（ｆｉｅｌｄ  ｐｒｏｇｒａｍｍａｂｌｅ  ｇａｔｅ  ａｒｒａｙ）、ＰＬＵ（ｐｒｏｇｒａｍｍａｂｌｅ  ｌｏｇｉｃ  ｕｎｉｔ）、マイクロプロセッサ、または命令を実行して応答することができる様々な装置のように、１つ以上の汎用コンピュータまたは特殊目的コンピュータを利用して実現されてよい。処理装置は、オペレーティングシステム（ＯＳ）およびＯＳ上で実行される１つ以上のソフトウェアアプリケーションを実行してよい。また、処理装置は、ソフトウェアの実行に応答し、データにアクセスし、データを記録、操作、処理、および作成してもよい。理解の便宜のために、１つの処理装置が使用されるとして説明される場合もあるが、当業者は、処理装置が複数個の処理要素および／または複数種類の処理要素を含んでもよいことが理解できるであろう。例えば、処理装置は、複数個のプロセッサまたは１つのプロセッサおよび１つのコントローラを含んでよい。また、並列プロセッサのような、他の処理構成も可能である。
【０１７９】
ソフトウェアは、コンピュータプログラム、コード、命令、またはこれらのうちの１つ以上の組み合わせを含んでもよく、思うままに動作するように処理装置を構成したり、独立的または集合的に処理装置に命令したりしてよい。ソフトウェアおよび／またはデータは、処理装置に基づいて解釈されたり、処理装置に命令またはデータを提供したりするために、いかなる種類の機械、コンポーネント、物理装置、コンピュータ記録媒体または装置に具現化されてよい。ソフトウェアは、ネットワークによって接続されたコンピュータシステム上に分散され、分散された状態で記録されても実行されてもよい。ソフトウェアおよびデータは、１つ以上のコンピュータ読み取り可能な記録媒体に記録されてよい。
【０１８０】
実施形態に係る方法は、多様なコンピュータ手段によって実行可能なプログラム命令の形態で実現されてコンピュータ読み取り可能な媒体に記録されてよい。このとき、媒体は、コンピュータ実行可能なプログラムを継続して記録するものであっても、実行またはダウンロードのために一時記録するものであってもよい。また、媒体は、単一または複数のハードウェアが結合した形態の多様な記録手段または格納手段であってよく、あるコンピュータシステムに直接接続する媒体に限定されることはなく、ネットワーク上に分散して存在するものであってもよい。媒体の例としては、ハードディスク、フロッピー（登録商標）ディスク、および磁気テープのような磁気媒体、ＣＤ−ＲＯＭおよびＤＶＤのような光媒体、フロプティカルディスク（ｆｌｏｐｔｉｃａｌ  ｄｉｓｋ）のような光磁気媒体、およびＲＯＭ、ＲＡＭ、フラッシュメモリなどを含み、プログラム命令が記録されるように構成されたものであってよい。また、媒体の他の例として、アプリケーションを配布するアプリケーションストアや他の多様なソフトウェアを供給または配布するサイト、サーバなどで管理する記録媒体または格納媒体が挙げられる。
【０１８１】
以上のように、実施形態を、限定された実施形態および図面に基づいて説明したが、当業者であれば、上述した記載から多様な修正および変形が可能であろう。例えば、説明された技術が、説明された方法とは異なる順序で実行されたり、かつ／あるいは、説明されたシステム、構造、装置、回路などの構成要素が、説明された方法とは異なる形態で結合されたりまたは組み合わされたり、他の構成要素または均等物によって対置されたり置換されたとしても、適切な結果を達成することができる。
【０１８２】
したがって、異なる実施形態であっても、特許請求の範囲と均等なものであれば、添付される特許請求の範囲に属する。
【符号の説明】
【０１８３】
２００：スマートリーディング機器
２０１：カメラ
２０２：照明
２０３：ヘッド部分
２０４：スピーカ
【図１】
0006978543.tif 000004
【図２】
0006978543.tif 000005
【図３】
0006978543.tif 000006
【図４】
0006978543.tif 000007
【図５】
0006978543.tif 000008
【図６ａ】
0006978543.tif 000009
【図６ｂ】
0006978543.tif 000010
【図７】
0006978543.tif 000011
【図８】
0006978543.tif 000012
【図９ａ】
0006978543.tif 000013
【図９ｂ】
0006978543.tif 000014
【図９ｃ】
0006978543.tif 000015
【図９ｄ】
0006978543.tif 000016
【図１０ａ】
0006978543.tif 000017
【図１０ｂ】
0006978543.tif 000018
【図１０ｃ】
0006978543.tif 000019
【図１０ｄ】
0006978543.tif 000020
【図１１】
0006978543.tif 000021
【図１２】
0006978543.tif 000022
【図１３ａ】
0006978543.tif 000023
【図１３ｂ】
0006978543.tif 000024
【図１４】
0006978543.tif 000025
【図１５】
0006978543.tif 000026
【図１６】
0006978543.tif 000027