(57)【要約】【課題】顔面偏差値の予測と自動美化とを合わせ、顔画像の美化を実現し、且つ画像の劣化を避けるインターネットプラットフォームに基づく美顔システムを提供することを目的とする。【解決手段】本発明は画像及びビデオ取得ユニットと、顔検出ユニットと、美化処理ユニットとを備えるインターネットに基づく美顔システムを開示し、インターネットプラットフォームに基づいて、「深層学習」技術を適用する美顔システムを提供し、顔面偏差値の予測と自動美化を合わせ、顔画像の美化を実現し、且つ画像の劣化を避け、ユーザが手動で複雑な画像美化処理を行う際の煩雑さを解消することができると同時に、ユーザ間でコミュニケーションし、観点を共有するコミュニティ及び自分を表現する個人スペースを提供し、ユーザの様々なニーズを満足する。
2019523489.tif 000002
【特許請求の範囲】
【請求項１】
画像及びビデオを取得し、処理し、且つサーバ側にアップロードする画像及びビデオ取得ユニットと、
前記画像及びビデオ取得ユニットによりアップロードされた情報を検出するとともに、その結果をクライアント側または美化処理ユニットにフィードバックする顔検出ユニットと、
前記顔検出ユニットが検出した顔情報を処理するとともに、その結果を前記顔検出ユニットまたはクライアント側にフィードバックする前記美化処理ユニットと
を備えるインターネットに基づく美顔システム。
【請求項２】
前記画像及びビデオ取得ユニットが撮像した元画像は、ＲＡＷ高解像度フォーマットで記憶され、
画像処理アルゴリズムを応用してその解像度が低下され、シャープを強化し、コントラストを強化することにより低解像度の画像が得られ、
ソフトウェアによる処理が完了した後、二枚の画像がインターネットを介して前記サーバにアップロードされ、前記サーバにより画像が受信された後に、前記低解像度の画像が顔検出に用いられ、高解像度の画像が顔の美化に用いられる請求項１に記載のインターネットに基づく美顔システム。
【請求項３】
前記画像及びビデオ取得ユニットは、画像資源を記憶することに用いられ、ローカルストレージとサーバ側ストレージを含み、
前記ローカルストレージは、前記画像資源をクライアント側の記憶媒体に記憶することに用いられ、
前記サーバ側ストレージは、前記画像資源をパブリッククラウドストレージプラットフォーム及びサーバストレージプラットフォームに記憶することに用いられる請求項２に記載のインターネットに基づく美顔システム。
【請求項４】
前記顔検出ユニットは、顔検出アルゴリズムをリモートサーバに配置し、ローカルクライアント側でアルゴリズムが予備のＡＰＩインタフェースを応用し、リモートサーバで画像処理を行い、
前記顔検出ユニットは、クライアント側画像アップロードユニットと、クラウド側顔検出ユニットと、サーバ側画像ダウンロードユニットとを含み、
前記クライアント側画像アップロードユニットは、前記画像を前記クライアント側から前記サーバにアップロードを行い、
前記クラウド側顔検出ユニットは、前記サーバに配置された前記顔検出アルゴリズムを応用して受信された前記画像に対して顔検出処理を行い、
前記サーバ側画像ダウンロードユニットは、処理後の画像及び顔座標を前記サーバから前記クライアント側にフィードバックする請求項１から請求項３のいずれか１項に記載のインターネットに基づく美顔システム。
【請求項５】
前記顔検出ユニットは、リモートで顔輪郭における６８個のキーポイントを検出することによって顔の五官のエリアを確定するとともに特徴を抽出することに用いられるクラウド側顔キーポイント検出ユニットを含み、
前記工程が前記低解像度の画像に行われ、抽出されたキーポイント座標が前記クライアント側にフィードバックされるとともに美顔アルゴリズムに伝送される請求項４に記載のインターネットに基づく美顔システム。
【請求項６】
前記顔検出ユニットは、元の顔画像と美化処理ユニットにより美化された画像が同じ人であるかを判定することに用いられるクラウド側顔検証ユニットを含み、
類似度が低すぎ、且つシステムデフォルトの類似度閾値より低いと、再び美化処理を行う請求項５に記載のインターネットに基づく美顔システム。
【請求項７】
前記美化処理ユニットは顔検出アルゴリズムを用いて前記顔画像の美しさを予備判断し、顔の美しさを表す予備判断の点数を取得し、前記予備判断の点数が１００点制を採用し、１点から１００点まで分けられ、１点と評価する場合に最も醜いことを示し、１００点と評価する場合に最も美しいことを示し、点数が高いほど美しさが高く、点数が低いほど美しさが低いことを示す請求項４に記載のインターネットに基づく美顔システム。
【請求項８】
前記美化処理ユニットは、五官の美しさの予測ユニットを含み、
前記五官の美しさの予測ユニットは、顔面偏差値の予測のもとに、五官の美しさの予測アルゴリズムによって、抽出された顔の特徴と顔における６８個のキーポイントに基づき顔の五官の輪郭を抽出するとともに、五官の美しさの予備判断を行い、前記五官の美しさの予備判断が１００点制を採用し、１点から１００点まで分けられ、１点と評価する場合に最も醜いことを示し、１００点と評価する場合に最も美しいことを示し、点数が高いほど美しさが高く、点数が低いほど美しさが低いことを示す請求項７に記載のインターネットに基づく美顔システム。
【請求項９】
前記美化処理ユニットは、顔の美しさのデータベースを含み、
前記顔の美しさのデータベースには、アジアの各主要国と地域の人の顔の構造及び輪郭、五官の分布、肌の色、肌理の細かさ、男性の顔の美しさの標準テンプレート、女性の顔の美しさの標準テンプレート、男性の五官の美しさの標準テンプレート及び女性の五官の美しさの標準テンプレートに関するデータが記憶される請求項８に記載のインターネットに基づく美顔システム。
【請求項１０】
前記美化処理ユニットは、美化実施ユニットと、自動美化ユニットとを含み、
前記美化実施ユニットは、前記顔の美しさのデータベースから美しさの標準モデルを選択するように美顔アルゴリズムを指導し、
前記自動美化ユニットは、美化実施方法に基づいて顔の五官をスムーズに調整することを自動的に実現するとともに、顔の表面の従来のテクスチャを変更しない請求項９に記載のインターネットに基づく美顔システム。
【請求項１１】
ユーザ登録、ログインと個人化アプリ設置機能を含み、顔識別技術と指紋識別技術によりソフトウェアアカウントのログインとメンテナンスを実現するソフトウェア基本機能ユニットと、
第三者のソーシャルメディアアカウントによりログインして即時にチャットする機能を含み、ネットワークで友達を作る、チャットする、及び他のユーザを親友として追加することに用いられ、グループ分け管理モードを採用し、システム情報とユーザの個人のウェブスペースにおけるネットフレンドによる評価情報を受信する即時通信ユニットと、
個人ホームページとＥＸＥウェブアルバムの表示を含み、個人化空間装飾、文字入力、ＥＸＥウェブアルバムのオートプレイを行うことができ、オンラインでＥＸＥウェブアルバムを作るとともに、オンラインでダウンロードできる機能を有する個人ホームページユニットと
を備える請求項１に記載のインターネットに基づく美顔システム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明はインターネット、機械学習と生体認証システムの分野に関し、特にインターネットに基づく美顔システムに関する。
【背景技術】
【０００２】
現在、スマートフォンとインターネット技術の進展に伴い、ソーシャルメディアは益々注目され、ソーシャルメディアに個人の日常写真、旅行写真をアップロードすることが人々の生活において不可欠の一部である。
【０００３】
しかし、元画像の画質に満足しないためや個人の容姿に自信を持っていないために、ソーシャルメディアに画像をアップロードする前に常に画像の視覚効果を改善するように画像をレタッチする。
【０００４】
まず、人々は自分の美しさに対する認識が不十分であり、定量の分析と比較が足りない。次に、ソフトウェアツールで画像を美化し観賞効果を改善することができるにもかかわらず、一つのレタッチソフトウェアを上手に使用することと画像を完璧にレタッチすることは通常作業量が大きく、大量の手間が掛かり、且つ画像が美化処理された後に、一部の細部処理が不良及び全体の表示が歪むなどの問題がよくある。
【０００５】
従来の解決方法では、顔画像の美化と顔面偏差値の予測とは異なるソフトウェアによってそれぞれ実現される。また、従来の顔面偏差値の採点ソフトウェアは、顔画像のみに対して採点して予備判断を行う。具体的な顔と予備判断の点数に対して点数の高さの判定基準を示さず、かつ視覚効果を改善する美化方法を提供しなかった。そのため、美化ソフトウェアによって画像をレタッチする時に、個人の主観的認識と継続的な試みにより顔の美しさを調整する必要がある。
【０００６】
顔面偏差値の予測と顔の美化とを合わせ、予備判断の点数の高さに基づいてシステムにより対応する美化方法を提供するとともに、自動的に顔の美化を行い、且つ画像の品質の劣化を避けることは、即刻に解決すべき問題となる。
【発明の概要】
【発明が解決しようとする課題】
【０００７】
上記した問題を解決するために、本発明は顔面偏差値の予測と自動美化とを合わせ、顔画像の美化を実現し、且つ画像の劣化を避けるインターネットプラットフォームに基づく美顔システムを提供することを目的とする。
【課題を解決するための手段】
【０００８】
本発明に係るインターネットに基づく美顔システムは、クライアント側で画像及びビデオを取得し、処理し、且つサーバ側にアップロードする画像及びビデオ取得ユニットと、前記画像及びビデオ取得ユニットによりアップロードされた情報を検出するとともに、その結果をクライアント側または美化処理ユニットにフィードバックする顔検出ユニットと、前記顔検出ユニットが検出した顔情報を処理するとともに、その結果を前記顔検出ユニットまたはクライアント側にフィードバックするための前記美化処理ユニットとを備える。
【０００９】
さらに、前記画像及びビデオ取得ユニットが撮像した元画像はＲＡＷ高解像度フォーマットで記憶され、画像処理アルゴリズムを応用してその解像度が低下され、シャープを強化し、コントラストを強化することにより低解像度の画像が得られ、ソフトウェアによる処理が完了した後、二枚の画像がインターネットを介して前記サーバにアップロードされ、前記サーバにより画像が受信された後に、前記低解像度の画像が顔の検出、顔の検証と顔のキーポイントの検出に用いられ、高解像度の画像が顔の美化に用いられる。
【００１０】
さらに、前記画像及びビデオ取得ユニットは、画像資源を記憶することに用いられ、ローカルストレージとサーバ側ストレージを含み、前記ローカルストレージが前記画像資源を前記クライアント側の記憶媒体に記憶することに用いられ、前記サーバ側ストレージが前記画像資源をパブリッククラウドストレージプラットフォーム及びサーバストレージプラットフォームに記憶することに用いられる。そのうち、パブリッククラウドストレージプラットフォームの記憶容量が１０００Ｍに限られ、サーバストレージプラットフォームの記憶容量が２００Ｍに限られる。
【００１１】
さらに、前記顔検出ユニットはリモートで顔画像を検出することを含み、顔検出アルゴリズムをリモートサーバに配置することによって、ローカルクライアント側でアルゴリズムが予備のＡＰＩインタフェースを応用し、前記リモートサーバで画像処理を行い、クライアント側画像アップロードユニットと、クラウド側顔検出ユニットと、サーバ側画像ダウンロードユニットとを含み、前記クライアント側画像アップロードユニットは、前記画像を前記クライアント側から前記サーバにアップロードすることに用いられ、前記クラウド側顔検出ユニットは、前記サーバに配置された顔検出アルゴリズムを応用して受信された前記画像に対して顔検出処理をすることに用いられ、前記サーバ側画像ダウンロードユニットは、処理後の画像及び顔座標を前記サーバから前記クライアント側にフィードバックすることに用いられる。
【００１２】
さらに、前記顔検出ユニットは、リモートで顔輪郭における６８個のキーポイントを検出することによって顔の五官のエリアを確定するとともに特徴を抽出することに用いられるクラウド側顔キーポイント検出ユニットを含み、前記アルゴリズムが前記低解像度の画像に行われ、抽出されたキーポイント座標が前記クライアント側にフィードバックされるとともに美顔アルゴリズムに伝送される。
【００１３】
さらに、前記顔検出ユニットは、元の顔画像と前記美化処理ユニットにより美化された画像とが同じ人であるかを判定することに用いられるクラウド側顔検証ユニットを含み、美顔のパラメーターが過大に調整されたことにより類似度が低すぎ、且つシステムデフォルトの類似度閾値０．４より低いと、再び美化処理を行う。
【００１４】
さらに、前記美化処理ユニットは「深層学習」に基づく顔の美しさの予測アルゴリズムを用いて前記顔画像の美しさを予備判断し、顔の美しさを表す予備判断の点数を取得し、前記予備判断の点数が１００点制を採用し、１点から１００点まで分けられ、１点と評価する場合に最も醜いことを示し、１００点と評価する場合に最も美しいことを示し、点数が高いほど美しさが高く、点数が低いほど美しさが低いことを示す。
【００１５】
さらに、前記美化処理ユニットは五官の美しさの予測を含み、前記五官の美しさの予測は、顔面偏差値の予測のもとに、五官の美しさの予測アルゴリズムによって、抽出された顔の特徴と顔における６８個のキーポイントに基づいて顔の五官の輪郭を抽出するとともに、五官の美しさの予備判断を行い、前記五官の美しさの予備判断が１００点制を採用し、１点から１００点まで分けられ、１点と評価する場合に最も醜いことを示し、１００点と評価する場合に最も美しいことを示し、点数が高いほど美しさが高く、点数が低いほど美しさが低いことを示す。ここで、顔の五官における目、眉、口、鼻のみを選択して評価する。
【００１６】
さらに、前記美化処理ユニットは、顔の美しさのデータベースを含み、前記顔の美しさのデータベースには、アジアの各主要国と地域の人の顔の構造及び輪郭、五官の分布、肌の色、肌理の細かさ、男性の顔の美しさの標準テンプレート、女性の顔の美しさの標準テンプレート、男性の五官の美しさの標準テンプレート及び女性の五官の美しさの標準テンプレートなどのデータが記憶され、顔の美しさを予測し評価する従来の知識として、異なる地域の顔画像のトレーニングに基づく多数の予測モデルがデータベースに記憶される。
【００１７】
さらに、前記美化処理ユニットは、美化実施ユニットと自動美化ユニットとを含み、前記美化実施ユニットは、前記顔の美しさのデータベースから美しさの標準モデルを選択するように美顔アルゴリズムを指導し、前記自動美化ユニットが美化実施方法に基づいて顔の五官をスムーズに調整することを自動的に実現するとともに、顔の表面の従来のテクスチャを変更しない。
【００１８】
さらに、本発明に係るインターネットに基づく美顔システムは、ユーザ登録、ログインと個人化アプリ設置機能を含み、顔識別技術と指紋識別技術によりソフトウェアアカウントのログインとメンテナンスを実現するソフトウェア基本機能ユニットと、第三者のソーシャルメディアアカウントによりログインして即時にチャットする機能を含み、ネットワークで友達を作る、チャットする、及び他のユーザを親友として追加することに用いられ、グループ分け管理モードを採用し、システム情報とユーザの個人のウェブスペースにおけるネットフレンドによる評価情報を受信する即時通信ユニットと、個人ホームページとＥＸＥウェブアルバムの表示を含み、個人化空間装飾、文字入力、ＥＸＥウェブアルバムのオートプレイを行うことができ、オンラインでＥＸＥウェブアルバムを作るとともに、オンラインでダウンロードできる機能を有する個人ホームページユニットとを備える。
【発明の効果】
【００１９】
本発明はインターネットプラットフォームで「深層学習」に基づく顔の美化を実現し、クライアント側でユーザの顔画像を採集するとともに圧縮処理を行った後に、インターネットを介してサーバにアップロードし、サーバで顔の検出、顔の検証、顔のキーポイントの検出と美顔アルゴリズム処理を行い、これによって、携帯電話の性能が劣るために深層学習ネットワークを適用できない弊害を避ける。
【００２０】
同時に、顔の美しさの予測と顔の美化を合わせ、美しさの予測を完成するとともに、ユーザが設定した関連パラメーターに基づいて、システムにより改善方法が自動的に薦められ、擬似などの画像処理技術と深層学習、多様体学習などの機械学習アルゴリズムにより顔形状、五官の一部がスムーズに調整され、これによって、より高い点数をとるように顔を変える。前記工程全体はシステムにより自動的に完成され、顔の一部のみをスムーズに調整し、画像全体に影響を与えることなく、処理が完成した後に、処理の痕跡を残すことがない。
【００２１】
本発明は一つのソフトウェアとして、インターネットと生体認証技術を合わせることを実現し、知能的に且つ全自動的に処理する機能を有し、画像の処理速度と美化の品質を向上させることができる。
【図面の簡単な説明】
【００２２】
【図１】本発明に係るシステムのブロック図である。
【図２】本発明に示す画像の美化のフローチャートである。
【発明を実施するための形態】
【００２３】
以下、本発明が解決しようとする技術問題、技術方案及び有益な効果をさらにわかりやすくするために、実施例を参照しつつ本発明を詳細に説明する。ここで述べた具体的な実施例は本発明を解釈するだけに用いられ、本発明を限定するものではない。
【００２４】
本出願の実施例には、携帯端末における美顔アプリに適用されるインターネットに基づくシステムが提供され、この美顔アプリは画像の撮像とビデオの録画、画像及びビデオの記憶、クラウド側での顔検出、クラウド側での顔キーポイント検出、クラウド側での顔検証、クラウド側での顔面偏差値の予測、クラウド側での五官の美しさの予測、顔の美しさのデータベース、顔の美化方法と顔の自動美化、即時チャットと個人のウェブスペースに関する機能を含み、前記美顔アプリはさらにソフトウェア登録、ログインと個人化アプリ設置機能を含む。
【００２５】
ソフトウェアが起動された後、システムのログイン及び登録のページが開かれる。このソフトウェアを初めて使用する場合に、登録してからシステムにログインする必要があり、そうしないと、システムのいずれの機能も使用できない。ソフトウェアは、第三者のソーシャルメディアアカウントによる登録とログインも可能である。通常は電話番号により登録するが、電子メールにより登録してもよい。登録が成功してシステムにログインした後、設置ページでソフトウェアのＰＩＮコード、図形パスワード、指紋識別と顔識別のログイン方法を設置することができ、ソフトウェアがログインしたアカウントとパスワードを自動的に記録する。
【００２６】
さらに、ソフトウェアの一部の機能は、「深層学習」技術により開発されたアルゴリズムによって実現される。携帯電話の性能が劣るため、深層学習ネットワークを適用できない。ソフトウェアでは、クラウド側サーバに顔検出、顔検証、顔キーポイント検出と美顔アルゴリズムが配置され、クライアント側で画像を採集するとともに、アルゴリズムが予備のＡＰＩインタフェースを応用して画像をクラウド側サーバに伝送してアルゴリズム処理を行い、アルゴリズム処理の終了を検出した後、サーバから結果をクライアント側にフィードバックするとともにクライアント側で表示させる。アルゴリズムがサーバで実現され、画像のアップロード及びダウンロードの工程に係わるため、好ましいネットワーク状態はソフトウェアのユーザ体験を向上させることにとって重要である。
【００２７】
さらに、クライアント側で画像を採集してサーバにアップロードした後に、サーバで「深層学習」に基づくアルゴリズムによって顔検出が行われ、顔を検出できた場合に、アルゴリズムにより顔のＲＯＩ座標をフィードバックし、且つサーバからクライアント側にフィードバックし、クライアント側で描画アルゴリズムを応用し、画像において赤枠で顔のエリアを示す。顔を検出できなかった場合は、システムからエラーメッセージをフィードバックし、画像を取り替えて再びテストを行うように要求する。検出アルゴリズムにより顔が検出されたと同時に、顔における６８個のキーポイントも検出される。サーバは、検出された情報をクライアント側にフィードバックするとともに、他のアルゴリズムに伝送する。顔を美化する段階で、クライアント側にフィードバックされた６８個のキーポイントは顔画像に表示されなく、それを確認しようとする場合は、ソフトウェアの設置ページに対応する機能を起動する必要がある。
【００２８】
さらに、「深層学習」に基づく顔検出アルゴリズムにより顔と６８個のキーポイントが検出された後に、画像処理技術によって顔の五官のエリアを分割し、五官の具体的な位置とエリアを位置決めする。ユーザが提供した画像パラメーター、例えば出身地、性別、年齢などに基づいて、システムによりデータベースから対応するエリア、性別と年齢段階がトレーニング済みの「深層学習」に基づく美しさモデルが抽出され、顔の美しさの予測と五官の美しさの予測が行われる。ユーザが個人の画像パラメーターを提供しない場合、システムは通常性別と年齢のテストを行うとともに、パブリックトレーニングモデルを応用してファズテストを行う。異なる国と地域の人において、顔立ちと美的理念には相違があるため、ファジィアルゴリズムにより予測される美しさの結果に大きな偏差が存在する可能性がある。これによってシステムがその後に提供する美化方法が適合しない可能性がある。例えばウイグル人の五官の美化方法を江蘇省及び浙江省の人に薦めてしまう可能性がある。
【００２９】
さらに、システムにより顔と五官の美しさが予備判断された後に、情報はクライアント側にフィードバックされるとともにクライアント側のスクリーンに表示される。顔と五官の美しさの予備判断は、１００点制の点数を採用する。そのうち、１点が最も醜いことを示し、１００点が最も美しいことを示し、点数が高いほど美しさが高く、点数が低いほど美しさが低いことを示す。ユーザは、美しさの点数を受けた後、システムが設定されたパラメーターに基づき自動的に改善モデルを選択するとともに参照用の改善方法を提供するように、美顔のパラメーター、例えば所要の美しさの点数、所要の年齢段階などを設定することができる。システムは、ユーザが提出したパラメーターを得た後に、美しさ解析データベースにおける美しさモデルを応用し、多様体学習方法、深層学習及び画像処理における疑似変換技術により、五官を設定された美しさモデルにマッピングする。また深層学習方法により光の輝度などの細部を組み合わせ、これによって処理後の顔における器官と顔との完璧な組み合わせを実現する。ユーザはパラメーターを設置しなくてもよく、アルゴリズムが標準化処理を行い、標準な美しさに達していない五官に対して微調整を行うとしてもよい。
【００３０】
さらに、画像美化処理が行われた後、「深層学習」に基づく顔検証アルゴリズムは、美化処理された画像と元画像とが同じ人であるかを判定する。前記アルゴリズムは、類似度により検証を行う。顔の五官が調整された後に、顔の特徴的な細部が変化し、抽出された特徴点を再びテストすると相違がある。そのため、アルゴリズムが同じ人であるか否かの判定結果を直接与えず、類似度の判定を与える。類似度は１００点制を採用し、０点から１００点まで分けられ、そのうち、０点が完全に異なることを示し、１００点が完全に同じことを示し、点数が高いほど類似度が高く、点数が低いほど類似度が低いことを示す。システムには顔の類似度の閾値、即ち０．４が設置され、画像処理が行われた後、類似度がこの値より低いと、再び美化処理を行う。この閾値はシステムの設置ページにおいて修正されてもよい。ソフトウェアには顔検証機能も設置され、ユーザが二枚の画像を同時にアップロードして検証することができ、この時に、システム処理が行われた後、同じ人である又は同じ人ではないとの判定結果が与えられる。
【００３１】
さらに、ユーザは自分の元画像と処理された画像とをソフトウェアパブリックプラットフォームにアップロードして表示させ、ほかのユーザによる採点を受け付けることができる。採点システムには１点から１０点までの点数が設定され、そのうち、１点が最も醜いことを示し、１０点が最も美しいことを示し、点数が高いほど美しさが高く、点数が低いほど美しさが低いことを示す。ネットフレンドは、採点すると同時に、システムに設定された顔の美しさの判定に関する問題を答えることもでき、画像の下にコメントすることもできる。システムは、ユーザに参考させるように、ネットフレンドの関与状況、採点した点数に基づいて、点数統計ヒストグラム、顔面偏差値の平均値と点数の分散を計算し、これによって採点の有効性を考察する。ユーザはほかのユーザとのＰＫに参加することもでき、応援の形で、限られた時間に応援数が多いほうが勝ち、且つより高水準のＰＫ戦に突入する。
【００３２】
さらに、ユーザは自分の個人スペースに画像、ビデオとＥＸＥ電子アルバムをアップロードすることができる。電子アルバムは、オンライン作成とローカルアップロードができる。オンラインで作成される電子アルバムはダウンロードできる。個人スペースのアルバムにおける画像は、顔面偏差値の採点と美化処理をバッチ式で行うことができ、ユーザは採点の痕跡を残すか否かを選択できる。
【００３３】
さらに、ユーザの間で便利にコミュニケーションをとれるように、ソフトウェアには即時チャット機能が設定される。ユーザからパブリック表示プラットフォームにアップロードされ、投票及び採点を受ける画像により、新たな投票とコメントが受信された後、投票情報とコメント情報がシステムによってチャットエリアに転送され、ユーザはいつでも関連するコンサルティング情報を取得することができる。
【００３４】
さらに、投稿資格と書き込み資格の審査はソフトウェアの使用を規則的にするために用いられる。礼儀正しい発言を提唱し、国家の利益と他人の合法的権益を損なう言論の発表を禁止する。第三者のアルゴリズムにより検出し、ソフトウェアの使用規則に違反する言論が発見された場合には、事態の厳しさに基づいて、削除及び発言禁止など処置を行う。
【００３５】
以上は本発明の好ましい実施例に過ぎず、本発明を限定するものではなく、本発明の原則と精神を逸脱しない範囲で行われた全ての修正、均等の置き換え、改善などはいずれも本発明の保護範囲に含まれるものとする。
【図１】
2019523489.tif 000003
【図２】
2019523489.tif 000004
【手続補正書】
【提出日】平成31年1月28日(2019.1.28)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
クライアント側で画像及びビデオを取得し、処理し、且つサーバ側にアップロードする画像及びビデオ取得ユニットと、
前記画像及びビデオ取得ユニットによりアップロードされた前記画像及びビデオから顔情報を検出するとともに、その結果を前記クライアント側または美化処理ユニットにフィードバックする顔検出ユニットと、
前記顔検出ユニットが検出した前記顔情報を美化処理するとともに、その結果を前記顔検出ユニットまたは前記クライアント側にフィードバックする前記美化処理ユニットと
を備えるインターネットに基づく美顔システム。
【請求項２】
前記画像及びビデオ取得ユニットが撮像した前記画像及びビデオの元画像は、ＲＡＷ高解像度フォーマットで高解像度の画像として記憶され、
前記元画像は、画像処理アルゴリズムを応用してその解像度が低下され、シャープを強調し、コントラストを強調することにより低解像度の画像が得られ、
ソフトウェアによる処理が完了した後、前記高解像度の画像および前記低解像度の画像の二枚の画像がインターネットを介して前記サーバにアップロードされ、前記サーバにより前記高解像度の画像および前記低解像度の画像が受信された後に、前記低解像度の画像が顔検出に用いられ、前記高解像度の画像が顔の美化に用いられる請求項１に記載のインターネットに基づく美顔システム。
【請求項３】
前記画像及びビデオ取得ユニットは、画像資源を記憶することに用いられ、ローカルストレージとサーバ側ストレージを含み、
前記ローカルストレージは、前記画像資源をクライアント側の記憶媒体に記憶することに用いられ、
前記サーバ側ストレージは、前記画像資源をパブリッククラウドストレージプラットフォーム及びサーバストレージプラットフォームに記憶することに用いられる請求項２に記載のインターネットに基づく美顔システム。
【請求項４】
前記顔検出ユニットは、顔検出アルゴリズムをリモートサーバに配置し、ローカルクライアント側で画像処理アルゴリズムが予備のＡＰＩインタフェースを応用し、リモートサーバで画像処理を行い、
前記顔検出ユニットは、クライアント側画像アップロードユニットと、クラウド側顔検出ユニットと、サーバ側画像ダウンロードユニットとを含み、
前記クライアント側画像アップロードユニットは、前記画像及びビデオを前記クライアント側から前記サーバにアップロードを行い、
前記クラウド側顔検出ユニットは、前記サーバに配置された前記顔検出アルゴリズムを応用して受信された前記画像及びビデオに対して顔検出処理を行い、
前記サーバ側画像ダウンロードユニットは、前記顔検出処理後の顔画像及び顔座標を含む前記顔情報を前記サーバから前記クライアント側にフィードバックする請求項１から請求項３のいずれか１項に記載のインターネットに基づく美顔システム。
【請求項５】
前記顔検出ユニットは、リモートで顔における６８個のキーポイントを検出することによって顔の五官のエリアを確定するとともに特徴を抽出することに用いられるクラウド側顔キーポイント検出ユニットを含み、
前記クラウド側顔キーポイント検出ユニットは、前記低解像度の画像を用い、抽出されたキーポイント座標が前記クライアント側にフィードバックされるとともに美顔アルゴリズムに伝送される請求項４に記載のインターネットに基づく美顔システム。
【請求項６】
前記顔検出ユニットは、前記元画像と美化処理ユニットにより美化された画像が同じ人であるかを判定することに用いられるクラウド側顔検証ユニットを含み、
前記クラウド側顔検証ユニットが前記元画像と前記美化された画像との類似度が低すぎ、且つシステムデフォルトの類似度閾値より低いと判定すると、前記美化処理ユニットは再び美化処理を行う請求項５に記載のインターネットに基づく美顔システム。
【請求項７】
前記美化処理ユニットは、顔の美しさの予測アルゴリズムを用いて前記顔画像の美しさを予備判断し、顔の美しさを表す予備判断の点数を取得し、前記予備判断の点数が１００点制を採用し、１点から１００点まで分けられ、１点と評価する場合に最も醜いことを示し、１００点と評価する場合に最も美しいことを示し、点数が高いほど美しさが高く、点数が低いほど美しさが低いことを示す請求項４に記載のインターネットに基づく美顔システム。
【請求項８】
前記美化処理ユニットは、五官の美しさの予測ユニットを含み、
前記五官の美しさの予測ユニットは、顔面偏差値の予測のもとに、五官の美しさの予測アルゴリズムによって、抽出された顔の特徴と顔における６８個のキーポイントに基づき顔の五官の輪郭を抽出するとともに、五官の美しさの予備判断を行い、前記五官の美しさの予備判断が１００点制を採用し、１点から１００点まで分けられ、１点と評価する場合に最も醜いことを示し、１００点と評価する場合に最も美しいことを示し、点数が高いほど美しさが高く、点数が低いほど美しさが低いことを示す請求項７に記載のインターネットに基づく美顔システム。
【請求項９】
前記美化処理ユニットは、顔の美しさのデータベースを含み、
前記顔の美しさのデータベースは、アジアの各主要国と地域の人の顔の構造及び輪郭、五官の分布、肌の色、肌理の細かさ、男性の顔の美しさの標準テンプレート、女性の顔の美しさの標準テンプレート、男性の五官の美しさの標準テンプレート及び女性の五官の美しさの標準テンプレートに関するデータが記憶される請求項８に記載のインターネットに基づく美顔システム。
【請求項１０】
前記美化処理ユニットは、美化実施ユニットと、自動美化ユニットとを含み、
前記美化実施ユニットは、前記顔の美しさのデータベースから美しさの標準モデルを選択するように美顔アルゴリズムを指導し、
前記自動美化ユニットは、美化実施方法に基づいて顔の五官をスムーズに調整することを自動的に実現するとともに、顔の表面の従来のテクスチャを変更しない請求項９に記載のインターネットに基づく美顔システム。
【請求項１１】
ユーザ登録、ログインと個人化アプリ設置機能を含み、顔識別技術と指紋識別技術によりソフトウェアアカウントのログインとメンテナンスを実現するソフトウェア基本機能ユニットと、
第三者のソーシャルメディアアカウントによりログインして即時にチャットする機能を含み、ネットワークで友達を作る、チャットする、及び他のユーザを親友として追加することに用いられ、グループ分け管理モードを採用し、システム情報とユーザの個人のウェブスペースにおけるネットフレンドによる評価情報を受信する即時通信ユニットと、
個人ホームページとＥＸＥウェブアルバムの表示を含み、個人化空間装飾、文字入力、ＥＸＥウェブアルバムのオートプレイを行うことができ、オンラインでＥＸＥウェブアルバムを作るとともに、オンラインでダウンロードできる機能を有する個人ホームページユニットと
を備える請求項１に記載のインターネットに基づく美顔システム。
【手続補正２】
【補正対象書類名】明細書
【補正対象項目名】０００４
【補正方法】変更
【補正の内容】
【０００４】
まず、人々は自分の美しさに対する認識が不十分であり、定量の分析と比較が足りない。次に、ソフトウェアツールで画像を美化し観賞効果を改善することができるにもかかわらず、一つのレタッチソフトウェアを上手に使用し画像を完璧にレタッチすることは通常作業量が大きく、大量の手間が掛かる。且つ画像が美化処理された後に、一部の細部処理の不良が発生する、全体の表示が歪む、などの問題がよくある。
【手続補正３】
【補正対象書類名】明細書
【補正対象項目名】０００８
【補正方法】変更
【補正の内容】
【０００８】
本発明に係るインターネットに基づく美顔システムは、クライアント側で画像及びビデオを取得し、処理し、且つサーバ側にアップロードする画像及びビデオ取得ユニットと、前記画像及びビデオ取得ユニットによりアップロードされた前記画像及びビデオから顔情報を検出するとともに、その結果を前記クライアント側または美化処理ユニットにフィードバックする顔検出ユニットと、前記顔検出ユニットが検出した前記顔情報を美化処理するとともに、その結果を前記顔検出ユニットまたは前記クライアント側にフィードバックするための前記美化処理ユニットとを備える。
【手続補正４】
【補正対象書類名】明細書
【補正対象項目名】０００９
【補正方法】変更
【補正の内容】
【０００９】
さらに、前記画像及びビデオ取得ユニットが撮像した前記画像及びビデオの元画像はＲＡＷ高解像度フォーマットで高解像度の画像として記憶され、前記元画像は、画像処理アルゴリズムを応用してその解像度が低下され、シャープを強調し、コントラストを強調することにより低解像度の画像が得られ、ソフトウェアによる処理が完了した後、前記高解像度の画像および前記低解像度の画像の二枚の画像がインターネットを介して前記サーバにアップロードされ、前記サーバにより前記高解像度の画像および前記低解像度の画像が受信された後に、前記低解像度の画像が顔の検出、顔の検証と顔のキーポイントの検出に用いられ、前記高解像度の画像が顔の美化に用いられる。
【手続補正５】
【補正対象書類名】明細書
【補正対象項目名】００１１
【補正方法】変更
【補正の内容】
【００１１】
さらに、前記顔検出ユニットは、顔検出アルゴリズムをリモートサーバに配置し、ローカルクライアント側で画像処理アルゴリズムが予備のＡＰＩインタフェースを応用し、前記リモートサーバで画像処理を行い、前記顔検出ユニットは、クライアント側画像アップロードユニットと、クラウド側顔検出ユニットと、サーバ側画像ダウンロードユニットとを含み、前記クライアント側画像アップロードユニットは、前記画像及びビデオを前記クライアント側から前記サーバにアップロードを行い、前記クラウド側顔検出ユニットは、前記サーバに配置された顔検出アルゴリズムを応用して受信された前記画像及びビデオに対して顔検出処理を行い、前記サーバ側画像ダウンロードユニットは、前記顔検出処理後の顔画像及び顔座標を含む前記顔情報を前記サーバから前記クライアント側にフィードバックすることに用いられる。
【手続補正６】
【補正対象書類名】明細書
【補正対象項目名】００１２
【補正方法】変更
【補正の内容】
【００１２】
さらに、前記顔検出ユニットは、リモートで顔における６８個のキーポイントを検出することによって顔の五官のエリアを確定するとともに特徴を抽出することに用いられるクラウド側顔キーポイント検出ユニットを含み、前記クラウド側顔キーポイント検出ユニットは、前記低解像度の画像を用い、抽出されたキーポイント座標が前記クライアント側にフィードバックされるとともに美顔アルゴリズムに伝送される。
【手続補正７】
【補正対象書類名】明細書
【補正対象項目名】００１３
【補正方法】変更
【補正の内容】
【００１３】
さらに、前記顔検出ユニットは、前記元画像と前記美化処理ユニットにより美化された画像とが同じ人であるかを判定することに用いられるクラウド側顔検証ユニットを含み、前記クラウド側顔検証ユニットが前記元画像と前記美化された画像との類似度が低すぎ、且つシステムデフォルトの類似度閾値より低いと判定すると、前記美化処理ユニットは再び美化処理を行う。類似度は、美顔のパラメーターが課題に調整されると低くなる。またシステムデフォルトの類似度閾値は、例えば０．４であるとする。
【手続補正８】
【補正対象書類名】明細書
【補正対象項目名】００１４
【補正方法】変更
【補正の内容】
【００１４】
さらに、前記美化処理ユニットは顔の美しさの予測アルゴリズムを用いて前記顔画像の美しさを予備判断し、顔の美しさを表す予備判断の点数を取得し、前記予備判断の点数が１００点制を採用し、１点から１００点まで分けられ、１点と評価する場合に最も醜いことを示し、１００点と評価する場合に最も美しいことを示し、点数が高いほど美しさが高く、点数が低いほど美しさが低いことを示す。顔の美しさの予測アルゴリズムは、例えば「深層学習」に基づく。
【手続補正９】
【補正対象書類名】明細書
【補正対象項目名】００２５
【補正方法】変更
【補正の内容】
【００２５】
ソフトウェアが起動された後、システムのログイン及び登録のページが開かれる。このソフトウェアを初めて使用する場合に、登録してからシステムにログインする必要がある。システムにログインしない場合、システムのいずれの機能も使用できない。ソフトウェアは、第三者のソーシャルメディアアカウントによる登録とログインも可能である。通常は電話番号により登録するが、電子メールにより登録してもよい。登録が成功してシステムにログインした後、設置ページでソフトウェアのＰＩＮコード、図形パスワード、指紋識別と顔識別のログイン方法を設置することができ、ソフトウェアがログインしたアカウントとパスワードを自動的に記録する。
【手続補正１０】
【補正対象書類名】明細書
【補正対象項目名】００２６
【補正方法】変更
【補正の内容】
【００２６】
さらに、ソフトウェアの一部の機能は、「深層学習」技術により開発されたアルゴリズムによって実現される。携帯電話の性能が劣るため、携帯電話は深層学習ネットワークを適用できない。ソフトウェアでは、クラウド側サーバに顔検出、顔検証、顔キーポイント検出と美顔アルゴリズムが配置され、クライアント（携帯電話）側で画像を採集するとともに、アルゴリズムが予備のＡＰＩインタフェースを応用して画像をクラウド側サーバに伝送してアルゴリズム処理を行い、アルゴリズム処理の終了を検出した後、サーバから結果をクライアント側にフィードバックするとともにクライアント側で表示させる。アルゴリズムがサーバで実現され、画像のアップロード及びダウンロードの工程に係わるため、好ましいネットワーク状態はソフトウェアのユーザ体験を向上させることにとって重要である。
【手続補正１１】
【補正対象書類名】明細書
【補正対象項目名】００２７
【補正方法】変更
【補正の内容】
【００２７】
さらに、クライアント側で画像を採集してサーバにアップロードした後に、サーバで「深層学習」に基づく顔検出アルゴリズムによって顔検出が行われ、顔を検出できた場合に、アルゴリズムにより顔のＲＯＩ（Region  Of  Interest）座標をフィードバックし、且つサーバからクライアント側にフィードバックし、クライアント側で描画アルゴリズムを応用し、画像において赤枠で顔のエリアを示す。顔を検出できなかった場合は、システムからエラーメッセージをフィードバックし、画像を取り替えて再びテストを行うようユーザに要求する。顔検出アルゴリズムにより顔が検出されたと同時に、顔における６８個のキーポイントも検出される。サーバは、検出された情報をクライアント側にフィードバックするとともに、他のアルゴリズムに伝送する。顔を美化する段階で、クライアント側にフィードバックされた６８個のキーポイントは顔画像に表示されない。キーポイントを確認する場合は、ソフトウェアの設置ページに対応する機能を起動する必要がある。
【手続補正１２】
【補正対象書類名】明細書
【補正対象項目名】００３０
【補正方法】変更
【補正の内容】
【００３０】
さらに、画像美化処理が行われた後、「深層学習」に基づく顔検証アルゴリズムは、美化処理された画像と元画像とが同じ人の画像であるかを判定する。顔検証アルゴリズムは、類似度により検証を行う。顔の五官が調整された後に、顔の特徴的な細部が変化し、抽出された特徴点を再びテストすると相違がある。そのため、顔検証アルゴリズムが同じ人であるか否かの判定結果を直接与えず、類似度の判定を与える。類似度は１００点制を採用し、０点から１００点まで分けられ、そのうち、０点が完全に異なることを示し、１００点が完全に同じことを示し、点数が高いほど類似度が高く、点数が低いほど類似度が低いことを示す。システムには顔の類似度の閾値、即ち０．４が設置され、画像処理が行われた後、類似度がこの値より低いと、再び美化処理を行う。この閾値はシステムの設置ページにおいて修正されてもよい。ソフトウェアには顔検証機能も設置され、ユーザが二枚の画像を同時にアップロードして検証することができ、この時に、システム処理が行われた後、同じ人である又は同じ人ではないとの判定結果が与えられる。
【手続補正１３】
【補正対象書類名】明細書
【補正対象項目名】００３１
【補正方法】変更
【補正の内容】
【００３１】
さらに、ユーザは自分の元画像と美化処理された画像とをソフトウェアパブリックプラットフォームにアップロードして表示させ、ほかのユーザによる採点を受け付けることができる。採点システムには１点から１０点までの点数が設定され、そのうち、１点が最も醜いことを示し、１０点が最も美しいことを示し、点数が高いほど美しさが高く、点数が低いほど美しさが低いことを示す。ネットフレンドは、採点すると同時に、システムに設定された顔の美しさの判定に関する問題を答えることもでき、画像の下にコメントすることもできる。システムは、ユーザに参考させるように、ネットフレンドの関与状況、採点した点数に基づいて、点数統計ヒストグラム、顔面偏差値の平均値と点数の分散を計算し、これによって採点の有効性を考察する。ユーザはほかのユーザとのＰＫに参加することもでき、応援の形で、限られた時間に応援数が多いほうが勝ち、且つより高水準のＰＫ戦に突入する。
【手続補正１４】
【補正対象書類名】明細書
【補正対象項目名】００３２
【補正方法】変更
【補正の内容】
【００３２】
さらに、ユーザは自分の個人スペースに画像、ビデオとＥＸＥ（実行ファイル）形式の電子アルバムをアップロードすることができる。電子アルバムは、オンライン作成とローカルアップロードができる。オンラインで作成される電子アルバムはダウンロードできる。個人スペースのアルバムにおける画像は、顔面偏差値の採点と美化処理をバッチ式で行うことができ、ユーザは採点の痕跡を残すか否かを選択できる。
【手続補正１５】
【補正対象書類名】明細書
【補正対象項目名】００３３
【補正方法】変更
【補正の内容】
【００３３】
さらに、ユーザの間で便利にコミュニケーションをとれるように、ソフトウェアには即時チャット機能が設定される。ユーザからパブリックプラットフォームにアップロードされ、投票及び採点を受ける画像により、新たな投票とコメントが受信された後、投票情報とコメント情報がシステムによってチャットエリアに転送され、ユーザはいつでも関連するコンサルティング情報を取得することができる。
【国際調査報告】
2019523489.tif 000005
2019523489.tif 000006
2019523489.tif 000007
2019523489.tif 000008