(57)【要約】      （修正有）【課題】ソーシャルネットワーク上での好ましくないメッセージの拡散を防止するメッセージフィルタリングシステムを提供する。【解決手段】メッセージフィルタリングシステム２は、コメントの付与、メッセージの受信及びメッセージの送信の前に、システムに登録及びログインするように構成されたユーザ１のメッセージがソーシャルネットワーク上に示されると、メッセージをフィルタリングシステムに転送する処理装置と、表示装置と、を備え、処理装置は、メッセージ又は情報に対して、フィルタリングを即座に開始し、スクリーニング、調整及び処理を実行してフィルタリング結果を表示装置に表示させ、結果は、様々な好ましくない特定態様のメッセージ又は情報の意味を示すように特定される。【選択図】図１
0003227155.tif 000002
【実用新案登録請求の範囲】
【請求項１】
ソーシャルネットワーク上においてユーザが生成したテキストコンテンツをフィルタリング及び管理するためのメッセージフィルタリングシステム（２）であって、
コメントの付与、メッセージの受信及びメッセージの送信の前に、システムに登録及びログインするように構成されたユーザ（１）のメッセージがソーシャルネットワーク上に示されると、前記メッセージは前記メッセージフィルタリングシステム（２）に転送され、
前記メッセージフィルタリングシステムは、前記メッセージ又は情報に対して、フィルタリングを即座に開始し、
前記メッセージフィルタリングシステムは、スクリーニング（２．１）、調整（２．２）及び処理（２．３）のステップと、前記メッセージフィルタリングシステム（２）のフィルタリングで提供されたフィルタリング結果（３）とを含み、
当該結果は、様々な好ましくない特定態様のメッセージ又は情報の意味を示すように特定されるメッセージフィルタリングシステム。
【請求項２】
前記メッセージフィルタリングシステム（２）は、単語、エモーティコン、記号及び全ての組み合わせ文字による初期メッセージフィルタリングを行うスクリーニング（２．１）と、前記メッセージフィルタリングシステム（２）における前記フィルタリングのために特定形式の文字にメッセージを調整し、次の処理（２．３）を容易に行わせる調整（２．２）と、を含み、
前記処理（２．３）は、汎用言語に調整されたメッセージのフィルタリングを行い、前記システムで特定されたメッセージ又は情報を分類する、請求項１に記載のメッセージフィルタリングシステム。
【請求項３】
前記フィルタリング結果（３）は、０から１までの数値形式で表示されるように構成される、請求項１又は２に記載のメッセージフィルタリングシステム。
【請求項４】
前記フィルタリング結果（３）は、性的表現、売春、金銭関連詐欺、暴力的なコンテンツ、差別的発言、偽アカウント、スパム、テロリストの宣伝、及びソーシャルネットワーク上の他のオンラインアプリケーションの登録への誘導から選択される態様に基づく出力を提供する、請求項１〜３のいずれか１項に記載のメッセージフィルタリングシステム。
【考案の詳細な説明】
【技術分野】
【０００１】
本考案は、ソーシャルネットワーク上においてユーザが生成したテキストコンテンツをフィルタリング及び管理するためのシステムに関するコンピュータ・エンジニアリングの分野に関する。
【背景技術】
【０００２】
今日、ソーシャルネットワーク上では、会話は様々な言語で行われており、さらに、一般的な会話の代わりに使用されている単語、言語、又は記号があるが、ソーシャルネットワーク上で行われる会話は様々な目的のために調整され、歪められ、短縮されることが多い。例えば、メッセージを要約して理解しやすくしたり、新しい記号を作成したり、新しい言語（新しい語彙）を作成したり、特定のグループのために語彙を作成したり、好ましくなく不法で違法なコメント又はダメージの原因を防止するためソーシャルネットワーク上で一般に行われるフィルタリングによって、メッセージが公開される前に情報がスクリーニングされることを回避するようにメッセージを調整すること等が行われている。
【０００３】
メッセージは多くの場合、ソーシャルネットワークユーザに好ましくない情報又はメッセージコンテンツを回避し、隠蔽し、混乱させるように調整されたり、意図された受信者により速くメッセージを送信するように調整されたりするが、これらのメッセージは、送信元から送信された元メッセージ以上のものに調整される可能性があり、初期方法でフィルタリングしてコンテンツを正確にスクリーニングすることがより困難である。なぜなら、初期フィルタリングシステムは、比較対象となるデータベース内の文法規則デフォルト設定に従って、完全かつ正しい文法及び単語構造の自然言語をフィルタリングするように作成されているからである。検索結果によれば、類似の特許出願が、以下のようにいくつか見出されている。
【０００４】
「コメントを自動的に分析するシステム及び方法」と題する発明のタイ特許出願第１００１０００４８４号は、データベース上の単語及びコメントのパターンの収集、並びにコメント及び統計結果表示の分析からなるメッセージ分析システムを図示している。
【０００５】
全てのメッセージを分析した後、システムは統計分析を提供し、結果をユーザに表示するが、発明は、ユーザコメントの初期分析のためのシステムである。
【０００６】
「タイ語の単語を切断及び変換するためのツール及びそれらの方法」と題する発明のタイ特許出願番号１４０１００５７０５は、単語及び２つの単語の頻度及び確率を分析し、単語を正しい文法形式で切断及び変換するプロセスを含む、単語を切断及び正規形式に変換するためのシステム及び方法を図示している。これは、すべての可能な経路のツリー構造を作成することと、収集された統計からフィルタリングして可能な経路を選択することによって、単語の経路を選択するのに役立つ。前記システムは正規文字のみを含むメッセージをフィルタリングするが、記号又は他の文字を含むメッセージをフィルタリングすることはできない。
【０００７】
「ＡＩベースの詐欺防止ユーザ訓練及び保護のためのシステム及び方法」と題する発明の米国特許出願第２０１９００２８４９９Ａ１号は、収集された電子メッセージのコンテンツを分析し、セキュリティスコアを計算して、実際に攻撃があった場合に高リスクの人々がダメージを受けるのを防止するシステムを示している。このコンテンツ分析は、メッセージのみを送信する際のセキュリティフィルタリングに重点を置いている。
【先行技術文献】
【特許文献】
【０００８】
【特許文献１】タイ王国特許出願番号１００１０００４８４号
【特許文献２】タイ王国特許出願番号１４０１００５７０５号
【特許文献３】米国特許出願公開第２０１９／００２８４９９号明細書
【考案の概要】
【考案が解決しようとする課題】
【０００９】
上述のように、セキュリティフィルタリング、文法的正しさフィルタリング、メッセージのコメントフィルタリング等の情報をフィルタリングする多くのタイプのシステムが多く存在することがわかっているが、本考案者は、ソーシャルネットワーク上で特定のフィルタリング方法を大幅に開発し、フィルタリングの精度をネイティブスピーカと同程度に高くすることで、回避を意図したメッセージをスクリーニングする。
【課題を解決するための手段】
【００１０】
本考案に係るソーシャルネットワーク上においてユーザが生成したテキストコンテンツをフィルタリング及び管理するためのシステムは、メッセージのスクリーニング、メッセージの特定及び調整、メッセージの分類、並びに特定されたメッセージが好ましくない範囲内にある場合のフィルタリング処理という主なプロセスを含み、このシステムは、汎用言語及び日本語と同レベルの正確さ及び精度を有するように開発されている。
【００１１】
本考案の目的は、ソーシャルネットワーク上においてメッセージをスクリーニングするためのシステムであって、ネイティブスピーカと同程度の精度レベルであり、好ましくないメッセージの拡散を防止するシステムを作成することである。このシステムは、単語、エモーティコン、記号、及び様々な言語において意図した語を示す文字全ての組み合わせをフィルタリングして、時間がかかり健康に影響を及ぼすような視覚でのスクリーニングによる手動フィルタリングを減らすことができる。
【図面の簡単な説明】
【００１２】
【図１】図１は、ソーシャルネットワーク上でユーザが生成したテキストコンテンツをフィルタリング及び管理するためのシステムの一実施形態を示す。
【考案を実施するための形態】
【００１３】
本考案の最良の方法は、本考案の詳細な説明に記載されている通りである。図１に、ソーシャルネットワーク上においてユーザが生成したテキストコンテンツをフィルタリング及び管理するためのシステムの一実施形態を示す。このシステムは、言語の制約がある人間の目によるフィルタリングに代わってメッセージ又は情報をフィルタリングするツールとして開発されている。このシステムは、各国におけるネイティブスピーカによるフィルタリングプロセスはコストが高く、また、ミス及びフィルタリングの時間を削減する必要があることから、開発されたものである。ここで、このシステムにおいて、メッセージをフィルタリング及び管理するためのプロセスは、ユーザ、メッセージフィルタリングシステム及びフィルタリング結果を、次のように含む。
【００１４】
ソーシャルネットワークへアクセスするユーザ１は、登録を行う必要がある。ここで、利用開始前に、ユーザは、システムに登録する機会を提供され、ソーシャルネットワークを介してコメントし、メッセージを受信し、メッセージを送信することができるようになる。コメントの付与、メッセージの受信及びメッセージの送信は、条件に基づいて、同じサイト又はソーシャルネットワークの任意の他のサイト内で行うことができる。ユーザ１のメッセージがソーシャルネットワーク上に示されると、そのメッセージは、メッセージ又は情報が公開されたときに、メッセージフィルタリングシステム２に即座に送信され、フィルタリングされる。
【００１５】
メッセージフィルタリングシステム２は、ソーシャルネットワーク上のメッセージフィルタリングの媒体として機能する。メッセージフィルタリングシステム２は、コメント、メッセージ及びユーザ１のデータを格納するデータベースであり、以下のプロセスを含むスクリーニング２．１、調整２．２及び処理２．３のステップを備えている。
【００１６】
最初のメッセージフィルタリングを行うスクリーニングステップ２．１では、様々な単語、エモーティコン、記号、又は、ある意味を有するように意図された特定文字に類似する語、絵又は記号を示す文字の組み合わせをフィルタリングする。
【００１７】
調整ステップ２．２では、メッセージを特定形式に調整する。ここでは、スクリーニングステップ２．１でスクリーニングされたメッセージを受信すると、記号を、フィルタリングシステム２のフィルタリング用に特定された文字に調整する。このフィルタリングシステム２は、情報及び語、汎用言語及び日本語を収集し、情報を比較して、さらなる処理２．３を簡単に提供する。
【００１８】
処理ステップ２．３は、汎用言語又は日本語に調整されたメッセージをフィルタリングするように構成されている。ここで、処理２．３は、自然言語の処理原理及びフィルタリングシステム２の学習原理で開発されている。処理２．３を行うことで、システムで特定されたメッセージ又は情報を分類する。
【００１９】
フィルタリング結果３では、フィルタリングシステム２を介した処理２．３の出力が提供される。この出力結果は、様々な好ましくない態様のメッセージ又は情報を意味する特定のスコアリングレートに等しい。ここで、メッセージサマリは、０から１までの数値形式で表示する。１は、フィルタリングされたメッセージが特定態様に最も近い意味を含むことを示し、０はフィルタリングされたメッセージが特定態様の意味を全く含まないことを示す。
【００２０】
フィルタリングシステム２は、様々な特定態様に基づいてスコアを提供することができる。ここで、メッセージフィルタリングに最も使用される態様として選択できるのは、性的表現、売春、金銭関連詐欺、暴力的なコンテンツ、差別的発言、偽アカウント、スパム、テロリストの宣伝、及びソーシャルネットワーク上の他のサイトへの誘導である。
【００２１】
表示例：
メッセージ内容： $ex ph0neが欲しい
性的スコア： 0.99
売春スコア： 0.24
金銭関連詐欺スコア： 0.01
その他のソーシャルネットワークスコア： 0.16
【００２２】
表示は、例えば、表、チャート及びグラフのような形式を選択することができ、条件の表示に関しては、表示する条件の種類を選択し、条件の数を追加又は削減することができる。
【００２３】
本考案は特定の実施形態及び実施例の文脈で開示されているが、本考案は具体的に開示された実施形態を超えて、本考案の他の代替実施形態及び／又は使用、並びにその明らかな修正及び均等物に及ぶことが、当業者によって理解されるのであろう。
【符号の説明】
【００２４】
１…ユーザ、２…フィルタリングシステム、３…フィルタリング結果。
【図１】
0003227155.tif 000003
【手続補正書】
【提出日】令和2年5月13日(2020.5.13)
【手続補正１】
【補正対象書類名】実用新案登録請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【実用新案登録請求の範囲】
【請求項１】
ソーシャルネットワーク上においてユーザが生成したテキストコンテンツをフィルタリング及び管理するためのメッセージフィルタリングシステム（２）であって、
コメントの付与、メッセージの受信及びメッセージの送信の前に、システムに登録及びログインするように構成されたユーザ（１）のメッセージがソーシャルネットワーク上に示されると、前記メッセージを前記メッセージフィルタリングシステム（２）に転送する処理装置と、
表示装置と、を備え、
前記処理装置は、前記メッセージ又は情報に対して、フィルタリングを即座に開始し、スクリーニング（２．１）、調整（２．２）及び処理（２．３）を実行して前記フィルタリングで提供されたフィルタリング結果（３）を前記表示装置に表示させ、
当該結果は、様々な好ましくない特定態様のメッセージ又は情報の意味を示すように特定されるメッセージフィルタリングシステム。
【請求項２】
前記スクリーニング（２．１）は、単語、エモーティコン、記号及び全ての組み合わせ文字による初期メッセージフィルタリングであり、
前記調整（２．２）は、次の前記処理（２．３）を容易に行わせるべく、前記フィルタリングのための特定形式の文字へのメッセージの調整であり、
前記処理（２．３）は、汎用言語に調整されたメッセージのフィルタリングを行い、前記システムで特定されたメッセージ又は情報を分類する、請求項１に記載のメッセージフィルタリングシステム。
【請求項３】
前記フィルタリング結果（３）は、０から１までの数値形式で表示されるように構成される、請求項１又は２に記載のメッセージフィルタリングシステム。
【請求項４】
前記フィルタリング結果（３）は、性的表現、売春、金銭関連詐欺、暴力的なコンテンツ、差別的発言、偽アカウント、スパム、テロリストの宣伝、及びソーシャルネットワーク上の他のオンラインアプリケーションの登録への誘導から選択される態様に基づく出力である、請求項１〜３のいずれか１項に記載のメッセージフィルタリングシステム。