(57)【要約】【課題】サイバーブーリングのリスクを決定する方法等を提供する。【解決手段】本開示に従う方法は、発信電子通信のソースにおいて該発信電子通信を電子的にインターセプトすることを含んでよい。方法は、発信電子通信についてのサイバーブーリングリスクスコアを決定することを更に含んでよく、サイバーブーリングリスクスコアは、発信電子通信の内容、発信電子通信を送るユーザのユーザ履歴、及びサードパーティのポリシーに少なくとも基づく。方法は、サイバーブーリングリスクスコアが閾値を上回ることに応答して、発信電子通信を送るユーザへ推奨される行動方針を提供することを更に含んでよい。【選択図】図６
2018092578.tif 000002
【特許請求の範囲】
【請求項１】
サイバーブーリングのリスクを決定する方法であって、
発信電子通信のソースにおいて該発信電子通信を電子的にインターセプトし、
前記発信電子通信についてのサイバーブーリングリスクスコアを決定し、該サイバーブーリングリスクスコアは、前記発信電子通信の内容、前記発信電子通信を送るユーザのユーザ履歴、及びサードパーティのポリシーに少なくとも基づき、
前記サイバーブーリングリスクスコアが閾値を上回ることに応答して、前記発信電子通信を送る前記ユーザへ推奨される行動方針を電子的に提供する
ことを有する方法。
【請求項２】
前記サイバーブーリングリスクスコアは、前記発信電子通信を送る前記ユーザのユーザ好み、前記発信電子通信の受け手のプロフィール、前記発信電子通信が対象とする受け手の数、及び前記発信電子通信を送る前記ユーザから該発信電子通信の受け手へのメッセージの頻度に更に基づく、
請求項１に記載の方法。
【請求項３】
通知の好み、及び前記発信電子通信を送る前記ユーザのデフォルトのスコア、のうちの少なくとも１つを含む前記サードパーティのポリシーを確立するよう前記サードパーティから入力を受け取り
前記サイバーブーリングリスクスコアに関する前記サードパーティからのフィードバックを受け取る
ことを更に有する請求項１に記載の方法。
【請求項４】
前記サイバーブーリングリスクスコアが前記閾値を上回ることに応答して、前記発信電子通信に関して前記サードパーティへ通知を送る
ことを更に有する請求項１に記載の方法。
【請求項５】
前記発信電子通信を送る前記ユーザへ推奨される行動方針を電子的に提供することは、推奨される代替語を提供すること、教育的映像を提供すること、サイバーブーリングの結果の説明を提供すること、又は好意的な通信の１つ以上の原理を提供すること、のうちの少なくとも１つを含む、
請求項１に記載の方法。
【請求項６】
前記発信電子通信を送る前記ユーザの位置を決定することを更に有し、
前記サイバーブーリングリスクスコアは、前記位置に基づく、
請求項１に記載の方法。
【請求項７】
前記位置は、前記発信電子通信の前記ソースとして前記ユーザによって使用される電子デバイスのインターネットプロトコル（ＩＰ）アドレス、又は前記ユーザによって使用される前記電子デバイスのグローバルポジショニングサービス（ＧＰＳ）チップ、のうちの１つに基づく、
請求項６に記載の方法。
【請求項８】
前記発信電子通信の前記内容は、テキスト解析、画像解析、テキスト分類、画像分類、機械学習、キーワード及び状況の識別、自然言語処理（ＮＬＰ）、テキスト感情解析、並びに画像認識、のうちの少なくとも１つを用いて解析される、
請求項１に記載の方法。
【請求項９】
前記発信電子通信は、発信電子通信を生成する複数のアプリケーションのいずれかを用いて生成される、
請求項１に記載の方法。
【請求項１０】
前記閾値は第１の閾値であり、
当該方法は、前記サイバーブーリングリスクスコアが前記第１の閾値を上回り、第２の閾値を上回らないことに応答して、前記発信電子通信が送られることを許すことを更に有する、
請求項１に記載の方法。
【請求項１１】
前記サイバーブーリングリスクスコアが前記閾値を上回ることに応答して、前記発信電子通信が送られないようにする
ことを更に有する請求項１に記載の方法。
【請求項１２】
前記サイバーブーリングリスクスコアは、各属性についての属性スコア及び属性信頼率に基づく、
請求項１に記載の方法。
【請求項１３】
モバイル電子デバイスであって、
メモリと、
グローバルポジショニングシステム（ＧＰＳ）チップと、
表示メッセージに基づき情報を表示するよう構成されるディスプレイと、
前記ＧＰＳチップ、前記ディスプレイ、及び前記メモリへ結合され、１つ以上の動作を実行する又は該動作の実行を制御するよう構成されるプロセッサと
を有し、
前記動作は、
当該モバイル電子デバイスから送られる発信電子通信をインターセプトし、
前記発信電子通信についてのサイバーブーリングリスクスコアを決定し、該サイバーブーリングリスクスコアは、前記発信電子通信の内容、当該モバイル電子デバイスを使用するユーザのユーザ履歴、前記ＧＰＳチップに基づく当該モバイル電子デバイスの位置、及びサードパーティのポリシーに少なくとも基づき、
前記サイバーブーリングリスクスコアが閾値を上回ることに応答して、前記ユーザへ推奨される行動方針を提供するよう、前記ディスプレイへ送られる表示メッセージを生成する
ことを有する、モバイル電子デバイス。
【請求項１４】
前記閾値は、当該モバイル電子デバイスの前記位置に基づき変化する、
請求項１３に記載のモバイル電子デバイス。
【請求項１５】
前記位置は、少なくとも学校を含み、
前記閾値は、前記位置が学校でない場合よりも、前記位置が学校である場合に低い、
請求項１４に記載のモバイル電子デバイス。
【請求項１６】
前記サイバーブーリングリスクスコアが前記閾値を上回ることに応答して前記サードパーティへメッセージを送るよう構成される通信デバイス
を更に有する請求項１３に記載のモバイル電子デバイス。
【請求項１７】
発信電子通信のソースにおいて該発信電子通信を電子的にインターセプトし、
前記発信電子通信についてのサイバーブーリングリスクスコアを決定し、該サイバーブーリングリスクスコアは、前記発信電子通信の内容、前記発信電子通信を送るユーザのユーザ履歴、及びサードパーティのポリシーに少なくとも基づき、
前記サイバーブーリングリスクスコアが閾値を上回ることに応答して、前記発信電子通信を送る前記ユーザへ推奨される行動方針を電子的に提供する
ことを有する動作を実行する又は該動作の実行を制御するよう、プロセッサによって実行される命令を有している非一時的なコンピュータ可読媒体。
【請求項１８】
前記サイバーブーリングリスクスコアは、前記発信電子通信を送る前記ユーザのユーザ好み、前記発信電子通信の受け手のプロフィール、前記発信電子通信が対象とする受け手の数、及び前記発信電子通信を送る前記ユーザから該発信電子通信の受け手へのメッセージの頻度に更に基づく、
請求項１７に記載の非一時的なコンピュータ可読媒体。
【請求項１９】
前記動作は、前記サイバーブーリングリスクスコアが前記閾値を上回ることに応答して、前記発信電子通信に関して前記サードパーティへ通知を送ることを更に有する、
請求項１７に記載の非一時的なコンピュータ可読媒体。
【請求項２０】
前記動作は、前記発信電子通信の前記ソースとして前記ユーザによって使用される電子デバイスのインターネットプロトコル（ＩＰ）アドレス、又は前記ユーザによって使用される前記電子デバイスのグローバルポジショニングサービス（ＧＰＳ）チップ、のうちの１つに基づき、前記発信電子通信を送る前記ユーザの位置を決定することを更に有し、
前記サイバーブーリングリスクスコアは、前記位置に基づく、
請求項１７に記載の非一時的なコンピュータ可読媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本願で説明される実施形態は、サイバーブーリング（cyberbullying）防止に関係がある。
【背景技術】
【０００２】
近年、サイバーブーリングは、個人の反感を買う新しい形になりつつある。意地の悪い又は好ましからざるメッセージが、１人の個人から他者へ送られることがあり、あるいは、個人に関して他者へ送られることがある。
【０００３】
本願で請求される対象は、上述されたような環境でしか動作しない実施形態、又は上述された如何なる欠点も解消する実施形態に制限されない。むしろ、この背景技術は、本願で記載される本開示の実施形態が実施され得る技術分野の一例を説明するために与えられている。
【発明の概要】
【０００４】
実施形態の態様に従って、サイバーブーリングのリスクを決定する方法は、発信電子通信のソースにおいて該発信電子通信を電子的にインターセプトすることを含んでよい。当該方法は、前記発信電子通信についてのサイバーブーリングリスクスコアを決定することを更に含んでよく、該サイバーブーリングリスクスコアは、前記発信電子通信の内容、前記発信電子通信を送るユーザのユーザ履歴、及びサードパーティのポリシーに少なくとも基づく。当該方法は、前記サイバーブーリングリスクスコアが閾値を上回ることに応答して、前記発信電子通信を送る前記ユーザへ推奨される行動方針を提供することを更に含んでよい。
【０００５】
実施形態の目的及び利点は、少なくとも、特許請求の範囲で特に指し示されている要素、特徴、及び組み合わせによって、実現及び達成される。
【０００６】
前述の概要及び以下の詳細な説明はいずれも、例を提供し、説明であって限定ではない。
【図面の簡単な説明】
【０００７】
例となる実施形態は、添付の図面の使用を通じて、更なる特定及び詳細をもって記載及び説明される。
【０００８】
【図１】サイバーブーリング防止のためのシステムの例を表す。
【０００９】
【図２】サイバーブーリング防止において使用される、例となる電子デバイスのブロック図を表す。
【００１０】
【図３】サイバーブーリングリスクスコアを決定するシステムの例のブロック図を表す。
【００１１】
【図４】ユーザプロフィールの例を表す。
【００１２】
【図５】サイバーブーリングを防ぐようシステムをセットアップするユーザインターフェイスの例を表す。
【００１３】
【図６】サイバーブーリング防止のための方法の例のフロー図を表す。
【００１４】
【図７Ａ】サイバーブーリング防止のための方法の他の例のフロー図を表す。
【図７Ｂ】サイバーブーリング防止のための方法の他の例のフロー図を表す。
【発明を実施するための形態】
【００１５】
本開示は、サイバーブーリングを防止するか又は少なくとも減らすことに関係がある。
【００１６】
本開示で使用されるように、語「サイバーブーリング」は、個人又はグループを怒らせ、さげすみ、けなし、又は別なふうにおとしめることを意図されているメッセージによるあらゆるタイプの電子通信を指してよい。そのようなメッセージは、テキスト、画像、映像、又は何らかの他の形態の電子通信を含んでよい。サイバーブーリングは、サイバーブーリングの標的が電子通信を受け取る場合、及び対象が電子通信を受け取らない場合を含む。
【００１７】
本開示の実施形態は、添付の図面を参照して説明される。
【００１８】
図１は、本開示の１つ以上の実施形態に従って、サイバーブーリング防止のための、例となるシステム１００の図である。システム１００は電子デバイス１１０を含んでよい。電子デバイス１１０を介して、ユーザは、ネットワーク１２０上で１つ以上の受け手１３２へ送出されるメッセージを生成してよい。電子デバイス１１０、又は電子デバイス１００のユーザは、そのような発信メッセージのソースとされ得る。そのような発信メッセージについて、発信メッセージがサイバーブーリングでありうるリスクが存在する。例えば、発信メッセージは、受け手１３２の１人に向けたいじめ的内容を含み得る。他の例として、発信メッセージは、受け手１３２とは異なる個人の不適切画像を含み得る。発信メッセージは、如何なる形もとることができる。例えば、発信メッセージは、電子メール、テキストメッセージ、インスタントメッセージング、ブログ投稿、又はＧＯＯＧＬＥ  ＣＨＡＴ、ＦＡＣＥＢＯＯＫ（登録商標）、ＴＷＩＴＴＥＲ（登録商標）、ＩＮＳＴＡＧＲＡＭ（登録商標）、ＳＮＡＰＣＨＡＴ（登録商標）、ＧＯＯＧＬＥ＋（登録商標）、ＭＹＳＰＡＣＥ（登録商標）、ＬＩＮＫＥＤＩＮ（登録商標）、ＰＩＮＴＥＲＥＳＴ（登録商標）、ＴＵＭＢＬＲ（登録商標）、ＦＬＩＣＫＲ（登録商標）、ＶＩＮＥ、ＹＯＵＴＵＢＥ（登録商標）、若しくは他のサードパーティサービスのような、何らかのサードパーティサービスを使用することを含め、何らかのサービス又はモダリティを通じたテキスト、画像、映像、オーディオ、などを含んでよい。
【００１９】
システム１００は、発信メッセージがサイバーブーリングメッセージであるかどうかの可能性を決定するよう動作してよく、発信メッセージがサイバーブーリングメッセージである可能性がある場合には、推奨される行動方針又は他の干渉を提供してよい。いくつかの実施形態において、システム１００は、電子デバイス１００で動作し得るソフトウェア１１２を含んでよい。ソフトウェア１１２は、本開示で記載される動作のうちの１つ以上を実施し得る。例えば、ソフトウェア１１２は、１つ以上の発信メッセージをインターセプトしてよく、発信メッセージに対する解析を行って、サイバーブーリングリスクスコアを発信メッセージに割り当ててよい。サイバーブーリングリスクスコアに基づき、ソフトウェア１１２は、推奨される行動方針をユーザに提供し得る。例えば、そのような推奨される行動方針は、発信メッセージを変えるための提言、発信メッセージを送らないための提言、発信メッセージを送る受け手を減らすための提言、そのようなメッセージを来る前に受け手と話すための提言、学校／企業ポリシーの順守を求めるための提言、又はその他提言を含んでよい。
【００２０】
いくつかの実施形態において、ソフトウェア１１２は、特定のサードパーティサービスに特有のプラグイン又はアプリケーションプログラミングインターフェイス（ＡＰＩ；application  programming  interface）、例えば、ＴＷＩＴＴＥＲのためのプラグイン１１４、ＦＡＣＥＢＯＯＫのためのプラグイン１１６、及び／又はＩＮＳＴＡＧＲＡＭのためのプラグイン１１８、などを含んでよい。プラグイン１１４、１１６、及び／又は１１８は、夫々のサードパーティサービスを通じた発信メッセージのインターセプションを助け得る。その上、又は代替的に、プラグイン１１４、１１６、及び／又は１１８は、推奨される行動方針に関してユーザへフィードバックを提供すること、及び／又は親、教師、又は他の管理者のようなサードパーティ１３０へ通知を送ることを助け得る。
【００２１】
サイバーブーリングリスクスコアは、メッセージの内容、発信メッセージを送るユーザに関連した因子、メッセージの受け手１３２に関連した因子、何らかの以前に受け取られたフィードバック、及び／又はサードパーティ１３０によって導入される何らかのポリシー若しくは設定を含む様々な因子のいくつに基づいてもよい。少なくとも１つの実施形態に従うサイバーブーリングリスクスコアの決定は、例えば、図３、６、及び７を参照して、より詳細に記載される。
【００２２】
サードパーティ１３０は、より一般的には、１つ以上のサードパーティ１３０を含んでよい。いくつかの実施形態において、１つ以上のサードパーティ１３０（以降、「サードパーティ１３０」（複数を含む。））は、システム１００の様々な態様と関連し得る。いくつかの実施形態において、サードパーティ１３０は、サイバーブーリングを防止するか又は少なくとも減らすようシステム１００の初期設定又は配置を助け得る。例えば、サードパーティ１３０は、発信メッセージの遮断を自動的に引き起こし得る様々な語、トピック、画像カテゴリ、又は他の基準若しくはパラメータを選択し得る。少なくとも１つの実施形態に従うシステム１００の初期設定又は配置の様々な態様は、図５を参照して記載される。
【００２３】
いくつかの実施形態において、サードパーティ１３０は、閾値を上回るサイバーブーリングリスクスコアを有している可能性があるあらゆる発信メッセージに関して通知、報告、又は他のメッセージを受け得る。例えば、親又は教師は、閾値を上回るサイバーブーリングリスクスコアを有するメッセージを子どもが送るときに、テキストメッセージを受け得る。他の例として、企業又は他の団体のシステム管理者は、その企業又は他の団体の従業員によって送られた、閾値を上回るサイバーブーリングリスクスコアを有するあらゆる通信の週報を受け得る。
【００２４】
いくつかの実施形態において、ユーザが発信メッセージを生成している状況（context）は、特定の行動が引き起こされるサイバーブーリングリスクスコア及び／又は閾値に作用し得る。例えば、ユーザが学校１４２にいる場合に、第１の閾値が使用されてよく、それは、ユーザが自宅１４４にいる場合よりも低い。別の言い方をすれば、学校１４２にいるという状況でユーザが発信メッセージを生成している場合に、発信メッセージは、その発信メッセージがサイバーブーリングメッセージであるか否かを判定するよう、より厳しく解析され得る。他の例として、ユーザが、学校１４２にいる間に、閾値を上回る発信メッセージを生成する場合に、サードパーティ１３０は、発信メッセージの通知を受け得る教師又は学校管理者を含んでよい。
【００２５】
電子デバイス１１０は、電子コンテンツを生成し、それをネットワーク１２０上で投稿することが可能な如何なるデバイスも含んでよい。電子デバイス１１０は、携帯電話機、スマートフォン、タブレットコンピュータ、ラップトップコンピュータ、デジタルカメラ、パーソナルデジタルアシスタント（ＰＤＡ）、ゲーム機若しくはリモート、又は他の電子デバイスのような、如何なる形態でも実装されてよい。少なくとも１つの実施形態において、電子デバイス１１０は、図２の電子デバイス２００として実装されてよい。
【００２６】
ネットワーク１２０は、電子デバイス１１０、サードパーティ１３０、及び／又は受け手１３２のうちの１つ以上の間の通信を提供するよう構成された如何なるデバイス、システム、コンポーネント、又はそれらの組み合わせも含んでよい。一例として、ネットワーク１２０は、電子デバイス１１０、サードパーティ１３０、及び／又は受け手１３２が通信することを可能にする１つ以上のワイドエリアネットワーク（ＷＡＮ）及び／又はローカルエリアネットワーク（ＬＡＮ）を含んでよい。いくつかの実施形態において、ネットワーク１２０は、複数のＷＡＮ及び／又はＬＡＮの間の論理的又は物理的接続によって形成される世界規模のインターネットワークを含むインターネットを含んでよい。代替的に、又はその上、ネットワーク１２０は、１つ以上のセルラーＲＦネットワーク、及び／又は１つ以上の有線及び／又は無線ネットワーク、例えば、８０２．ｘｘネットワーク、Ｂｌｕｅｔｏｏｔｈ（登録商標）アクセスポイント、ワイヤレスアクセスポイント、ＩＰベースネットワーク、若しくは同様のものを含んでよい。ネットワーク１２０はまた、１つのタイプのネットワークが他のタイプのネットワークとインターフェイス接続することを可能にするサーバを含んでよい。その上、又は代替的に、ネットワーク１２０は、イントラネット、あるいは、組織内で、又は別なふうに安全な様態において、例えば、学校１４２内で若しくは自宅１４４で通信する１つ以上のコンピュータデバイスを含んでよい。
【００２７】
変更、追加、又は削除は、本開示の適用範囲から逸脱することなしに、図１に対して行われてよい。例えば、システム１００は、本開示で図示及び記載されているよりも多い又は少ない要素を含んでよい。例えば、システム１００は、電子デバイスにおいてサードパーティアプリケーションをいくつでも含んでよく、夫々がそれ自身のプラグインを含んでよく、あるいは、ソフトウェア１１２とともに動作し又はそれと別なふうにインターフェイス接続してよい。他の例として、ユーザが電子デバイス１１０を操作し得る状況がいくつでも存在してよい。他の例として、サイバーブーリングリスクスコアを決定すること、推奨される行動方針を提供すること、通知を提供すること、フィードバックを提供すること、などに関連したタスクのうちの１つ以上は、サーバで（図示せず。）又はサードパーティ１３０の電子デバイスで実施されてよい。
【００２８】
図２は、本開示の１つ以上の実施形態に従って、サイバーブーリング防止において使用される、例となる電子デバイス２００のブロック図を表す。例えば、電子デバイス１１０は、電子デバイス２００として実装されてよい。電子デバイス２００は、デスクトップ、ラップトップ、タブレット、携帯電話機又は他のモバイルデバイス、サーバ、装着型デバイス、などを含む、如何なる形もとることができる。
【００２９】
電子デバイス２００は、プロセッサ２１０、メモリ２２０、データストレージ２３０、通信コンポーネント２４０、位置センサ２５０、及びディスプレイ２７０を含んでよい。プロセッサ２１０、メモリ２２０、データストレージ２３０、通信コンポーネント２４０、位置センサ２５０、及び／又はディスプレイ２７０は、それらのコンポーネントの夫々が互いと通信することができるように、全てが通信上結合され得る。電子デバイス２００及び／又はプロセッサ２１０は、本開示で記載される動作のうちのいずれかを実行し又はその実行を制御し得る。
【００３０】
一般に、プロセッサ２１０は、様々なコンピュータハードウェア又はソフトウェアモジュールを含む如何なる適切な特別目的又は汎用のコンピュータ、コンピューティングエンティティ、又はプロセッシングデバイスを含んでよく、如何なる適用可能なコンピュータ可読記憶媒体にも記憶されている命令を実行するよう構成されてよい。例えば、プロセッサ２１０は、マイクロプロセッサ、マイクロコントローラ、デジタルシグナルプロセッサ（ＤＳＰ）、特定用途向け集積回路（ＡＳＩＣ）、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、あるいは、プログラム命令を解釈及び／又は実行するよう、及び／又はデータを処理するよう構成された如何なる他のデジタル又はアナログ回路構成も含んでよい。図２では単一のプロセッサとして表されているが、プロセッサ２１０は、本開示で記載される動作をいくつでも個別的に又は集合的に実行するか又はその実行を制御するよう構成されたプロセッサをいくつでも含んでよい。
【００３１】
いくつかの実施形態において、プロセッサ２１０は、メモリ２２０、データストレージ２３０、又はメモリ２２０及びデータストレージ２３０において記憶されているプログラム命令を解釈及び／又は実行し、及び／又はそこに記憶されているデータを処理してよい。いくつかの実施形態において、プロセッサ２１０は、データストレージ２３０からプログラム命令をフェッチし、プログラム命令をメモリ２２０においてロードしてよい。プログラム命令がメモリ２２０内にロードされた後、プロセッサ２１０はプログラム命令を実行してよい。
【００３２】
メモリ２２０及びデータストレージ２３０は、コンピュータ実行可能命令又はデータ構造を運ぶ又は記憶しているコンピュータ可読記憶媒体を含んでよい。そのようなコンピュータ可読記憶媒体は、例えばプロセッサ２１０のような、汎用の又は特別目的のコンピュータによってアクセスされ得る如何なる利用可能な媒体も含んでよい。一例として、そのようなコンピュータ可読記憶媒体は、ＲＡＭ、ＲＯＭ、ＥＥＰＲＯＭ、ＣＤ−ＲＯＭ若しくは他の光ディスクストレージ、磁気ディスクストレージ若しくは他の磁気記憶デバイス、フラッシュメモリ（例えば、固体状態メモリデバイス）、あるいは、コンピュータ実行可能命令又はデータの形で所望のプログラムコードを搬送又は記憶するために使用され得、汎用の又は特別目的のコンピュータによってアクセスされ得るあらゆる他の記憶媒体を含む有形な又は非一時的なコンピュータ可読記憶媒体を含んでよい。それらの組み合わせも、コンピュータ可読記憶媒体の適用範囲内に含まれてよい。コンピュータ実行可能命令は、例えば、プロセッサ２１０に特定の動作又は動作群を実行させるか又はその実行を制御させるよう構成された命令及びデータを含んでよい。
【００３３】
通信コンポーネント２４０は、デバイス２００と他のデバイスとの間の通信（例えば、図１のネットワーク１２０上で通信することによる。）を可能にするか又は助けるよう構成された如何なるデバイス、システム、コンポーネント、又はコンポーネントの集合も含んでよい。例えば、通信コンポーネント２４０は、モデム、ネットワークカード（有線若しくは無線）、赤外線通信デバイス、光通信デバイス、無線通信デバイス（例えば、アンテナ）、及び／又はチップセット（例えば、Ｂｌｕｅｔｏｏｔｈデバイス、８０２．６デバイス（例えば、メトロポリタンエリアネットワーク（ＭＡＮ））、ＷｉＦｉデバイス、ＷｉＭＡＸデバイス、セルラー通信設備、など）、及び／又は他の通信コンポーネントを含んでよい。通信コンポーネント２４０は、セルラーネットワーク、ＷｉＦｉネットワーク、ＭＡＮ、光ネットワーク、若しくは他の適切なネットワークのような何らかのネットワーク（図１のネットワーク１２０を含む。）と、及び／又はリモートデバイスを含む、本開示で記載される何らかの他のデバイスとデータが交換されることを可能にし得る。上述されたもののいずれかの組み合わせも、通信コンポーネント２４０の適用範囲内に含まれてよい。
【００３４】
位置センサ２５０は、電子デバイス２００の物理的位置を決定するか又はその決定を助けるよう構成された如何なるデバイス、システム、コンポーネント、又はコンポーネントの集合も含んでよい。例えば、位置センサ２５０は、グローバルポジショニングサービス（ＧＰＳ）センサ、近接センサ、加速度計、モーションセンサ、ジャイロスコープ、コンパス、又は他の位置センサを含んでよい。その上、又は代替的に、位置センサ２５０は、近くの物理コンポーネントを決定し、物理的位置を推定するために通信コンポーネント２４０又は電子デバイス２００の他のコンポーネントを利用するソフトウェアルーチン又は命令の組を含んでよい。例えば、位置センサ２５０は、３つの最も近い携帯電話基地局を決定し、物理的位置を推定してよく、あるいは、通信コンポーネント２４０が接続されているＷｉＦｉスポットを決定し、物理的位置を推定してよい。他の例として、位置センサ２５０は、電子デバイス２００のインターネットプロトコル（ＩＰ）アドレスを決定し、そのＩＰアドレスを物理的位置（例えば、図１の学校１４２又は自宅１４４）と関連付けるソフトウェアルーチン又は命令の組を含んでよい。いくつかの実施形態において、位置センサ２５０は、電子デバイス２００の位置を検知するようビーコンと通信するように構成されてよい。上述されたもののいずれかの組み合わせも、位置センサ２５０の適用範囲内に含まれてよい。
【００３５】
ディスプレイ２７０は、情報を視覚的に表現するよう構成された如何なるコンポーネント、デバイス、システム、又はそれらの組み合わせも含んでよい。ディスプレイ２７０は、陰極線管（ＣＲＴ）ディスプレイ、液晶ディスプレイ（ＬＣＤ）、薄膜トランジスタＬＣＤ、プラズマディスプレイ、１つ以上の発光ダイオード（ＬＥＤ）、１つ以上の有機ＬＥＤ、１つ以上の白熱電球、ドットマトリクスディスプレイ、蛍光表示管、ねじれネマティック電界効果（twisted  nematic  field  effect）ＬＣＤ、超ねじれネマティック（super-twisted  nematic）ＬＣＤ、電子ペーパー（例えば、電気泳動ディスプレイ、エレクロウェッティング（electrowetting）ディスプレイ、エレクトロフルイディック（electrofluidic）ディスプレイ、干渉型変調方式ディスプレイ）、又は他のディスプレイを含んでよい。ディスプレイ２７０は、如何なる形態又は構造においても情報を表示してよい。例えば、ディスプレイ２７０は、モニタ、スクリーン、照明パネル、などとして実装されてよい。ディスプレイ２７０は、スタンドアローンのディスプレイとして、又は他のデバイス若しくはシステムの部分又はコンポーネントとして実装されてよい。ディスプレイ２７０は、例えば、３次元表示、タッチスクリーン制御、指向性表示制御（例えば、ディスプレイ２７０の視聴角度変化）、などのような、如何なる二次的な機能も含んでよい。上述されたもののいずれかの組み合わせも、ディスプレイ２７０の適用範囲内に含まれてよい。
【００３６】
変更、追加、又は削除は、本開示の適用範囲から逸脱することなしに、図２に対して行われてよい。例えば、デバイス２００は、本開示で図示及び記載されているよりも多い又は少ない要素を含んでよい。例えば、デバイス２００は、メモリ２２０、データストレージ２３０、位置センサ２５０、及び／又はディスプレイ２７０のいずれか、あるいは、それらの如何なる組み合わせも省略してよい。
【００３７】
図３は、本開示の１つ以上の実施形態に従って、サイバーブーリングリスクスコアを決定する、例となるシステム３００のブロック図を表す。例えば、システム３００は、サイバーブーリングリスク解析エンジン及びシステムとして実装されてよい。システム３００は、全体として又は部分的に図１のソフトウェア１１２として実装されてよい。
【００３８】
システム３００はコンテンツ解析エンジン３１０を含んでよい。コンテンツ解析エンジン３１０は、様々な技術のいずれかを組み込み及び／又は利用してよい。例えば、コンテンツ解析エンジン３１０は、テキスト解析部３１１（例えば、特定の語若しくは語句を認識するようテキストを解析する。）若しくはテキスト認識、言語分類部３１２（語句を、それらの意図、内容、積極性、消極性、他者に対する影響可能性、若しくは他の分類に基づき分類する。）、１つ以上の言語にわたる様々な語を含み得る言語のデータベース３１３（例えば、サイバーブーリング若しくは他の否定的な通信に関連した意味若しくは使用を含み得る用語若しくは語句のデータベース）、画像解析部３１４（例えば、画像の内容を認識するよう画像を解析する。）若しくは画像認識、画像分類部３１５（例えば、スポーツ、映画、裸体、暴力、ビデオゲーム、若しくは他のカテゴリのような特定のカテゴリに画像を分類する。）、機械学習３１６（例えば、予め決定されているコンテンツ若しくはカテゴリへの様々な変化又は変更をモニタし、それらの変更を将来の決定に組み入れる。）、キーワード及びコンテキスト識別３１７（例えば、対象の語若しくは語句が含まれているかどうかを判定し、それらが使用されていた状況（コンテキスト）を特定する。）、並びに／又は自然言語処理（ＮＬＰ）、テキスト感情解析、若しくは他の技術のような技術を実施する１つ以上の利用可能なサードパーティテクノロジ３１８を含んでよい。例えば、テキストメッセージを含む発信メッセージについて、コンテンツ解析エンジン３１０、より具体的には、キーワード及びコンテキスト識別３１７は、テキスト内の様々なキーワードの検索を実施し、見つけられる如何なるキーワードのコンテキストも識別する。コンテンツ解析エンジン３１０は、その上、又は代替的に、サイバーブーリングに一般的に関連する用語を言語のデータベースから検索する。その上、又は代替的に、コンテンツ解析エンジン３１０は、テキストが肯定的又は否定的であるかどうかを判定するようテキスト感情解析を実施し得る。
【００３９】
いくつかの実施形態において、コンテンツ解析エンジン３１０は、サードパーティサービスを、例えば、利用可能なサードパーティテクノロジ３１８又はコンテンツ解析エンジン３１０の他のコンポーネントとして利用してよい。そのようなサービスのいくつかの例は、ののしり若しくは悪態の語の公開されているリスト（例えば、https://www.noswearing.com/dictionary）、言語分類（例えば、言語分類部３１２として。）及び／若しくは感情解析のためのツール（例えば、www.ibm.com/smarterplanet/us/en/ibmwatoson/developercloud/nl-classifier/html若しくはwww.metamind.io/classifiers/155若しくはdatamarket.azure.com/dataset/amla/text-analytics）、又は画像解析のためのツール（例えば、www.imageidentify.com若しくはwww.metamind.io/vision/general若しくはvision.alchemy.ai若しくはwww.projectoxford.ai/demo/emotion#detection）を含み得る。
【００４０】
他の例として、スポーツについての語句及び画像を含む発信メッセージについて、そのスポーツについての語句は、上述されたのと同様の解析を受け得る。例えば、画像は、例えば画像分類部３１５によって、分類され、その画像に対して実施された画像認識を有し得る。
【００４１】
いくつかの実施形態において、コンテンツ解析エンジン３１０の１つ以上の態様は、所与の属性についての属性スコア及び属性信頼率を識別し得る。属性スコアは、有害の程度を反映してよく、属性信頼率は、属性スコアが正しい可能性はどの程度かを反映してよい。例えば、発信メッセージが語句“you  look  fat（あなたって、太って見える）”を含んでいる場合には、属性スコアは、有害の程度に関して高い属性スコア（例えば、５．０点満点中４．０）を有してよく、テキスト認識の精度により高い信頼率（例えば、１００％）を含んでよい。他の例として、裸体を含み得るおぼろげな粒子の粗い画像は、有害の程度に関して高い属性スコア（例えば、５．０点満点中５．０）を有してよく、画像のおぼろげな粒子の粗い品質による画像分類／認識の困難性及び誤りの可能性のために、低い信頼率（例えば、３０％）を含み得る。
【００４２】
システム３００は、サイバーブーリングリスクスコア計算エンジン３２０を含んでよい。サイバーブーリングリスクスコア計算エンジン３２０は、サイバーブーリングリスクスコアを決定するために様々な因子のいずれかを利用してよい。例えば、サイバーブーリングリスクスコア計算エンジン３２０は、コンテンツ解析エンジン３１０によって生成されたコンテンツ解析結果３２１を利用し得る。いくつかの実施形態において、コンテンツ解析結果３２１は、属性スコア及び属性信頼率を含んでよい。
【００４３】
サイバーブーリングリスクスコア計算エンジン３２０は、その上、又は代替的に、如何なる重み付けされた又は決定的な因子３２２も利用してよい。例えば、サードパーティ（例えば、教師又は親）は、発信通信が裸体又は特定のののしり語若しくは語句を含む場合にその発信通信を自動的に遮断することといった自動オーバーライドを特定の語、トピック、又は画像カテゴリが含み得ると指定してよい。
【００４４】
いくつかの実施形態において、サイバーブーリングリスクスコア計算エンジン３２０はフィードバック３２３を利用してよい。例えば、サードパーティである教師は、生徒達のグループが遊んでいる新しいビデオゲームに関連する“I’m  going  to  kill（殺してやる）”と言う最近の一連のメッセージに関するフィードバックを提供し得る。そのフィードバックは、メッセージが有害でなく、実際に、サイバーブーリングのリスクが低いことを示す。そのようなフィードバックは、例えば、新しいビデオゲームについて話すやり取りにおいて現れる場合のように、語句“I’m  going  to  kill”を含む発信通信について、最終的なサイバーブーリングリスクスコアを下げ得る。他の例として、方が露出している画像を含んだ疑わしい発信通信に関するフィードバックであって、生徒が解剖学のクラスにいることを示すものをユーザが提供した場合には、背中が露わの画像を含むユーザからの他の発信メッセージは、発信メッセージがさもなければ採点されたであろうよりも低いサイバーブーリングリスクスコアを有し得る。
【００４５】
いくつかの実施形態において、フィードバック３２３は、属性スコア及び属性信頼率を含んでよい。例えば、ユーザからのフィードバックは、親からのフィードバックがユーザからのフィードバックと比べてサイバーブーリングリスクスコアに及ぼす影響が大きくなるように、親又は教師のフィードバックと比べて低い信頼率を有し得る。いくつかの実施形態において、信頼率は、特定の属性がサイバーブーリングリスクスコアに及ぼす影響がより大きくなるように、重み係数として働いてよい。
【００４６】
いくつかの実施形態において、サイバーブーリングリスクスコア計算エンジン３２０は、１つ以上の受け手因子３２４を利用してよい。そのような因子の例は、受け手の数（例えば、発信通信を受ける受け手が多ければ多いほど、サイバーブーリングのリスクはますます高くなる。）、メッセージがユーザから受け手へ送られる頻度（例えば、メッセージの頻度が高ければ高いほど、サイバーブーリングのリスクは高くなる。）、受け手のプロフィール（例えば、年齢、性別、学校、学年、受け手へ送られた以前のサイバーブーリングメッセージ、など）を含んでよい。例えば、サイバーブーリングの以前の被害者は、サイバーブーリングに対してより敏感であり得る。それにより、受け手のプロフィールがサイバーブーリングを受けていたとの履歴を示す場合に、メッセージを遮断又は警戒する閾値は、受け手がサイバーブーリングを受けていたとの履歴を示さない場合よりも低くなる。そして、メッセージ又は通知が、受け手に関連するサードパーティ（例えば、親又は教師）へ送られ得る。他の例として、年上の生徒が年下の生徒へメッセージを送ることは、より高いサイバーブーリングリスクスコアをもたらし得る。
【００４７】
いくつかの実施形態において、受け手因子３２４のうちの１つ以上は、属性スコア及び属性信頼率を含んでよい。例えば、以前のサイバーブーリングメッセージを示す受け手プロフィールは、以前のメッセージがサイバーブーリングであった信頼率を含み得る。
【００４８】
いくつかの実施形態において、サイバーブーリングリスクスコア計算エンジン３２０は、例えば、ユーザのプロフィールから、１つ以上のユーザ因子３２５を利用してよい。そのような因子の例は、年齢、性別、学校、学年、親、親の連絡先、送信メッセージの数、送信メッセージの内容、以前に送信したサイバーブーリングメッセージの数、友人、ユーザのメッセージに適用されるデフォルトのスコア、などを含んでよい。
【００４９】
いくつかの実施形態において、ユーザ因子３２５のうちの１つ以上は、属性スコア及び属性信頼率を含んでよい。例えば、ユーザからの以前のメッセージは、以前のメッセージに関連した信頼率を含んでよい。他の例として、ユーザの友人の各人は、友人である個々の可能性を有してよい。
【００５０】
それら及び他の実施形態において、１つ以上の他の因子は、コンテンツ解析（例えば、受け手因子、ユーザ因子、他の因子）はさておき、解析に対して因子を含めるよう又は除外するようバイナリ属性信頼スコアを利用してよい。例えば、いくつかのそのような因子について、信頼スコアは１００％である（例えば、受け手の数、ユーザの最も高い以前のスコア、及び／又は他の因子）。
【００５１】
サイバーブーリングリスク解析エンジン３００の部分としてユーザプロフィール３５０の例は図３において表されており、ユーザプロフィールの例となる実施は図４において表されている。図３で表されているように、ユーザプロフィール３５０は、入力履歴３５１（例えば、どのような発信メッセージをユーザが送ったか）、ユーザフィードバック３５２（例えば、どのようなフィードバックをユーザがユーザの発信メッセージに関して供給したか）、受け手履歴３５３（例えば、誰へユーザがメッセージを送ったか）、スコア履歴３５４（例えば、ユーザの以前のメッセージについてサイバーブーリングリスクスコアはどのようであったか、若しくはユーザの最も高い以前のサイバーブーリングリスクスコア、若しくはユーザについての平均サイバーブーリングリスクスコア、若しくは他のスコア）、サードパーティ連絡先リスト３５５（例えば、ユーザの親及び彼らの連絡先情報、ユーザの教師及び彼の連絡先情報）、並びに／又は他の情報を含む、様々な情報片のいずれかを含み得る。
【００５２】
サイバーブーリングリスクスコア計算エンジン３２０は、サイバーブーリングリスクスコアを生成し得る。サイバーブーリングリスクスコアは１つ以上の閾値と比較され得る。例えば、警告がサードパーティへ送られるべきか又はメッセージがユーザにプロンプトすることなしにレポートに記録されるべきかどうかに関する第１閾値が存在してよい。他の例として、第１閾値よりも高く又は低くてよく、発信メッセージがそのメッセージ内にサイバーブーリングの要素を有し得るとの警告又は警報を、サードパーティに通知することなしにユーザへ供給し得る第２閾値が存在してよい。更なる例として、第１又は第２閾値よりも高く又は低くてよく、発信メッセージを遮断してユーザが発信メッセージを送ることを妨げ得る第３閾値が存在してよい。いくつかの実施形態において、サイバーブーリングリスクスコアが閾値のいずれか又はいずれかの組み合わせを上回った場合には、ユーザ又はサードパーティは、メッセージに関するフィードバックを供給してよい。例えば、サイバーブーリングリスクスコアが第２閾値を上回る場合に、ユーザは、メッセージがサイバーブーリングメッセージではなく、より低いリスクスコアを有するべきであることを述べるフィードバックを供給し得る。更なる例として、サイバーブーリングリスクスコアが第３閾値上回る場合に、サードパーティは、フィードバックを供給するよう許可され得、あるいは、ユーザは、フィードバックを供給するよう許可されてもされなくてもよい。
【００５３】
いくつかの実施形態において、閾値のいずれかは、様々な因子のいずれかに基づいてよい。例えば、発信メッセージが送られている位置は、閾値を増大又は低減することによって、あるいは、閾値に対して対応するサイバーブーリングリスクスコアを上げる又は下げるよう発信メッセージを異なるように重み付けすることによって、閾値に作用してよい（例えば、学校から送られたメッセージ）。他の例として、サードパーティは、サイバーブーリング監視の目的に基づき閾値を特定のレベルに設定してよい。例えば、学校は、図書館又はビジネスよりも高い閾値を有し得る。いくつかの実施形態において、サイバーブーリングリスクスコアに採用する因子のいずれかは、その上、又は代替的に、閾値のうちの１つ以上に作用してよい。サイバーブーリングリスクスコアよりもむしろ閾値のうちの１つ以上を変更することは、同じか又は類似した結果をもたらし得る。例えば、所与の因子は、サイバーブーリングリスクスコアを上げるか、又は閾値を下げ得る。それらのいずれも、サイバーブーリングメッセージである可能性があるとメッセージにフラグを立てる可能性が高くなり得る。
【００５４】
サイバーブーリングリスク解析エンジン３００は、提案エンジン３３０を更に含んでよい。提案エンジン３３０は、ユーザ及び／又はサードパーティが、変更に関する提案を、サイバーブーリングリスク解析エンジン３００、図１のシステム１００、又は本願で記載される他のシステム若しくはコンポーネントへ供給することを可能にし得る。提案エンジン３３０は、ウェブポータルや、アプリケーション内の選択肢若しくはフィールドとして、あるいは、何らかの他の適切な様態において、実装されてよい。
【００５５】
サイバーブーリングリスク解析エンジン３００は、サードパーティ設定エンジン３４０を更に含んでよい。サードパーティ設定エンジン３４０に関連したユーザインターフェイスの例は、図５で表されており、本願の別なところで更に詳細に記載される。サードパーティ設定エンジン３４０は、サードパーティがサイバーブーリングリスク解析エンジン３００と相互作用して、特定の規則若しくはポリシーを確立すること、何らかの好み若しくは設定をセットすること、又はサイバーブーリングリスク解析エンジン３００へのフィードバック若しくは他の入力を供給することを可能にし得る。
【００５６】
以下は、サイバーブーリングリスクスコアを決定し、推奨される行動方針を供給するためのサイバーブーリングリスク解析エンジン３００の動作のいくつかの例を与える。
【００５７】
例１−所与のメッセージについて、コンテンツ解析属性スコアは、６０％の属性信頼率を有して、３であってよい。それら２つは乗じられて、１．８のコンテンツ解析スコアが得られる。メッセージは如何なるキーワードも含まなくてよい。メッセージは１人の受け手へ送られ、１の属性スコア及び１００％の属性信頼率をもたらし得る。それら２つは乗じられて、１の受け手リストスコアが得られる。受け手頻度は、１００％の属性信頼率とともに５の属性スコアを有してよく、それらは乗じられて、頻度について５のスコアが得られる。ユーザの最も高い以前のスコアは、１００％の信頼率を有して３．２であってよく、それらは乗じられて、３．２が得られる。いくつかの実施形態において、属性の夫々についてのスコアの夫々は平均化されて（（１．８＋１＋５＋３．２）／４＝２．７５）、２．７５の最終的なスコアが得られる。そのうち、最も高いスコアは、ユーザがメッセージを受け手へ送った頻度に由来する。そのような例において、サードパーティが公平に低い閾値を設定して、２．０を上回る如何なるメッセージもユーザに警告するようにした場合には、ユーザは、スコア及び／又は最も高い属性に基づき、推奨される行動方針を提示され得る。例えば、ユーザは、多数のメッセージが受け手へ送られたことを示すメッセージを提示されてよく、そして、ユーザは、その多数のメッセージが実際に受け手によって欲せられているかどうか、又はそんなに多くのメッセージを受けることについてユーザがどう感じるかを検討したいと望み得る。
【００５８】
例２−ユーザ“Ａｌ”は、他のクラスメート“Ｂｏｂ”に関するうわさを送ってよい。Ａｌは、検出を回避し且つ言葉が冗談半分に見えるようにするよう変更された文字を含む何らかの悪い言葉を使用し得る。Ａｌは、学校にいるときに２００人の他の生徒へ電子メールでメッセージを流す。コンテンツ解析は、７０％の属性信頼率を有して、５点満点中３の属性スコアを与え、２．１のコンテンツ解析スコアが得られる。Ｂｏｂは、サイバーブーリングの最近の標的であった可能性があるので、受け手因子は、発信メッセージがＢｏｂを話題にしており、５０人よりも多い受け手に受け取られようとしていることを識別し得る。これは、学校によって設定された自動オーバーライドをトリガしてよい。自動トリガにより、メッセージは遮断され、推奨される行動方針は、メッセージがＢｏｂに関する個人的な問題を話題しており、多くの人々へ送られたことを述べながら、メッセージが遮断されたことを示すメッセージを含んでよい。そのメッセージは、メッセージが真実であるかどうか、及びそんなに多くの受け手へメッセージを送ることが賢明であるかどうかを問うユーザへの質問を提起し得る。
【００５９】
例３−ユーザ“Ａｌ”は、他のクラスメート“Ｃｈａｒｌｉｅ”のプライベートな部分の不明りょうな写真を、“Look!（見て！）”とのキャプションを付けてＩＮＳＴＡＧＲＡＭに投稿するために、学校のコンピュータを使用してよい。テキスト解析は、１００％の精度率を有して、１の属性スコアを与えてよく、１のコンテンツ解析スコアが得られる。画像認識解析は、５０％の信頼率とともに、“裸体”のキーワードタグ及び５のスコアを与えてよく、スコア及び信頼率は乗じられて、２．５の画像コンテンツスコアが得られる。学校は、裸体を含む如何なる画像も信頼率及び受け手の数に基づき遮断される場所に設定され得る。受け手が多ければ多いほど、信頼ランクは、画像が遮断される前に、ますます低くなる。例えば、ＡｌがＩＮＳＴＡＧＲＡＭ上で７５人のフォロワを有しており、画像が不適切であるとの５０％の信頼率を画像解析が有している場合に、画像は自動的に遮断され得る。代替的に、画像は、裸体を含むかもしれない如何なる画像もより重く重み付けされる重み係数を有してよく、信頼率に応じて４から５の間のスコアしか有さなくてよい。それにより、画像コンテンツスコアは、４．２５であるよう計算され得る（例えば、１×５０％＋３．５＝４．２５）。加えて、ユーザは、１００％の信頼とともに５点満点中５のスコアを有するメッセージを以前に送られたことがあってよい。他の因子として、ユーザは、以前に１０のメッセージを遮断されたことがあり、以前に遮断されたメッセージのスコアは、１００％の信頼率を有して、スライディングスケールに従う（例えば、０の遮断メッセージ＝１、１〜４の遮断メッセージ＝２、５〜９の遮断メッセージ＝３、１０〜１５の遮断メッセージ＝４、１６以上の遮断メッセージ＝５）。それにより、以前に遮断されたメッセージのスコア４が得られる。スコアを平均すること（例えば、１（コンテンツ解析）＋４．２５（画像コンテンツスコア）＋５（以前に送信されたメッセージのスコア）＋４（以前に遮断されたメッセージのスコア）／４＝３．６）は、３．６のスコアをもたらす。以前に送信されたメッセージのスコア及び画像カテゴリに基づき、メッセージは遮断され得、不適切な画像のキーワードは、ユーザへの警告をトリガし得る。それにより、ユーザは、不適切な画像が送られていることを示し、且つ、不適切な画像の共有に対する学校のポリシーに従うようにユーザに促すメッセージを提示され得る。
【００６０】
例４−ユーザ“Ａｌｉｃｅ”は、自身の友人“Ｄｉｎａ”とコンピュータゲームで遊んでいる。彼らはまさに戦おうとしており、Ａｌｉｃｅは自身の学校コンピュータからＤｉｎａへ“I  am  going  to  kill  you!（今から殺しに行ってやる！）”との電子メールを送る。テキスト解析は、９０％の信頼率を有して、５点満点中５の属性スコアを与えてよく、４．５のコンテンツスコアが得られる。Ａｌｉｃｅは、１．２の最も高い前回スコアを有してよく、Ａｌｉｃｅについてのデフォルトのスコアは１であってよい。スコアを平均した後（例えば、４．５（コンテンツスコア）＋１．２（前回スコア）＋１（ユーザのデフォルトのスコア）／３＝２．２）、ランクは２．２であってよい。なお、語“kill”は、学校関係者へメッセージを自動的に送るが、最終的なスコアが３．５を下回る場合にはメッセージを遮断しないキーワードであってよい。学校関係者は、メッセージをレビューし、メッセージの内容により（例えば、ゲームを遊んでいる。）、そのスコアを１に直してよい。
【００６１】
これらの例は、サードパーティのポリシー、スコア、重み係数、及び閾値の例を与えられてきた。如何なるそのようなポリシー、スコアリング、重み係数、閾値、なども、本開示を実施することにおいて使用されてよい。
【００６２】
変更、追加、又は削除は、本開示の適用範囲から逸脱することなしに、図３に対して行われてよい。例えば、サイバーブーリングリスク解析エンジン３００は、本開示で図示及び記載されているよりも多い又は少ない要素を含んでよい。例えば、サイバーブーリングリスク解析エンジン３００は、サードパーティ設定エンジン３４０、ユーザプロフィール３５０、又はそれらのあらゆる組み合わせのいずれかを省略してよい。他の例として、コンテンツ解析エンジン３１０、サイバーブーリングリスクスコア計算エンジン３２０、及びユーザプロフィール３５０のいずれかは、図３で表されているよりも多い又は少ない要素を含んでよい。
【００６３】
図４は、本開示の１つ以上の実施形態に従って、ユーザプロフィール４００の例を表す。ユーザプロフィール４００は、ユーザ情報４１０、ユーザの入力の履歴４２０、ユーザの履歴スコアデータ４３０、ユーザのフィードバックデータ４４０、受け手履歴４５０、及び連絡先リスト４６０を含んでよい。入力の履歴４２０は、図３の入力履歴３５１を含むか又はそれに対応してよい。履歴スコアデータ４３０は、図３のスコア履歴３５４を含むか又はそれに対応してよい。フィードバック４４０は、図３のユーザフィードバック３５２を含むか又はそれに対応してよい。受け手履歴４５０は、図３の受け手履歴３５３を含むか又はそれに対応してよい。連絡先リスト４６０は、図３のサードパーティ連絡先リスト３５５を含むか又はそれに対応してよい。
【００６４】
いくつかの実施形態において、ユーザ情報４１０は、例えば年齢、学校、性別、学年、並びに送信された及び／又はサイバーブーリングについて解析されたメッセージの総数のようなデータを含んでよい。いくつかの実施形態において、入力の履歴４２０は、ユーザによって以前に送られた様々なメッセージ及びメッセージの夫々に関連した識別子を含んでよい。いくつかの実施形態において、履歴スコアデータ４３０は、ユーザによって送られたメッセージについての平均スコア、最大スコア（又は自動遮断スコア）を有しているユーザによって送られたメッセージの数、そのユーザについて遮断されたことがあるメッセージの数、ユーザが有している最高位のスコア、などを含んでよい。
【００６５】
いくつかの実施形態において、フィードバックデータ４４０は、ユーザのメッセージに関してユーザ及び／又はサードパーティによって供給されたフィードバックを含んでよい。それら及び他の実施形態では、フィードバックデータ４４０は、特定のメッセージに関してユーザによって提示されたユーザからのコメントを含んでよい（例えば、“You  are  so  Annoying!”（あなたってとっても迷惑！）のメッセージＩＤ３７６は、“This  is  just  a  joke.”（これは単なる冗談だ））とのユーザからのフィードバックを有し得る。その上、又は代替的に、フィードバックデータ４４０は、サードパーティからのコメント又は修正スコアを含んでよい。例えば、メッセージＩＤ４５６は、親によって２にスコアを付け直されていてよく、メッセージＩＤ２１４は、学校管理者によって１にスコアを付け直されていてよい。
【００６６】
いくつかの実施形態において、受け手履歴４５０は、ユーザからメッセージを受け取ったことがある受け手、及び彼らが受け取ったメッセージの数のカウントを含んでよい。受け手履歴４５０は、例えば、受け手へ送られた最も最近のメッセージ、ユーザへ送られた最も頻繁な一連のメッセージ、及びその一連のメッセージがいつ起こったか、などのような情報を更に含んでよい。そのような情報を含むことによって、ユーザからの頻繁なメッセージの連続をしばしば受け取る近しい友人よりむしろ、異常なメッセージの連続が送られているという事実が検出され得る。
【００６７】
連絡先リスト４６０は、ユーザに関連して連絡を取られ得る様々な個人を含んでよい。例えば、一方及び両方の親が、他の保護者又は家族（祖父母、成人した兄弟、など）とともに、含まれてよい。例えば校長、ユーザの担当教諭、及びユーザの顧問のような、様々な学校関係者も含まれてよい。連絡先リスト４６０は、複数の連絡方法及び好ましい連絡方法（例えば、テキストメッセージ、電子メール、自動電話呼び出し、など）を含んでよい。
【００６８】
変更、追加、又は削除は、本開示の適用範囲から逸脱することなし、図４に対して行われてよい。例えば、ユーザプロフィール４００は、本開示で図示及び記載されているよりも多い又は少ない要素を含んでよい。
【００６９】
図５は、本開示の１つ以上の実施形態に従って、サイバーブーリングを防ぐようシステムをセットアップするユーザインターフェイス５００の例を表す。
【００７０】
いくつかの実施形態において、ユーザインターフェイス５００は、オン／オフ切り替え５１０及び関連するパスワードフィールド５１２を含んでよい。例えば、管理者は、パスワードフィールド５１２にパスワードを入力し、オン／オフ切り替え５１０を切り替えてよい。オン／オフ切り替え５１０を切り替えることは、例えば図１のシステム１００のようなサイバーブーリング防止システムを有効又は無効にしてよい。
【００７１】
いくつかの実施形態において、ユーザインターフェイス５００は、ポリシー設定領域５２０を含んでよい。ポリシー設定領域５２０は、ポリシーを設定するための１つ以上のフィールドを含んでよい。学校関係者又はシステム管理者は、学校、ビジネス、又は他の組織のための特定のポリシーを確立するよう様々な値を設定してよい。そのようなフィールドは、禁句フィールド５２１及び警告語フィールド５２５を含んでよい。禁句フィールド５２１は、メッセージの自動遮断を始動させてよく、警告語フィールド５２５は、その語がメッセージ内で使用されている場合に警告を始動させてよい。ポリシー設定領域５２０のフィールドは、その上、又は代替的に、禁止対象フィールド５２２及び警告対象フィールド５２６を含んでよく、それにより、特定の対象が発信メッセージで話題にされている場合に、メッセージは遮断されるか、又は警告を始動させる。その上、又は代替的に、ポリシー設定領域５２０のフィールドは、禁止画像フィールド５２３及び警告画像フィールド５２７を含んでよく、それにより、禁止／警告カテゴリの画像が発信メッセージ内に含まれている場合に、発信メッセージは差し止められるか、又は警告を始動させる。ポリシー設定領域５２０のフィールドは、その上、又は代替的に、禁止受け手数フィールド５２４及び警告受け手数フィールド５２８を含んでよく、それにより、発信メッセージが選択された数又はそれよりも多くへ宛てられている場合に、メッセージは遮断されるか、又は警告を始動させる。
【００７２】
いくつかの実施形態において、ユーザインターフェイス５００は、通知設定領域５３０を含んでよい。通知設定領域５３０は、通知設定を確立するための１つ以上のフィールドを含んでよい。例えば、学校関係者又はシステム管理者は、通知が学校、ビジネス、又は他の組織のために送られる場合に始動しうる様々な側面を設定してよい。そのようなフィールドは、警告のための最低スコアフィールド５３２、及びメッセージの遮断又は警告の送出を始動させるスコアを確立することができる最低遮断スコアフィールド５３４を含んでよい。その上、又は代替的に、通知設定フィールド５３０は、受け手警戒リストフィールド５３６を含んでよく、それにより、例えば、以前にサイバーブーリングの標的にされた者のような、特定の受け手が特に警戒され得る。その上、又は代替的に、通知設定領域５３０は、特別事象監視フィールド５３８を含んでよく、それにより、特定の期間中に、又は特定の対象について、ポリシーの特定の側面が一時的に変更、調整、強化、又は無効にされ得る。
【００７３】
いくつかの実施形態において、ユーザインターフェイス５００は、ユーザ／受け手プロフィール領域５４０を含んでよい。ユーザ／受け手プロフィール領域５４０は、ユーザ及び／又は受け手のプロフィールに関連した具体的な設定を確立するための１つ以上のフィールドを含んでよい。例えば、学校関係者又はシステム管理者は、学校、ビジネス、又は他の組織に関連したユーザ及び／又は受け手プロフィールに付随する様々なパラメータを設定するよう様々なフィールドに情報を入力してよい。そのようなフィールドは、デフォルトスコアフィールド５４２、特別関係フィールド５４４、図４で特定された情報片のいずれか、などを含んでよい。デフォルトスコアフィールド５４２は、ユーザのためのデフォルトのスコアを設定してよい。例えば、学校で行動上の問題を抱えており且つ他のいじめ手法を使用していると知られているユーザは、相対的に高いデフォルトスコアを有し得る。特別関係フィールド５４４は、様々なユーザ及び／又は受け手の間の様々な関係を設定してよい。例えば、ユーザは、頻繁にメッセージを送り合う１人以上の近しい友人を有し得る。他の例として、ユーザの親又は兄弟が、特別関係フィールドにおいて特定されてよい。
【００７４】
いくつかの実施形態において、ユーザインターフェイス５００は、フィードバック設定領域５５０を含んでよい。フィードバック設定領域５５０は、サイバーブーリング防止システムのためのフィードバックに関連した特別な設定を確立するための１つ以上のフィールドを含んでよい。例えば、学校関係者又はシステム管理者は、誰がフィードバックを残し得るか及びどのようなフィードバックが残され得るかに関連した様々なパラメータを設定するよう様々なフィールドに情報を入力してよい。そのようなフィールドは、スコア修正選択肢フィールド５５２、テキスト入力選択肢フィールド５５４、などを含んでよい。スコア修正選択肢フィールド５５２は、ユーザ、管理者（例えば、親、教師、など）、又はその両方が発信メッセージについてのサイバーブーリングリスクスコアを付け直し得るかどうかを特定してよい。テキスト入力選択肢フィールド５５４は、ユーザ、管理者、又はその両方が発信メッセージについてのテキストフィードバックを供給し得るかどうかを特定してよい。
【００７５】
いくつかの実施形態において、ユーザインターフェイス５００は、提案フィールド５６０を含んでよい。ユーザインターフェイス５００を利用するサードパーティは、提案フィールド５６０においてサイバーブーリング防止システムのベンダー又は他の管理者への提案を提供してよい。
【００７６】
変更、追加、又は削除は、本開示の適用範囲から逸脱することなしに、図５に対して行われてよい。例えば、ユーザインターフェイス５００は、本開示で図示及び記載されているよりも多い又は少ない要素を含んでよい。例えば、領域及び／又はフィールドのいずれかは、いくつかの他の様態において削除、再配置、又は変更されてよい。
【００７７】
図６は、本開示の１つ以上の実施形態に従って、サイバーブーリング防止のための、例となる方法６００のフロー図を表す。方法６００は、如何なる適切なシステム、装置、又はデバイスによっても実施されてよい。例えば、図１のシステム１００、図２の電子デバイス２００、又は他のシステムは、方法６００に関連した動作のうちの１つ以上を実施するか又はその実施を制御してよい。別個のブロックにより表されているが、方法６００のブロックのうちの１つ以上に関連したステップ及び動作は、所望の実施に応じて、更なるブロックへ分けられても、より少ないブロックにまとめられても、あるいは削除されてもよい。
【００７８】
ブロック６１０で、発信通信は、メッセージのソースでインターセプトされてよい。例えば、ソフトウェアプログラム（例えば、図１の電子デバイス１１０におけるソフトウェア１１２）は、発信メッセージが生成された電子デバイスでそれが送信されるより前に、その発信メッセージを電子的にインターセプトしてよい。
【００７９】
ブロック６２０で、サイバーブーリングリスクスコアは決定されてよい。例えば、電子デバイスのソフトウェアプログラムは、サイバーブーリングリスクスコアを決定してよく、且つ／あるいは、そのような決定を行う別のコンピュータへ様々なデータを送ってよい。サイバーブーリングリスクスコアは、本開示に従う如何なる方法でも決定されてよい。例えば、サイバーブーリングリスクスコアは、最も高い属性スコアを有している属性を含んでよい。
【００８０】
ブロック６３０で、サイバーブーリングリスクスコアが閾値を上回るかどうかに関して、判定が行われてよい。そのような判定は、サイバーブーリングリスクスコアと１つ以上の閾値との比較を含んでよい。サイバーブーリングリスクスコアが閾値のうちの１つ以上を上回ると決定する場合には、方法６００はブロック６５０へ進んでよい。サイバーブーリングリスクスコアが１つ以上の閾値を上回らない場合には、方法６００はブロック６４０へ進んでよい。ブロック６４０では、動作は行われない。
【００８１】
ブロック６５０で、推奨される行動が提供される。推奨される行動は、メッセージや、ポップアップなどとして、電子デバイスのユーザへ提示されてよい。推奨される行動は、送信され得る代替のメッセージ、発信メッセージへの提案される変更、サードパーティがメッセージに関して通知され得るとの通知、又は他の推奨される行動を含んでよい。提供される特定の推奨される行動は、潜在的に複数の閾値のうちのどれをサイバーブーリングリスクスコアが上回ったかに依存してよい。例えば、１つの推奨される行動は、複数の閾値のうちの１つの閾値を上回ったことに応答して提供されてよく、別の推奨される行動は、複数の閾値のうちの第１の組み合わせを上回ったことに応答して提供されてよく、更なる別の推奨される行動は、複数の閾値のうちの別の第２の組み合わせを上回ったことに応答して提供されてよい。
【００８２】
その上、方法６００は、サイバーブーリングを防止するか又は少なくとも減らすために使用されてよい。変更、追加、又は削除は、本開示の適用範囲から逸脱することなしに、方法６００に対して行われてよい。例えば、方法６００の動作は、異なる順序で実装されてよい。その上、又は代替的に、２つ以上の動作は、同時に実施されてよい。更には、説明されている動作及び行動は、例として提供されており、動作及び行動のうちのいくつかは、開示されている実施形態の本質から外れることなしに、任意であっても、より少ない動作及び行動にまとめられても、あるいは、更なる動作及び行動に拡張されてもよい。上述された全ての例は、非限定的であり、単に、本開示の柔軟性及び広さを説明するのに役立つ。
【００８３】
図７Ａ及び７Ｂは、本開示の１つ以上の実施形態に従って、サイバーブーリング防止のための、他の例となる方法７００のフロー図を表す。方法７００は、如何なる適切なシステム、装置、又はデバイスによっても実施されてよい。例えば、図１のシステム１００、図２の電子デバイス２００、又は他のシステムは、方法７００に関連した動作のうちの１つ以上を実施するか又はその実施を制御してよい。別個のブロックにより表されているが、方法７００のブロックのうちの１つ以上に関連したステップ及び動作は、所望の実施に応じて、更なるブロックへ分けられても、より少ないブロックにまとめられても、あるいは削除されてもよい。
【００８４】
ブロック７０５で、入力は、サイバーブーリング防止システムのためのサードパーティポリシーを確立するよう、サードパーティから受け取られる。例えば、親又は管理者（例えば、図１のサードパーティ１３０）は、サードパーティポリシーを確立することにおいて様々なパラメータを入力するよう、ユーザインターフェイス（図５のユーザインターフェイス５００）にアクセスするためにウェブインターフェイス、アプリケーション、あるいは、他の適切なソフトウェア、システム、及びデバイスを利用してよい。
【００８５】
ブロック７１０で、発信通信は、発信メッセージのソースでインターセプトされてよい。ブロック７１０は、図６のブロック６１０と同様であるか又はそれと匹敵し得る。
【００８６】
ブロック７１５で、発信通信内のテキストが解析されてよく、テキストに基づくリスクスコア及び信頼度が発信メッセージに割り当てられてよい。例えば、電子デバイスで実行されるソフトウェアプログラム（例えば、図１の電子デバイス１１０におけるソフトウェア１１２）は、テキスト解析を実施し、そのようなスコア及び信頼度を割り当ててよい。
【００８７】
ブロック７２０で、発信通信内の画像が解析されてよく、画像に基づくリスクスコア及び信頼度が発信メッセージに割り当てられてよい。例えば、ソースで実行されるソフトウェアプログラム、又はサードパーティ画像解析サービスは、そのような動作を実施してよい。
【００８８】
ブロック７２５で、発信メッセージ内の他のコンテンツが解析されてよい。例えば、発信メッセージ内の音声、プレゼンテーション、又は何らかの他のコンテンツも、発信通信についての対応するリスクスコア及び対応する信頼スコアを決定するよう解析されてよい。
【００８９】
ブロック７３０で、ユーザ因子が解析されてよく、１つ以上のユーザに基づくリスクスコア及び信頼度が、ユーザ因子に基づき発信メッセージに割り当てられてよい。
【００９０】
ブロック７３５で、受け手因子が解析されてよく、１つ以上の受け手に基づくリスクスコア及び信頼度が、受け手因子に基づき発信メッセージに割り当てられてよい。
【００９１】
ブロック７４０で、総計されたサイバーブーリングリスクスコアが決定されてよい。ブロック７４０は、図６のブロック６２０と同様であるか又はそれと匹敵し得る。例となる実施において、発信メッセージのソースでのソフトウェアは、ブロック７１５、７２０、７２５、７３０及び／又は７３５で生成されたいずれか又は全ての（又は更なる）リスクスコアを見て、それらから、例えば、そのようなリスクスコアを加算し、平均し、又は別なふうに処理若しくは結合することによって、発信メッセージについての総計されたサイバーブーリングリスクスコアを導出してよい。そのような総リスクスコアは、最も高く、又は総計されたサイバーブーリングスコアに最も影響を及ぼす属性又は因子を更に含んでよい。
【００９２】
ブロック７４５で、総計されたサイバーブーリングスコアが初期閾値を上回るかどうかに関して判定が行われる。ブロック７４５での解析は、図６のブロック６３０で実施された解析と同様であるか又はそれに匹敵し得る。サイバーブーリングスコアが初期閾値を上回ると決定される場合には、方法７００は図７Ｂのブロック７５５へ進んでよい。総計されたサイバーブーリングスコアが初期閾値を上回らないと決定される場合には、方法７００はブロック７５０へ進んでよい。ブロック７５０で、その発信メッセージにより動作は行われない。
【００９３】
図７Ｂのブロック７５５で、総計されたサイバーブーリングスコアが禁止閾値を上回るかどうかに関して判定が行われる。その解析は、ブロック７４５又は図６のブロック６３０で実施されたのと同様であり得る。総計されたサイバーブーリングスコアが初期閾値を上回る（ブロック７４５で“はい”）が、禁止閾値を上回らない（ブロック７５５で“いいえ”）と決定される場合には、方法はブロック７６０及びブロック７６５へ進んでよい。総計されたサイバーブーリングスコアが初期閾値（ブロック７４５で“はい”）及び禁止閾値（ブロック７５５で“はい”）の両方を上回ると決定される場合には、方法７００はブロック７７０及びブロック７７５へ進んでよい。
【００９４】
ブロック７６０で、警告が生成されてよく、提案がユーザへ提供されてよい。例えば、ユーザが発信メッセージを生成するために使用している電子デバイスは、メッセージがサイバーブーリングのリスクを有していることを示すポップアップ又は他のメッセージを表示してよい。表示されるメッセージは、発信メッセージの如何なる潜在的なサイバーブーリング効果も正すよう検討材料又は他の提案を更に含んでよい。
【００９５】
ブロック７６５で、発信メッセージは、サイバーブーリング防止システムによって許可されてよく、そして、送信されてよい。
【００９６】
ブロック７７０で、警告が生成されてよく、提案がユーザへ提供されてよい。例えば、ユーザが発信メッセージを生成するために使用している電子デバイスは、メッセージがサイバーブーリングの高いリスクを有していることを示すポップアップ又は他のメッセージを表示してよい。表示されるメッセージは、発信メッセージの如何なる潜在的なサイバーブーリング効果も正すよう検討材料又は他の提案を更に含んでよい。表示されるメッセージは、その上、又は代替的に、発信メッセージが遮断されたか又は遮断されるだろうこと、及びサードパーティ（例えば、親又は学校関係者）が連絡を取られたか又は連絡を取られるだろうことを示してよい。
【００９７】
ブロック７７５で、発信メッセージは許可され得ない。例えば、メッセージは、遮断され、遅延され、あるいは、別なふうに一時的に又は恒久的に、１つ以上の意図された受け手へ送られないようにされてよい。
【００９８】
ブロック７８０で、ユーザフィードバックが許可される場合に、ユーザフィードバックが要求されてよい。例えば、発信通信がサイバーブーリングであるか否か又はなぜ発信通信がサイバーブーリングでないのかに関してユーザがコメントを提供することを要求するプロンプトが、ユーザに表示されてよい。例えば、ユーザは、彼らが近しい友人と軽口をたたいていること、又は新しい大切な相手（例えば、ガールフレンド又はボーイフレンド）へ頻繁なメッセージを送っていることを示してよく、あるいは、など発信通信がサイバーブーリングでないのかに関して何らかの他の弁解又は説明を提供してよい。
【００９９】
ブロック７８５で、発信メッセージは、ユーザからのフィードバックに基づきスコアを付け直されてよい。例えば、ユーザがスコアを付け直すことを許可される場合、又は発信メッセージについての総計されたサイバーブーリングリスクスコアが高すぎることをユーザからのテキストフィードバックが示す場合に、発信メッセージは、メッセージをユーザからのフィードバックと合わせるように、スコアを付け直されてよい。
【０１００】
ブロック７９０で、サードパーティフィードバックか許可される場合に、サードパーティフィードバックが要求されてよい。例えば、メッセージは、リンクを用いてサードパーティへ送られてよく、あるいは、メッセージは、発信通信がサイバーブーリングであるか否か又はなぜ発信通信がサイバーブーリングでないのかに関してサードパーティがコメントを提供することを要求するように、電子デバイス上のアプリケーションにおいて作動し得る。例えば、サードパーティは、発信メッセージが、近しい友人と冗談を言い合うユーザ、又は新しい大切な相手へ頻繁なメッセージを送っているユーザに関連するか、あるいは、別なふうに良性であり／サイバーブーリングに関連しないことを認識してよい。
【０１０１】
ブロック７９５で、発信メッセージは、サードパーティからのフィードバックに基づきスコアを付け直されてよい。例えば、サードパーティがスコアを付け直すことを許可される場合、又は発信メッセージについての総計されたサイバーブーリングリスクスコアが高すぎることをサードパーティからのテキストフィードバックが示す場合に、発信メッセージは、メッセージをサードパーティからのフィードバックと合わせるように、スコアを付け直されてよい。
【０１０２】
然るに、方法７００は、サイバーブーリングを防止するか又は少なくとも減らすために使用されてよい。変更、追加、又は削除は、本開示の適用範囲から逸脱することなしに、方法７００に対して行われてよい。例えば、方法７００の動作は、異なる順序で実装されてよい。その上、又は代替的に、２つ以上の動作は、同時に実施されてよい。更には、説明されている動作及び行動は、例として提供されており、動作及び行動のうちのいくつかは、開示されている実施形態の本質から外れることなしに、任意であっても、より少ない動作及び行動にまとめられても、あるいは、更なる動作及び行動に拡張されてもよい。上述された全ての例は、非限定的であり、単に、本開示の柔軟性及び広さを説明するのに役立つ。
【０１０３】
本開示は、サイバーブーリングを参照して記載されてきたが、同じ原理は、脅迫、ブログ若しくは他のウェブサイト上での不適切なコメント、中傷、ハラスメント、又は他の否定的な態度を検出し、減らし、及び／又はなくすために使用されてよい。本開示の原理はまた、従業員教育において、又は他の環境若しくは状況において、有利であり得る。
【０１０４】
本願で記載される実施は、以下で更に詳細に説明されるように、様々なコンピュータハードウェア又はソフトウェアモジュールを含む特別目的の又は汎用のコンピュータの使用を含んでよい。
【０１０５】
本願で開示される技術の適用範囲内にある実施形態は、コンピュータ実行可能命令又はデータ構造を搬送する又は記憶しているコンピュータ可読媒体も含んでよい。そのようなコンピュータ可読媒体は、汎用の又は特別目的のコンピュータによってアクセスされ得る如何なる利用可能な媒体であってもよい。一例として、そのようなコンピュータ可読媒体は、ＲＡＭ、ＲＯＭ、ＥＥＰＲＯＭ、ＣＤ−ＲＯＭ若しくは他の光ディスクストレージ、磁気ディスクストレージ若しくは他の磁気記憶デバイス、又はコンピュータ実行可能命令若しくはデータ構造の形で所望のプログラムコード手段を搬送若しくは記憶するために使用され得るものであって、汎用の若しくは特別目的のコンピュータによってアクセスされ得る如何なる他の記憶媒体も含む有形な又は非一時的なコンピュータ可読記憶媒体を含んでよい。情報がネットワーク又は他の通信接続（ハードワイヤード、ワイヤレス、又はハードワイヤード及びワイヤレスの組み合わせのいずれか）を介してコンピュータへ転送又は供給される場合に、コンピュータは、コンピュータ可読媒体として接続を見なす。よって、如何なるそのような接続も、コンピュータ可読媒体と適切に称される。前述の媒体の組み合わせも、コンピュータ可読媒体の適用範囲内に含まれてよい。
【０１０６】
コンピュータ実行可能命令は、例えば、汎用コンピュータ、特別目的コンピュータ、又は特別目的プロセッシングデバイスに特定の機能又は機能群を実施させる命令及びデータを含む。対象は、構造的特徴及び／又は方法論的動作に特有の言語において記載されてきたが、添付の特許請求の範囲で定義される対象は、前述の具体的な特徴又は動作に必ずしも制限されないことが理解されるべきである。むしろ、前述の具体的な特徴及び動作は、特許請求の範囲を実装する形の例として開示される。
【０１０７】
本開示で使用されるように、語「モジュール（module）」又は「コンポーネント（component）」は、モジュール又はコンポーネントの動作を実施するよう構成された具体的なハードウェア実装、且つ／あるいは、コンピューティングシステムの汎用ハードウェア（例えば、コンピュータ可読媒体、プロセッシングデバイス、など）に記憶され及び／又はそれによって実行され得るソフトウェアオブジェクト又はソフトウェアルーチンに言及してよい。いくつかの実施形態において、本開示で記載される種々のコンポーネント、モジュール、エンジン、及びサービスは、コンピューティングシステムにおいて（例えば、別個のスレッドとして）実行するオブジェクト又はプロセスとして実装されてよい。本開示で記載されるシステム及び方法のいくつかは、ソフトウェア（汎用ハードウェアに記憶され及び／又はそれによって実行されるもの）において実装されるものとして一般的に記載されるが、具体的なハードウェア実装又はソフトウェアと具体的なハードウェア実装との組み合わせも可能であり、考えられている。本明細書において、「コンピューティングエンティティ（computing  entity）」は、本開示で以前に定義されたあらゆるコンピューティングシステム、又はコンピューティングシステムで実行されるあらゆるモジュール若しくはモジュールの組み合わせであってよい。
【０１０８】
本開示で、特に添付の特許請求の範囲（例えば、添付の特許請求の範囲の本文）で使用される語は、一般的に、“非限定的な（open）”用語として意図されている（例えば、語「含んでいる（including）」は、“〜を含んでいるが、〜に制限されない”との意に解釈されるべきであり、語「備えている（having）」は、“少なくとも〜を備えている”との意に解釈されるべきであり、語「含む（includes）」は、“〜を含むが、〜に制限されない”との意に解釈されるべきであり、語「包含している（containing）」は、“〜を包含しているが、〜に制限されない”との意に解釈されるべきである、など。）。
【０１０９】
加えて、導入されたクレーム記載（introduced  claim  recitation）において特定の数が意図される場合、そのような意図は当該クレーム中に明確に記載され、そのような記載がない場合は、そのような意図も存在しない。例えば、理解を促すために、後続の添付された特許請求の範囲では、「少なくとも１つの（at  least  one）」及び「１つ以上の（one  or  more）」といった導入句を使用し、クレーム記載を導入することがある。しかし、このような句を使用するからといって、「a」又は「an」といった不定冠詞によりクレーム記載を導入した場合に、たとえ同一のクレーム内に、「１つ以上の」又は「少なくとも１つの」といった導入句と「a」又は「an」といった不定冠詞が含まれるとしても、当該導入されたクレーム記載を含む特定のクレームが、当該記載事項を１しか含まない実施形態に限定されるということが示唆されると解釈されるべきではない（例えば、「a」及び／又は「an」は、「少なくとも１つの」又は「１つ以上の」を意味すると解釈されるべきである。）。定冠詞を使用してクレーム記載を導入する場合にも同様のことが当てはまる。
【０１１０】
更には、導入されたクレーム記載において特定の数が明示されている場合であっても、そのような記載は、少なくとも記載された数を意味するように解釈されるべきであることは、当業者には理解されるであろう（例えば、他に修飾語のない、単なる「２つの記載事項」という記載がある場合、この記載は、少なくとも２つの記載事項、又は２つ以上の記載事項を意味する。）。更に、「Ａ、Ｂ及びＣなどのうち少なくとも１つ」に類する表記が使用される場合、一般的に、そのような構造は、Ａのみ、Ｂのみ、Ｃのみ、ＡとＢの両方、ＡとＣの両方、ＢとＣの両方、及び／又はＡとＢとＣの全て、などを含むよう意図される。
【０１１１】
更に、２つ以上の選択可能な用語を表す如何なる離接語及び／又は離接句も、明細書、特許請求の範囲、又は図面のいずれであろうと、それら用語のうちの１つ、それらの用語のうちのいずれか、あるいは、それらの用語の両方を含む可能性を意図すると理解されるべきである。例えば、「Ａ又はＢ」という句は、「Ａ又はＢ」、あるいは、「Ａ及びＢ」の可能性を含むことが理解されるべきである。
【０１１２】
本開示で挙げられている全ての例及び条件付き言語は、当該技術の促進に本発明者によって寄与される概念及び本開示を読者が理解するのを助ける教育上の目的を意図され、そのような具体的に挙げられている例及び条件に制限されないと解釈されるべきである。本開示の実施形態が詳細に記載されてきたが、様々な変更、置換、及び代替が、本開示の主旨及び適用範囲から逸脱することなしに行われてよいことが理解されるべきである。
【０１１３】
上記の実施形態に加えて、以下の付記を開示する。
（付記１）
サイバーブーリングのリスクを決定する方法であって、
発信電子通信のソースにおいて該発信電子通信を電子的にインターセプトし、
前記発信電子通信についてのサイバーブーリングリスクスコアを決定し、該サイバーブーリングリスクスコアは、前記発信電子通信の内容、前記発信電子通信を送るユーザのユーザ履歴、及びサードパーティのポリシーに少なくとも基づき、
前記サイバーブーリングリスクスコアが閾値を上回ることに応答して、前記発信電子通信を送る前記ユーザへ推奨される行動方針を電子的に提供する
ことを有する方法。
（付記２）
前記サイバーブーリングリスクスコアは、前記発信電子通信を送る前記ユーザのユーザ好み、前記発信電子通信の受け手のプロフィール、前記発信電子通信が対象とする受け手の数、及び前記発信電子通信を送る前記ユーザから該発信電子通信の受け手へのメッセージの頻度に更に基づく、
付記１に記載の方法。
（付記３）
通知の好み、及び前記発信電子通信を送る前記ユーザのデフォルトのスコア、のうちの少なくとも１つを含む前記サードパーティのポリシーを確立するよう前記サードパーティから入力を受け取り
前記サイバーブーリングリスクスコアに関する前記サードパーティからのフィードバックを受け取る
ことを更に有する付記１に記載の方法。
（付記４）
前記サイバーブーリングリスクスコアが前記閾値を上回ることに応答して、前記発信電子通信に関して前記サードパーティへ通知を送る
ことを更に有する付記１に記載の方法。
（付記５）
前記発信電子通信を送る前記ユーザへ推奨される行動方針を電子的に提供することは、推奨される代替語を提供すること、教育的映像を提供すること、サイバーブーリングの結果の説明を提供すること、又は好意的な通信の１つ以上の原理を提供すること、のうちの少なくとも１つを含む、
付記１に記載の方法。
（付記６）
前記発信電子通信を送る前記ユーザの位置を決定することを更に有し、
前記サイバーブーリングリスクスコアは、前記位置に基づく、
付記１に記載の方法。
（付記７）
前記位置は、前記発信電子通信の前記ソースとして前記ユーザによって使用される電子デバイスのインターネットプロトコル（ＩＰ）アドレス、又は前記ユーザによって使用される前記電子デバイスのグローバルポジショニングサービス（ＧＰＳ）チップ、のうちの１つに基づく、
付記６に記載の方法。
（付記８）
前記発信電子通信の前記内容は、テキスト解析、画像解析、テキスト分類、画像分類、機械学習、キーワード及び状況の識別、自然言語処理（ＮＬＰ）、テキスト感情解析、並びに画像認識、のうちの少なくとも１つを用いて解析される、
付記１に記載の方法。
（付記９）
前記発信電子通信は、発信電子通信を生成する複数のアプリケーションのいずれかを用いて生成される、
付記１に記載の方法。
（付記１０）
前記閾値は第１の閾値であり、
当該方法は、前記サイバーブーリングリスクスコアが前記第１の閾値を上回り、第２の閾値を上回らないことに応答して、前記発信電子通信が送られることを許すことを更に有する、
付記１に記載の方法。
（付記１１）
前記サイバーブーリングリスクスコアが前記閾値を上回ることに応答して、前記発信電子通信が送られないようにする
ことを更に有する付記１に記載の方法。
（付記１２）
前記サイバーブーリングリスクスコアは、各属性についての属性スコア及び属性信頼率に基づく、
付記１に記載の方法。
（付記１３）
モバイル電子デバイスであって、
メモリと、
グローバルポジショニングシステム（ＧＰＳ）チップと、
表示メッセージに基づき情報を表示するよう構成されるディスプレイと、
前記ＧＰＳチップ、前記ディスプレイ、及び前記メモリへ結合され、１つ以上の動作を実行する又は該動作の実行を制御するよう構成されるプロセッサと
を有し、
前記動作は、
当該モバイル電子デバイスから送られる発信電子通信をインターセプトし、
前記発信電子通信についてのサイバーブーリングリスクスコアを決定し、該サイバーブーリングリスクスコアは、前記発信電子通信の内容、当該モバイル電子デバイスを使用するユーザのユーザ履歴、前記ＧＰＳチップに基づく当該モバイル電子デバイスの位置、及びサードパーティのポリシーに少なくとも基づき、
前記サイバーブーリングリスクスコアが閾値を上回ることに応答して、前記ユーザへ推奨される行動方針を提供するよう、前記ディスプレイへ送られる表示メッセージを生成する
ことを有する、モバイル電子デバイス。
（付記１４）
前記閾値は、当該モバイル電子デバイスの前記位置に基づき変化する、
付記１３に記載のモバイル電子デバイス。
（付記１５）
前記位置は、少なくとも学校を含み、
前記閾値は、前記位置が学校でない場合よりも、前記位置が学校である場合に低い、
付記１４に記載のモバイル電子デバイス。
（付記１６）
前記サイバーブーリングリスクスコアが前記閾値を上回ることに応答して前記サードパーティへメッセージを送るよう構成される通信デバイス
を更に有する付記１３に記載のモバイル電子デバイス。
（付記１７）
発信電子通信のソースにおいて該発信電子通信を電子的にインターセプトし、
前記発信電子通信についてのサイバーブーリングリスクスコアを決定し、該サイバーブーリングリスクスコアは、前記発信電子通信の内容、前記発信電子通信を送るユーザのユーザ履歴、及びサードパーティのポリシーに少なくとも基づき、
前記サイバーブーリングリスクスコアが閾値を上回ることに応答して、前記発信電子通信を送る前記ユーザへ推奨される行動方針を電子的に提供する
ことを有する動作を実行する又は該動作の実行を制御するよう、プロセッサによって実行される命令を有している非一時的なコンピュータ可読媒体。
（付記１８）
前記サイバーブーリングリスクスコアは、前記発信電子通信を送る前記ユーザのユーザ好み、前記発信電子通信の受け手のプロフィール、前記発信電子通信が対象とする受け手の数、及び前記発信電子通信を送る前記ユーザから該発信電子通信の受け手へのメッセージの頻度に更に基づく、
付記１７に記載の非一時的なコンピュータ可読媒体。
（付記１９）
前記動作は、前記サイバーブーリングリスクスコアが前記閾値を上回ることに応答して、前記発信電子通信に関して前記サードパーティへ通知を送ることを更に有する、
付記１７に記載の非一時的なコンピュータ可読媒体。
（付記２０）
前記動作は、前記発信電子通信の前記ソースとして前記ユーザによって使用される電子デバイスのインターネットプロトコル（ＩＰ）アドレス、又は前記ユーザによって使用される前記電子デバイスのグローバルポジショニングサービス（ＧＰＳ）チップ、のうちの１つに基づき、前記発信電子通信を送る前記ユーザの位置を決定することを更に有し、
前記サイバーブーリングリスクスコアは、前記位置に基づく、
付記１７に記載の非一時的なコンピュータ可読媒体。
【符号の説明】
【０１１４】
１００                  システム
１１０，２００          電子デバイス
１１２                  ソフトウェア
１１４，１１６，１１８  プラグイン
１２０                  ネットワーク
１３０                  サードパーティ
１３２                  受け手
１４２                  学校
１４４                  自宅
２１０                  プロセッサ
２２０                  メモリ
２３０                  データストレージ
２４０                  通信コンポーネント
２５０                  位置センサ
２７０                  ディスプレイ
３００                  サイバーブーリングリスク解析エンジン及びシステム
３１０                  コンテンツ解析エンジン
３１１                  テキスト解析部
３１２                  言語分類部
３１３                  言語データベース
３１４                  画像解析部
３１５                  画像分類部
３１６                  機械学習
３１７                  キーワード及びコンテキスト識別
３１８                  サードパーティテクノロジ
３２０                  サイバーブーリングリスクスコア計算エンジン
３２１                  コンテンツ解析結果
３２２                  重み付き／決定因子
３２３                  フィードバック
３２４                  受け手因子
３２５                  ユーザ因子
３３０                  提案エンジン
３４０                  サードパーティ設定エンジン
３５０，４００          ユーザプロフィール
３５１                  入力履歴
３５２                  ユーザフィードバック
３５３                  受け手履歴
３５４                  スコア履歴
３５５                  サードパーティ連絡先リスト
５００                  ユーザインターフェイス
【図１】
2018092578.tif 000003
【図２】
2018092578.tif 000004
【図３】
2018092578.tif 000005
【図４】
2018092578.tif 000006
【図５】
2018092578.tif 000007
【図６】
2018092578.tif 000008
【図７Ａ】
2018092578.tif 000009
【図７Ｂ】
2018092578.tif 000010