(57)【要約】【課題】  管理者が判断する書き込みの数を減らすことができるシステム、装置およびプログラムを提供する。【解決手段】  このシステムは、利用者による文書や画像に対する書き込み内容を蓄積する蓄積手段を備える情報処理システムであり、蓄積手段から書き込み内容を取得する取得手段と、取得された書き込み内容から表現の不適切さの度合いを表す数値を計算する計算手段と、計算された数値が設定された閾値を超えるか否かを判定する判定手段と、判定手段の判定結果を管理者に対して通知する通知手段とを含む。【選択図】  図７
2018010363.tif 000002
【特許請求の範囲】
【請求項１】
利用者による文書や画像に対する書き込み内容を蓄積する蓄積手段を備える情報処理システムであって、
前記蓄積手段から前記書き込み内容を取得する取得手段と、
前記取得手段により取得された前記書き込み内容から表現の不適切さの度合いを表す数値を計算する計算手段と、
前記計算手段により計算された前記数値が設定された閾値を超えるか否かを判定する判定手段と、
前記判定手段の判定結果を管理者に対して通知する通知手段とを含む、情報処理システム。
【請求項２】
前記利用者毎に一定期間に実施された書き込みに対して前記判定手段が前記閾値を超えると判断した該書き込みの回数を頻度として計算する第２の計算手段と、
前記第２の計算手段により計算された前記頻度が設定された第２の閾値を超えるか否かを判定する第２の判定手段とを含み、
前記通知手段は、前記第２の判定手段の判定結果を前記管理者に対して通知する、請求項１に記載の情報処理システム。
【請求項３】
前記第２の計算手段により一定時間毎に計算される前記頻度が一定値を超えた場合に、該頻度が超えた利用者からのアクセスを遮断し、前記情報処理システムの利用を禁止する利用制御手段を含む、請求項２に記載の情報処理システム。
【請求項４】
前記利用者の情報の入力を受け付け、該利用者の認証を行う認証手段を含む、請求項１〜３のいずれか１項に記載の情報処理システム。
【請求項５】
前記利用者の情報に応じて、該利用者のどの操作に対して権限を付与するかを判定する権限判定手段を含む、請求項４に記載の情報処理システム。
【請求項６】
前記権限判定手段は、判定された前記操作に対して権限を付与する権限付与手段と、前記利用者の情報に基づき、該利用者が所属する組を判定する組判定手段と、前記権限付与手段により付与された前記権限の情報と前記組判定手段により判定された前記組の情報とに基づき、前記利用者に対して前記操作のための機能を提供する機能提供手段とを含む、請求項５に記載の情報処理システム。
【請求項７】
前記利用者の操作情報を受け付ける受付手段を含み、
前記権限判定手段は、前記受付手段が受け付けた前記操作情報に基づき、前記権限付与手段により付与された前記権限の範囲を越えるか否かを判定する越権判定手段をさらに含み、
前記受付手段は、前記越権判定手段の判定結果に応じて、前記操作情報の受け付けを停止する、請求項６に記載の情報処理システム。
【請求項８】
前記通知手段は、前記判定結果を電子メールにより送信する手段と、前記判定結果を前記管理者の端末に送信し、表示させることにより通知する手段とを含む、請求項１〜７のいずれか１項に記載の情報処理システム。
【請求項９】
前記情報処理システムは、複数の利用者が使用する複数の端末と、前記管理者が使用する端末と、情報処理装置とを少なくとも含み、
前記計算手段は、前記情報処理装置または該情報処理装置とは別の機器に含まれる、請求項１〜８のいずれか１項に記載の情報処理システム。
【請求項１０】
利用者による文書や画像に対する書き込み内容を蓄積する蓄積手段を備える情報処理装置であって、
前記蓄積手段から前記書き込み内容を取得する取得手段と、
前記取得手段により取得された前記書き込み内容から表現の不適切さの度合いを表す数値を計算する計算手段と、
前記計算手段により計算された前記数値が設定された閾値を超えるか否かを判定する判定手段と、
前記判定手段の判定結果を管理者に対して通知する通知手段とを含む、情報処理装置。
【請求項１１】
利用者による文書や画像に対する書き込み内容を判定する処理をコンピュータに実行させるためのプログラムであって、
前記書き込み内容を蓄積する蓄積部から該書き込み内容を取得するステップと、
取得された前記書き込み内容から表現の不適切さの度合いを表す数値を計算するステップと、
計算された前記数値が設定された閾値を超えるか否かを判定するステップと、
前記判定するステップで得られた判定結果を管理者に対して通知するステップとを実行させる、プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、利用者による文書や画像に対する書き込み内容を判定する情報処理システム、情報処理装置、その処理をコンピュータに実行させるためのプログラムに関する。
【背景技術】
【０００２】
近年、インターネットを経由して自宅に居ながら教育を受けることができる教育支援システムが普及し、利用されている。その教育支援システムにおいて、インターネットにアクセスする誰もが、インターネットにアクセスする他の誰かに対し、機関に加入することを要さずに、共有文書を生成し、管理し、提供することができるように、オープンプラットフォームを提供する技術が提案されている（例えば、特許文献１参照）。
【発明の概要】
【発明が解決しようとする課題】
【０００３】
従来の技術では、誰もが共有文書へ書き込みを行うことができるため、不適切な書き込みか否かを判断する必要があるが、その判断をシステムの管理者が１つずつ見て行わなければならないという問題があった。
【０００４】
本発明は、上記に鑑みてなされたものであって、管理者が判断する書き込みの数を減らすことができるシステム、装置およびプログラムを提供することを目的とする。
【課題を解決するための手段】
【０００５】
上述した課題を解決するために、発明の一実施形態では、利用者による文書や画像に対する書き込み内容を蓄積する蓄積手段を備える情報処理システムであって、蓄積手段から書き込み内容を取得する取得手段と、取得手段により取得された書き込み内容から表現の不適切さの度合いを表す数値を計算する計算手段と、計算手段により計算された数値が設定された閾値を超えるか否かを判定する判定手段と、判定手段の判定結果を管理者に対して通知する通知手段とを含む、情報処理システムを提供する。
【発明の効果】
【０００６】
本発明によれば、管理者が判断する書き込みの数を減らすことができる。
【図面の簡単な説明】
【０００７】
【図１】本実施形態の情報処理システムの構成例を示した図。
【図２】生徒端末に表示される画面の一例を示した図。
【図３】文書の一覧を表示する画面の一例を示した図。
【図４】任意のページを表示する画面の一例を示した図。
【図５】文書を管理するテーブルを例示した図。
【図６】サーバのハードウェア構成の一例を示した図。
【図７】サーバの機能構成の一例を示した図。
【図８】入力処理部の構成を例示した図。
【図９】計算部の構成を例示した図。
【図１０】判定結果を管理するテーブルを例示した図。
【図１１】通知部の構成を例示した図。
【図１２】サーバにより実行される誹謗中傷を判定する処理の一例を示したフローチャート。
【図１３】サーバの機能構成の別の例を示した図。
【図１４】サーバにより実行される誹謗中傷を判定する処理の別の例を示したフローチャート。
【図１５】サーバの機能構成のさらに別の例を示した図。
【図１６】ユーザとロールとを対応付けたテーブルを例示した図。
【図１７】ロールと権限とを対応付けたテーブルを例示した図。
【図１８】権限判定部の構成を例示した図。
【図１９】アイテムと権限とを対応付けたテーブルを例示した図。
【図２０】権限付与後の生徒端末に表示される画面の一例を示した図。
【図２１】権限判定部により実行される１つの処理の流れを示したフローチャート。
【図２２】権限判定部により実行される別の処理の流れを示したフローチャート。
【図２３】権限付与部により実行される処理の流れを示したフローチャート。
【発明を実施するための形態】
【０００８】
図１は、本実施形態の情報処理システムの構成例を示した図である。情報処理システムは、インターネット等のネットワークを経由して自宅に居ながら教育を受けることができる電子教育システムである。この情報処理システムは、教育を受ける側の利用者（ユーザ）が使用する複数の端末と、教育する側のユーザが使用する１以上の端末と、システムの管理者が使用する端末と、ネットワークと、情報処理装置とを含んで構成される。情報処理装置は、複数のユーザが共有するコンテンツおよびユーザがそのコンテンツに対して行った書き込み内容を蓄積し、管理する装置である。
【０００９】
教育を受ける側のユーザは、生徒、学生、受講者、部下のいずれであってもよい。また、教育する側のユーザは、教師、指導者、上司のいずれであってもよい。以下、教育を受ける側のユーザを生徒とし、教育する側のユーザを教師として説明する。
【００１０】
図１は、生徒が使用する生徒端末１０と、教師が使用する教師端末１１と、管理者端末１２とがネットワーク１３を介して接続され、ネットワーク１３には、情報処理装置としてのサーバ１４が接続されている。生徒端末１０および教師端末１１は、１つに限られるものではなく、２以上であってもよい。
【００１１】
ネットワーク１３は、有線ネットワークであってもよいし、無線LAN(Local Area Network)等の無線ネットワークであってもよい。また、ネットワーク１３は、１つのネットワークのみから構成されていてもよいし、ルータやプロキシサーバ等の中継装置に接続された２以上のネットワークから構成されていてもよい。
【００１２】
生徒端末１０、教師端末１１および管理者端末１２は、入力装置および表示装置を備えるスマートフォン、タブレット端末、PC等とされる。これらの端末は、ブラウザと呼ばれるインターネット上のWebサイトを閲覧するためのソフトウェアを実装し、ブラウザを使用して、教材等の文書、黒板や教師等を撮像した画像等のコンテンツを表示する。また、コンテンツをブラウザで再生して表示するために、例えばFlash（登録商標）Player等のプラグインソフトウェアを実装することができる。以下、コンテンツを文書として説明する。
【００１３】
生徒は、生徒端末１０を使用して、このシステムにログインし、文書を表示させ、教師に対して分からない単語の意味等を質問することができる。この文書は、生徒一人一人に提供される文書である。教師は、教師端末１１を使用して、このシステムにログインし、文書を表示させ、文書に書き込まれた生徒からの質問に対して回答することができる。
【００１４】
質問は、文書の内容によって異なり、文書が外国語である場合、単語の意味を問い合わせることができる。これに対し、教師は、回答として、その単語の意味を回答することができる。
【００１５】
ログイン後、生徒端末１０に表示される画面の一例を図２に示す。図２に示す画面には、自分専用の情報保存エリアである「プライベート空間」というボタンと、非リアルタイムで教師と生徒とをQ&Aルームで繋ぐ「Q&A空間」というボタンと、管理者からのお知らせや使い方のマニュアルを表示するための「お知らせとマニュアル」というボタンの３つが表示されている。「プライベート空間」を選択すると、生徒と教師との一対一でやりとりすることができる。「Q&A空間」では、生徒は教師に対して質問し、回答を得ることができるが、他の生徒も、その質問や回答を閲覧することが可能である。
【００１６】
具体的に説明すると、生徒は、生徒端末１０を使用し、「Q&A空間」というボタンを押下し、図３に示すサーバ１４に登録された文書の一覧を開く。そして、生徒は、その文書の一覧から１つのファイルをダブルクリックする等して選択する。これにより、図４に示すようなファイルを開き、表示させることができる。
【００１７】
図４に示す画面には、中央に大きく、文書の任意のページが表示され、その下側に、そのファイルが何ページから構成され、現在表示しているページが何ページかを示している。また、表示されているページの隣には、質問を書き込む欄が設けられている。生徒は、「質問」というボタンをクリックする等して押下し、表示される質問者の欄に、表示されているページの内容に関する質問を書き込み、図３に示す画面に戻り、「アップロード」というボタンを押下し、サーバ１４に質問が書き込まれた文書をアップロードする。アップロードされた文書は、サーバ１４が保持する蓄積部としてのデータベースに登録される。なお、データベースは、サーバ１４内に限られるものではなく、サーバ１４の外部にあってもよい。サーバ１４の外部にある場合、サーバ１４とケーブル等で直接接続されていてもよいし、ネットワーク１３を介して接続されていてもよい。
【００１８】
教師は、教師端末１１を使用し、生徒からアップロードされた文書を選択し、文書に質問が書き込まれている場合、「回答」というボタンをクリックする等して押下する。そして、教師は、表示される回答者の欄に、その質問に対する回答を書き込み、サーバ１４にアップロードする。
【００１９】
生徒は、生徒端末１０を使用し、図３に示す画面を開き、ファイルを選択して、文書に書き込まれた回答を参照し、質問に対する回答を得る。ここでは、生徒が質問を行い、教師が回答する場合の例を説明したが、これに限られるものではなく、例えば、教師がアドバイスやヒント等のコメントを付したりする場合にも利用することができる。
【００２０】
再び図１を参照して、管理者は、管理者端末１２を使用し、データベースに登録された文書を管理し、不要になった文書や不適切な表現の書き込みを削除する。文書は、図５に示すように、文書管理テーブルで管理される。文書管理テーブルでは、ユーザを識別するためのユーザIDまたはユーザ名に関連付けて、作成日時、ファイル名、ファイルパス、ファイルの内容等を管理する。ファイルパスは、データベース上のファイルの所在を示す文字列である。ファイルの内容は、表示対象の文字列（テキスト）である。
【００２１】
不要になった文書としては、教師からの不要との指示を受けた文書や一定期間経過しても利用されない文書を挙げることができる。不適切な表現としては、他人を誹謗中傷するような記載を挙げることができる。以下、不適切な表現を、誹謗中傷する記載として説明する。
【００２２】
サーバ１４は、生徒や教師からのアクセスを受けて、アクセス権限を有するか否かを判定する。アクセス権限を有する者に対しては、アクセスを許可し、文書のダウンロードや文書への書き込み等を可能にさせる。一方、アクセス権限を有しない者に対しては、アクセスを禁止し、エラーを返す。アクセス権限の有無については、ログインする際に生徒や教師が入力したユーザID等の認証情報から判定することができる。
【００２３】
アクセス権限の有無は、生徒や教師がユーザID等の認証情報を入力し、予め登録された認証情報と一致するか否かにより判定することができ、アクセス権限を有する場合に、ログインを許可することができる。
【００２４】
サーバ１４は、アクセス権限を有する者がアップロードした文書に対し、定期的にアクセスして、その文書に書き込んだ内容が誹謗中傷するものであるかを判定し、誹謗中傷するものである場合、管理者に対して通知する。誹謗中傷の判定や通知方法については後述する。
【００２５】
管理者は、管理者端末１２を使用してその通知を受け、その内容を参照して、その書き込みを削除するか否かを判断する。管理者は、削除すると判断した場合は、文書をダウンロードし、その書き込みを削除する。管理者は、書き込みを削除した文書をサーバ１４にアップロードする。
【００２６】
サーバ１４が誹謗中傷する書き込みのみを抽出し、管理者に通知するため、管理者が実際に削除するか否かを判断する書き込みの数を減らすことができ、その判断にかかる手間を減らすことができる。
【００２７】
図６を参照して、サーバ１４のハードウェア構成について簡単に説明する。なお、生徒端末１０、教師端末１１、管理者端末１２も、入力装置および表示装置以外の構成は、同様であるため、そのハードウェア構成についての説明は省略する。
【００２８】
サーバ１４は、ハードウェアとして、CPU２０、ROM２１、RAM２２、HDD２３、ネットワークI/F２４を備える。CPU２０は、サーバ１４全体を制御し、その制御のためにROM２１やHDD２３に記憶されたプログラムを実行する。また、CPU２０は、上記のアクセス権限の有無の判定、文書のダウンロードおよびアップロード、書き込み内容の判定等の処理を実現するためのプログラムを実行する。
【００２９】
ROM２１は、サーバ１４を起動させるためのブートプログラムやファームウェア等を格納する。RAM２２は、CPU２０に対して作業領域を提供する。HDD２３は、OSや上記の各プログラム、文書をファイルとして格納し、蓄積する。なお、各プログラムは、ROM２１に格納されていてもよい。ネットワークI/F２４は、ネットワーク１３と接続し、ネットワーク１３を介した通信を制御する。
【００３０】
図７を参照して、サーバ１４の機能構成について説明する。サーバ１４は、CPU２０が上記のプログラムを実行することにより実現される機能部を有し、その機能部として、入力処理部３０、取得部３１、計算部３２、判定部３３、通知部３４を備える。なお、入力処理部３０は、必要に応じて設けることができる。
【００３１】
入力処理部３０は、文書を管理するテーブルのテーブル名、作成日時や作成者等の情報を登録するテーブル内のフィールドのフィールド名を記述した設定ファイルを参照し、それらの情報を取得する。設定ファイルには、表現の不適切さの度合いを表す数値に対して設定された閾値も含まれており、その閾値も取得する。設定ファイルは、例えば、データベースに格納され、テーブルに新しく文書を登録する際にその文書の情報が追加される。
【００３２】
取得部３１は、入力処理部３０が取得したテーブル名、フィールド名に基づき、データベースで管理される該当するテーブルの該当するフィールドから、書き込み内容、作成日時、作成者等の情報を取得する。計算部３２は、取得部３１により取得された書き込み内容から上記の数値を計算する。判定部３３は、計算部３２により計算された数値が、入力処理部３０が取得した閾値を超えるか否かを判定する。
【００３３】
通知部３４は、判定部３３の判定結果に応じて、取得部３１が取得した内容を管理者端末１２に通知する。通知部３４は、判定部３３が閾値を超えると判定した場合に、その判定結果を通知する。このとき、通知部３４は、書き込み内容も一緒に通知することができる。
【００３４】
入力処理部３０は、図８に示すように、条件入力部４０と、第１の閾値入力部４１と、第２の閾値入力部４２とを含む。条件入力部４０は、設定ファイルを解析し、誹謗中傷の判定対象となる書き込み内容、作成時刻、作成者等の情報を取得するために参照されるテーブル名、フィールド名を取得し、取得部３１に対して入力する。
【００３５】
第１の閾値入力部４１は、設定ファイルを解析し、誹謗中傷の度合いを表す数値の境界値を第１の閾値として取得し、判定部３３に入力する。第２の閾値入力部４２は、設定ファイルを解析し、誹謗中傷の頻度を表す数値の境界値を第２の閾値として取得し、判定部３３に入力する。
【００３６】
誹謗中傷の度合いを表す数値としては、例えば、書き込み内容としてのテキストに含まれる、予め設定された誹謗中傷を表す単語の数とすることができる。単語は、テキストを構成する文章の流れを考慮して抽出することができる。文章から単語を判別する手法としては、例えば、形態素解析を用いることができる。その単語の出現頻度を求める手法として、例えば、テキストマイニングを用いることができる。これらの手法は、良く知られた手法であるため、ここでは詳細な説明は省略する。
【００３７】
対象が画像で、誹謗中傷を表す単語を含む場合は、文字認識(OCR)処理した後に、その単語を抽出することができる。また、文書が暗号化された文書である場合は、復号した後に、誹謗中傷を表す単語を抽出することができる。なお、これは一例であるので、これに限定されるものではなく、不適切な画像や、意味不明な単語や記号等の数であってもよい。また、単語毎に不適切な度合いが異なるので、単語毎に重みを設けてもよい。
【００３８】
誹謗中傷の頻度としては、例えば、１日に同じ者から受けた、数値が第１の閾値を超える書き込みの回数とすることができる。これも一例であるので、これに限定されるものではなく、１２時間や一週間等であってもよい。
【００３９】
計算部３２は、図９に示すように、第１の計算部４３と、第２の計算部４４とを含む。第１の計算部４３は、取得部３１により取得された書き込み内容から上記の数値を計算し、計算した数値を判定部３３に入力する。判定部３３は、第１の計算部４３により入力された数値と、第１の閾値入力部４１により入力された第１の閾値とを用い、その書き込みが誹謗中傷に該当するかを判定する。
【００４０】
データベースは、この判定結果を、図１０に示すような判定結果テーブルで管理することができる。判定結果テーブルでは、各ユーザが書き込みを行う毎に、書き込み日時、書き込み内容、計算した数値、判定結果、書き込みの対象の種類に関する情報を取得し、管理する。この例では、数値が、文章を構成する単語の全数に対する誹謗中傷する単語の割合を百分率で表した数値とされている。また、判定結果は、第１の閾値を超えている場合を誹謗中傷という結果を表すNG、第１の閾値以下である場合を誹謗中傷でないという結果を表すOKとしている。書き込みの対象の種類は、質問、回答、コメント等である。なお、書き込み内容は、テキストだけではなく、画像であってもよいし、ファイル名やファイルパス等であってもよい。
【００４１】
誹謗中傷に該当するか否かの判定において、予め設定された誹謗中傷を表す単語に応じて重みを設けた場合は、その重みを考慮して、判定することも可能である。重みを考慮して判定することで、より適正に誹謗中傷かどうかを判定することができる。
【００４２】
再び図９を参照して、第２の計算部４４は、図１０に示す判定結果テーブルで管理される判定結果のうちの、例えば１日分の判定結果を取得し、ユーザ毎の誹謗中傷の頻度を計算する。
【００４３】
例えば、ユーザAから１日に１０回書き込みがあった場合、第１の計算部４３は、その１０個の数値を計算し、それらを判定部３３に入力する。判定部３３は、１０個それぞれにつき、誹謗中傷に該当するかを判定する。この判定結果が、図１０に示す判定結果テーブルに登録され、管理される。第２の計算部４４は、ユーザAの１０個の数値のうち第１の閾値を超えた数値が何個あるかを計算し、頻度を求める。
【００４４】
判定部３３は、第２の計算部４４により求められた頻度と、第２の閾値入力部４２により入力された第２の閾値とを比較し、書き込み内容も考慮して、総合的に誹謗中傷に該当するかを判定する。書き込み内容を考慮するのは、文章の流れからすると、誹謗中傷に当たらないのに、単語としては誹謗中傷に該当すると判定される場合もあるからである。
【００４５】
なお、誹謗中傷の判定は、上記の第１の閾値を用いた判定のみであってもよいが、上記の数値を計算する際に、誹謗中傷に該当する単語として誤判断する場合もあるので、第２の閾値を用い、書き込み内容も考慮した判定を行うことが望ましい。
【００４６】
判定部３３の判定結果は、ユーザ毎の結果であり、例えばユーザAの頻度が第２の閾値以下の場合、誹謗中傷する書き込みはしていないという情報とすることができる。また、判定結果は、ユーザBの頻度が第２の閾値を超える場合、誹謗中傷する書き込みを行う傾向にあるという情報とすることができる。これらは一例であり、これ以外の情報とすることも可能であり、また、数値の情報や頻度の情報等を含めることも可能である。
【００４７】
通知部３４は、図１１に示すように、メール送信部４５と、プッシュ通知部４６とを含む。メール送信部４５は、管理者端末１２に上記の判定結果を電子メールにより送信する。プッシュ通知部４６は、判定結果を管理者端末１２に送信し、管理者端末１２の画面に表示させることにより通知する。例えば、誹謗中傷の傾向があると判断したユーザのユーザ名をハイライト表示する。ハイライト表示は、ユーザを表す文字列の色と背景色と反転表示する等して強調した表示方法である。
【００４８】
管理者へは、メール送信部４５による電子メールのみで通知してもよいが、管理者がメールに気付かない場合、誹謗中傷する書き込みが残ることになる。このため、管理者がすぐに気付き、即座に対応できるようにプッシュ通知部４６による通知と併用することが望ましい。
【００４９】
図７〜図９、図１１に示す機能部を備えるサーバ１４により実行される誹謗中傷を判定する処理について、図１２を参照して説明する。サーバ１４は、一定時間毎にこの処理を実行することができ、処理を実行する時間になったとき、ステップ１２００から開始する。ステップ１２０５では、条件入力部４０が、設定ファイルを解析し、テーブル名とフィールド名を取得し、取得部３１にそれらの情報を入力する。ステップ１２１０では、第１の閾値入力部４１が、設定ファイルを解析し、第１の閾値を取得し、判定部３３に入力する。ステップ１２１５では、第２の閾値入力部４２が、設定ファイルを解析し、第２の閾値を取得し、判定部３３に入力する。これらの順番はどれを最初に実行してもよい。
【００５０】
ステップ１２２０では、取得部３１が、入力されたテーブル名の、入力されたフィールド名に登録された書き込み内容、作成時刻、作成者等の情報を取得する。取得部３１は、取得した情報を、第１の計算部４３に入力する。ステップ１２２５で、第１の計算部４３が、書き込み内容から誹謗中傷の度合いを表す数値を計算し、ステップ１２３０で、判定部３３が、その数値を、第１の閾値入力部４１により入力された第１の閾値と比較し、第１の閾値を超えているかを判定する。
【００５１】
第１の閾値を超えている場合は、ステップ１２３５へ進み、誹謗中傷に該当と判定し、超えていない場合は、ステップ１２４０へ進み、誹謗中傷に該当しないと判定する。ステップ１２４５で、判定結果を、図１０に示す判定結果テーブルに登録し、蓄積する。次の頻度計算を１日分の結果に基づき実施する場合、１日分の結果が蓄積されるまで待つ。
【００５２】
ステップ１２５０では、判定結果テーブルに蓄積された判定結果を用い、第２の計算部４４が、誹謗中傷の頻度を計算する。ステップ１２５５では、判定部３３が、計算された頻度、書き込み内容、第２の閾値入力部４２により入力された第２の閾値に基づき、総合的に誹謗中傷に該当するかを判定する。
【００５３】
該当すると判定した場合、ステップ１２６０へ進み、メール送信部４５が、判定結果を電子メールにより通知し、プッシュ通知部４６が、管理者端末１２の画面にユーザ名をハイライト表示する等して、判定結果を通知する。通知後、ステップ１２６５へ進み、この処理を終了する。なお、この処理は、一定時間が経過した後、再度実施することができる。
【００５４】
図１３を参照して、サーバ１４の別の機能構成について説明する。サーバ１４は、CPU２０が上記のプログラムを実行することにより実現される機能部を有し、その機能部として、上記の入力処理部３０、取得部３１、計算部３２、判定部３３、通知部３４に加えて、利用制御部３５を備える。入力処理部３０等については既に説明したので、ここでは利用制御部３５についてのみ説明する。
【００５５】
利用制御部３５は、第２の計算部４４により計算された誹謗中傷の頻度が一定値を超えた場合に、その頻度が一定値を超えたユーザからのアクセスを遮断（ロック）し、システムの利用を禁止する制御を行う。利用制御部３５は、例えば、頻度が一定値を超えたことを受けて、そのユーザを一度ログオフし、それ以降のそのユーザのログインを禁止する制御を行うことができる。このため、そのユーザは、何度ログインを試みても、エラーが返されることになる。
【００５６】
このような利用制御部３５を設けることで、管理者が不在のとき、短時間でたくさんの誹謗中傷する書き込みを行ったユーザをロックすることができる。なお、管理者は、管理者端末１２を使用し、サーバ１４に対してそのロックの解除を指示することができ、利用制御部３５は、その指示を受けて、そのユーザのログインを許可する制御を行うことができる。このログインを実施するため、サーバ１４は、ユーザの情報としてのユーザID等の入力を受け付け、ユーザの認証を行う認証部３６を備えることができる。認証処理は良く知られた処理であるため、その詳細については説明を省略する。
【００５７】
図１３に示す機能部を備えるサーバ１４により実行される誹謗中傷を判定する処理について、図１４を参照して説明する。サーバ１４は、定期的にこの処理を実行することができ、処理を実行する時間になったとき、ステップ１４００から開始する。ステップ１４０５〜ステップ１４６０の処理は、図１２に示したステップ１２０５〜ステップ１２６０と同様である。ステップ１４６５では、利用制御部３５が、第２の計算部４４により計算された頻度が一定値を超えたかを判定する。超えたと判定した場合、ステップ１４７０へ進み、超えていないと判定した場合、ステップ１４７５でこの処理を終了する。
【００５８】
ステップ１４７０では、利用制御部３５は、判定部３３が判定した誹謗中傷する書き込みを行う傾向にあるユーザのログインを禁止し、ユーザをロックする制御を行う。そして、ステップ１４７５へ進み、この処理を終了する。図１４には示していないが、利用制御部３５は、管理者からの指示を受けて、そのユーザのロックを解除する制御を行うことができる。
【００５９】
このシステムは、生徒、教師、管理者の三者が利用するシステムであるため、それぞれの役割（ロール）に応じて権限を付与し、操作可能な範囲を制限することが望ましい。
【００６０】
例えば、生徒と教師の２つのロールに分け、生徒には生徒の権限を付与し、教師にはすべての権限を付与すると、次のような問題が生じる。１つ目は、教師はすべての権限をもつことから、不注意や悪意をもって生徒の重要な文書を削除してしまうという問題である。２つ目は、生徒の質問は全ての教師と生徒に閲覧可能であるため、生徒が質問しにくいという問題である。３つ目は、生徒と教師の権限が固定され、柔軟性が低いという問題である。
【００６１】
このような問題に鑑み、ロールに応じて適切な権限を付与するべく、図１５に示すような機能構成とすることができる。図１５に示すサーバ１４は、機能部として、入力処理部３０、取得部３１、計算部３２、判定部３３、通知部３４、利用制御部３５、認証部３６に加えて、権限判定部３７を備えることができる。入力処理部３０等については既に説明したので、ここでは権限判定部３７についてのみ説明する。
【００６２】
権限判定部３７は、ユーザがログインする際に入力したユーザIDからロールを判定し、判定したロールに応じて、そのユーザのどの操作に対して権限を付与するかを判定する。権限判定部３７は、図１６に示すロールテーブルを参照し、ユーザIDから生徒、教師、管理者のいずれのロールかを判定することができる。また、権限判定部３７は、図１７に示す権限テーブルを参照し、判定したロールに応じて、設定された権限を付与することができる。
【００６３】
図１７に示す権限テーブルは、管理者が、管理者端末１２を使用して任意に設定することができ、権限としては、質問作成、回答作成、システム設定、質問削除等を挙げることができる。質問作成および回答作成は、質問および回答を作成することができる権限である。システム設定は、文書の共有に関する設定、通信に関する設定、ユーザに関する設定等を変更することができる権限である。質問削除は、作成した質問を削除することができる権限である。
【００６４】
図１７に示す例では、質問作成は、生徒のみが行うことから、生徒のみの権限として設定され、回答作成は、教師のみが行うことから、教師のみの権限として設定されている。また、システム設定は、電子教育システムの運用を適切に行うために、管理者のみの権限として設定されている。そして、質問削除については、教師が不注意等で削除できないように、管理者の権限として設定され、また、自分で書き込んだ内容を自分で削除できるように、生徒にも権限が設定されている。
【００６５】
このように教師に対して回答作成のみといった低い権限を設定することで、不注意や悪意に基づく生徒の重要な文書の削除等のリスクを低減することができる。また、文書の削除等の高い権限は、管理者のみに付与することで、不用意に削除されるのを防ぎ、システム全体のリスクを低減することができる。設定を変更することで、権限を変更することができるので、システムに柔軟性を与えることができる。
【００６６】
権限判定部３７は、これらの機能を実現するために、図１８に示すような構成とすることができる。権限判定部３７は、権限付与部４７、越権判定部４８、組分部４９、機能提供部５０、受付部５１を含んで構成される。
【００６７】
権限付与部４７は、ユーザがログインする際に入力したユーザIDからロールを判定し、判定したロールに応じて、権限テーブルに設定された操作に対する権限を付与する。生徒に対しては生徒の権限、教師に対しては教師の権限、管理者に対しては管理者の権限を付与する。
【００６８】
越権判定部４８は、ユーザの操作が付与された権限を越えているか否かを判定する。すなわち、ユーザの操作が、図１７に示す権限テーブルで権限が与えられた操作か否かを判定する。操作は、質問の作成、回答の作成、システム設定の設定変更、質問の削除等である。
【００６９】
組分部４９は、ユーザが所属する組（グループ）を判定する。データベースは、各ユーザにつき、高校／中学、学年、クラス、理系／文系等の情報を、ユーザIDやユーザ名等と紐付けてユーザ情報として保持する。このため、組分部４９は、設定された条件に従って、そのユーザ情報を参照し、ユーザが所属するグループを判定する。この情報は一例であり、これらの情報に限定されるものではない。
【００７０】
条件は、各グループに分けるための条件で、例えば学年やクラス等とすることができる。なお、条件は、管理者がシステム設定において設定し、また、設定変更することができる。
【００７１】
このように、単なる生徒という枠ではなく、さらに細かいグループに分けることで、グループ内の生徒には閲覧可能であるが、他のグループの生徒には閲覧不可となるので、教師に対して質問しやすくなる。特に、初心者にとっては、質問するのが恥ずかしいと感じ、質問を取りやめることが多いが、少人数のグループにすることで、質問を取りやめる数を減らすことができる。
【００７２】
機能提供部５０は、権限付与部４７により付与された権限の情報と、組分部４９により判定されたグループの情報とに基づき、ユーザの端末に何を表示し、何を非表示にするかを決定し、必要な機能を提供する。データベースは、図１９に示すような、表示するボタン等のアイテムと、権限とを対応付けたアイテムテーブルを保持する。機能提供部５０は、図１９に示すアイテムテーブルを参照し、機能として提供するために表示するアイテムと、非表示にするアイテムとを決定する。なお、図１９では、権限とアイテムとを対応付けているが、権限に加え、グループにも対応付けることにより、グループも考慮した機能を提供することができる。
【００７３】
図１９に示すアイテムテーブルを参照してアイテムを決定する処理について具体的に説明する。ユーザが生徒である場合、生徒権限が付与され、その生徒権限が質問作成と質問削除であるため、「質問」ボタン、「削除」ボタンを表示し、「回答」ボタン、「システム設定」ボタンは非表示にすると決定する。これにより、機能提供部５０は、生徒端末１０の画面に、図２０に示すような、「質問」ボタン、「削除」ボタンを通常表示し、それらのボタンを押下可能にする。すなわち、それらのボタンを使用可能にして、それらの機能を提供する。一方、機能提供部５０は、「回答」ボタン、「システム設定」ボタンをグレーアウト表示し、それらのボタンを押下することができないようにする。
【００７４】
ここでは、グレーアウト表示する例を説明したが、これに限られるものではなく、押下可能なボタンのみを表示し、その他を完全に非表示にしてもよい。また、表示／非表示は、ボタンに限られるものではなく、書き込み欄等を表示／非表示にしてもよい。受付部５１については後述する。
【００７５】
図２１を参照して、権限判定部３７により実行される１つの処理について説明する。この処理は、ユーザがログインした後に実施される。ステップ２１００から開始し、ステップ２１０５では、ユーザIDを、権限付与部４７と組分部４９に入力する。ステップ２１１０では、権限付与部４７が、入力されたユーザIDに基づき、ロールを判定し、そのロールに応じて権限を付与する。
【００７６】
ステップ２１１５では、組分部４９が、ユーザ情報に基づき、ユーザが所属するグループを判定する。ここでは、権限の付与を実施した後に、グループを判定しているが、処理の順序は、この逆であってもよいし、同時であってもよい。
【００７７】
ステップ２１２０では、機能提供部５０が、権限付与部４７により付与された権限の情報と、組分部４９により判定されたグループの情報とに基づき、何を表示し、何を非表示にするかを決定し、必要な機能を提供する。ステップ２１２５で、ユーザがログオフしたかを判断し、ログオフしていない場合、ステップ２１２０に戻り、ログオフした場合、ステップ２１３０へ進み、この処理を終了する。
【００７８】
図２２を参照して、権限判定部３７により実行される別の処理について説明する。この処理も、ユーザがログインした後に実施される。ステップ２２００から開始し、ステップ２２０５では、ユーザIDを、権限付与部４７に入力し、ステップ２２１０で、権限付与部４７が、入力されたユーザIDに基づき、ロールを判定し、そのロールに応じて権限を付与する。そして、権限付与部４７は、その権限の情報を越権判定部４８に渡す。
【００７９】
サーバ１４は、ユーザの操作情報を受け付ける受付部５１を備えていて、  ステップ２２１５で、受付部５１が、ユーザの端末から操作に関する操作情報を受け付け、越権判定部４８にその操作情報を渡す。ステップ２２２０で、越権判定部４８が、受け取った操作情報に基づき、図１７に示す権限テーブルを参照して、ユーザの操作が付与された権限の範囲を越えているか否かを判定する。越えていない場合、ステップ２２３０へ進み、越えた場合、ステップ２２２５へ進み、越権判定部４８の判定結果を受けて、受付部がユーザの操作情報の受け付けを停止する。越権判定部４８が操作情報の受け付けを停止すると、ユーザの端末の画面において該ユーザが操作した内容が反映されなくなる。
【００８０】
ステップ２２３０では、ユーザがログオフしたかを判断し、ログオフしていない場合、ステップ２２１５へ戻り、次の操作情報を受け付けるまで待機する。一方、ログオフした場合は、ステップ２２３５へ進み、この処理を終了する。
【００８１】
ここで、図２１のステップ２１１５および図２２のステップ２２１０で行われる権限付与部４７の処理について、図２３を参照して詳細に説明する。ステップ２３００から開始し、ステップ２３０５では、ログインで使用されたユーザIDに基づき、図１６に示すロールテーブルを参照し、そのユーザのロールを判定する。
【００８２】
ステップ２３１０では、ロールが生徒か否かを判定し、生徒である場合、ステップ２３１５へ進み、図１７に示す権限テーブルを参照し、設定可能な生徒権限を付与する。そして、ステップ２３３５へ進み、この処理を終了する。
【００８３】
生徒でない場合、ステップ２３２０へ進み、ロールが教師か否かを判定する。教師である場合、ステップ２３２５へ進み、図１７に示す権限テーブルを参照し、設定可能な教師権限を付与し、ステップ２３３５で、この処理を終了する。
【００８４】
教師でもない場合、管理者であるため、ステップ２３３０へ進み、図１７に示す権限テーブルを参照し、設定可能な管理者権限を付与する。そして、ステップ２３３５へ進み、この処理を終了する。
【００８５】
各端末とサーバ１４との通信は、例えばHTTP(Hypertext Transfer Protocol)といった通信プロトコルを使用して行うことができ、各端末のブラウザは、サーバ１４に対して文書のダウンロードやアップロード等を要求するために、サーバ１４に実装されるAPI(Application Programming Interface)を呼び出し、HTTP Requestの形で要求を送ることができる。これに対し、サーバ１４は、HTTP Responseの形で応答を送ることができる。
【００８６】
上記の計算部３２は、サーバ１４が備えていなくてもよく、外部の機器に実装されていてもよい。サーバ１４と外部機器との間の通信も、HTTP RequestおよびHTTP Responseの形で行うことができ、この場合、外部機器は、APIを実装することになる。APIは、修正や機能の追加等が行われる場合があり、それに伴って、サーバ１４側も修正が必要となる場合がある。この修正を最小限に留めるため、サーバ１４は、外部機器のAPIの変更を吸収するための変更吸収部としてのAPI Wrapping部を備えることができる。
【００８７】
本発明では、情報処理装置が行う処理をコンピュータに実行させるためのプログラムやそのプログラムが記録された記録媒体を提供することも可能であり、記録媒体としては、CD-ROM、DVD、SDカード等を挙げることができる。プログラムは、ネットワークに接続されたサーバ装置等が保持し、サーバ装置等がダウンロード要求を受けて提供することも可能である。
【００８８】
これまで本発明を、情報処理システム、情報処理装置およびプログラムとして上述した実施の形態をもって説明してきた。しかしながら、本発明は上述した実施の形態に限定されるものではなく、他の実施の形態、追加、変更、削除など、当業者が想到することができる範囲内で変更することができるものである。また、いずれの態様においても本発明の作用・効果を奏する限り、本発明の範囲に含まれるものである。
【符号の説明】
【００８９】
１０…生徒端末、１１…教師端末、１２…管理者端末、１３…ネットワーク、１４…サーバ、２０…CPU、２１…ROM、２２…RAM、２３…HDD、２４…ネットワークI/F、３０…入力処理部、３１…取得部、３２…計算部、３３…判定部、３４…通知部、３５…利用制御部、３６…認証部、３７…権限判定部、４０…条件入力部、４１…第１の閾値入力部、４２…第２の閾値入力部、４３…第１の計算部、４４…第２の計算部、４５…メール送信部、４６…プッシュ通知部、４７…権限付与部、４８…越権判定部、４９…組分部、５０…機能提供部、５１…受付部
【先行技術文献】
【特許文献】
【００９０】
【特許文献１】特表２００３−５０３７８０号公報
【図１】
2018010363.tif 000003
【図２】
2018010363.tif 000004
【図３】
2018010363.tif 000005
【図４】
2018010363.tif 000006
【図５】
2018010363.tif 000007
【図６】
2018010363.tif 000008
【図７】
2018010363.tif 000009
【図８】
2018010363.tif 000010
【図９】
2018010363.tif 000011
【図１０】
2018010363.tif 000012
【図１１】
2018010363.tif 000013
【図１２】
2018010363.tif 000014
【図１３】
2018010363.tif 000015
【図１４】
2018010363.tif 000016
【図１５】
2018010363.tif 000017
【図１６】
2018010363.tif 000018
【図１７】
2018010363.tif 000019
【図１８】
2018010363.tif 000020
【図１９】
2018010363.tif 000021
【図２０】
2018010363.tif 000022
【図２１】
2018010363.tif 000023
【図２２】
2018010363.tif 000024
【図２３】
2018010363.tif 000025