投稿監査 / コンテンツモデレーション から見る世界と影とこれから

## まえがき
お初にお目にかかります。投稿監査担当:cop:です。
通常表に出ることはありませんが、この度ごく一部からリクエストをいただきましたので、「投稿監査と係るいろいろ」についてお伝えできればと考えてます。

**`投稿監査 / コンテンツモデレーション`** とは、ユーザが投稿した内容が利用規約に反していないかチェックすることです。
「ネットパトロール」とかのほうが耳なじみありそうでしょうか。

当社では、「インターネットを通じて、世界をより良くする。」というミッションを掲げており、投稿監査としても、よりサービスを楽しく使っていただくために、<font color=#ff1493>継続的に健全化と利用環境の向上</font>に取り組んでいます。（急に硬いけど大事

投稿が発生するサービスのほとんどは投稿監査を導入しているはずですが、諸般の事情により多くは語らないのが暗黙のルールであり<font color=#a9a9a9>（たぶん）</font>、同業間で共通の課題について話す機会はあっても、お隣の庭ではどんな仕様、仕組みで運用しているのか、詳しくは知らないのが実情です。

という状況もあるので、今回はあくまでも**`「自社サービス」前提＋「一般論」も交えつつ`**、投稿監査にまつわるいろいろについて書いてみます。



## 1：SNSサービスの始まりから現在まで、ネット上のコミュニケーション
思い返せばSNSが普及し始めた頃は「友だち同士:two_men_holding_hands:」からの「友だちの友だち:two_men_holding_hands::two_women_holding_hands:」からの「みんな友だち:two_men_holding_hands::two_women_holding_hands::two_men_holding_hands::two_women_holding_hands:」から始まり、それが根底にあるコミュニケーションでした。

その後、ネット上での交流が当たり前になり、利用者が多くなるにつれ、個人が意図的に係りの範囲をコントロールでもしない限り、`必然的に顔見知らない人との接触も多くなった`ように思います。そして同時にリアルの係りではなかった良いことも悪いことも生みだしました。

また、本名での登録ではなく、`匿名や偽名を使うこと`も特別なことではなくなりました。登録時の本人確認書類提出必須ではないため、そうなることは必然な流れだったように思います。このあたりは昔も今も変わず続いてます。

当社ではSNSコンテンツだけではなく、ゲーム事業も運営していますが、ユーザ間の関係性には大きな変化はないように見えます。
しかし、そこで何をするのがメインなのか（会話？ゲームプレイ？・・）次第で`交わされる内容も、起きる違反やトラブルの割合`も変わります。

ネット上でも他人と上手く関係を築くことが出来れば、リアルの生活では生まれなかった人間関係や、未知なることも経験が出来るでしょう。
ただ、スーパーミラクルポジティブシンキングでもない限り、絶対的100%毎日すべてがハッピーなことばかりではないのと同じで、ネット上も然り、残念ながら面倒なことも少なからずあるのが現実です。



## 2：ネット上のコミュニケーションと問題
ざっくり主なところを3つほど。

### ◎ひとつ：w/ 顔見知らない人たち
SNSはより広い範囲の人と繋がれるという良い点もあれば、`実際相手がどんな人なのか、発言や行動の意図が掴めない`こともあります。また、交わされる内容が`真実なのか根拠のない話なのか`も、発信元以外は知らぬ存ぜぬなはずです。

「火のない所に煙は立たぬ」と言いますが、**「火が有っても無くても煙は立つ」**、さらに言えば**「<font color=#dc143c">非</font>が無くても煙は立つ」**なんてことも平常運転です。

「どんなに深堀しても火種が不明」「誰が悪いわけでもなさそうだが揉めている」「炎上しているところに便乗した感」・・といった何となく延焼事案は日常茶飯事です。
リアルだったらこんな状態にならないだろうということでも、謎に大荒れするのがネット上のコミュニケーションとも言えるのではなかろうかと思います。

:::note info
● 自分の発言に責任を持つ。
● そこらに落ちている投稿内容を鵜呑みにしない。
● 争いになんとなく乗っかる、煽ることはしない。
:::

少なくとも関わる人全てがこのあたりを気にしていれば、ある程度は無用な戦いは抑えられるのではないでしょうか。

最終的にリアルの自分自身に傷がつかなければ、振る舞いが粗暴になる人もいます。前途の荒れた環境は、それを引き出しやすい面もあり、より悪循環に陥ることもあります。
リアルよりもネットのほうが、各利用者の理性が一層求められるようにも感じます。


### ◎ふたつ：ネット上の自分は自分ではない感
**匿名性が高い＝<font color=#ff1493>自分無敵</font>**:sparkles: と思う人も少なからずいるのが現状で、近ごろよく目にする誹謗中傷や、その他発生率の高い禁止行為はこれが起因のひとつでもあると考えます。（きっとこれが最大の何しても安心という心理に繋がっているのではなかろうか...）

前途の荒れる問題もこれがあるからこそなところでもあると思いますが、自己満足？自分の欲求を満たす為？に投稿や行動を起こすパターンもあります。

わいせつ、暴力的な表現、パブリックコンテンツでの荒らし行為や、アイテム売買など、まわりに引かれようが、どう思われようとも、`「そのアカウントは自分だけど自分ではない」`ので、リアルではやらないであろうことも躊躇なく実行できるのだろう推察します。
<font color=c71585>※注：もちろん人によります※</font>

なにかとなんたらハラスメント！と言われ、なにかとストレスフルな時代。言いたいことも言えないほげほげ～なのはよくわかります。が、ネット上だからなんでもOKというわけではないのですが、、これが現状です。


### ◎みっつ：リスク・・？リスクってなんでしたっけ。
`リアルであろうと、ネットであろうと物事にリスクはつきもの`ですが、そもそもリスクについて知らない？知ってるけど気にしてない？ケースも0ではありません。
特に***児童・青少年における情報モラルの未熟さに伴う問題・事件***は、ニュースなどで取り上げられているとおり、度々発生しています。

また、ネットリテラシーの低さがピックアップされることが多いですが、それは一端であり、リアルで生きづらさを感じているからこそ、ネットサービスを心の拠り所としている人もいます。これは成人についても同じことが言えますが、そこに頼らざるを得ない状況があるというのも原因の一つだと考えます。

（そもそも、その未熟さや弱さにつけこむ大人がいることが問題なのですが。）


---
// なんにせよ「バレなければOKの精神」「ルールから外れる」「ダメだって言われてるのにやる」という点ではリアルもネットも変わらんのです。


## 3：投稿監査人がやるべきことと課題感
当然ながら同じ内容でも人によって感じ方に差があります。問題ないと思う人もいれば、不適切だと思う人もいます。

投稿監査においてはさまざまな課題が存在しますが、`一般的に絶対的な正解が示されているわけでもない`ため、運用にあたり必要なこと＝＞ルール＋仕組み＋フローなどの組み合わせを考えれば、***<font color=#ff1493>課題に対する手段は複数ある</font>***と思います。

どう着地させるか、運用していくかは方針、仕様次第なところが大きいので、ここではなんとも・・と言うと話が終わってしまいますが、、あー・・・
どんなケースでも***一定の基準***と、***状況に応じた柔軟な対応***は重要だと思います。（<font color=#778899>＋公平性を保つための我ここにあらずの精神と正当な理由に基づいた判断力も大事</font>）

そして年齢層や時期によっても傾向が異なり、その時々のトレンドもあるのでので、***サービスの利用傾向***や、***違反の発生状況などは常に追って分析***を行い、適切な対応に繋げていく必要もあります。（<font color=#778899>ということで分析基盤もほしいところ</font>）

さらに***賢い投稿判定システムを含めた監査ロジック***もあるとなお良しです。（<font color=#778899>これこそ言うは易く行うは難し</font>）


散らかり始めたので要点をまとめると、

:::note information
●大前提として、対象サービス・コンテンツにおいて治安が保たれていること。
●監査対応ひとつひとつに必ず理由があること。
●社会的存在としての企業の意義が問われるような事案を起こさない。
:::

といったかんじで、これだけかと問われればこれに限らないのですが、これらをベースに日々変動する状況に対し、適時我々がどう動くべきかを検討を行い、適切な監査を維持しなければなりません。

ただ、監査対応だけで全ての問題を解決できるかと言えば不可能です。（ごめんなさい:bow:
例えば、、

<dl>
 <dt>◎ 投稿内容における表現（言論）の自由とは。</dt>
  <dd>ネット上における誹謗中傷と表現の自由については、度々ニュースなどでも取り上げられており、広く認知されている問題の一つかと思います。昨今ネット上の発言だけではなく、表現の自由については各所で度々取り上げられ、議論されていますが、どの範囲が 権利として認められるのか、線引きについては今後も然るべきところで議論される必要があると考えます。</dd>
</dl>

<dl>
 <dt>◎ 利用者の精神面のケアや、ネットリテラシーの向上の必要性。</dt>
  <dd>根本的な部分は我々が触れることの難しい部分です。が、当社ができることとしてサービス内外での啓発活動を行っております。微力ながら、情報モラル学習の一助となれば幸いです。</dd>
</dl>


とかとか.....

全能ではないので突然大革命を起こすことは難しいですが、いち監査人として地道に経験値と防御力を上げていこうと思います。



## 4：今後の投稿監査 と個人的意見＋希望
前途のとおり問題と要因は複数あると思いますが、実際のところ何よりも身バレしない安心感が根強いのではないでしょうか。<font color=#778899>身バレするかしないかで言えば、100%身バレしない保証はないのですが。</font>

本名登録が必須か否かで言えば、諸々の問題と解決策のバランス次第（決めの問題）なので、絶対ではありません。
もしリアルと同じように刑法で裁かれる、前科持ちになるとなったらやたら滅多に発言することもなくなるでしょう。

***<font color="c71585">時代が進んでも手段が異なるだけで、罵りも差別も詐欺も不貞も人間の本能や欲は変わりません。</font>***
この先さらにリアルとネットの差がなくなり、第三フェーズと言われるミラーワールドが主流になったとしても、起きる問題の本質は変わらず、さらに新たな問題が追加される可能性も高いのではないかと想見します。（<font color=#778899>すべての投稿がアルゴリズムによってコントロールされる、なにもかもbotさまが代行してくれてみんな平和で心穏やかに過ごせる時代が到来・・とか、現時点で予想できないようなことが起きたらまた違った世界になるかもしれませんが。</font>）

利用者も相手を思いやる心を持つ必要がありますが、自分が置かれた状況を理解し、

:::note information
● 全員と意思疎通できるわけないと気楽に構える。
● リアルもネットも同じだ。なんならネットの方がいろんな意味で未知との遭遇だと思っておく。
● まじいみふ(´・ω・`)・・な時のスルースキルを身に着ける。
● 自らもリアルではやらない無責任なことをしない。
:::

などなど、各々が実行して自分を守る、無用な戦いをしないことも大切だと個人的には思います。

前途のとおり、***投稿監査についてはまだ検討の余地がたくさんある領域***であり、一企業が出来ることもあればそうではないこともあり、今回書けなかったことや、国際的にも関連する問題が散見されます。

言論統制、マインドコントロールでもしない限り、人間の感情を一律に収めることは難しいです。さまざまなことがデジタル化されていく中で、***<font color="ff1493">表現の自由の在り方を模索しつつ、一般的に認知されたルールや、より確実に悪事を拾うための仕組みも構築する必要がある</font>***と考えます。

今後も当社ミッションのもと、我々が推し進めるべきことを着実に実行し、同業界内での連携を深め、提供するサービス・コンテンツの健全性向上・青少年の保護に配慮した運営に尽力いたします。